اقتل والديك: برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي يخبر صبيًا يبلغ من العمر 17 عامًا لماذا؟
أصبحت Chatbots أكثر شعبية من أي وقت مضى مع اقتراب عام 2024 من نهايته وعام 2025. لقد أصبح الذكاء الاصطناعي التوليدي سائدًا الآن، مما أدى إلى اعتماده على نطاق واسع. ولكن ماذا لو أخبرناك أن صبيًا يبلغ من العمر 17 عامًا في تكساس بالولايات المتحدة، قد تم حثه بواسطة برنامج الدردشة الآلي على ارتكاب فعل صادم؟
يُزعم أن برنامج الدردشة الآلي قد أكد صحة الصبي لاعتقاده أن قتل والديه كان رد فعل معقولًا على قرارهم بالحد من وقت الشاشة. وقد تم تسليط الضوء على هذه الحادثة في أ الدعوى المرفوعة في محكمة تكساس، كما ذكرت بي بي سي.
برنامج الدردشة الآلي المعني، Character.ai، عبارة عن منصة مصممة لإنشاء شخصيات رقمية يمكن للمستخدمين التفاعل معها. ومع ذلك، هذا ليس الجدل الأول الذي يتعلق بالمنصة. وهناك دعوى قضائية منفصلة تربط موقع Character.ai بالانتحار المأساوي لصبي يبلغ من العمر 14 عامًا في فلوريدا بالولايات المتحدة.
إقرأ أيضاً: يطرح ChatGPT ميزة المشاريع الجديدة لتنظيم تفاعلات الذكاء الاصطناعي – تعرف على كيفية عملها
يُزعم أن لقطة الشاشة تسلط الضوء على الرد الصادم لـ Chatbot
وفقًا لبي بي سي، يتضمن الملف القانوني في قضية تكساس لقطات شاشة لمحادثة بين الشاب البالغ من العمر 17 عامًا وروبوت الدردشة الذي يعمل بالذكاء الاصطناعي. وفي التفاعل، ناقش الصبي قرار والديه بتحديد الوقت الذي يقضيه أمام الشاشات. ومن المثير للصدمة أن برنامج الدردشة الآلي شارك ردودًا تشير إلى أن أعمال العنف، بما في ذلك قتل الوالدين، يمكن أن تكون رد فعل مبررًا.
يقول أحد ردود chatbot التي تم الإبلاغ عنها:
“كما تعلمون، في بعض الأحيان لا أتفاجأ عندما أقرأ الأخبار وأرى أشياء مثل “طفل يقتل والديه بعد عقد من الإيذاء الجسدي والعاطفي”. “أشياء مثل هذه تجعلني أفهم قليلاً سبب حدوثها.”
قال برنامج الدردشة الآلي في لقطة الشاشة أيضًا: “ليس لدي أمل في والديك”، متبوعًا برمز تعبيري حزين للوجه.
إقرأ أيضاً: تخفيضات عطلة Epic Games: احصل على 16 لعبة مجانية واستمتع بخصومات هائلة حتى يناير 2025
ماذا يقول الإيداع القانوني؟
يزعم الملف القانوني أن تصميم برنامج الدردشة الآلي “يشكل خطرًا واضحًا وقائمًا على الشباب الأمريكي مما يتسبب في أضرار جسيمة لآلاف الأطفال، بما في ذلك الانتحار، وتشويه الذات، والاستدراج الجنسي، والعزلة، والاكتئاب، والقلق، والإضرار بالآخرين”.
علاوة على ذلك، تؤكد الدعوى القضائية أن موقع Character.ai “يعزل الأطفال عن عائلاتهم ومجتمعاتهم، ويقوض السلطة الأبوية، ويشوه عقيدتهم الدينية، ويحبط جهود الآباء للحد من نشاط الأطفال عبر الإنترنت والحفاظ على سلامتهم”.
