تم إحياء الفتاة التي قُتلت في عام 2006 كشخصية تعمل بالذكاء الاصطناعي، مما ترك الأسرة في حالة رعب
في أوائل أكتوبر، بعد مرور ما يقرب من 18 عامًا على مقتل ابنته جينيفر، تلقى درو كريسينتي تنبيهًا من Google حول ما يبدو أنه ملف شخصي جديد لها على الإنترنت.
أظهر الملف الشخصي اسم جينيفر الكامل وصورة الكتاب السنوي، مصحوبة بسيرة ذاتية ملفقة تصفها بأنها “صحفية ألعاب فيديو وخبيرة في التكنولوجيا والثقافة الشعبية والصحافة”. يبدو أن جينيفر، التي قُتلت على يد صديقها السابق في عام 2006 خلال سنتها الأخيرة في المدرسة الثانوية، قد تم إعادة تصورها على أنها “شخصية ذكاء اصطناعي ذات معرفة وودية”، وفقًا للموقع. هناك زر بارز يدعو المستخدمين إلى التفاعل مع برنامج الدردشة الآلي الخاص بها.
وقال كريسينتي: “كان نبضي يتسارع”. واشنطن بوست، “كنت أبحث فقط عن زر توقف أحمر وامض كبير يمكنني صفعه وإيقافه.”
تم استخدام اسم جينيفر وصورتها لإنشاء روبوت دردشة على Character.AI، وهي منصة تتيح للمستخدمين التفاعل مع الشخصيات التي تم إنشاؤها بواسطة الذكاء الاصطناعي. وفقًا للقطة شاشة للملف الشخصي المحذوف الآن، تفاعل العديد من المستخدمين مع النسخة الرقمية من جينيفر، التي أنشأها شخص ما على الموقع.
Crecente، الذي يدير منظمة غير ربحية باسم ابنته لمنع العنف في المواعدة بين المراهقين، شعر بالرعب من أن المنصة سمحت للمستخدم بإنشاء نسخة طبق الأصل من الذكاء الاصطناعي لطالب في المدرسة الثانوية المقتول دون موافقة الأسرة. ويقول الخبراء إن الحادث يسلط الضوء على مخاوف جدية بشأن قدرة صناعة الذكاء الاصطناعي على حماية المستخدمين من المخاطر التي تشكلها التكنولوجيا القادرة على التعامل مع البيانات الشخصية الحساسة.
وقال كريسينتي: “لقد استغرق الأمر بعض الوقت حتى أشعر بالصدمة لأنني مررت بالكثير من الوقت”. “لكن هذا كان مستوى منخفض جديد.”
صرحت كاثرين كيلي، المتحدثة باسم شركة Character، أن الشركة تزيل برامج الدردشة الآلية التي تنتهك شروط الخدمة الخاصة بها وتقوم “بالتطوير المستمر وتحسين ممارسات السلامة لدينا لإعطاء الأولوية لسلامة المجتمع”.
وقال كيلي في بيان: “عندما تم إخطارنا بشخصية جينيفر، قمنا بمراجعة المحتوى والحساب، واتخذنا الإجراءات بما يتماشى مع سياساتنا”. شروط الشركة تمنع المستخدمين من انتحال شخصية أي شخص أو جهة.
اكتسبت روبوتات الدردشة المدعومة بالذكاء الاصطناعي، والتي يمكنها محاكاة المحادثة وتبني الشخصيات أو تفاصيل السيرة الذاتية لشخصيات حقيقية أو خيالية، شعبية باعتبارها رفاقًا رقميين يتم تسويقهم كأصدقاء، أو مرشدين، أو حتى شركاء رومانسيين. ومع ذلك، واجهت التكنولوجيا أيضًا انتقادات كبيرة. في عام 2023، توفي رجل بلجيكي منتحرًا بعد أن شجع روبوت الدردشة على هذا الفعل أثناء تفاعلاته.
حصلت شركة Character، وهي لاعب رئيسي في مجال روبوتات الدردشة المدعمة بالذكاء الاصطناعي، مؤخرًا على صفقة ترخيص بقيمة 2.5 مليار دولار مع Google. تتميز المنصة ببرامج دردشة مصممة مسبقًا ولكنها تتيح أيضًا للمستخدمين إنشاء ومشاركة برامجهم الخاصة عن طريق تحميل الصور والتسجيلات الصوتية والمطالبات المكتوبة. تضم مكتبتها شخصيات متنوعة، من رقيب تحفيزي إلى أمين مكتبة يوصي بالكتب، بالإضافة إلى تقليد لشخصيات عامة مثل نيكي ميناج وإيلون ماسك.
ومع ذلك، بالنسبة لدرو كريسينتي، كان اكتشاف الملف الشخصي لابنته الراحلة على موقع “شخصية” بمثابة صدمة مدمرة. قُتلت جنيفر كريسينتي، 18 عامًا، في عام 2006، حيث تم استدراجها إلى الغابة وإطلاق النار عليها من قبل صديقها السابق. وبعد أكثر من 18 عامًا، في 2 أكتوبر، تلقى درو تنبيهًا على هاتفه قاده إلى برنامج دردشة على Character.AI يضم اسم جنيفر وصورتها ووصفًا حيويًا، كما لو كانت على قيد الحياة.
وقال: “لا يمكنك الذهاب إلى أبعد من ذلك فيما يتعلق بالأشياء الفظيعة حقًا”.
كما كتب شقيق درو، بريان كريسينتي، عن الحادثة على المنصة X (تويتر سابقًا). ردًا على ذلك، أعلنت شركة Character في 2 أكتوبر أنها أزالت برنامج الدردشة الآلي.
هذا مقرف سخيف: @character_ai تستخدم ابنة أخي المقتولة كوجه للعبة فيديو تعمل بالذكاء الاصطناعي دون إذن والدها. إنه مستاء للغاية الآن. لا أستطيع أن أتخيل ما يمر به.
الرجاء مساعدتنا في وقف هذا النوع من الممارسات الرهيبة. https://t.co/y3gvAYyHVY
– بريان كريسينتي (crecenteb) 2 أكتوبر 2024
وأوضح كيلي أن الشركة تدير نظامها الأساسي بشكل نشط باستخدام قوائم الحظر وتحقق في تقارير انتحال الشخصية من خلال فريق الثقة والسلامة التابع لها. وأضافت أنه تتم إزالة روبوتات الدردشة التي تنتهك شروط الخدمة. وعندما سئل عن روبوتات الدردشة الأخرى التي تنتحل شخصية شخصيات عامة، أكد كيلي أنه يتم التحقيق في مثل هذه الحالات، ويتم اتخاذ الإجراء في حالة اكتشاف الانتهاكات.
