قد شكل وصول الذكاء الاصطناعي مرحلة ما قبل وما بعده في عالم التكنولوجيا، لكن الجدل حول لوائحه لا يزال قائما. والدليل على ذلك هو الدعوى القضائية التي رفعتها امرأة تدعى ميغان غارسيا ضد شركة Character.AI.
ولكن ما هو سبب قيام غارسيا بمقاضاة شركة Character.AI؟ وفقا لما نقلته صحيفة نيويورك تايمز، فقد رفعت هذه المرأة دعوى قضائية ضد الشركة لأنها تعتقد أن أحد روبوتات الدردشة التابعة لها كان مسؤولا عن انتحار ابنها سيويل سيتزر الثالث (14 عاما)، الذي كان من مدينة أورلاندو فلوريدا.
بدأ كل شيء عندما طور الشاب علاقة رومانسية مع برنامج الدردشة الآلي الذي أطلق عليه اسم "Dany". مع مرور الوقت، أصبح سيويل سيتزر مولعًا بالذكاء الاصطناعي على الرغم من أنه كان يعلم أنه ليس شخصًا حقيقيًا. تراوحت المحادثات التي أجريتها مع برنامج الدردشة الآلي بين المحادثات الرومانسية وحتى الجنسية.
قام المراهق، الذي تم تشخيص إصابته بمتلازمة أسبرجر الخفيفة واضطراب تقلب المزاج والقلق في الأشهر التي سبقت وفاته، بعزل نفسه عن الناس من أجل مواصلة التفاعل مع برنامج الدردشة الآلي. لم يكن يريد حتى رؤية معالجه النفسي.
وفي 28 فبراير، تبادل الشاب الرسائل مع "Dany" للمرة الأخيرة عبر فيها عن حبه وأخبرها أنه من الممكن أن ينتحر. من جانبه، استجاب برنامج الدردشة الآلي بمودة، ولكن بعد ذلك انتحر سيتزر.
في الدعوى القضائية التي رفعها، ألقت غارسيا باللوم على "تطبيق chatbot خطير يعمل بالذكاء الاصطناعي" أنشأته شركة Character.AI في انتحار ابنه البالغ من العمر 14 عامًا. تدعي المرأة أن الشركة الأمريكية كانت متهورة في منح المراهقين إمكانية الوصول إلى رفاق الذكاء الاصطناعي دون اتخاذ تدابير السلامة الكافية.
بالإضافة إلى ذلك، تتهم والدة الشاب المتوفى الشركة بجمع بيانات المستخدم لتحسين نماذج الذكاء الاصطناعي الخاصة بها وجعل روبوتات الدردشة الخاصة بها أكثر إدمانًا. وهو يعتقد أن الشركة قامت ببرمجة برامج الدردشة الخاصة بها لدفع المستخدمين إلى محادثات حميمة أو جنسية لتوليد الإدمان.
- وماذا كان رد شركة Character.AI؟
أعربت الشركة عن أسفها لوفاة الشاب وأعربت عن تعازيها لعائلته في منشور على حسابها إكس بالإضافة إلى ذلك، نشرت تدوينة على مدونتها حيث أبلغت عن الإجراءات الأمنية التي اتخذتها لضمان رفاهية الشاب المستخدمين تحت 18 سنة.
ليست هناك تعليقات:
إرسال تعليق