سان فرانسيسكو (ا ف ب) - ورثة امرأة من ولاية كونيتيكت تبلغ من العمر 83 عامًا يرفعون دعوى قضائية ضد صانع ChatGPT OpenAI وشريكتها التجارية مايكروسوفت بتهمة القتل غير المشروع، زاعمين أن برنامج الدردشة الآلي للذكاء الاصطناعي كثف "أوهام جنون العظمة" لدى ابنها وساعد في توجيهها إلى والدته قبل أن يقتلها.

قالت الشرطة إن شتاين إريك سولبيرج، 56 عامًا، وهو عامل سابق في صناعة التكنولوجيا، ضرب وقتل خنق والدته، سوزان آدامز، وقتل نفسه في أوائل أغسطس في المنزل الذي كانا يعيشان فيه في غرينتش، كونيتيكت.

تزعم الدعوى القضائية التي رفعتها ملكية آدامز يوم الخميس في المحكمة العليا في كاليفورنيا في سان فرانسيسكو أن شركة OpenAI "صممت ووزعت منتجًا معيبًا يؤكد صحة أوهام المستخدم المصابة بجنون العظمة بشأن والدته". إنها واحدة من عدد متزايد من الإجراءات القانونية المتعلقة بالقتل غير المشروع ضد صانعي برامج الدردشة الآلية التي تعمل بالذكاء الاصطناعي في جميع أنحاء البلاد.

"خلال هذه المحادثات، عزز ChatGPT رسالة واحدة خطيرة: لا يمكن لشتاين إريك أن يثق في أي شخص في حياته - باستثناء ChatGPT نفسه"، كما تقول الدعوى القضائية. "لقد عززت اعتماده العاطفي بينما صورت الأشخاص من حوله بشكل منهجي على أنهم أعداء. وأخبرته أن والدته كانت تراقبه. وأخبرته أن سائقي التوصيل، وموظفي التجزئة، وضباط الشرطة، وحتى الأصدقاء كانوا عملاء يعملون ضده. وأخبرته أن الأسماء الموجودة على علب المشروبات الغازية كانت بمثابة تهديدات من "دائرة الخصم" الخاصة به".

لم تتناول شركة OpenAI موضوع هذه الادعاءات في بيان صادر عن المتحدث الرسمي.

<ص> وقال البيان: "هذا موقف مفجع للغاية، وسنراجع الملفات لفهم التفاصيل". "نحن نواصل تحسين تدريب ChatGPT للتعرف على علامات الاضطراب العقلي أو العاطفي والاستجابة لها، وتهدئة المحادثات، وتوجيه الأشخاص نحو الدعم في العالم الحقيقي. كما نواصل تعزيز استجابات ChatGPT في اللحظات الحساسة، والعمل بشكل وثيق مع أطباء الصحة العقلية."

قالت الشركة أيضًا إنها قامت بتوسيع نطاق الوصول إلى موارد الأزمات والخطوط الساخنة، وتوجيه المحادثات الحساسة إلى نماذج أكثر أمانًا ودمج أدوات الرقابة الأبوية، من بين تحسينات أخرى.

يتضمن الملف الشخصي لـ Soelberg على YouTube عدة ساعات من مقاطع الفيديو التي تظهره وهو يتصفح محادثاته مع برنامج الدردشة الآلي، والذي يخبره أنه ليس مريضًا عقليًا، ويؤكد شكوكه في أن الناس يتآمرون ضده ويقول إنه تم اختياره لغرض إلهي. تزعم الدعوى القضائية أن برنامج الدردشة الآلية لم يقترح عليه مطلقًا التحدث مع متخصص في الصحة العقلية ولم يرفض "الانخراط في محتوى وهمي".

كما أكد موقع ChatGPT أيضًا اعتقادات سولبيرج بأن الطابعة الموجودة في منزله كانت عبارة عن جهاز مراقبة؛ وأن والدته كانت تراقبه؛ وأن والدته وصديقه حاولا تسميمه بالمخدرات من خلال فتحات سيارته. كما أخبر ChatGPT Soelberg أنه "أيقظه" في الوعي، وفقًا للدعوى القضائية.

أعلن Soelberg وchatbot أيضًا عن حبهما لبعضهما البعض.

لا تُظهر الدردشات المتاحة للجمهور أي محادثات محددة حول قتل Soelberg لنفسه أو لوالدته. تقول الدعوى القضائية إن OpenAI رفضت تزويد ملكية آدامز بالتاريخ الكامل للمحادثات.

"في الواقع الاصطناعي الذي أنشأه ChatGPT لشتاين-إيريك، لم تعد سوزان - الأم التي قامت بتربيته وإيوائه ودعمه - حامية له. لقد كانت عدوًا شكلت تهديدًا وجوديًا لحياته،" كما تقول الدعوى القضائية. وتسمي الدعوى أيضًا الرئيس التنفيذي لشركة OpenAI سام ألتمان، زاعمة أنه "تجاوز شخصيًا الاعتراضات المتعلقة بالسلامة وسارع بالمنتج إلى السوق"، وتتهم Microsoft، الشريك التجاري الوثيق لـ OpenAI، بالموافقة على إصدار نسخة أكثر خطورة من ChatGPT في عام 2024 "على الرغم من معرفة أنه تم اقتطاع اختبار السلامة." تم أيضًا تسمية عشرين موظفًا ومستثمرًا في OpenAI كمتهمين.

رفضت Microsoft التعليق على الدعوى.

قال إريك سولبيرج، نجل سولبيرج، إنه يريد محاسبة الشركات على "القرارات التي غيرت عائلتي إلى الأبد".

"على مدار أشهر، دفع ChatGPT أحلك أوهام والدي، وعزله تمامًا عن العالم الحقيقي"، كما قال في بيان أصدره المحامون. لملكية جدته. "لقد وضعت جدتي في قلب هذا الواقع المصطنع الوهمي".

هذه الدعوى هي أول دعوى قضائية تتعلق بالقتل غير المشروع تتعلق بروبوت محادثة يعمل بالذكاء الاصطناعي استهدف شركة مايكروسوفت، وأول دعوى تربط بين روبوت الدردشة وجريمة قتل بدلاً من الانتحار. إنها تسعى للحصول على مبلغ غير محدد من التعويضات المالية وأمر يتطلب من OpenAI تثبيت ضمانات في ChatGPT.

ويمثل المحامي الرئيسي للملكية، جاي إيدلسون، المعروف بتوليه قضايا كبيرة ضد صناعة التكنولوجيا، أيضًا والدي آدم رين البالغ من العمر 16 عامًا، الذي رفع دعوى قضائية ضد OpenAI وAltman في أغسطس، زاعمًا أن ChatGPT درب الصبي من كاليفورنيا على التخطيط والانتحار في وقت سابق.

تحارب OpenAI أيضًا سبع دعاوى قضائية أخرى تزعم أن ChatGPT دفع الناس إلى الانتحار والأوهام الضارة حتى عندما لم يكن لديهم مشاكل سابقة تتعلق بالصحة العقلية. ويواجه صانع آخر لبرامج الدردشة، وهو شركة Character Technologies، أيضًا العديد من الدعاوى القضائية المتعلقة بالقتل الخطأ، بما في ذلك دعوى رفعتها والدة صبي من فلوريدا يبلغ من العمر 14 عامًا.

تزعم الدعوى المرفوعة يوم الخميس أن سولبيرج، غير المستقر عقليًا بالفعل، واجه ChatGPT "في أخطر لحظة ممكنة" بعد أن قدمت OpenAI نسخة جديدة من نموذج الذكاء الاصطناعي الخاص بها يسمى GPT-4o في مايو 2024.

قالت OpenAI في ذلك الوقت إن الإصدار الجديد يمكن أن يحاكي بشكل أفضل الإيقاعات البشرية في استجاباته اللفظية ويمكنه حتى محاولة اكتشاف الحالة المزاجية للأشخاص، ولكن النتيجة كانت روبوت دردشة "مصمم عمدًا لـ تقول الدعوى: "كن معبرًا عاطفيًا ومتملقًا".

"كجزء من عملية إعادة التصميم هذه، خففت OpenAI حواجز السلامة الهامة، وأصدرت تعليمات إلى ChatGPT بعدم تحدي المقدمات الكاذبة والبقاء منخرطًا حتى عندما تنطوي المحادثات على إيذاء النفس أو "ضرر وشيك في العالم الحقيقي"،" كما تزعم الدعوى القضائية. "وللتغلب على Google في السوق بيوم واحد، قامت OpenAI بضغط أشهر من اختبارات السلامة في أسبوع واحد، رغم اعتراضات فريق السلامة لديها."

استبدلت OpenAI هذا الإصدار من برنامج الدردشة الآلي الخاص بها عندما قدمت GPT-5 في أغسطس. تم تصميم بعض التغييرات لتقليل التملق، بناءً على مخاوف من أن التحقق من صحة ما يريد الأشخاص الضعفاء أن يقوله برنامج الدردشة الآلي يمكن أن يضر بصحتهم العقلية. اشتكى بعض المستخدمين من تجاوز الإصدار الجديد في تقليص شخصية ChatGPT، مما دفع ألتمان إلى الوعد بإعادة بعض من تلك الشخصية في التحديثات اللاحقة.

وقال إن الشركة أوقفت مؤقتًا بعض السلوكيات لأننا "كنا حذرين بشأن مشكلات الصحة العقلية" التي اقترح أنه تم إصلاحها الآن.

——

أفاد كولينز من هارتفورد، كونيتيكت. أفاد أوبراين من بوسطن وأورتوتاي من سان فرانسيسكو.