يجب على محامي كاليفورنيا أن يدفع غرامة قدرها 10،000 دولار لتقديمها إلى استئناف محكمة الولاية مليئة بالاقتباسات المزيفة التي تم إنشاؤها بواسطة أداة الذكاء الاصطناعي ChatGpt.

يبدو أن الغرامة هي الأكبر الذي تم إصداره على تصنيع منظمة العفو الدولية من قبل محكمة كاليفورنيا وجاءت مع رأي شديد في توضيح أن 21 من 23 اقتباسًا من الحالات المذكورة في موجز افتتاح المحامي تم تعويضهم. كما أشار إلى أن العديد من المحاكم الخارجية والاتحادية واجهت محامين للإشارة إلى السلطة القانونية المزيفة.

"لذلك نحن ننشر هذا الرأي كتحذير" ، استمر. "ببساطة ، لا ينبغي أن تحتوي أي ورقة أخرى أو أي ورقة أخرى مقدمة في أي محكمة على أي اقتباسات - سواء تم تقديمها بواسطة AI أو أي مصدر آخر - أن المحامي المسؤول عن تقديم المرافعة لم يقرأه شخصياً والتحقق منه."

الرأي ، الذي صدر في 12 سبتمبر في محكمة الاستئناف المقاطعة الثانية في كاليفورنيا ، هو مثال واضح على سبب تدافع السلطات القانونية للولاية لتنظيم استخدام الذكاء الاصطناعي في القضاء. المجلس القضائي في الولاية قبل أسبوعين أخبر محامي منطقة لوس أنجلوس ، أمير ملحق ، للمحكمة أنه لم يقرأ النص الذي تم إنشاؤه بواسطة نموذج الذكاء الاصطناعى قبل تقديم الاستئناف في يوليو 2023 ، بعد أشهر من تسويق chatgpt على أنه قادر على Mostafavi Calfatters أنه كتب النداء ثم استخدم chatgpt لمحاولة تحسينه. قال إنه لا يعلم أنه سيضيف استشهادات للحالة أو يصنع الأشياء.

يعتقد أنه من غير الواقعي أن يتوقع المحامون التوقف عن استخدام الذكاء الاصطناعي. لقد أصبحت أداة مهمة تمامًا مثلما استبدلت قواعد البيانات عبر الإنترنت مكتبات القانون إلى حد كبير ، وإلى أن تتوقف أنظمة الذكاء الاصطناعي عن هلوسة معلومات وهمية ، يقترح المحامين الذين يستخدمون الذكاء الاصطناعي للمضي قدماً في الحذر.

"في غضون ذلك ، سيكون لدينا بعض الضحايا ، سنحصل على بعض الأضرار ، سيكون لدينا بعض الحطام". "آمل أن يساعد هذا المثال الآخرين في عدم الوقوع في الحفرة. أنا أدفع السعر."

الغرامة الصادرة إلى Mostafavi هي العقوبة الأكثر تكلفة التي صدرت لمحامي من قبل محكمة ولاية كاليفورنيا وواحدة من أعلى الغرامات التي صدرت على الإطلاق على استخدام المحامي من الذكاء الاصطناعي ، وفقًا لداميان شارلوتين ، الذي يدرس فصلًا عن الذكاء الاصطناعي والقانون في كلية إدارة الأعمال في باريس. هو في قضية تم تحديدها على نطاق واسع في مايو ، قاضي محكمة المقاطعة الأمريكية في كاليفورنيا يعتقد شارلوتين المحاكم ويجب أن يتوقع الجمهور رؤية ارتفاع هائل في هذه الحالات في المستقبل. عندما بدأ تتبع ملفات المحكمة التي تنطوي على الذكاء الاصطناعي والقضايا المزيفة في وقت سابق من هذا العام ، واجه بعض القضايا في الشهر. الآن يرى بعض الحالات في اليوم. نماذج اللغة الكبيرة تحدد بثقة الأكاذيب كحقائق ، لا سيما عندما لا تكون هناك حقائق داعمة.

"كلما كان من الصعب على حجتك القانونية أن تصنع ، كلما كان النموذج يميل إلى الهلوسة ، لأنهم سيحاولون إرضائك". "هذا هو المكان الذي يبدأ فيه تحيز التأكيد."

a يمكن أن يصبح أكثر صعوبة مع نمو النماذج.

تعقب آخر للحالات التي يستشهد فيها المحامون سلطة قانونية غير موجودة بسبب استخدام الذكاء الاصطناعى يحدد 52 حالة من هذا القبيل في كاليفورنيا وأكثر من 600 على مستوى البلاد. وقال نيكولاس سانتيس ، طالب الحقوق في كلية الحقوق بجامعة كابيتال في أوهايو ، إنه من المتوقع أن يزداد هذا المبلغ في المستقبل القريب لأن ابتكار الذكاء الاصطناعي يتفوق على تعليم المحامين.

"أعتقد أننا سنرى تخفيضًا إذا فهمت (المحامون) فقط أساسيات التكنولوجيا".

مثل شارلوتين ، تشك في أن هناك حالات أكثر من القضايا المكونة التي تم إنشاؤها بواسطة الذكاء الاصطناعى في ملفات محكمة الولاية أكثر من المحاكم الفيدرالية ، ولكن عدم وجود أساليب الإيداع القياسية يجعل من الصعب التحقق من ذلك. وقالت إنها واجهت قضايا مزيفة في أغلب الأحيان بين المحامين أو الأشخاص الذين يختارون تمثيل أنفسهم في محكمة الأسرة.

تشتبه في أن عدد الحجج المقدمة من المحامين الذين يستخدمون الذكاء الاصطناعى ويشيرون إلى الحالات المزيفة سيستمر في الارتفاع ، لكنها أضافت أنه لا يشارك المحامون فقط في هذه الممارسة. في الأسابيع الأخيرة ، قامت بتوثيق ثلاثة مثيلات القضاة مستشهدين بالسلطة القانونية المزيفة في قراراتهم.

كما تعتبر كاليفورنيا كيفية التعامل مع الذكاء الاصطناعي والتخليص المزيف ، قال Wondracek إنه يمكن أن ينظر في الأساليب التي اتخذتها دول أخرى ، مثل الإيقاف المؤقتة ، مما يتطلب من المحامين الذين تم القبض عليهم أن يأخذوا دورات لفهم أفضل لاستخدام AI ، أو مطالبتهم بـ تعليم طلاب القانون كيف يمكنهم ارتكاب نفس الخطأ.

أشاد مارك ماكينا ، مدير معهد جامعة كاليفورنيا في لوس أنجلوس بالتكنولوجيا والقانون والسياسة ، غرامات مثل تلك ضد المصابين كمحامين معاقبة على "تنازل عن مسؤوليتك كطرف يمثل شخصًا ما." إنه يعتقد أن المشكلة "ستزداد سوءًا قبل أن تتحسن" ، لأنه كان هناك اندفاع بين كليات الحقوق والشركات الخاصة لتبني الذكاء الاصطناعي دون التفكير في الطريقة المناسبة لاستخدامها. يوافق أندرو سيلبست ، أستاذ كلية الحقوق في جامعة كاليفورنيا في لوس أنجلوس ، مشيرًا إلى أن الموظفين الذين يعملون للقضاة هم خريجون حديثون في كلية الحقوق ، ويتعرض الطلاب للقصف من خلال الرسالة التي يجب عليهم استخدامها أو تركها. المعلمون وغيرهم من المهنيين "هذا هو الحصول على جميع الحلقات لدينا" ، قال. "يتم دفعها في الشركات والمدارس والكثير من الأماكن ولم نتعامل بعد مع عواقب ذلك."

تم نشر هذه القصة في الأصل في adailated و distributed من خلال شراكة مع Pressions.