Cambridge ، Mass. (AP) - بعد التراجع عن برامج التنوع والأسهم والإدماج في مكان العمل ، يمكن أن تواجه شركات التكنولوجيا الآن حسابًا ثانيًا على عمل DEI في منتجات AI.

في البيت الأبيض والكونغرس الذي يقوده الجمهوريين ، استبدل "Woke AI" تمييز خوارزمي ضار يحتثر. الجهود السابقة "لدفع الأسهم" في تطوير الذكاء الاصطناعى والحد من إنتاج "المخرجات الضارة والمنحازة" هي هدف للتحقيق ، وفقًا لما ذكرته مذكرات الاستدعاء المرسلة إلى أمازون وجوجل وميثا وميكروسوفت و Openai و 10 شركات تقنية أخرى الشهر الماضي من قبل اللجنة القضائية لمجلس النواب. قام

وفرع وضع القياسية في وزارة التجارة الأمريكية بحذف الإشارات من العدالة والسلامة و "AI المسؤولة" في جاذبيتها للتعاون مع الباحثين الخارجيين. بدلاً من ذلك ، يوجه العلماء التركيز على "الحد من التحيز الأيديولوجي" بطريقة من شأنها "تمكين الإنسان المزدهر والتنافسية الاقتصادية" ، وفقًا لنسخة من الوثيقة التي حصلت عليها أسوشيتد برس.

في بعض النواحي ، اعتاد عمال التكنولوجيا على مجموعة من الأولويات التي تعتمد على واشنطن التي تؤثر على عملهم.

لكن التحول الأخير أثار مخاوف بين الخبراء في هذا المجال ، بما في ذلك عالم الاجتماع بجامعة هارفارد إليس مونك ، الذي تم الاتصال به قبل عدة سنوات من قبل Google للمساعدة في جعل منتجاتها أكثر شمولاً.

في ذلك الوقت ، صناعة التكنولوجيا بالفعل Google مقياسًا للألوان التي اخترعها Monk والتي حسنت كيفية تصوير أدوات صور AI الخاصة به بتنوع نغمات البشرة البشرية ، لتحل محل معيار عمره عقود مصمم أصلاً للأطباء الذين يعالجون مرضى الأمراض الجلدية البيضاء.

"كان للمستهلكين بالتأكيد استجابة إيجابية كبيرة للتغييرات".

الآن يتساءل Monk ما إذا كانت هذه الجهود ستستمر في المستقبل. على الرغم من أنه لا يعتقد أن مقياس لون بشرة الراهب له مهدد لأنه يخبئ بالفعل في عشرات المنتجات في Google وأماكن أخرى - بما في ذلك هواتف الكاميرا وألعاب الفيديو ومولدات الصور منظمة العفو الدولية - يخشى هو والباحثون الآخرون من أن المزاج الجديد يزعج المبادرات المستقبلية والتمويل لجعل التكنولوجيا تعمل بشكل أفضل للجميع.

"تريد Google أن تعمل منتجاتها من أجل الجميع ، في الهند ، الصين ، أفريقيا ، وما إلى ذلك. هذا الجزء هو نوع من المناعي". "ولكن هل يمكن تخفيض التمويل المستقبلي لتلك الأنواع من المشاريع؟ بالتأكيد ، عندما يتحول المزاج السياسي وعندما يكون هناك الكثير من الضغط للوصول إلى السوق بسرعة كبيرة."

قام ترامب بقطع مئات العلوم والتكنولوجيا و مايكل كراتسسيوس ، مدير سياسة مكتب العلوم والتكنولوجيا في البيت الأبيض ، في حدث تكساس هذا الشهر إن سياسات بايدن من الذكاء الاصطناعى "تعزز الانقسامات الاجتماعية وإعادة التوزيع باسم الأسهم".

رفضت إدارة ترامب إتاحة Kratsios للمقابلة ولكنها نقلت عن عدة أمثلة لما يعنيه. كان أحدهما خطًا من استراتيجية أبحاث منظمة العفو الدولية التي تعود إلى عهد بايدن والتي تقول: "بدون الضوابط المناسبة ، يمكن أن تتضخم أنظمة الذكاء الاصطناعى أو تدمرها أو تفاقم نتائج غير عدوانية أو غير مرغوب فيها للأفراد والمجتمعات".

حتى قبل تولي بايدن منصبه ، كانت مجموعة متزايدة من الأبحاث والحكايات الشخصية تجذب الانتباه إلى أضرار تحيز الذكاء الاصطناعي.

برنامج مطابقة للوجه لفتح الوجوه الآسيوية التي تم تحديدها بشكل خاطئ. الشرطة في مدن الولايات المتحدة خاطئ القبض على الرجال السود على أساس مباريات التعرف على الوجه. وقبل عقد من الزمان ، قام تطبيق الصور الخاص من Google بفرز صورة لشخصين أسود في فئة تحمل اسم "الغوريلا".

حتى العلماء الحكوميين في إدارة ترامب الأولى ختام في عام 2019 أن تقنية التعرف على الوجوه كانت تعتمد على العربات ، أو العمر.

انتخاب بايدن دفعت بعض شركات التكنولوجيا لتسريع تركيزها على عدالة الذكاء الاصطناعى. أضاف وصول 2022 من ChatGPT من Openai أولويات جديدة ، مما أثار طفرة تجارية في تطبيقات AI الجديدة لتأليف المستندات وتوليد الصور ، والضغط على شركات مثل Google لتخفيف الحذر واللحاق.

ثم جاء chatbot Gemini AI من Google - وطرح منتج معيب في العام الماضي من شأنه أن يجعله رمزًا لـ "استيقظ AI" يأمل المحافظون في الانهيار. تركت أدوات الذكاء الاصطناعى التي تنشئ صورًا من مطالبة مكتوبة إلى إدامة الصور النمطية المتراكمة من جميع البيانات المرئية التي تم تدريبها عليها.

لم تكن Google مختلفة ، وعندما يُطلب منها تصوير أشخاص في مختلف المهن ، كان من المرجح أن تفضل الوجوه والرجال ذات البشرة الفاتحة ، وعندما تم اختيار النساء ، النساء الأصغر سنا ، وفقًا للبحث العام بين الشركة.

حاول Google وضع الدرابزين الفني لتقليل تلك التباينات قبل طرح مولد صور AI Gemini منذ أكثر من عام. انتهى الأمر تعويضات زائدة عن التحيز ، ووضع الأشخاص ذوي اللون والنساء في إعدادات تاريخية ، مثل الإجابة على الإجابة على الإجابة على الإجابة على الإجابة على الإجابة على الإجابة على الإجابة على الإجابة على الإجابة على الإجابة على الإجابة على أداء. ملابس القرن الثامن عشر الذي بدا أنه سوداء وآسيويين وأمريكيين أصليين. وسرعان ما اعتذرت Google وسحبت القابس مؤقتًا بشكل مؤقت ، لكن الغضب أصبح صرخة حاشدة يمتلكها الحق السياسي.

مع الرئيس التنفيذي لشركة Google Sundar Pichai يجلس في مكان قريب ، نائب الرئيس JD Vance استخدمت قمة AI في باريس في باريس في فبراير لتفكيك "Agendas". أن جورج واشنطن كان أسودًا ، أو أن غيناء أمريكا في الحرب العالمية الأولى كانوا ، في الواقع ، نساء ".

"علينا أن نتذكر الدروس من تلك اللحظة المضحكة" ، أعلن فانس في التجمع. "وما نأخذه من ذلك هو أن إدارة ترامب ستضمن أن أنظمة الذكاء الاصطناعى التي تم تطويرها في أمريكا خالية من التحيز الأيديولوجي ولا تقيد حق مواطنينا في حرية التعبير."

قال مستشار علوم بايدن السابق الذي حضر هذا الخطاب ، ألوندرا نيلسون ، إن تركيز إدارة ترامب الجديد على "التحيز الأيديولوجي" الذي أجرته الذكاء الاصطناعى هو اعتراف ببعض سنوات العمل لمعالجة التحيز الخوارزمي الذي يمكن أن يؤثر على الإسكان والرهون العقارية والرعاية الصحية والجوانب الأخرى من حياة الناس.

"في الأساس ، إن القول بأن أنظمة الذكاء الاصطناعى منحازة أيديولوجيًا هي القول بأنك تحدد وتدرك وقلق مشكلة التحيز الخوارزمي ، وهي المشكلة التي كان الكثير منا قلقًا عليها لفترة طويلة ،" data-gtm-enhancement-style = "linkenhancementa" href = "https://apnews.com/article/technology-business-eartificial-intelligence-7a39848340d210592aea247825f489"

لكن نيلسون لا يرى مجالًا كبيرًا للتعاون وسط تشويه مبادرات منظمة العفو الدولية المنصفة.

"أعتقد في هذا المجال السياسي ، لسوء الحظ ، هذا غير مرجح للغاية". "المشكلات التي تم تسميتها بشكل مختلف- التمييز الخوارزمي أو التحيز الخوارزمي من ناحية ، والتحيز الأيديولوجي من ناحية أخرى- سيُنظر إلينا للأسف على أنها مشكلتين مختلفتين."