پرنس هری و همسرش مگان به دانشمندان برجسته رایانه، اقتصاددانان، هنرمندان، رهبران مسیحی انجیلی و مفسران محافظه‌کار آمریکایی، استیو بنن و گلن بک پیوسته‌اند تا خواستار ممنوعیت «ابر هوش» هوش مصنوعی که بشریت را تهدید می‌کند. غول هایی مانند گوگل، OpenAI و Meta Platforms که در حال رقابت با یکدیگر برای ساختن نوعی هوش مصنوعی هستند که برای پیشی گرفتن از انسان در بسیاری از وظایف طراحی شده است.

"ما خواستار ممنوعیت توسعه ابرهوشی هستیم، نه قبل از اینکه اجماع علمی گسترده ای وجود داشته باشد که به صورت ایمن و قابل کنترل انجام می شود و خرید قوی عمومی انجام شود."

در مقدمه‌ای، این نامه اشاره می‌کند که ابزارهای هوش مصنوعی ممکن است سلامت و رفاه را به همراه داشته باشند، اما در کنار این ابزارها، «بسیاری از شرکت‌های پیشرو هوش مصنوعی هدف اعلام‌شده ایجاد ابرهوشمندی در دهه آینده را دارند که بتواند به طور قابل‌توجهی از همه انسان‌ها در اساساً همه وظایف شناختی عملکرد بهتری داشته باشد. عزت و کنترل برای امنیت ملی خطرات و حتی انقراض بالقوه انسان.»

چه کسی امضا کرده و در مورد آن چه می گویند

پرنس هری در یادداشتی شخصی اضافه کرد که "آینده هوش مصنوعی باید در خدمت بشریت باشد، نه جایگزین آن. من معتقدم آزمون واقعی پیشرفت این نیست که چقدر سریع حرکت می کنیم، بلکه چقدر عاقلانه هدایت می کنیم. هیچ شانس دومی وجود ندارد."

در کنار دوک ساسکس، همسرش مگان، دوشس ساسکس، امضا کرد. استوارت راسل، یکی از پیشگامان هوش مصنوعی و استاد علوم کامپیوتر در دانشگاه کالیفرنیا، برکلی، نوشت: "این یک ممنوعیت یا حتی تعلیق به معنای معمول نیست.". "این صرفاً یک پیشنهاد برای نیاز به اقدامات ایمنی کافی برای فناوری است که، به گفته توسعه دهندگان آن، شانس قابل توجهی برای انقراض انسان دارد. آیا این خیلی زیاد است؟"

همچنین یوشوا بنجیو و جفری هینتون، پیشگامان هوش مصنوعی، برندگان جایزه تورینگ، جایزه برتر علوم کامپیوتر، امضا کردند. هینتون همچنین سال گذشته جایزه نوبل فیزیک را دریافت کرد. هر دو در جلب توجه به خطرات فناوری که به ایجاد آن کمک کردند، بسیار پر سر و صدا بوده اند. سازمان دهندگان نامه در سازمان غیرانتفاعی موسسه آینده لایف برای درخواست از جنبش دونالد ترامپ، رئیس جمهور آمریکا، آمریکا را دوباره بزرگ کنیم، حتی در شرایطی که کارکنان کاخ سفید ترامپ به دنبال کاهش محدودیت ها در توسعه هوش مصنوعی در ایالات متحده هستند. ریچارد برانسون میلیاردر بریتانیایی؛ رئیس سابق ستاد مشترک ارتش ایالات متحده، مایک مولن، که در دولت های جمهوری خواه و دموکرات خدمت می کرد؛ و سوزان رایس، کارشناس سیاست خارجی دموکرات، که مشاور امنیت ملی رئیس جمهور باراک اوباما بود.

مری رابینسون، رئیس جمهور سابق ایرلند و چند تن از نمایندگان بریتانیایی و اروپایی و نمایندگان سابق کنگره ایالات متحده، و همچنین بازیگران استفن فرای و جوزف گوردون-لویت، و موسیقیدان will.i.am که در غیر این صورت از هوش مصنوعی در زمینه ساخت موسیقی فوق العاده استقبال کرده است، امضا کردند. تغذیه هیپ هوش مصنوعی؟

این نامه احتمالاً بحث‌های مداومی را در جامعه تحقیقاتی هوش مصنوعی در مورد احتمال وجود هوش مصنوعی فوق‌انسانی، راه‌های فنی دستیابی به آن و اینکه چقدر می‌تواند خطرناک باشد، برانگیزد. مکس تگمارک، رئیس مؤسسه فناوری آینده زندگی و استاد مؤسسه فناوری ماساچوست، گفت: «در گذشته، بیشتر انسان‌ها در مقابل آدم‌های عصبی بودند. من احساس می‌کنم آنچه که ما واقعاً در اینجا می‌بینیم این است که چگونه نقدها به جریان اصلی تبدیل شده‌اند.»

پیچیدگی بحث‌های گسترده‌تر این است که همان شرکت‌هایی که در تلاش برای رسیدن به آنچه برخی ابرهوش و برخی دیگر هوش عمومی مصنوعی یا AGI می‌نامند، در حال افزایش توانایی‌های محصولات خود هستند که می‌تواند آنها را قابل فروش‌تر کند و به نگرانی‌ها در مورد حباب هوش مصنوعی کمک کرده است. OpenAI اخیراً با تمسخر ریاضی‌دانان و دانشمندان هوش مصنوعی مواجه شد، زمانی که محقق آن ادعا کرد ChatGPT مسائل ریاضی حل‌نشده را کشف کرده است - در حالی که آنچه واقعاً انجام می‌دهد پیدا کردن و خلاصه کردن آنچه قبلاً آنلاین بود، بود. تگمارک گفت: «خیلی چیزها وجود دارد که بیش از حد تبلیغات شده است و شما باید به عنوان یک سرمایه‌گذار مراقب باشید، اما این واقعیت را تغییر نمی‌دهد که - کوچک‌نمایی - هوش مصنوعی در چهار سال گذشته بسیار سریع‌تر از آنچه اکثر مردم پیش‌بینی می‌کردند پیش‌رفته است.

گروه Tegmark همچنین پشت نامه مارس 2023 بود - هنوز در طلوع رونق هوش مصنوعی تجاری - که از غول‌های فناوری خواسته بود تا توسعه مدل‌های هوش مصنوعی قدرتمندتر را موقتاً متوقف کنند. هیچ یک از شرکت های بزرگ هوش مصنوعی به این فراخوان توجه نکردند. و برجسته‌ترین امضاکننده نامه 2023، ایلان ماسک، در همان زمان بی سر و صدا در حال تأسیس استارت‌آپ هوش مصنوعی خود بود تا با کسانی که می‌خواست یک مکث 6 ماهه داشته باشد رقابت کند.

در پاسخ به این سوال که آیا این بار دوباره با ماسک تماس گرفته است، تگمارک گفت که به مدیران اجرایی تمام توسعه دهندگان اصلی هوش مصنوعی در ایالات متحده نامه نوشت اما انتظار نداشت آنها را امضا کنند. تگمارک گفت: «راستش بگویم، من واقعاً با آنها همدلی می‌کنم، زیرا آنها آنقدر در این مسابقه گیر کرده‌اند که فقط فشار غیرقابل مقاومتی را برای ادامه راه و عدم سبقت گرفتن از طرف دیگر احساس می‌کنند. من فکر می‌کنم به همین دلیل است که انگ زدن به مسابقه ابراطلاعات تا جایی که دولت ایالات متحده وارد عمل شود بسیار مهم است.»

Google، Meta، OpenAI و xAI ماسک بلافاصله به درخواست‌ها برای اظهار نظر در چهارشنبه پاسخ ندادند.