واشنگتون (AP) - تلفن زنگ می‌زند. این وزیر خارجه است که تماس می گیرد. یا اینطور است؟

برای خودی‌های واشنگتن، به لطف انبوهی از حوادث اخیر که مربوط به جعل هویت مقامات ارشد دولت دونالد ترامپ، رئیس‌جمهور آمریکا بود، دیدن و شنیدن دیگر باور کردنی نیست.

تقلبی‌های دیجیتالی برای شرکت‌های بزرگ آمریکا نیز عرضه می‌شوند، زیرا باندهای جنایتکار و هکرهای مرتبط با دشمنان از جمله کره شمالی از ویدئو و صدا مصنوعی برای جعل هویت مدیران عامل و نامزدهای مشاغل سطح پایین استفاده می‌کنند تا به سیستم‌های مهم یا اسرار تجاری دسترسی پیدا کنند.

به لطف پیشرفت‌های هوش مصنوعی، ایجاد دیپ‌فیک‌های واقعی آسان‌تر از همیشه است و مشکلات امنیتی را برای دولت‌ها، کسب‌وکارها و افراد خصوصی ایجاد می‌کند و اعتماد را به ارزشمندترین ارز عصر دیجیتال تبدیل می‌کند.

پاسخ به این چالش نیازمند قوانین، سواد دیجیتالی بهتر و راه‌حل‌های فنی است که با هوش مصنوعی بیشتر مبارزه کنند.

ویجی بالاسوبرامانیان، مدیر عامل و موسس شرکت فناوری پیندروپ سکیوریتی، گفت: "به عنوان انسان، ما به طور قابل توجهی در معرض فریب هستیم." اما او معتقد است که راه‌حل‌هایی برای چالش دیپ‌فیک‌ها ممکن است در دسترس باشد: "ما به مقابله خواهیم پرداخت."

دیپ‌فیک‌های هوش مصنوعی به تهدیدی برای امنیت ملی تبدیل شدند

تابستان امسال، شخصی از هوش مصنوعی برای ایجاد یک دیپ‌فیک از مارکو روبیو وزیر امور خارجه استفاده کرد تا با وزرای خارجه، یک سناتور ایالات متحده و یک فرماندار از طریق پیام‌های متنی، پست صوتی و اپلیکیشن پیام‌رسان سیگنال ارتباط برقرار کند.

در ماه مه شخصی به عنوان رئیس دفتر ترامپ، سوزی وایلز، جانشین شد.

روبیو ساختگی دیگری در اوایل سال جاری در یک دیپ فیک ظاهر شد و گفت که می‌خواهد دسترسی اوکراین به سرویس اینترنتی استارلینک ایلان ماسک را قطع کند. دولت اوکراین بعداً این ادعای نادرست را رد کرد.

پیامدهای امنیت ملی بسیار زیاد است: برای مثال افرادی که فکر می‌کنند با روبیو یا وایلز گفتگو می‌کنند، ممکن است درباره اطلاعات حساس در مورد مذاکرات دیپلماتیک یا استراتژی نظامی بحث کنند.

«شما یا در تلاش برای استخراج اسرار حساس یا اطلاعات رقابتی هستید یا به دنبال دسترسی به شبکه، سرور ایمیل، سرور یا سایر موارد حساس هستید. شرکت امنیت سایبری QiD، در مورد انگیزه های احتمالی گفت.

رسانه های مصنوعی همچنین می توانند رفتار را تغییر دهند. سال گذشته، رای‌دهندگان دموکرات در نیوهمپشایر یک فراخوانی خودکار دریافت کردند که از آنها خواسته شده بود در انتخابات مقدماتی آتی این ایالت رای ندهند. صدایی که در تماس بود به طرز مشکوکی شبیه جو بایدن، رئیس جمهور وقت آمریکا بود، اما در واقع با استفاده از هوش مصنوعی ایجاد شد.

توانایی آنها در فریب دادن، دیپ فیک های هوش مصنوعی را به سلاحی قدرتمند برای بازیگران خارجی تبدیل می کند. هم روسیه و هم چین از اطلاعات نادرست و تبلیغات به آمریکایی ها به عنوان راهی برای تضعیف اعتماد به اتحادها و نهادهای دموکراتیک استفاده کرده اند.

استیون کرامر، مشاور سیاسی که اعتراف کرد که بایدن جعلی را ارسال کند، گفت که می خواهد پیامی در مورد خطراتی که سیستم سیاسی دیپ فیک آمریکا ایجاد می کند ارسال کند. کرامر ماه گذشته ماه گذشته از اتهامات سرکوب رای دهندگان و جعل هویت یک نامزد تبرئه شد.

کرامر گفت: "من کاری را که برای 500 دلار انجام دادم انجام دادم." "می توانید تصور کنید اگر دولت چین تصمیم به انجام این کار بگیرد چه اتفاقی می افتد؟"

کلاهبرداران صنعت مالی را با دیپ‌فیک‌ها هدف قرار می‌دهند

در دسترس بودن و پیچیدگی بیشتر برنامه‌ها به این معنی است که دیپ‌فیک‌ها به طور فزاینده‌ای برای جاسوسی شرکت‌ها و کلاهبرداری‌های باغی مورد استفاده قرار می‌گیرند.

جنیفر اوبانک، معاون سابق مدیر امنیت دیجیتال و Ccy، گفت: «صنعت مالی درست در تلاقی است. "حتی افرادی که یکدیگر را می شناسند متقاعد شده اند که مبالغ هنگفتی را منتقل کنند."

در زمینه جاسوسی شرکتی، می توان از آنها برای جعل هویت مدیران عاملی استفاده کرد که از کارمندان می خواهند رمز عبور یا شماره های مسیریابی را تحویل دهند.

Deepfakes همچنین می تواند به کلاهبرداران اجازه دهد تا برای مشاغل - به عنوان یک هویت جعلی - و حتی آنها را انجام دهند. برای برخی، این راهی برای دسترسی به شبکه های حساس، سرقت اسرار یا نصب باج افزار است. دیگران فقط خواهان کار هستند و ممکن است همزمان در چند شغل مشابه در شرکت‌های مختلف کار کنند.

مقامات در ایالات متحده گفته‌اند که هزاران نفر از کره شمالی با مهارت‌های فناوری اطلاعات برای زندگی به خارج از کشور اعزام شده‌اند و از هویت‌های دزدیده شده برای کسب شغل در شرکت‌های فناوری در ایالات متحده و جاهای دیگر استفاده می‌کنند. کارگران به شبکه های شرکت و همچنین چک دستمزد دسترسی دارند. در برخی موارد، کارگران باج‌افزاری را نصب می‌کنند که بعداً می‌تواند برای اخاذی پول بیشتر استفاده شود.

این طرح‌ها میلیاردها دلار برای دولت کره شمالی تولید کرده است.

بر اساس تحقیقات انجام شده توسط Adaptive Security، یک شرکت امنیت سایبری، طی سه سال، انتظار می‌رود که از هر ۴ درخواست شغلی ۱ مورد جعلی باشد.

برایان لانگ، مدیر عامل Adaptive گفت: «ما وارد دوره‌ای شده‌ایم که در آن هر کسی که لپ‌تاپ دارد و به مدل منبع باز دسترسی دارد، می‌تواند به طور متقاعدکننده‌ای جعل شخصیت واقعی باشد. «این دیگر در مورد سیستم‌های هک نیست، بلکه در مورد هک اعتماد است.»

کارشناسان برای مقابله با هوش مصنوعی از هوش مصنوعی استفاده می‌کنند

محققان، کارشناسان سیاست‌گذاری عمومی و شرکت‌های فناوری اکنون در حال بررسی بهترین راه‌ها برای رسیدگی به چالش‌های اقتصادی، سیاسی و اجتماعی ناشی از جعل‌های عمیق هستند. پلت فرم های آنها قانون‌گذاران همچنین می‌توانند مجازات‌های بیشتری را برای افرادی که از فناوری دیجیتال برای فریب دادن دیگران استفاده می‌کنند - در صورتی که دستگیر شوند، اعمال کنند.

سرمایه‌گذاری بیشتر در سواد دیجیتال همچنین می‌تواند با آموزش روش‌هایی برای شناسایی رسانه‌های جعلی و جلوگیری از قرار گرفتن در طعمه AI دیگر، مصونیت افراد را در برابر فریب آنلاین افزایش دهد برنامه، یکی آموزش دیده است تا ایرادات کوچک در دیپ فیک ها را بشناسد که مورد توجه شخص قرار نگیرد.

سیستم هایی مانند Pindrop میلیون ها نقطه داده را در گفتار هر شخص تجزیه و تحلیل می کند تا به سرعت بی نظمی ها را شناسایی کند. برای مثال، این سیستم را می‌توان در طول مصاحبه‌های شغلی یا سایر کنفرانس‌های ویدیویی برای تشخیص اینکه آیا شخص از نرم‌افزار شبیه‌سازی صدا استفاده می‌کند یا خیر استفاده کرد.

برنامه‌های مشابه ممکن است روزی عادی شوند و در پس‌زمینه اجرا شوند و مردم با همکاران و عزیزانشان به صورت آنلاین چت کنند. بالاسوبرامانیان، مدیرعامل پیندروپ، گفت: روزی، دیپ‌فیک‌ها ممکن است راه هرزنامه‌های ایمیل را بروند، چالشی تکنولوژیکی که زمانی سودمندی ایمیل را تهدید می‌کرد.

"اما این اتفاق نخواهد افتاد."