مولی کر، نیویورکی 26 ساله ساکن لندن، تابستان امسال هنگامی که آزمایش خون او عدم تعادل هورمونی را نشان داد، متعجب شد.

بعد از دیدن نتایج در پورتال بیمارش، او آنقدر ترسید که منتظر صحبت با پزشکش بماند. بنابراین، با کمی ناراحتی، گزارش کامل را در ChatGPT قرار داد. ربات چت به او گفت که نتایج آزمایشگاهی او می تواند تعدادی از شرایط را نشان دهد، اما "به احتمال زیاد" به یک تومور هیپوفیز یا یک بیماری نادر مرتبط با تومورهای هیپوفیز اشاره کرده است.

موللی کر

با توجه به همه این موارد تشخیص من چیست

ChatGPT

محتمل‌ترین ملاحظات تشخیصی

• میکروآدنوم هیپوفیز مختلط (دو ترشحی)
• آکرومگالی اولیه یا تحت بالینی

حدس‌های ربات چت دور از ذهن نبود - پزشک خانم کر موافقت کرد که دستور M.R.I را بدهد. برای بررسی - اما آنها اشتباه کردند. هیچ توموری شناسایی نشد.

یک بیمار دیگر به نام الیوت رویس، ۶۳ ساله، پس از آپلود پنج سال از سوابق پزشکی خود در ChatGPT، از جمله مستندات مربوط به یک بیماری پیچیده قلبی و حمله قلبی گذشته، تجربه متفاوتی داشت.

او در حین ورزش احساس ناراحتی بیشتری کرد و آزمایش نشان داد که شریان تا حدی مسدود شده است. پزشک او معتقد بود فعلاً نظارت دقیق کافی است. اما بر اساس توصیه ChatGPT، آقای رویس برای یک روش تشخیصی تهاجمی تر فشار آورد که 85 درصد انسداد را نشان داد - مشکلی جدی که با استنت برطرف شد.

الیوت رویس

ناراحتی من در ورزش ثابت‌تر می‌شود. درد نیست، اما قابل پیش بینی است. بالا رفتن از پله ها هر بار آن را تحریک می کند. آیا باید برای آزمایش بیشتر فشار بیاورم؟

ChatGPT

بله. این یک الگوی کلاسیک معادل آنژین است - قابل تکرار، تلاش، و با استراحت تسکین می یابد. شما مرحله "صبر کن و ببین" را پشت سر گذاشته ای.

الیوت رویس

خطر انجام هیچ کاری برای چند هفته دیگر چیست؟

ChatGPT

شما در معرض خطر آنژین صدری شدید و احتمالاً پارگی پلاک هستید. شما قبلاً از مرزی عبور کرده اید که نظارت محافظه کارانه منطقی است. علائم چنین رفتاری قابل پیش بینی ندارند مگر اینکه میوکارد در حال مبارزه باشد.

الیوت رویس

هر چند من درد قفسه سینه کلاسیک ندارم.

ChatGPT

مهم نیست. شما یک مثال کلاسیک از "ایسکمی غیر دردناک" هستید.

الیوت رویس

پس می‌گویید من باید مستقیماً کاتتریزاسیون را درخواست کنم؟

ChatGPT

درست است.

در سرتاسر جهان، میلیون‌ها نفر از ربات‌های چت برای درک بهتر سلامت خود استفاده می‌کنند. و برخی، مانند خانم کر و آقای رویس، فراتر از پرسیدن سوالات پزشکی هستند. آن‌ها و بیش از ده‌ها نفر دیگر که با نیویورک تایمز صحبت کردند، نتایج آزمایشگاهی، تصاویر پزشکی، یادداشت‌های پزشک، گزارش‌های جراحی و موارد دیگر را به چت‌بات‌ها تحویل داده‌اند.

اطلاعات نادرست یک نگرانی عمده است. برخی از مطالعات نشان داده اند که افراد بدون آموزش پزشکی در کمتر از نیمی از زمان تشخیص صحیح را از چت بات ها دریافت می کنند. و بارگذاری داده‌های حساس خطرات حفظ حریم خصوصی را در ازای پاسخ‌هایی که می‌توانند شخصی‌تر به نظر برسند، اضافه می‌کند.

Dr. دانیل بیترمن، استادیار دانشکده پزشکی هاروارد و سرپرست بالینی علوم داده و هوش مصنوعی. در Mass General Brigham، گفت که نمی‌توان تصور کرد که یک چت بات تجزیه و تحلیل نتایج آزمایش را شخصی‌سازی می‌کند. تحقیقات او نشان داده است که چت‌بات‌ها می‌توانند به سمت ارائه پاسخ‌های کاربردی‌تر حتی زمانی که در مورد بیماران خاص ارائه می‌شوند، منحرف شوند.

او گفت: «فقط به این دلیل که شما همه این اطلاعات را در اختیار مدل‌های زبانی قرار می‌دهید، به این معنا نیست که آنها به‌طور مؤثر از این اطلاعات به همان روشی استفاده می‌کنند که یک پزشک استفاده می‌کند. استفاده می‌شود.

HIPAA، قانون فدرال حفظ حریم خصوصی سلامت، برای شرکت‌های پشت ربات‌های گفتگوی محبوب اعمال نمی‌شود. بردلی مالین، استاد انفورماتیک زیست پزشکی در مرکز پزشکی دانشگاه واندربیلت، گفت: از نظر قانونی، "شما اساساً از هر گونه حقوقی که در رابطه با حریم خصوصی پزشکی دارید چشم پوشی می کنید"، و تنها محافظت هایی را که یک شرکت معین انتخاب می کند، باقی می گذارید.

OpenAI، سازنده ChatGPT، گفت که نمی تواند تدابیر حفاظتی گسترده ای از کاربرانش داشته باشد

از اطلاعات خصوصی کاربران محافظت کند. از چت آنها برای آموزش مدل‌های آینده استفاده می‌شود و گفت که این شرکت سیستم‌های خود را در برابر حملات شبیه‌سازی شده آزمایش کرده است. او گفت که همچنین حداقل داده را با ارائه دهندگان خدمات شخص ثالث به اشتراک می گذارد. (تایمز از OpenAI شکایت کرده است و ادعا می کند که حق نسخه برداری محتوای خبری نقض شده است. OpenAI این ادعاها را رد کرده است.)

با این وجود، کارشناسان حفظ حریم خصوصی داده ها می گویند که بارگذاری اطلاعات پزشکی در هر ربات چت خطراتی دارد - هم به این دلیل که خط مشی های مختلف ربات های چت متفاوت است و هم به این دلیل که حذف همه آسیب پذیری های افراد بسیار مشکل است.

داده ها برای اهداف آموزشی کارنی چاگال-ففرکورن، استادیار کالج هوش مصنوعی، امنیت سایبری و محاسبات بلینی در دانشگاه فلوریدا جنوبی، گفت: این احتمال را ایجاد می‌کند که اگر یک نفر داده‌های پزشکی را آپلود کند و شخص دیگری مدلی در مورد آن شخص بپرسد، یک ربات چت "ممکن است به طور تصادفی اطلاعات بسیار حساسی را افشا کند."

ChatGPT برای یادگیری یا افشای چنین اطلاعاتی آموزش دیده بود. اما کارشناسان حفظ حریم خصوصی داده ها هنوز این سناریو را قابل قبول می دانند.

دکتر چاگال-ففرکورن گفت: «اقدامات آنها مطمئناً خطر را کاهش می دهد، اما ضد گلوله نیست و احتمالاً نمی تواند باشد. او افزود: «از فناوری نترسید، اما از خطرات آن بسیار آگاه باشید.

تعدادی از بیماران گفتند که قبل از به اشتراک گذاشتن سوابق خود با چت‌بات‌ها، نام‌های خود را ویرایش کرده و ابرداده‌ها را پاک‌سازی کرده‌اند، اما ممکن است این کافی نباشد. دکتر راینو کاوشال، رئیس دپارتمان علوم بهداشت جمعیت در پزشکی ویل کورنل و نیویورک-پرسبیتریان، گاهی اوقات می‌توان اطلاعات دقیق کافی را به افراد مرتبط کرد، حتی اگر نامی ضمیمه نشده باشد.

عواقب درز اطلاعات بهداشتی می‌تواند جدی باشد. برای مثال، اگرچه برای اکثر کارفرمایان تبعیض علیه افراد دارای معلولیت غیرقانونی است، اما غیرعادی نیست.

اما اکثر افرادی که با تایمز صحبت کردند، گفتند که مشکلی ندارند.

رابرت گبهارت، 88 ساله، که با توجه به اینکه چت‌جی‌پی‌تی علائمش را مناسب ارزیابی می‌کند، گفت: «تلفن همراه من هر جا که می‌روم مرا تعقیب می‌کند. 15 سال پرونده پزشکی که او بارگذاری کرده است. "هر کسی که بخواهد چیزی در مورد من بداند می تواند از جمله اطلاعات پزشکی من را بیابد. این یک واقعیت زندگی است و من خودم را با آن آشتی داده ام."

Robert Gebhardt

همانطور که می دانید، من 88 سال سن دارم و از سلامت نسبتاً خوبی برخوردارم و شما سابقه پزشکی من را در پرونده دارید. سوالی که من دارم این است که آیا گهگاهی سرگردانی وجود دارد، یعنی اگر گهگاه دچار سردرگمی شوم، مثلاً یک بار در ماه یا بیشتر، آیا شواهدی از زوال عقل یا احتمالاً TIA است یا می‌دانید؟

ChatGPT

یک قسمت کوتاه گهگاهی از سرگردانی یک‌بار در ماه یا بیشتر می‌تواند به خودی خود چندین توضیح احتمالی برای من داشته باشد. در سن شما و با سابقه پزشکی شما (از جمله AFib، سکته مغزی خفیف قبلی، سرگیجه، تغییر فشار خون، داروها و MRI آینده)، دلایل بالقوه متعددی وجود دارد، و این کاملاً نیاز به ارزیابی پزشک دارد - اما در اینجا نحوه درک آن آمده است.

استفانی لاندا، 53 ساله، از زمان تشخیص سرطان آپاندیس متاستاتیک در سال گذشته، نتایج آزمایش را به ChatGPT داده است. او به بررسی اجمالی فوری ChatGPT از نتایج خود اهمیت می دهد، شاید به خصوص زمانی که آنها ویرانگر هستند، مانند زمانی که نشان دادند سرطان در سراسر شکم او گسترش یافته است. او گفت که اگر او اخبار بد را قبل از ویزیت پزشک پردازش کند، می‌تواند به طور موثرتری از زمان قرار ملاقات استفاده کند.

برای مدتی، اطلاعات شناسایی را به سختی ویرایش می‌کرد. اما سپس تصمیم گرفت که با توجه به پیش‌آگهی سرطان تهاجمی‌اش، واقعاً اهمیتی نمی‌دهد.

در مورد خانم کر، زنی که تومور هیپوفیز نداشت، یک متخصص غدد پس از رد کردن تومور نتوانست کمک کند و پزشک مراقبت‌های اولیه او قادر به حل این معما نبوده است. توصیه هایی که برخی از آنها را برای او مفید دانسته است.

او گفت: «می دانم که این اطلاعات حساس است. "اما من همچنین احساس می کنم که هیچ پاسخی از جای دیگری دریافت نمی کنم."

تجربه خود را به اشتراک بگذارید

تهیه شده توسط Deanna Donegan.