استفاده از هوش مصنوعی به جای دکتر، این مرد را به لبه پرتگاه مرگ برد

نبض فناوری

دریافت توصیه پزشکی از هوش مصنوعی به جای دکتر، یک مرد را تا آستانه مرگ برد. این اتفاق، زنگ خطر اعتماد به فناوری هوش مصنوعی را به صدا درآورده است.

به گزارش «نبض فناوری»  به نقل از گجت نیوز، مدل‌های اخیر هوش مصنوعی در زمینه‌هایی مانند پیشنهاد رستوران و نگارش ایمیل توانسته‌اند کاربردهای مفیدی از خود نشان دهند، اما هنگامی که پای ارائه مشاوره‌های پزشکی به میان می‌آید، همچنان کاستی‌ها و محدودیت‌های آشکاری در عملکرد آن‌ها دیده می‌شود.

خطرات استفاده از هوش مصنوعی به جای دکتر

یک مرد پس از پیروی از یک برنامه سلامت ارائه‌شده توسط یک چت‌بات، در نهایت دچار عارضه‌ای نادر از نوع مسمومیت شد و کارش به بستری شدن در بیمارستان کشید. ماجرا از آنجا آغاز شد که این بیمار تصمیم گرفت با کاهش مصرف نمک یا همان کلرید سدیم، وضعیت سلامت خود را بهبود ببخشد. برای یافتن جایگزین، او همان کاری را انجام داد که امروزه بسیاری از مردم انجام می‌دهند: پرسش از ChatGPT.

گزارش‌ها حاکی از آن است که چت‌بات شرکت OpenAI ظاهراً سدیم برومید را به‌عنوان جایگزین پیشنهاد کرده بود. بیمار این ماده را به‌صورت آنلاین سفارش داد و سپس در رژیم غذایی خود گنجاند. هرچند از لحاظ شیمیایی درست است که سدیم برومید می‌تواند جایگزینی برای کلرید سدیم باشد، اما این کاربرد معمولاً در شرایطی مطرح است که هدف، ضدعفونی یا پاک‌سازی یک جکوزی باشد، نه بهبود طعم سیب‌زمینی سرخ‌کرده. با این حال، هوش مصنوعی این نکته اساسی و زمینه‌ساز را به‌طور کامل ذکر نکرده بود.

هوش مصنوعی می‌تواند شما را به لبه پرتگاه مرگ ببرد

سه ماه بعد، بیمار با توهمات پارانویید به بخش اورژانس مراجعه کرد و معتقد بود که همسایه‌اش قصد مسموم کردن او را دارد. پزشکان گزارش کردند: «در نخستین ۲۴ ساعت بستری، بیمار دچار تشدید احساس بدبینی و همچنین توهمات شنوایی و بینایی شد که پس از تلاش برای فرار از بیمارستان، منجر به قرار گرفتن اجباری تحت مراقبت روان‌پزشکی به دلیل ناتوانی شدید عملکردی گردید.»