اتهام هوش مصنوعی FDA به جعل داده‌های علمی
سالم‌خبر: در حالی که سازمان غذا و داروی آمریکا FDA در سال‌های اخیر سرمایه‌گذاری زیادی برای استفاده از هوش مصنوعی AI در تسریع روند ارزیابی و تأیید داروها انجام داده، گزارشی جدید نشان می‌دهد این فناوری، به جای ارتقاء دقت علمی، در مواردی مطالعات ساختگی تولید کرده و روند تصمیم‌گیری را منحرف کرده است.
سالم‌خبر: در حالی که سازمان غذا و داروی آمریکا FDA در سال‌های اخیر سرمایه‌گذاری زیادی برای استفاده از هوش مصنوعی AI در تسریع روند ارزیابی و تأیید داروها انجام داده، گزارشی جدید نشان می‌دهد این فناوری، به جای ارتقاء دقت علمی، در مواردی مطالعات ساختگی تولید کرده و روند تصمیم‌گیری را منحرف کرده است.
به گزارش سالم‌خبر به نقل از CNN، این سیستم هوشمند که برای مرور داده‌های بالینی، پیشنهاد اولویت‌گذاری داروها و حتی پیشنهاد صدور مجوز
در حالی که سازمان غذا و داروی آمریکا FDA در سال‌های اخیر سرمایه‌گذاری زیادی برای استفاده از هوش مصنوعی AI در تسریع روند ارزیابی و تأیید داروها انجام داده، گزارشی جدید نشان می‌دهد این فناوری، به جای ارتقاء دقت علمی، در مواردی مطالعات ساختگی تولید کرده و روند تصمیم‌گیری را منحرف کرده است مشروط طراحی شده، در بررسی‌های اخیر توسط متخصصان بیرونی و ناظران مستقل، به دلیل ارائه «اطلاعات جعلی» و «مطالعات بی‌اساس» مورد انتقاد قرار گرفته است.
بر اساس این گزارش که نخستین بار توسط رسانه‌های تخصصی سلامت منتشر شده، چندین پرونده بررسی داروها با داده‌هایی همراه بوده‌اند که منشأ آن‌ها در منابع علمی یا آزمایشگاه‌های تحقیقاتی یافت نشده و تنها توسط الگوریتم‌های AI تولید شده بودند. یکی از مقامات سابق FDA در گفت‌وگو با رسانه‌ها
براساس گزارشی چندین پرونده بررسی داروها با داده‌هایی همراه بوده‌اند که منشأ آن‌ها در منابع علمی یا آزمایشگاه‌های تحقیقاتی یافت نشده و تنها توسط الگوریتم‌های AI تولید شده بودند گفته است: «ما انتظار داشتیم هوش مصنوعی کمک کند تا خطاهای انسانی کاهش یابد، نه اینکه داده‌های غیرواقعی تولید کند.»
پیش‌تر، FDA اعلام کرده بود که به کمک AI می‌تواند زمان صدور مجوز داروهای حیاتی را از چند سال به چند ماه کاهش دهد؛ وعده‌ای که توجه صنعت داروسازی، سیاست‌گذاران و بیماران را به خود جلب کرده بود. اما اکنون این فناوری به‌جای آنکه شفافیت و دقت را افزایش دهد، ابهامات و بی‌اعتمادی تازه‌ای ایجاد کرده است.
کارشناسان مستقل هشدار
یکی از مقامات سابق FDA: ما انتظار داشتیم هوش مصنوعی کمک کند تا خطاهای انسانی کاهش یابد، نه اینکه داده‌های غیرواقعی تولید کند داده‌اند که اتکا به هوش مصنوعی بدون سازوکار نظارتی قوی می‌تواند تبعات جبران‌ناپذیری برای سلامت عمومی داشته باشد، به‌ویژه اگر دارویی تنها بر اساس داده‌های تولیدشده توسط یک مدل AI تأیید شود.
این افشاگری در زمانی منتشر می‌شود که موجی از اعتماد به فناوری‌های نوین در تصمیم‌سازی پزشکی در حال شکل‌گیری است. حال این سؤال مطرح است: آیا هوش مصنوعی به یاری پزشکی می‌آید، یا باید از آن بیش‌تر ترسید تا امیدوار بود؟