هوش مصنوعی با وجود مزایای فراوان، خطاهای زیادی نیز داشته است. اکنون پزشکان از ابزارهای هوش مصنوعی کنترلنشده و کمتوانایی برای پشتیبانی از تشخیص بیماران استفاده میکنند، که باعث نگرانی رگولاتورهایی مانند سازمان غذا و داروی آمریکا (FDA) شده است.
بر اساس گزارش پولیتیکو، برخی پزشکان در حال حاضر از دستیارهای مجازی و ابزارهای هوش مصنوعی بدون نظارت برای یادداشتبرداری، تشخیص و درمان بیماریها بهره میبرند. رشد این فناوری بسیار سریعتر از توانایی دولتها و سازمانها برای تدوین مقررات است. اگرچه تأمین بودجه و نیروی انسانی برای بازبینی این سیستمها چالش مهمی است، اما رگولاتورها بهویژه از پیامدهای هوش مصنوعی در حوزههای پزشکی و مراقبتهای بهداشتی دلواپس هستند.
ورود هوش مصنوعیهای کنترلنشده به مسائل پزشکی
سازمان غذا و داروی آمریکا (FDA) بهصورت معمول پس از بازبینی داروها یا ابزارهای پزشکی جدید، مجوز استفاده از آنها را صادر میکند؛ اما نرمافزارهای هوش مصنوعی را نمیتوان با این روال پذیرفت یا رد کرد، زیرا هوش مصنوعی بهطور مداوم در حال آموزش و تحول است. به همین دلیل FDA میخواهد محصولات هوش مصنوعی را بهشکل مداوم تحت نظارت داشته باشد.
جو بایدن، رئیسجمهور آمریکا، در اکتبر ۲۰۲۳ (مهرماه) خواستار اقدام و هماهنگی کامل از سوی آژانسهای نظارتی برای اطمینان از ایمنی و کارایی هوش مصنوعی شد. با این حال، بر اساس گزارش پولیتیکو، رگولاتورهایی مانند FDA منابع مورد نیاز برای نظارت بر این فناوری را ندارند.
مشکل FDA به نظر میرسد حتی فراتر از محدودیتهای مالی یا نیروی انسانی است. این آژانس برای کنترل هوش مصنوعی، اختیارات بیشتری نیز میطلبد. برای مثال FDA باید اجازه دسترسی به دادههای هوش مصنوعی و توانایی تنظیم الگوریتمهای حیاتی آن را داشته باشد تا بتواند این فناوری را در چارچوب اصول پزشکی قرار دهد.




