جنسن هوانگ دستیابی به هوش مصنوعی قابلاعتماد نیازمند چندین سال تلاش است, مدیرعامل انویدیا، جنسن هوانگ، با بیان صریح اعلام کرد که سیستمهای هوش مصنوعی در حال حاضر قادر به ارائه پاسخهای کاملاً قابلاعتماد نیستند و بشر تا دستیابی به این سطح از اطمینان، فاصله چند ساله دارد. این اظهارات در حاشیه حضور او در دانشگاه علوم و فناوری هنگکنگ بیان شد.
چالش اعتماد در پاسخهای هوش مصنوعی به گزارش بیزینس اینسایدر، هوانگ تأکید کرد که کاربران نباید در پاسخهای دریافتی از مدلهای هوش مصنوعی دچار تردید باشند و نگران صحت و انطباق آنها با واقعیت نباشند.
او گفت ما باید به نقطهای برسیم که شما تا حد زیادی به پاسخی که میگیرید اطمینان داشته باشید؛ به همین دلیل فکر میکنم چندین سال تا دستیابی به این هدف فاصله داریم و در این مدت باید قدرت محاسباتی را به طور مداوم افزایش دهیم. ریشهیابی مشکل هذیان در مدلهای زبانی با وجود پیشرفتهای چشمگیر در مدلهای زبانی بزرگ (LLM)، مسئله هذیان یا تولید اطلاعات کاذب و ساختگی همچنان یکی از بزرگترین موانع اعتماد کامل به این تکنولوژی است.
جری رادیویی به دلیل نقل جملات جعلی توسط چتبات چتجیپیتی (ChatGPT) از سوی اوپنایآی، اقدام به شکایت حقوقی کرد.
آموزش پیشین به تنهایی کافی نیست هوانگ معتقد است که تنها پیشآموزش مدلها بر روی مجموعه دادههای گسترده و متنوع، قبل از تنظیم دقیق برای کارهای خاص، راهحل کامل مشکل هذیان نیست. او اشاره کرد که توسعهدهندگان تا کنون نتوانستهاند راهکاری قطعی برای رفع این نقص در مدلهای خود بیابند. با وجود این انتقادات، دیدگاه مدیرعامل انویدیا نسبت به آینده هوش مصنوعی کاملاً مثبت است.
او پیش از این نیز بیان داشته که اگرچه هوش مصنوعی میتواند برخی وظایف را تا هزار برابر بهتر از انسان انجام دهد، اما نمیتواند به طور کامل جایگزین نیروی کار انسانی شود.
