جنسن هوانگ: دستیابی به هوش مصنوعی قابلاعتماد نیازمند چندین سال تلاش است

جنسن هوانگ دستیابی به هوش مصنوعی قابلاعتماد نیازمند چندین سال تلاش است, مدیرعامل انویدیا، جنسن هوانگ، با بیان صریح اعلام کرد که سیستمهای فعلی هوش مصنوعی هنوز قادر به ارائه پاسخهای کاملاً قابلاعتماد نیستند و بشر تا چند سال آینده با پدیدهای روبرو خواهد بود که بتواند بدون تردید به خروجیهای آن اطمینان کند. چرا به پاسخهای هوش مصنوعی امروز نمیتوان اعتماد کامل کرد؟

به گزارش بیزینس اینسایدر، هوانگ در حاشیه حضور در دانشگاه علوم و فناوری هنگکنگ تأکید کرد که کاربران نباید در پاسخهای دریافتی از چتباتها دچار شک و تردید باشند.

او بیان داشت ما باید به نقطهای برسیم که شما به پاسخی که میگیرید تا حد بسیار زیادی مطمئن باشید؛ به همین دلیل فکر میکنم ما همچنان چندین سال از دستیابی به این سطح فاصله داریم و در این میان باید قدرت محاسباتی را به طور مداوم افزایش دهیم. چالش هذیانگویی در مدلهای زبانی بزرگ با وجود پیشرفتهای چشمگیر در مدلهای زبانی بزرگ (LLM)، مشکل تولید اطلاعات نادرست یا ساختگی — که به آن هذیانگویی میگویند — همچنان مانع اصلی اعتماد است.

یتی (ChatGPT) شکایت حقوقی ثبت کرد.

پیشآموزش تنها راهحل نیست هوانگ معتقد است که صرفاً پیشآموزش مدلها بر روی حجم عظیم دادهها قبل از تنظیم دقیق برای کارهای خاص، راهحل نهایی نیست. توسعهدهندگان تا کنون نتوانستهاند راهکاری قطعی برای رفع هذیانگویی بیابند.

با این حال، نگاه او به آینده هوش مصنوعی خوشبینانه است؛ او پیشتر اعلام کرده بود که هوش مصنوعی میتواند برخی وظایف را تا هزار برابر بهتر از انسان انجام دهد، اگرچه نمیتواند به طور کامل جایگزین نیروی کار بشری شود.