نارسایی شفافیت در هوش مصنوعی دلایل عدم درک OpenAI از منطق مدلهای زبان بزرگ, شرکت OpenAI با سرمایهگذاری دهها میلیارد دلاری در پیشبرد فناوریهای هوش مصنوعی که در حال دگرگونی جهان هستند، نقش مهمی ایفا میکند. با این حال، یک چالش بنیادین همچنان بر سر راه این غول تکنولوژیک قرار دارد عدم درک کامل نحوه کارکرد درونی تکنولوژیهای توسعهیافته توسط خود آنها.
در طول اجلاس جهانی AI که هفته گذشته توسط اتحادیه بینالمللی مخابرات در ژنو برگزار گردید، سمآلتمن، مدیرعامل این شرکت، در پاسخ به پرسشی درباره مکانیزم واقعی عملکرد مدلهای زبان بزرگ (LLM)، نتوانست توضیح قانعکنندهای ارائه دهد. وی به صراحت اعتراف کرد ما قطعاً مسأله تفسیرپذیری را حل نکردهایم و پذیرفت که ردیابی روند تصمیمگیری مدلها برای تولید خروجیها — چه صحیح و چه نادرست — همچنان گرهی باز مانده است.
چالش پژوهشگران در باز کردن جعبه سیاه هوش مصنوعی وقتی نیکولاس تامپسون، مدیرعامل، از آلتمن پرسید که آیا این ناآگاهی نمیتواند دلیلی برای توقف انتشار مدلهای جدید و قدرتمندتر باشد، پاسخ او بیتصمیم و کلان بود مدلها به طور کلی امن و قوی تلقی میشوند.
پاسخ میدهند. با وجود تلاشهای فراوان، پیوند زدن خروجی نهایی به دادههای آموزشی مخصوص و ترسیم مسیر تصمیمگیری می، دشواریهای زیادی داشته است.
OpenAI همچنین مجموعه دادههای مورد استفاده برای آموزش مدلهای خود را به شدت محرمانه نگه داشته که این امر، راهکارهای بازرسی و حسابرسی را بیشتر پیچیده میسازد.
آخرین مطالب
- اهمالکاری در نوجوانان: علائم، عوامل، پیامدها و راهکارهای درمان موثر
- مبارزه با ساس تختی: راهنمای جامع شناسایی، ریشهکن کردن و پیشگیری
- لکه زرد روی چشم: علائم، علل و روشهای درمانی از پینگوکولا تا گزانتلاسما
- مقایسه ژل رویال و عسل: تفاوتها، مزایا و بهترین گزینه برای تقویت بدن
- راهنمای جامع درمان آفت دهان: ۱۱ روش خانگی و پزشکی برای تسکین سریع درد
گزارش کارشناسی بریتانیا دانش ما در مورد سیستمهای AI بسیار محدود است یک تیم متشکل از ۷۵ متخصص در گزارشی که به سفارش دولت بریتانیا تدوین شده، به نتیجهای کلیدی رسیدهاند توسعهدهندگان هوش مصنوعی دانایی کمی در باره نحوه عملکرد سیستمهای خود دارند و دانش علمی موجود در این حوزه بسیار ابتدایی و ناقص است.
این متن تأکید میکند که اگرچه تکنیکهای تفسیرپذیری و توضیح مدل میتوانند درک ما را عمیقتر سازند، اما این حوزه تحقیقاتی همچنان در مراحل اولیه خود بسر میبرد. در موازی، شرکتهای رقیب نیز در پی یافتن راهکارهایی برای باز کردن جعبه سیاه هستند.
