OpenAI کاربران را به دلیل بررسی منطق استدلالی مدل تهدید به مسدود کردن کرد

OpenAI کاربران را به دلیل بررسی منطق استدلالی مدل تهدید به مسدود کردن کرد, شرکت OpenAI با ارسال هشدارهای رسمی، کاربران پلتفرم ChatGPT را از انجام هرگونه تلاش برای کشف نحوه عملکرد منطق استدلالی مدل جدید (مشهور به نام کد ) منع کرده است.

بر اساس گزارش نشریه، این مدل پیشرفته که هفته گذشته به صورت عمومی عرضه شده، قابلیت استدلال چندمرحلهای دارد؛ اما سازنده آن مایل نیست جزئیات مکانیزم فکری این سیستم فاش شود.\محدودیتهای جدید برای کاربران ChatGPT\\\\در ایمیلهای ارسالی به کاربران، OpenAI صراحتاً اعلام کرده که درخواست از چتبات برای توضیح مراحل استدلال یا تلاش برای دور زدن فیلترهای امنیتی، نقض شرایط استفاده محسوب میشود.

این سیاست سختگیرانه بلافاصله پس از انتشار عمومی مدل اعمال گردید.\چرا منطق استدلال مدل حساسیت دارد؟\ویژگی متمایزکننده خانواده مدلهای، قابلیت زنجیره تفکر است که به هوش مصنوعی اجازه میدهد مسیر رسیدن به جواب را به صورت گامبهگام و شفاف برای کاربر تشریح کند. میرا موراتی، مدیر ارشد فناوری OpenAI، این پیشرفت را یک پارادایم تازه در فناوری هوش مصنوعی خوانده بود.

با این حال، کاربران گزارش دادهاند که حتی استفاده از کلمات کلیدی مانند ردیابی استدلال یا صرفاً استدلال در پرامپتها، عامل فعالسازی سیستم هشدار و مسدودسازی شده است.\توضیح رسمی OpenAI در مورد پنهانسازی فرآیند تفکر\در پاسخ به انتقادات، OpenAI در یک پست وبلاگی رسمی دلایل خود را تشریح کرد.

منی تضاد داشته باشد، نیازی نیست کاربران بتوانند نحوه شکلگیری آن افکار نادرست را ردیابی و تحلیل کنند.

این رویکرد نشاندهنده ترجیح دادن امنیت سیستم بر شفافیت کامل در معماری مدلهای استدلالی جدید است.