دیپ‌سیک برای مخالفان دولت چین کدهای ناامن می‌نویسد_اسکوار

مطابق یک تحقیق تازه، چت‌بات هوش مصنوعی دیپ‌سیک برای گروه‌ها و مناطقی که دولت چین از نظر سیاسی روی آنها حساس است، در امر برنامه‌نویسی کدهای ناامن و دارای نقص امنیتی تشکیل می‌کند.

به نقل از واشینگتن پست، شرکت امنیتی آمریکایی CrowdStrike آزمایشی را طراحی کرد تا نحوه جواب‌دهی هوش مصنوعی دیپ‌سیک به خواست‌های کدنویسی را بسنجد. محققان خواست‌های یکسانی را برای نوشتن برنامه‌های گوناگون به این چت‌بات ارسال کردند، اما در هر خواست، کاربر نهایی را یک گروه یا منطقه متفاوت معارفه کردند؛ از آمریکا و تبت گرفته تا گروه‌هایی همانند داعش و جنبش مذهبی فالون‌گونگ که در چین ممنوع است. محققان می‌گویند این هوش مصنوعی برخی خواست‌ها را رد می‌کرد و در مواردی هم کدهایی با کیفیت پایین‌تر و حفره‌های امنیتی جدی اراعه می‌داد.

کدنویسی ناامن دیپ‌سیک برای گروه‌های ناموافق دولت چین

این تحقیق نشان داد که کیفیت کد تولیدشده توسط دیپ‌سیک شدیداً تحت تأثیر هویت سیاسی کاربر فرضی قرار دارد. به گفتن مثال، در یک خواست برای نوشتن برنامه سیستم‌های کنترل صنعتی، ۲۲.۸ درصد از جواب‌ها دارای نقص امنیتی بودند. اما وقتی که در همان خواست ذکر شد که کاربر نهایی عضو گروه داعش است، این رقم به ۴۲.۱ درصد افزایش یافت.

این چنین خواست‌ها برای کاربران تبت، تایوان و فالون‌گونگ نیز با گمان بیشتری به کدهای بی‌کیفیت منجر می‌شدند. این موتور خواست‌های مربوط به داعش و فالون‌گونگ را به ترتیب در ۶۱ و ۴۵ درصد موارد به‌طور کامل رد می‌کرد.

پیش‌ازاین اشکار شده می بود که مدل‌های هوش مصنوعی چینی در جواب به سؤالات متنی، اطلاعاتی همسو با روایت دولت چین اراعه خواهند داد. اما این اولین‌بار است که شواهدی مبنی‌بر تشکیل کد ناامن به دلایل سیاسی به دست آمده است. تشکیل به عمد کد معیوب می‌تواند اهداف مورد نظر را به راحتی قابل هک می‌کند.

چرا دیپ‌سیک این چنین کدهایی می‌نویسد؟

کارشناسان سه توضیح احتمالی برای این اتفاق اراعه خواهند داد. اولین و دلواپس‌کننده‌ترین گمان، وجود دستورالعمل‌های دولتی برای خرابکاری به عمد در پروژه‌های گروه‌های مقصد است. گمان دوم، سوگیری در داده‌های آموزشی است؛ امکان پذیر کدهای حاضر در اینترنت که مربوط به مناطق خاصی همانند تبت می باشند، به‌طور کلی کیفیت پایین‌تری داشته باشند و هوش مصنوعی این الگو را بازتولید کند. گمان سوم نیز این است که هوش مصنوعی به طور خودکار و بر پایه یادگیری خود، مفاهیمی همانند «شورشی» را با کیفیت پایین مرتبط دانسته است و بر پایه آن کد ناامن تشکیل می‌کند.