مایکروسافت کوششهایش در عرصه هوش مصنوعی مسئول را شرح می‌دهد_اسکوار

مایکروسافت با انتشار کردن یک گزارش تازه، به توضیح اقداماتی پرداخته که طی سال قبل برای انتشار کردن مسئولانه پلتفرم‌های هوش مصنوعی خود انجام داده است.

مایکرو‌سافت در گزارش شفافیت هو‌ش مصنو‌عی مسئولانه خود، که عمدتاً سال ۲۰۲۳ را پوشش می‌دهد، دستاوردهایش در عرصه استقرار ایمن محصولات هو‌ش مصنو‌عی را شرح می‌دهد. انتشار کردن این گزارش سالانه یکی از تعهداتی است که ردموندی‌ها بعد از امضای توافقنامه داوطلبانه‌ای با کاخ سفید در جولای سال قبل انجام می‌دهد. مایکروسافت و دیگر شرکت‌ها طی این توافقنامه، متعهد شده‌اند که سیستم‌های هوش مصنوعی خود را به‌صورت مسئولانه تشکیل کنند و به ایمنی آن‌ها نیز متعهد شده‌اند.

کوششهای مایکروسافت در عرصه گسترش هوش مصنوعی مسئولانه

غول نرم‌افزار به‌طور کلی در گزارش خود می‌گوید که سال قبل ۳۰ ابزار هوش مصنوعی مسئولانه تشکیل کرده، تیم هوش مصنوعی مسئولانه خود را رشد داده است و تیم‌هایی را مسئول کرده تا خطرات برنامه‌های کاربردی هوش مصنوعی را در طول دوره گسترش آن‌ها اندازه‌گیری کنند.

مایکروسافت این چنین اشاره می‌کند که در پلتفرم‌های تشکیل عکس خود از سیستم Content Credentials منفعت گرفته است، که با قراردادن یک واترمارک روی عکس، ساخت آن توسط هوش مصنوعی را اشکار می‌کند.

علاوه بر این، در گزارش مایکرو‌سافت حرف های شده که این شرکت به مشتریان هوش مصنوعی Azure خود ابزارهایی را اراعه کرده تا بتوانند محتوای مشکل‌ساز همانند محتوای جنسی و صدمه‌رسان را تشخیص دهند. این چنین ابزارهایی برای برسی خطرات امنیتی در دسترسی آن‌ها قرار حرف های است.

گسترش کوششهای خود برای «تیم قرمز» دیگر پیشرفت اشاره‌شده توسط مایکر‌وسافت است که برنامه‌های آن شامل راه اندازی یک تیم داخلی برای کشف نقص‌های ایمنی مدل‌های هوش مصنوعی و این چنین تست قابلیت‌های مدل‌های تازه پیش از اراعه آن‌ها می‌بشود.

«ناتاشا کرامپتون»، مدیر قسمت هوش مصنوعی مسئولانه مایکروسافت، با ارسال ایمیلی به The Verge توضیح می‌دهد که این شرکت می‌داند هوش‌مصنوعی تا این مدت در حال پیشرفت است و این نوشته برای هو‌ش مصنو‌عی مسئول نیز صادق است. او می‌گوید:

«هوش مصنوعی مسئول هیچ خط پایانی ندارد، به این علت ما هیچ زمان کار خود را تحت تعهدات هوش مصنوعی داوطلبانه آخر‌یافته نمی‌دانیم. ما از زمان امضای این قرارداد پیشرفت بسیاری کرده‌ایم و مشتاقانه منتظریم تا امسال شتاب خود را ادامه دهیم.»