گزارش شفافیت جدید مایکروسافت پیشرفتهای یک ساله در توسعه هوش مصنوعی مسئولانه, مایکروسافت با انتشار گزارش شفافیت هوش مصنوعی مسئولانه، اقدامات گستردهای را که در سال ۲۰۲۳ برای تضمین ایمنی و اخلاقیات در پلتفرمهای هوشمند خود انجام داده، مستند کرده است. این گزارش در پی تعهدات داوطلبانهای است که شرکت ردموندی در ژولای سال گذشته در کنار دیگر غولهای تکنولوژی با کاخ سفید امضاء کرده بود.
اساس این سند، مایکروسافت طی یک سال گذشته توانسته است ۳۰ ابزار هوش مصنوعی مسئولانه را توسعه دهد و راهاندازی کند.
علاوه بر این، تیم اختصاصی هوش مصنوعی مسئولانه به شدت گسترش یافته و گروههای تخصصی جدیدی تشکیل شدهاند که وظیفه ارزیابی و اندازهگیری خطرات احتمالی در طول چرخه حیات توسعه اپلیکیشنهای هوش مصنوعی را بر عهده دارند. از دیگر اقدامات برجسته، بهرهگیری از سیستم در پلتفرمهای تولید تصویر است.
ر مایکروسافت همچنین بر گسترش برنامههای تیم قرمز تأکید کرده است.
یک تیم داخلی تخصصی به منظور کشف ضعفهای امنیتی در مدلهای هوش مصنوعی شکل گرفته که قابلیتهای مدلهای جدید را به چالش میکشد و قبل از انتشار عمومی، حفرههای امنیتی را شناسایی و رفع میکند. در بستر ابری آژور، مایکروسافت ابزارهای جدیدی را در اختیار مشتریان قرار داده تا بتوانند محتوای مخرب، غیراخلاقی یا صدمهزا — از جمله محتوای جنسی صریح — را به طور خودکار شناسایی و فیلتر کنند.
این ابزارها به سازمانها کمک میکنند تا ریسکهای امنیتی ناشی از مدلهای AI را در محیطهای عملیاتی مدیریت کنند.
مسئولیت پذیری، تعهدی بیپایان ناتاشا کرامپتون، مدیر بخش هوش مصنوعی مسئولانه مایکروسافت، در مصاحبهای با به وضوح اعلام کرد هوش مصنوعی مسئول خط پایانی ندارد. وی تاکید کرد که اگرچه شرکت از زمان امضاء توافقنامه پیشرفت چشمگیری داشته، اما این مسیر ادامه دارد و مایکروسافت عازم است شتاب تلاشهای خود را در سال جاری نیز حفظ کند.
