آنتروپیک و اوپنایآی مدلهای هوش مصنوعی را با مؤسسه امنیت آمریکا به اشتراک میگذارند

دو شرکت بزرگ فعال در حوزه هوش مصنوعی، آنتروپیک و اوپنایآی، با مؤسسه امنیت هوش مصنوعی ایالات متحده به توافقنامهای دست یافتهاند که بر اساس آن مدلهای هوش مصنوعی خود را برای ارزیابیهای امنیتی در اختیار این نهاد دولتی قرار میدهند.

مؤسسه امنیت هوش مصنوعی آمریکا، زیرمجموعه مؤسسه ملی استانداردها و فناوری (NIST) است که در سال ۲۰۲۳ با دستور مستقیم رئیسجمهور جو بایدن تأسیس شده و وظیفه تست و بررسی پتانسیل آسیبپذیری ابزارهای مبتنی بر هوش مصنوعی را بر عهده دارد. نایب رئیس کامالا هریس نیز پیش از این بر نقش این نهاد در مقابله با تهدیدات سایبری و سوءاستفاده از تکنولوژی هوش مصنوعی تأکید کرده بود.

سام آلتمن، مدیرعامل اوپنایآی، پیش از این به مذاکرات با دولت آمریکا برای اشتراکگذاری دادهها اشاره کرده بود و اکنون به نظر میرسد این توافق به مرحله اجرا در آمده است. شرکت آنتروپیک نیز در همین راستا با رقیب خود همقدم شده تا با همکاری مؤسسه امنیت، به بهبود سرویسهای خود بپردازد. هر دو شرکت مدلهای خود را برای بررسیهای لازم پیش از انتشار عمومی در اختیار دولت قرار خواهند داد.

الیزابت کلی، رئیس مؤسسه امنیت هوش مصنوعی آمریکا، در بیانیهای اخیر بر اهمیت امنیت در نوآوریهای فناوری تأکید کرد و همکاری با آنتروپیک و اوپنایآی را گامی در جهت پیشرفت علم هوش مصنوعی توصیف نمود. این توافق بیشتر شبیه یک یادداشت تفاهم است و تضمین حقوقی خاصی برای طرفین ندارد، اما به دولت امکان میدهد به مدلهای حیاتی هر دو شرکت پیش از عرضه عمومی دسترسی سریع داشته باشد. مؤسسه امنیت هوش مصنوعی بریتانیا نیز در این همکاری شریک خواهد بود و دادههای مهم با همتای اروپایی به اشتراک گذاشته میشود.

ایمنی و امنیت سرویسهای هوش مصنوعی به یکی از اولویتهای اصلی نهادهای نظارتی تبدیل شده و قوانین جدیدی به طور مداوم در این حوزه تصویب میشود. ایالت کالیفرنیا اخیرا قانونی را تدوین کرده که الزام استانداردهای امنیتی برای سرویسهای هوش مصنوعی با هزینه محاسبهای بیش از ۱۰۰ میلیون دلار را اجباری میسازد. این قانون همچنین از سازندگان میخواهد کلید قطع اضطراری را در محصولات خود تعبیه کنند تا در صورت لزوم دسترسی به آنها به صورت آنی متوقف شود. دادستان کالیفرنیا شرکتهای متخلف را با پیگرد قضایی تهدید کرده است.