OpenAI سه پژوهشگر ایمنی خود را به‌دلیل نقض سیاست‌های محرمانگی اخراج کرد

کمپانی OpenAI سه نفر از کارمندان خود را به اتهام به اشتراک‌گذاری اطلاعات این شرکت با یک گروه خارجی فعال در زمینه ایمنی هوش مصنوعی اخراج کرد. 

OpenAI در ماه‌های اخیر برای کنترل محصولات و ساخته‌های خودش با مشکلاتی مواجه بوده است. اما براساس گزارش جدید وال‌استریت ژورنال، OpenAI به‌تازگی سه نفر از کارکنان تیم ایمنی خود را پس از آنکه ظاهراً اطلاعات محرمانه را با یک سازمان شخص ثالث فعال در حوزه ایمنی هوش مصنوعی به اشتراک گذاشته‌اند، اخراج کرده است.

مدل‌های OpenAI در ماه‌های اخیر به چندین پلتفرم دولتی و خصوصی حمله کرده‌اند

یکی از سخنگویان OpenAI در بیانیه‌ای که توسط وال‌استریت ژورنال منتشر شده، گفت:

«ما همکاری خود را با سه نفر به‌دلیل نقض سیاست‌هایمان در زمینه دسترسی به اطلاعات حساس شرکت و نحوه مدیریت آنها قطع کردیم. تحقیقات ما تأیید کرد که این افراد اطلاعات حساس را خارج از رویه‌های تعیین‌شده شرکت به شکل نادرستی مدیریت کرده‌اند؛ اقدامی که هم سیاست‌های ما را نقض کرده و هم اعتماد ضروری برای انجام کارمان را از بین برده است.»

جزئیات این مورد خاص هنوز بسیار محدود است و ممکن است OpenAI دلایل موجهی برای اخراج این افراد داشته باشد. بااین‌حال، در شرایطی که برخی از سرویس‌های خود این شرکت نیز درحال نقض سیاست‌هایی هستند که قرار است از آن‌ها پیروی کنند، اخراج نیروهای بخش ایمنی از نظر وجهه عمومی تصمیم بسیار نامناسبی به نظر می‌رسد.

این شرکت طی چند ماه گذشته تأیید کرد که مدل‌های هوش مصنوعی آن بدون دریافت دستور مستقیم، اقداماتی مانند هک یک انجمن برنامه‌نویسی آلمانی، چندین وب‌سایت دولتی آمریکا، یک وب‌سایت دولتی استرالیا، شرکت هوش مصنوعی Hugging Face و حداقل چهار سرویس دیگر را انجام داده‌اند. همچنین گفته می‌شود حتی زمانی که این مدل‌ها دسترسی آزاد به اینترنت نداشته‌اند نیز در محیط‌های آزمایشی رفتارهای پرریسک دیگری از خود نشان داده‌اند.

نگرانی‌ها در مورد ایمنی هوش مصنوعی پس از آن بیشتر در معرض توجه قرار گرفته که برخی از محققان و مدیران صنعت خواستار کاهش سرعت توسعه این فناوری شدند. شرکت OpenAI نیز از آنکه مدل‌هایش با فرار از محیط آزمایشگاهی چندین پلتفرم را هک کردند، تحت نظارت شدید قرار گرفته است.