مسئول سابق ایمنی OpenAI: هوش مصنوعی باید مانند نیروگاه‌های هسته‌ای تحت نظارت باشد

«دیوید رابینسون»، مسئول سابق ایمنی مدل‌های OpenAI، پس از ترک این شرکت از فرهنگ سازمانی آن انتقاد کرد و هشدار داد که توسعه سریع مدل‌های هوش مصنوعی بدون توجه کافی به ایمنی، خطر بروز حوادث جدی را افزایش می‌دهد. او معتقد است شرکت‌های فعال در حوزه هوش مصنوعی باید به‌جای عرضه شتاب‌زده مدل‌های پیشرفته، از الگوهای ایمنی در صنایعی مانند نیروگاه‌های هسته‌ای و هوانوردی پیروی کنند.

رابینسون در مقاله‌ای با عنوان «اوپن‌ای‌آی را ترک کردم چون فرهنگ این شرکت از هم گسیخته است» نوشت شرکت‌های هوش مصنوعی، از جمله اوپن‌ای‌آی، به‌اندازه کافی محتاط نیستند و باید پیش از توسعه سیستم‌های قدرتمندتر، توجه بیشتری به تخصص و پژوهش در حوزه ایمنی داشته باشند.

او با اشاره به سرعت عرضه مدل‌های جدید در OpenAI گفت:

«شرکت هم‌زمان با حرکت شتابان از عرضه‌ای به عرضه دیگر، نمی‌تواند به سطحی از دقت و مراقبت که به باور من ضروری است، دست پیدا کند.»

رابینسون که سه سال‌ونیم در اوپن‌ای‌آی فعالیت کرده بود، در تدوین چارچوب آمادگی این شرکت مشارکت داشت و بر تهیه گزارش‌های ایمنی مربوط به ۱۲ عرضه مدل پیشرفته نظارت می‌کرد. او معتقد است رویکرد فعلی شرکت‌ها در توسعه هوش مصنوعی به تغییرات اساسی نیاز دارد.

هشدار درباره هوش مصنوعی توسط کارمند سابق OpenAI

رابینسون برای توضیح دیدگاه خود، نیروگاه‌های هسته‌ای و فرودگاه‌های پرتردد را مثال زد؛ صنایعی که برای جلوگیری از حوادث، از چندین لایه حفاظتی و برنامه‌ریزی دقیق و زمان‌بر استفاده می‌کنند. به‌گفته او، چنین ساختاری کمک می‌کند خطاهای انسانی اجتناب‌ناپذیر به فاجعه منجر نشوند.

او معتقد است شرکت‌های هوش مصنوعی نیز باید از همین الگو پیروی کنند و به‌جای اتکا به عرضه سریع مدل‌ها و اصلاح مشکلات پس از بروز آن‌ها، لایه‌های حفاظتی بیشتری در فرایند توسعه و انتشار سیستم‌ها در نظر بگیرند.

رابینسون همچنین حوادث ناشی از ناهماهنگی هوش مصنوعی با اهداف انسانی را با فاجعه هسته‌ای مقایسه کرد و هشدار داد که از دست رفتن کنترل بر سیستم‌های هوش مصنوعی می‌تواند پیامدهایی به‌مراتب گسترده‌تر از یک حادثه در نیروگاه هسته‌ای داشته باشد.

او رویکرد اوپن‌ای‌آی در زمینه ایمنی را مبتنی بر توسعه و عرضه تدریجی می‌داند؛ رویکردی که در آن شرکت مدل‌ها را منتشر و در صورت بروز مشکل، تدابیر حفاظتی را تقویت می‌کند. رابینسون معتقد است این روش دیگر برای مدیریت خطرات سیستم‌های پیشرفته کافی نیست و «زمان آزمون‌وخطا به پایان رسیده است».

در واکنش به انتقادهای رابینسون، سخنگوی OpenAI گفت این شرکت اطمینان حاصل می‌کند که مدل‌هایش از توانایی‌هایی فراتر از سطحی که بتوان آن‌ها را به‌صورت ایمن مدیریت و محافظت کرد، برخوردار نشوند. او همچنین تأکید کرد که اوپن‌ای‌آی در صورت نیاز، آموزش مدل‌ها را متوقف می‌کند یا عرضه آن‌ها را به تعویق می‌اندازد تا سرعت توسعه کاهش یابد.