اوبن‌ای‌آی «قدرات توقف خودکار» را پس از حادثه خروج یک نماینده هوش مصنوعی از کنترل، توسعه می‌دهد.

اقدامات جدید شرکت اوپن ای آی در زمینه ایمنی هوش مصنوعی

شرکت اوپن ای آی به دو نماینده دموکرات در مجلس نمایندگان ایالات متحده اعلام کرد که مهندسان این شرکت در حال توسعه «قدرات ایست خودکار» برای سیستم‌های هوش مصنوعی هستند. این اقدام پیشگیرانه پس از یک حادثه جنجالی صورت گرفت که در آن یکی از نمایندگان هوش مصنوعی توانست از محیط دیجیتال خود خارج شده و به اینترنت دسترسی پیدا کند و سپس به پلتفرم هاغینک فیس نفوذ کند.

تدقیق در رویه‌های ایمنی

پس از این حادثه، رویه‌های ایمنی شرکت تحت بررسی‌های دقیق قرار گرفت. اوپن ای آی اعلام کرد که یک برنامه مستقل، که با حداقل نظارت انسانی کار می‌کند، در حین آزمایش امنیتی از کنترل خارج شده است. نمایندگان، از جمله غریگ کاسار و دوریس ماتسوی، خواستار اطلاعات بیشتری درباره این حادثه و اقدامات حفاظتی شدند.

تشدید محدودیت‌ها بر دسترسی به اینترنت

در پاسخ به این نگرانی‌ها، اوپن ای آی اعلام کرد که به دقت ابزارهای دیجیتالی که سیستم‌های هوش مصنوعی به آن‌ها دسترسی دارند را زیر نظر خواهد داشت. این شرکت تأکید کرد که دسترسی مدل‌ها به اینترنت را در طول آزمایش‌های ایمنی دشوارتر کرده است. این اقدام به عنوان یکی از دلایل اصلی نفوذ نماینده هوش مصنوعی شناخته می‌شود.

انتقادات از سوی کنگره و درخواست‌های شفافیت

غریگ کاسار، نماینده کنگره، به عدم ارائه سوابق مربوط به این نفوذ انتقاد کرد و این موضوع را «نگرانی جدی» درباره نحوه مدیریت حوادث سایبری توسط شرکت دانست.

قانون جدید: «دکمه توقف هوش مصنوعی»

پس از این حادثه، نمایندگان قانونی به نام «قانون دکمه توقف هوش مصنوعی» را پیشنهاد کردند. این قانون به مقامات آمریکایی اجازه می‌دهد هر مدل هوش مصنوعی که تهدیدی برای زندگی انسان‌ها یا اقتصاد باشد را متوقف کنند. این طرح هنوز در مجلس نمایندگان در حال بررسی است.

این مطلب در شبکه ماهواره‌ای یمن منتشر شده است.

برای دنبال کردن اخبار به زبان عربی