رئیس “انترواپیک” طرحی سه مرحلهای برای کند کردن توسعه هوش مصنوعی ارائه داد.
- داريو أمودي طرحی سه مرحلهای برای کند کردن توسعه هوش مصنوعی ارائه داد.
- این طرح به دلیل نگرانیها از اختراقات امنیتی و تسریع تواناییهای هوش مصنوعی مطرح شده است.
- مرحله اول شامل ناظران مستقل برای نظارت بر توسعه و ایمنی است.
- أمودي خواستار همکاری جهانی برای تعیین استانداردهای ایمنی و محدودیتهاست.
طرح جدید داریو أمودی برای کنترل توسعه هوش مصنوعی
داریو أمودی، رئیس اجرایی شرکت «أنثروبیک»، طرح جدیدی از سه مرحله ارائه داد که هدف آن کند کردن پیشرفت در تواناییهای هوش مصنوعی پیشرفته است. این طرح در شرایطی مطرح میشود که هشدارها درباره خطرات بالقوه این فناوری افزایش یافته است. أمودی تأکید کرد که هدف، کند کردن رقابت است نه متوقف کردن توسعه.
این ابتکار در زمانی ارائه میشود که نگرانیها درباره توانایی شرکتها در کنترل مدلهای پیشرفته افزایش یافته است. به ویژه، با تسریع تواناییهای این فناوری در انجام وظایف پیچیده و کمک به توسعه نسلهای جدید سیستمهای هوش مصنوعی، این نگرانیها بیشتر شده است.
اختراقات امنیتی و تسریع غیرقابل تصور
أمودی دو عامل اصلی را به عنوان دلایل اتخاذ رویکرد محتاطانه خود معرفی کرد:
- اختراقات امنیتی که به منصاتهایی مانند OpenAI و Hugging Face آسیب رسانده است.
- تسریع فوقالعاده در تواناییهای هوش مصنوعی در ماههای اخیر، به ویژه در زمینه کمک به ساخت نسل بعدی سیستمها.
دعوت أمودی با حمایت شخصیتهای برجستهای مانند سام آلتمان، رئیس اجرایی OpenAI، مواجه شد. آلتمان نیز اعلام کرد که از این اقدام حمایت میکند. همچنین، ایلون ماسک در این زمینه گفت: “داریو محق است.”
مرحله اول: ناظران مستقل درون شرکتها
این طرح پیشنهاد میدهد که مؤسسات خارجی متخصص مانند METR، ارزیابان مستقلی را به شرکتهای هوش مصنوعی بفرستند تا:
- از پایبندی به کند کردن توسعه اطمینان حاصل کنند.
- اقدامات ایمنی را نظارت کنند.
- هرگونه حادثه مرتبط با مدلهای پیشرفته را گزارش دهند.
این مکانیزم مشابه نظارت داخلی در مؤسسات بانکی است، جایی که ناظران به دفاتر و کارتهای شناسایی و دسترسی وسیع به اطلاعات دسترسی دارند.
مرحله دوم: استانداردهای مشترک ایمنی
أمودی از شرکتهای هوش مصنوعی در کشورهای دموکراتیک خواسته است که برای تعیین استانداردهای ایمنی مشترک و تعیین محدودیتهایی برای سرعت توسعه غیرقابل کنترل، همکاری کنند.
او پیشنهاد میکند که دولت ایالات متحده نقش میانجی را ایفا کند و به شرکتها معافیتهای قانونی محدودی بدهد تا از بروز مشکلات قانونی در بحثها جلوگیری شود.
چین؛ دلیل قوی برای عدم کندی
أمودی اعتراف کرد که نگرانیها از برتری چین به عنوان دلیلی برای مخالفت با کند کردن توسعه استفاده میشود. اما او معتقد است که ایالات متحده میتواند اقداماتی انجام دهد که توانایی چین را در رقابت محدود کند، مانند:
- ممانعت از دسترسی به تراشههای پیشرفته و تجهیزات تولید نیمههادیها.
- تشدید محدودیتها بر استخراج تواناییهای مدلهای پیشرفته.
او بر این باور است که این اقدامات میتواند فاصله را به نفع ایالات متحده در طول ۳ تا ۵ سال گسترش دهد.
مرحله سوم: هماهنگی جهانی شامل چین
این طرح پیشنهاد میدهد که به هماهنگی بینالمللی محدود دست یابند و در زمینههای خاصی با چین همکاری کنند، مانند:
- ممنوعیت استفاده از هوش مصنوعی در تولید سلاحهای بیولوژیکی یا توانمندسازی کاربران در این زمینه.
واکنشها و انتقادات
أمودی با انتقادات برخی از خوشبینان فناوری مواجه شد که او را به بزرگنمایی سناریوهای فاجعهبار متهم کردند. در عین حال، برخی دیگر معتقدند که برخی از پیشنهادات ممکن است به نفع شرکتهای بزرگ مانند «أنثروبیک» و OpenAI باشد.
اما أمودی تأکید کرد که هدف او بازگرداندن اعتماد به فناوری است و کند کردن رقابت به شرکتها و دولتها زمان میدهد تا خطرات را درک کنند و قواعد ایمنی مؤثری وضع کنند.
خلاصه
این طرح به توقف توسعه هوش مصنوعی نمیپردازد، بلکه به کند کردن موقتی و مدروسی اشاره دارد که به جهان فرصتی برای تأمین این فناوری پیش از آنکه از کنترل انسانها خارج شود، میدهد.
برای دنبال کردن اخبار به زبان عربی
