مایکروسافت از اعطای اختیارات وسیع به نمایندگان هوش مصنوعی بدون نظارت مستقل هشدار داد.

هشدار مایکروسافت به شرکت‌ها در مورد استفاده از مدل‌های هوش مصنوعی

شرکت مایکروسافت به شرکت‌ها و مؤسسات هشدار داد که از اتکای بیش از حد به مدل‌های پیشرفته هوش مصنوعی برای نظارت بر خود خودداری کنند. این شرکت تأکید کرد که اعطای اختیارات وسیع به عوامل هوشمند برای دسترسی به پایگاه‌های داده و سیستم‌های داخلی می‌تواند خطرات امنیتی بزرگی ایجاد کند، حتی در صورت عدم وجود نیت مخرب.

خطرات ناشی از سیستم‌های هوش مصنوعی

مایکروسافت توضیح داد که ماهیت غیرقابل پیش‌بینی برخی از سیستم‌های هوش مصنوعی ممکن است منجر به خطاهای جدی شود، زمانی که این سیستم‌ها به طور مستقل وظایف را انجام می‌دهند و به داده‌های حساس دسترسی پیدا می‌کنند. این موضوع نیاز به وجود سیستم‌های نظارتی و امنیتی جداگانه را برای نظارت بر رفتار این سیستم‌ها ضروری می‌سازد.

فصل بین هوش مصنوعی و امنیت

ندیم عبدو، معاون رئیس مایکروسافت، بر لزوم تفکیک بین قابلیت‌های هوش مصنوعی و سیستم‌های امنیتی که مسئول کنترل آن‌ها هستند، تأکید کرد. او اشاره کرد که شرکت‌ها نباید تنها به توسعه‌دهنده مدل برای نظارت بر رعایت قوانین امنیتی اعتماد کنند.

توسعه ابزارهای نظارتی جدید

در این راستا، مایکروسافت در حال توسعه ابزارهای نظارتی جدید در چارچوب پروژه “Project Perception” است. این ابزارها شامل “عوامل نگهبان” (Guardian Agents) می‌شوند که سیستم‌هایی برای نظارت بر عملکرد عوامل هوش مصنوعی و شناسایی هرگونه رفتار غیرعادی هستند. این سیستم‌ها قادر به مداخله قبل از وقوع آسیب‌های احتمالی خواهند بود.

اعطای اختیارات دسترسی دینامیک

سیستم امنیتی جدید به عوامل هوشمند این امکان را می‌دهد که حداقل اختیارات لازم برای انجام وظیفه محوله را دریافت کنند و پس از اتمام وظیفه، این اختیارات کاهش یا کاملاً لغو شوند.

اقدامات پیشنهادی برای کنترل دسترسی

اقدامات پیشنهادی شامل مکانیزم‌هایی برای جداسازی عوامل هوشمند یا محدود کردن دسترسی آن‌ها به داده‌ها و سیستم‌ها می‌شود. همچنین، در برخی موارد، نیاز به تأیید انسانی برای ادامه برخی وظایف وجود خواهد داشت و در صورت لزوم، امکان توقف کامل آن‌ها فراهم خواهد شد.

همکاری با شرکت‌های فناوری دیگر

مایکروسافت اعلام کرد که این تلاش‌ها در همکاری با شرکت‌های فناوری دیگر، از جمله انویدیا، انجام می‌شود. این همکاری‌ها بخشی از ابتکاراتی است که هدف آن‌ها تقویت ایمنی عوامل هوش مصنوعی و اطمینان از کنترل آن‌ها با گسترش استفاده از این فناوری‌ها در مدیریت وظایف و سیستم‌های حساس است.

لزوم نظارت مستقل بر هوش مصنوعی

شرکت مایکروسافت تأکید کرد که کارایی مدل‌های هوش مصنوعی به تنهایی کافی نیست و مرحله بعدی نیاز به نظارت مستقل، اختیارات محدود و مکانیزم‌های مداخله مؤثر برای تضمین استفاده ایمن از این فناوری‌های پیشرفته دارد.

برای دنبال کردن اخبار به زبان عربی