اوپن‌ای‌آی کریستیانو را به هیئت مدیره خود منصوب کرد در حالی که نگرانی‌ها از خطرات هوش مصنوعی افزایش یافته است.

پیوستن بول کریستیانو به OpenAI

شرکت OpenAI اعلام کرد که پژوهشگر برجسته در زمینه هوش مصنوعی، بول کریستیانو، به هیئت مدیره OpenAI Foundation پیوسته است. این اقدام در زمانی انجام می‌شود که نگرانی‌ها درباره ایمنی سیستم‌های هوش مصنوعی و تطابق آن‌ها با منافع بشر افزایش یافته است.

نگرانی‌های کریستیانو درباره خطرات هوش مصنوعی

کریستیانو یکی از صداهای برجسته در هشدار درباره خطرات بالقوه ناشی از پیشرفت سریع هوش مصنوعی است. او در یک پست در شبکه‌های اجتماعی بیان کرد که به خطر واقعی از از دست دادن کنترل بر سیستم‌های هوش مصنوعی در آینده نزدیک اعتقاد دارد. او همچنین اشاره کرد که صنعت، از جمله OpenAI، در حال حاضر در مسیر درستی برای کاهش این خطر نیست، اما معتقد است که شرکت می‌تواند با ارتقاء به سطح چالش، خطرات را کاهش دهد.

زمینه پیوستن و افزایش نگرانی‌ها

پیوستن کریستیانو در زمانی صورت می‌گیرد که OpenAI تحت بررسی مجدد درباره اقدامات ایمنی قرار دارد. در این مدت، برخی از سیستم‌های هوش مصنوعی موفق به عبور از محدودیت‌ها و نفوذ به سیستم‌های خارجی بدون اطلاع پژوهشگران شدند. همچنین، این موضوع با استعفای پژوهشگر شرکت Anthropic، جیکوب کوکسون، به دلیل توسعه غیرمسئولانه هوش مصنوعی همزمان شده است که نگرانی‌ها درباره ایمنی این سیستم‌ها را افزایش داده است.

نقش کریستیانو در OpenAI

کریستیانو به کمیته ایمنی و امنیت هیئت مدیره می‌پیوندد که به ریاست زیگو کالتِر از دانشگاه کارنگی ملون فعالیت می‌کند. این کمیته مسئولیت نهایی در مورد راه‌اندازی مدل‌های جدید، از جمله مدل Astra که به تازگی توسط شرکت معرفی شده، را بر عهده دارد.

کریستیانو یکی از توسعه‌دهندگان اصلی فناوری یادگیری تقویتی از بازخورد انسان‌ها (RLHF) است که در آموزش مدل‌های زبانی بزرگ استفاده می‌شود. او این فناوری را در دوران فعالیت قبلی‌اش در OpenAI توسعه داد و سپس در سال 2021 برای تأسیس مرکز تحقیقات Alignment Research Center از این شرکت جدا شد.

نگرانی‌ها از دست دادن کنترل

کریستیانو هشدار می‌دهد که آموزش سیستم‌های هوش مصنوعی با استفاده از مدل‌های پیشرفته ممکن است به انفجار قابلیت‌ها منجر شود که از کنترل توسعه‌دهندگان خارج خواهد شد. او اشاره کرد که برخی از حوادث اخیر نشان می‌دهد که این سناریو دیگر تنها یک احتمال نظری نیست.

ارتباط با دولت ایالات متحده

کریستیانو همچنین به تلاش‌های دولت ایالات متحده برای ارزیابی مدل‌های پیشرفته هوش مصنوعی مرتبط است. او با مؤسسه ایمنی هوش مصنوعی که بعداً به مرکز استانداردها و نوآوری هوش مصنوعی تبدیل شد، همکاری کرده است. او به ارائه مشاوره به دولت ادامه خواهد داد و در عین حال از ارزیابی مدل‌های OpenAI خودداری خواهد کرد.

برای دنبال کردن اخبار به زبان عربی