درخواست ۴۰۰ پژوهشگر برای تشکیل نهاد بین‌المللی نظارت بر ایمنی هوش مصنوعی
حدود ۴۰۰ پژوهشگر، از جمله جفری هینتون و یوشوا بنجیو، خواستار تشکیل نهادی بین‌المللی برای تدوین استانداردهای مهار و نظارت بر خطرات سایبری هوش مصنوعی شدند.
حدود ۴۰۰ پژوهشگر از ۳۴ کشور جهان، از جمله جفری هینتون و یوشوا بنجیو، از پیشگامان هوش مصنوعی، خواستار تشکیل نهادی بین‌المللی برای نظارت بر استانداردهای مهار سامانه‌های پیشرفته هوش مصنوعی و گزارش‌دهی حوادث مرتبط با قابلیت‌های سایبری این سامانه‌ها شدند.
به گزارش رویترز، این پژوهشگران در نامه‌ای سرگشاده پیشنهاد کرده‌اند نهاد موردنظر استانداردهای مشترکی برای مهار سامانه‌های هوش مصنوعی در سطح صنعت تدوین کند و مخزنی از رویدادهای مهم سایبری مرتبط با این فناوری‌ها را در اختیار داشته باشد؛ مخزنی که اطلاعات آن به‌تدریج در دسترس عموم قرار گیرد.
امضاکنندگان نامه تأکید کرده‌اند که مدل‌های پیشرفته هوش مصنوعی باید در مراحل اولیه، به‌صورت ایزوله از شبکه‌های خارجی مستقر شوند و تحت نظارت مستقل قرار گیرند. به باور آنان، تعهدات داوطلبانه شرکت‌های فعال در این حوزه برای مدیریت خطرات احتمالی کافی نیست و باید سازوکارهای نظارتی مؤثرتری ایجاد شود.
این پیشنهاد حدود یک ماه پس از آن مطرح شده است که شرکت‌های آنتروپیک، اوپن‌ای‌آی، گوگل، ایکس‌ای‌آی و انویدیا توافق‌نامه‌ای در کاخ سفید امضا کردند و متعهد شدند اقداماتی داوطلبانه برای ارتقای ایمنی هوش مصنوعی اجرا کنند؛ توافقی که فاقد سازوکار رسمی برای الزام شرکت‌ها به اجرای تعهدات است.
به گفته پژوهشگران، مجموعه‌ای از رویدادهای اخیر، ضعف‌هایی را در روش‌های آزمایش و مهار سامانه‌های هوش مصنوعی آشکار کرده است. در برخی موارد، مدل‌ها توانسته‌اند از محیط‌های آزمایشی تعیین‌شده فراتر بروند و سامانه‌های خارجی را در معرض خطر قرار دهند. این رخدادها نگرانی‌ها درباره کفایت روش‌های فعلی ارزیابی و کنترل مدل‌های پیشرفته را افزایش داده است.
امضاکنندگان از نهادهایی که مدل‌های دارای قابلیت‌های سایبری را توسعه می‌دهند یا آزمایش می‌کنند، خواسته‌اند هرچه سریع‌تر استانداردهای مهار با سطح اطمینان بالا را به کار گیرند. آنان همچنین از دولت‌ها خواسته‌اند برای ایجاد یک چارچوب نظارتی رسمی‌تر اقدام کنند تا مدیریت خطرات این فناوری صرفاً به تصمیم‌ها و تعهدات داوطلبانه شرکت‌ها وابسته نباشد.
در همین حال، بحث درباره نحوه نظارت بر مدل‌های هوش مصنوعی در میان سیاست‌گذاران ادامه دارد. بنا بر گزارش رویترز، هانا ویرکونن، مدیر فناوری اتحادیه اروپا، معتقد است قانون هوش مصنوعی اتحادیه اروپا (AI Act) برای مقابله با خطرات ناشی از سامانه‌های هوش مصنوعی پرخطر کفایت می‌کند؛ دیدگاهی که در کنار درخواست پژوهشگران برای ایجاد نظارت بین‌المللی، اختلاف‌نظرها درباره شکل و میزان مقررات‌گذاری این فناوری را نشان می‌دهد.
از سوی دیگر، دولت آمریکا در روزهای گذشته محدودیت‌های اعمال‌شده بر مؤسسه ایمنی هوش مصنوعی بریتانیا برای دسترسی به آزمایشگاه‌های هوش مصنوعی آمریکا با هدف آزمایش ایمنی مدل‌ها را لغو کرده است؛ اقدامی که می‌تواند بر همکاری‌های بین‌المللی در زمینه ارزیابی و ایمنی هوش مصنوعی تأثیر بگذارد.
