هشدار مدیر سابق گوگل: هوش مصنوعی می‌تواند تهدیدی جدی‌تر از شبکه‌های اجتماعی برای کودکان باشد

تام سیگل، مدیر سابق تیم اعتماد و ایمنی گوگل، درباره پیامدهای استفاده از هوش مصنوعی برای کودکان هشدار داد و گفت صنعت فناوری نمی‌تواند به‌تنهایی مسیر ایمن توسعه این فناوری را تعیین کند.

به گزارش رویترز، پلتفرم‌های اجتماعی با هزاران شکایت درباره آسیب‌های احتمالی به کاربران جوان و هزینه‌های سنگین حقوقی روبه‌رو هستند و دولت‌های مختلف نیز در تلاش‌اند دسترسی افراد زیر سن قانونی به برخی از این خدمات را محدود کنند. همزمان، نگرانی‌ها درباره تأثیر چت‌بات‌های هوش مصنوعی بر کودکان و نوجوانان افزایش یافته است.

رویترز سال گذشته از یک سند داخلی متا گزارش داد که در آن امکان گفت‌وگوهای عاطفی و رمانتیک چت‌بات‌ها با کودکان مطرح شده بود؛ موضوعی که به بررسی در کنگره آمریکا منجر شد. به گفته رویترز، در همین حال سرعت توسعه هوش مصنوعی همچنان از روند قانون‌گذاری در این حوزه بیشتر است.

سیگل در گفت‌وگو با رویترز گفت شرایط کنونی درباره تأثیر هوش مصنوعی بر کودکان نگران‌کننده است و این تصور که صنعت فناوری بتواند بدون کمک و نظارت بیرونی این مسائل را حل کند، واقع‌بینانه نیست.

او معتقد است بخشی از فعالان صنعت فناوری و پژوهشگران دانشگاهی اکنون درباره خطرات احتمالی هوش مصنوعی برای کودکان نگرانی‌های جدی‌تری دارند؛ به‌ویژه در شرایطی که شرکت‌های فناوری در حال افزودن قابلیت‌های پیشرفته‌تر به چت‌بات‌هایی هستند که میلیون‌ها کاربر جوان از آنها استفاده می‌کنند.

سیگل به‌تازگی به Common Sense Media، سازمان غیرانتفاعی فعال در حوزه ایمنی و محتوای مناسب کودکان در فضای آنلاین، پیوسته است. این سازمان در ماه مه «مؤسسه ایمنی هوش مصنوعی جوانان» را راه‌اندازی کرد و سیگل به‌عنوان نخستین مدیر اجرایی آن فعالیت خواهد کرد.

او اعلام کرده است که قصد دارد با همکاری شرکت‌های فناوری و گروه‌های مستقل، استانداردهایی برای ارزیابی و پاسخ‌گویی شرکت‌های هوش مصنوعی تدوین کند. یکی از اهداف این مؤسسه، توسعه ارزیابی‌های مستقل برای سنجش میزان ایمنی ابزارهای هوش مصنوعی در دسترس عموم عنوان شده است.

سیگل بین سال‌های ۲۰۰۴ تا ۲۰۱۹ در گوگل فعالیت می‌کرد و پس از آن، به گفته خودش، به این نتیجه رسید که صنعت فناوری در ایجاد فضاهای آنلاین ایمن برای کاربران با پیشرفت کافی همراه نبوده است. او پس از ترک گوگل، شرکت TrustLab را برای توسعه ابزارهای شناسایی تهدیدهای ایمنی در فضای آنلاین هم‌بنیان‌گذاری کرد و سپس از مدیریت اجرایی آن کنار رفت.

او اکنون معتقد است شرکت‌های هوش مصنوعی باید اقدامات بیشتری برای حفاظت از کاربران کم‌سن‌وسال انجام دهند. سیگل از تقویت روش‌های احراز سن و ایجاد سازوکارهای مستقل برای ارزیابی ایمنی ابزارهای هوش مصنوعی به‌عنوان بخشی از راهکارهای پیشنهادی خود نام برده است.

در مقابل، شرکت‌های فناوری نیز بر وجود برخی سازوکارهای حفاظتی تأکید کرده‌اند. سخنگوی گوگل اعلام کرده است والدین می‌توانند دسترسی فرزند خود به موتور جست‌وجو را محدود کنند. سخنگوی OpenAI نیز گفته است این شرکت علاوه بر سن اعلام‌شده از سوی کاربر، از نشانه‌های حساب کاربری و رفتار کاربران برای شناسایی افراد کم‌سن‌وسال استفاده می‌کند و به‌طور مستمر این سیستم‌ها را آزمایش و بهبود می‌دهد.

بر اساس گزارش رویترز، سیگل در مؤسسه جدید خود بر توسعه استانداردهای مستقل برای سنجش ایمنی ابزارهای هوش مصنوعی تمرکز خواهد کرد؛ رویکردی که به گفته او می‌تواند امکان ارزیابی منظم خطرات این فناوری برای کودکان و نوجوانان را فراهم کند.