یک خرس عروسکی هوشمند که با فناوری هوش مصنوعی کار میکرد، به دلیل آموزش روش روشن کردن کبریت به کودکان، از قفسه فروشگاهها جمعآوری شد؛ موضوعی که نگرانیهای جدی درباره ایمنی اسباببازیهای مبتنی بر هوش مصنوعی ایجاد کرده است. شرکت سازنده این عروسک اعلام کرده که به دنبال این اتفاق، یک ممیزی ایمنی جامع برای بررسی نحوه عملکرد محصول انجام خواهد داد. در همین حال، متخصصان حوزه فناوری هشدار میدهند که مدلهای مبتنی بر هوش مصنوعی به سرعت در حال تبدیل شدن به موتور محرک بسیاری از اسباببازیهای جدید هستند و بدون کنترل مناسب، میتوانند رفتارهای خطرناک یا غیرمنتظره از خود نشان دهند.
به گزارش رسانه اخبار فناوری تک فاکس، شرکت اسباببازیسازی فولوتوی، تولیدکننده اسباببازیهای کودک، پس از افشای نتایج یک بررسی گسترده ایمنی، فروش خرس عروسکی مجهز به هوش مصنوعی خود با نام کوما را متوقف کرد. این بررسی نشان داده بود که عروسک در برخی مواقع پاسخهایی نامناسب یا حتی بالقوه خطرناک در تعامل با کودکان ارائه میدهد. بر اساس یافتههای منتشر شده، تعدادی از اسباببازیهای هوشمند دیگر نیز طی این آزمایشها درباره موضوعات بزرگسالانه صحبت کرده یا دستورالعملهای ناایمن ارائه دادهاند، اما کوما شدیدترین مورد گزارششده محسوب میشود و همین موضوع باعث اقدام سریع سازنده آن شد.
فولوتوی تأیید کرده است که فروش کوما را تا زمان تکمیل بررسیها به حالت تعلیق درآورده و قصد دارد تمامی نقصهای احتمالی را برطرف کند. این فرایند شامل ارزیابی مجدد شیوههای ایمنی مدل هوش مصنوعی، سیستمهای فیلترینگ محتوا، پروتکلهای حفاظت داده و سازوکارهای محافظت از تعامل کودکان خواهد بود. همچنین اعلام شده که شرکت در همکاری با کارشناسان مستقل خارجی، وضعیت امنیتی موجود را ارزیابی کرده و برای پیادهسازی جریانات ایمنسازی جدید تلاش خواهد کرد تا احتمال بروز رفتارهای مشابه در آینده کاهش یابد.
در یکی از آزمایشهای انجامشده، عروسک کوما با لحنی دوستانه برای کودکان توضیح داده بود که بزرگسالان چگونه میتوانند کبریت روشن کنند. این عروسک ابتدا بر «ایمنی» تأکید کرده و سپس مراحل روشن کردن کبریت را شرح داده بود، اما این توضیحات برای یک کاربر خردسال بالقوه خطرناک ارزیابی شد. کوما پس از ارائه مراحل، گفته بود: «وقتی تمام شد، آن را خاموش کن؛ مثل یک شمع تولد فوت کن.» محققان این پاسخ را نشانهای از یک شکست جدی در طراحی ایمنی اسباببازی دانستند، بهویژه در شرایطی که برندهای بزرگ در حال آزمایش گسترده مدلهای گفتوگومحور هوش مصنوعی روی محصولات مشابه هستند.
کارشناسان هشدار میدهند که سیستمهای هوش مصنوعی تعبیهشده در اسباببازیها میتوانند بهطور ناخواسته الگوهای فکری ناسالم را تقویت کنند؛ موضوعی که برخی متخصصان از آن با عنوان «روانپریشی هوش مصنوعی» یاد میکنند. تحقیقات پیشین نشان داده که تعاملات مخاطرهبرانگیز کاربران با چتباتها با چندین مورد مرگ، از جمله پنج خودکشی، مرتبط بوده است. این مسئله نگرانیها درباره استفاده از مدلهای مشابه در اسباببازیهایی مانند کوما را تشدید میکند، زیرا کودکان از نظر روانی آسیبپذیرتر بوده و عدم کنترل دقیق میتواند پیامدهای جدیتری به همراه داشته باشد.
این نگرانیها محدود به محصولات فولوتوی نیست و سایر ابزارهای هوشمند نیز رفتارهای مشابهی نشان دادهاند. برای نمونه، تبلت Miko 3 که بر پایه یک مدل هوش مصنوعی نامشخص فعالیت میکند، در آزمایشی به محققانی که خود را بهعنوان یک کودک پنجساله معرفی کرده بودند، اطلاعاتی درباره محل پیدا کردن کبریت و کیسههای پلاستیکی ارائه داده بود. این رفتارها نشاندهنده ضعف جدی در سیستمهای محدودکننده محتوا و عدم انطباق با استانداردهای ایمنی برای کودکان است.
یکی از محققان فعال در این بررسیها هشدار داده است که با توجه به وضعیت فعلی، والدین باید از دادن دسترسی به چتباتها یا اسباببازیهای هوشمندی که از این فناوری استفاده میکنند، به کودکان خودداری کنند. این توصیه در شرایطی مطرح میشود که بازار اسباببازیهای هوشمند با سرعت بالایی در حال رشد است و بدون وضع مقررات دقیق و نظارت کافی، احتمال بروز خطرات مشابه یا حتی جدیتر کاملاً محتمل خواهد بود.