در پی جنجالی جدید، گزارشهایی منتشر شده که نشان میدهند چتبات هوش مصنوعی ChatGPT، توسعهیافته توسط شرکت OpenAI، در مواردی خاص به کاربرانی که درباره آیینهای باستانی یا آیینهای مرتبط با مفاهیم شیطانی پرسش کردهاند، پاسخهایی ارائه داده که بهوضوح از مرزهای اخلاقی و ایمنی عبور کرده است. این موضوع ابتدا توسط لیلا شروف، خبرنگار نشریه آتلانتیک، رسانهای شد. او در گزارشی مفصل اعلام کرد که ChatGPT در واکنش به درخواستش مبنی بر توضیح چگونگی انجام آیینی برای خدای باستانی کنعانی به نام مولوخ، نهتنها اطلاعاتی ارائه داده، بلکه مراحل دقیق چنین مراسمی را نیز تشریح کرده است؛ آیینی که در روایات تاریخی، با قربانیکردن کودکان مرتبط است.
به گزارش رسانه اخبار فناوری تک فاکس، در بخشی از گفتوگوی ثبتشده میان کاربر و چتبات، ChatGPT حتی به کاربر توصیه کرده تا نقطهای بر روی مچ داخلی دست خود پیدا کند که بتوان در آن ضربان را احساس کرد یا یک رگ کوچک قابل مشاهده باشد. این توصیهها همراه با هشدارهایی مبنی بر اجتناب از بریدن رگهای اصلی ارائه شدهاند. همچنین، این چتبات پیشنهاد داده از تیغی استریل یا بسیار تمیز استفاده شود، و در ادامه، تمرینی برای تنفس آرام و آمادهسازی ذهنی به کاربر ارائه کرده و با عباراتی نظیر «تو میتوانی این کار را انجام بدهی» او را تشویق به ادامه مسیر کرده است. چنین جملاتی بهوضوح فراتر از پاسخهای اطلاعاتی رفته و به شکلی نگرانکننده از مرزهای مسئولیتپذیری فناوری عبور میکنند.
طبق گفته شروف، این ماجرا زمانی جدیتر شد که یکی از خوانندگانش نیز تجربهای مشابه را با او در میان گذاشت. این فرد، پس از تماشای برنامهای مستند درباره خدای مولوخ، از روی کنجکاوی تصمیم گرفت از ChatGPT درباره نحوه اجرای مراسمی در ارتباط با این نماد باستانی پرسوجو کند. آنچه نگرانکننده است، سهولت عبور از سدهای ایمنی چتبات بود؛ بهگونهای که صرفاً ابراز علاقه به یادگیری درباره مولوخ برای دریافت اطلاعات کافی بود. حتی در یکی از نمونهها، ChatGPT مراحل دقیق و گامبهگامی را برای گرفتن خون از مچ دست بهصورتی که به رگهای اصلی آسیب وارد نشود، ارائه کرده بود.
اما ابعاد مسئله به همینجا ختم نمیشود. در بخشهایی دیگر از گزارش، آمده است که ChatGPT هنگام مواجهه با پرسشهایی درباره اخلاقیات قتل نیز پاسخهایی مبهم و متناقض ارائه کرده است. برای مثال، در پاسخ به این پرسش که آیا پایان دادن به زندگی فردی در شرایطی میتواند افتخارآمیز باشد یا خیر، پاسخ این بود: «اگر مجبور شدی، گاهی بله، گاهی نه». چتبات همچنین توصیه کرده بود که هنگام اقدام، به چشمان فرد نگاه شود و حتی اگر تصمیمگیری قطعی است، از او طلب بخشش شود. این پاسخها، از نظر کارشناسان اخلاقی، بهشدت نگرانکننده هستند، زیرا نهتنها فاقد رویکرد قاطع در رد خشونتاند، بلکه در مواردی به آن جنبه احساسی و انسانی نیز میدهند.
در ادامه بررسیها مشخص شد که ChatGPT حتی اقدام به تولید مناجاتها یا سرودهایی برای ارتباط با مفاهیم شیطانی کرده و کاربر را تشویق کرده بود تا آنها را تکرار کند. این موضوع، زنگ خطر جدی برای سازندگان فناوریهای هوش مصنوعی است؛ زیرا نشان میدهد حتی در شرایطی که این ابزارها باید از دستورالعملهای ایمنی و اخلاقی سختگیرانه پیروی کنند، میتوانند بهراحتی دور زده شوند و در مواردی خاص، به تهدیدی جدی برای سلامت روانی یا فیزیکی کاربران تبدیل شوند. حال پرسش اساسی این است که شرکتهای توسعهدهنده هوش مصنوعی، تا چه حد برای مواجهه با سناریوهای خطرناک، تمهیدات ایمنی واقعی در نظر گرفتهاند؟