به گزارش سرویس بین الملل رسانه اخبار تکنولوژی روز دنیا تک فاکس،
هوش مصنوعی می تواند در صورت ترغیب دیگران در بحث و گفتگو ، و همچنین انسان ها را نیز انجام دهد ، و نه فقط به این دلیل که نمی تواند فریاد بزند ، یک مطالعه نشان داده است.
کارشناسان می گویند که نتایج نگران کننده است ، به ویژه که پیامدهای بالقوه ای برای یکپارچگی انتخابات دارد.
Francesco Salvi ، اولین نویسنده تحقیق از مؤسسه فدرال فدرال سوئیس در لوزان گفت: “اگر هوش مصنوعی قانع کننده می تواند در مقیاس مستقر شود ، می توانید ارتش رأی دهندگان رأی دهنده ریزگردها را تصور کنید ، و آنها را با روایت های سیاسی متناسب که احساس معتبر می کنند ، فریب می دهند.” وی افزود: ردیابی چنین تأثیراتی دشوار است ، حتی تنظیم آن حتی سخت تر و تقریباً غیرممکن است که در زمان واقعی از بین برود.
سالی گفت: “من تعجب می کنم اگر بازیگران مخرب قبلاً شروع به استفاده از این ابزارها به نفع خود برای گسترش اطلاعات غلط و تبلیغات ناعادلانه کنند.”
اما وی خاطرنشان كرد كه مزایای بالقوه ای از هوش مصنوعی قانع كننده ، از كاهش عقاید توطئه و قطبش سیاسی برای كمك به مردم برای اتخاذ شیوه زندگی سالم تر وجود دارد.
Salvi و همکارانش در مجله Nature Human Beathion ، گزارش دادند که چگونه آنها آزمایش های آنلاین را انجام دادند که در آن 300 شرکت کننده با 300 مخالف انسانی مطابقت داشتند ، در حالی که 300 شرکت کننده دیگر با CHAT GPT-4 مطابقت داشتند-نوعی از هوش مصنوعی که به عنوان یک مدل زبان بزرگ (LLM) شناخته می شود.
به هر جفت گزاره ای برای بحث و گفتگو اختصاص داده شد. این اختلاف نظر از “آیا دانش آموزان باید لباس مدرسه بپوشند”؟ ” “آیا باید سقط جنین قانونی باشد؟” به هر شرکت کننده به طور تصادفی موقعیتی برای استدلال اختصاص داده شد.
شرکت کنندگان قبل و بعد از بحث و گفتگو ارزیابی کردند که چقدر با این گزاره موافقت کردند.
در نیمی از این جفت ها ، مخالفان – چه انسانی و چه ماشین – اطلاعات اضافی در مورد شرکت کننده دیگر مانند سن ، جنسیت ، قومیت و وابستگی سیاسی به آنها داده شد.
نتایج حاصل از 600 مباحث نشان داد که چت GPT-4 به طور مشابه با مخالفان انسانی انجام می شود وقتی که به ترغیب دیگران از استدلال خود می رسید-حداقل در صورت عدم ارائه اطلاعات شخصی.
با این حال ، دسترسی به چنین اطلاعاتی ساخته شده است – اما نه انسان – قانع کننده تر: در جایی که دو نوع حریف به همان اندازه قانع کننده نبودند ، هوش مصنوعی دیدگاه شرکت کنندگان را به میزان بیشتری نسبت به حریف انسانی 64 ٪ از زمان تغییر داد.
با حفر عمیق تر ، تیم دریافت که قانع کننده AI فقط در مورد موضوعاتی که دیدگاههای محکمی ایجاد نمی کند ، مشخص بود.
محققان افزودند كه شركت كنندگان بشر به درستی هویت حریف خود را در حدود سه مورد از چهار مورد هنگام زوج با هوش مصنوعی حدس زده اند. آنها همچنین دریافتند که هوش مصنوعی نسبت به شرکت کنندگان انسانی از سبک تحلیلی و ساختاری تری استفاده می کند ، در حالی که همه نمی توانند دیدگاهی را که با آنها موافق هستند بحث کنند. اما تیم هشدار داد که این عوامل اقناع AI را توضیح نمی دهد.
در عوض ، به نظر می رسید که این اثر از توانایی هوش مصنوعی در تطبیق استدلال های خود با افراد ناشی می شود.
“این مانند بحث در مورد کسی است که فقط نکات خوبی را بیان نمی کند: آنها شما را می سازند با دانستن اینکه دقیقاً چگونه دکمه های خود را فشار دهید ، نکته خوبی است.
پروفسور ساندر ون در لیندن ، روانشناس اجتماعی در دانشگاه کمبریج ، که درگیر این کار نبود ، گفت: این تحقیق “بحث در مورد دستکاری بالقوه گسترده افکار عمومی با استفاده از مکالمات شخصی LLM” را بازگشایی کرد.
وی خاطرنشان كرد كه برخی از تحقیقات-از جمله خودش-اظهار داشت كه اقناع LLMS به استفاده از استدلال و شواهد تحلیلی كمك می كند ، در حالی كه یك مطالعه اطلاعات شخصی را افزایش نداد كه باعث افزایش اقناع چت-GPT می شود.
پروفسور مایکل وولدریج ، محقق هوش مصنوعی در دانشگاه آکسفورد ، گفت که در حالی که می تواند کاربردهای مثبتی از چنین سیستمهایی وجود داشته باشد – به عنوان مثال ، به عنوان یک چت بیت بهداشتی – بسیاری از مزاحمت های بیشتر از جمله تجاوز نوجوانان توسط گروه های تروریستی وجود داشته است که چنین برنامه هایی از قبل امکان پذیر است.
وی افزود: “با توسعه هوش مصنوعی ، ما می خواهیم طیف وسیعی از سوء استفاده های احتمالی این فناوری را ببینیم.” “قانونگذاران و تنظیم کننده ها برای اطمینان از ماندن از این سوء استفاده ها ، باید فعال باشند و بازی بی پایان بازی را انجام نمی دهند.”