به گزارش سرویس بین الملل رسانه اخبار تکنولوژی روز دنیا تک فاکس،
آمازون در حال فروش کتاب هایی است که در افرادی که به دنبال تکنیک هایی هستند برای مدیریت ADHD خود که ادعا می کنند مشاوره تخصصی ارائه می دهند ، هنوز به نظر می رسد که توسط یک چت بابات مانند chatgpt نویسنده شده است.
بازار آمازون با آثار تولید شده توسط هوش مصنوعی که برای انتشار آسان و ارزان است ، مورد استفاده قرار گرفته است ، اما شامل اطلاعات نادرست بی فایده یا خطرناک ، مانند کتابهای راهنمای مسافرتی Shoddy و کتابهای علوفه ای قارچ است که طعم و مزه خطرناک را ترغیب می کند.
تعدادی از کتاب ها در سایت خرده فروش آنلاین ارائه شده است که راهنماهای ADHD را ارائه می دهد که به نظر می رسد توسط Chatbots نیز نوشته شده است. این عناوین شامل پیمایش ADHD در مردان است: با تشخیص دیررس ، مردان مبتلا به ADHD بزرگسالان: تکنیک های بسیار مؤثر برای تسلط بر تمرکز ، مدیریت زمان و غلبه بر اضطراب و مردانی که دارای رژیم و تناسب اندام ADHD بزرگسالان هستند.
نمونه هایی از هشت کتاب برای Guardian توسط Originality.ai ، یک شرکت آمریکایی که محتوای تولید شده توسط هوش مصنوعی را تشخیص می دهد ، مورد بررسی قرار گرفت. این شرکت اعلام کرد که هر یک از آنها 100 ٪ در نمره تشخیص هوش مصنوعی خود امتیاز دارد ، به این معنی که سیستم های آن بسیار اطمینان داشتند که این کتاب ها توسط یک چت بابات نوشته شده است.
کارشناسان گفتند که بازارهای آنلاین “غرب وحشی” به دلیل عدم مقررات پیرامون کار تولید شده توسط AI است-و اطلاعات نادرست خطرناک در نتیجه به خطر می افتد.
مایکل کوک ، یک محقق علوم کامپیوتر در کالج کینگ لندن ، گفت که سیستم های AI تولیدی مشاوره خطرناکی را ارائه می دهند ، به عنوان مثال در مورد مصرف مواد سمی ، مخلوط کردن مواد شیمیایی خطرناک یا نادیده گرفتن دستورالعمل های بهداشتی.
وی گفت ، به همین ترتیب ، “دیدن كتابهای نویسنده AI که به طور فزاینده ای در بازارهای دیجیتالی ظاهر می شوند” به ویژه در مورد موضوعات بهداشتی و پزشکی ، “ناامید کننده و افسرده کننده بود ، این امر می تواند منجر به تشخیص نادرست یا بدتر شدن شرایط شود.
کوک گفت: “سیستم های هوش مصنوعی مانند ChatGPT ممکن است در بسیاری از کتابهای درسی و مقالات پزشکی آموزش دیده باشند ، اما آنها همچنین در مورد علوم شبه ، تئوری های توطئه و داستان آموزش دیده اند.”
وی افزود: “همچنین نمی توان آنها را به تجزیه و تحلیل انتقادی یا قابل اعتماد بودن دانشی که قبلاً خوانده بود ، اعتماد کرد – این ساده نیست که هوش مصنوعی را به خاطر بسپارید که در داده های آموزش خود دیده اند. سیستم های AI تولیدی نباید بدون نظارت بر یک متخصص ، با موضوعات حساس یا خطرناک مقابله کنند.”
با این حال ، کوک خاطرنشان کرد که مدل تجاری آمازون این نوع عمل را تحریک می کند ، زیرا این کار را می کرد که “هر بار” مردم یک کتاب خریداری می کردند ، خواه کار “قابل اعتماد باشد یا نه” ، در حالی که شرکت های تولید کننده هوش مصنوعی که محصولات را ایجاد می کردند پاسخگو نبودند.
پروفسور شانون والور ، مدیر دانشگاه ادینبورگ برای آینده فنی آینده ، گفت که آمازون “مسئولیت اخلاقی دارد که آگاهانه آسیب به مشتریان و جامعه خود را تسهیل کند” ، اگرچه این امر می تواند یک کتابفروشی را مسئول مطالب تمام کتاب های خود کند.
وی خاطرنشان کرد: مشکلات به وجود آمده است زیرا نگهبانان قبلاً در صنعت نشر مستقر شده بودند – مانند نگرانی های شهرت و بررسی نویسندگان و نسخه های خطی – توسط هوش مصنوعی کاملاً دگرگون شده بود.
والور گفت: این توسط یک محیط نظارتی “غرب وحشی” پیچیده شده است که در آن هیچ “عواقب معنی داری برای کسانی که مضرات را ایجاد می کنند” وجود ندارد و باعث ایجاد “مسابقه به پایین” می شود.
در حال حاضر ، هیچ قانونی وجود ندارد که مستلزم کتابهای نویسنده AI باشد که به این ترتیب برچسب گذاری شود. قانون کپی رایت فقط در صورتی اعمال می شود که محتوای یک نویسنده خاص تکثیر شود ، اگرچه والور خاطرنشان کرد که قانون شکنجه باید “وظایف اساسی مراقبت و دقت کافی” را تحمیل کند.
آژانس استانداردهای تبلیغاتی گفت: کتابهای با نویسندگی AI نمی توانند تبلیغ کنند تا تصور گمراه کننده ای از آنها توسط یک انسان نوشته شده باشند و افرادی را که چنین کتابهایی را برای ارائه شکایت دیده اند ، امکان پذیر می کند.
ریچارد وردسورث امیدوار بود که وقتی پدرش کتابی را که در آمازون پیدا کرده بود پس از جستجوی “مردان بزرگسال ADHD” در آمازون ، در مورد تشخیص ADHD بزرگسالان اخیر خود بیاموزد.
وی گفت ، وقتی Wordsworth برای خواندن آن نشست ، “بلافاصله ، به نظر عجیب به نظر می رسید”. این کتاب با نقل قول از روانشناس محافظه کار جردن پیترسن افتتاح شد و سپس حاوی رشته ای از حکایات تصادفی و همچنین نادرستی های تاریخی بود.
وردسورث اظهار داشت که برخی از توصیه ها به طور جدی مضر بودند. به عنوان مثال ، یک فصل در مورد اختلال در تنظیم عاطفی هشدار داد که دوستان و خانواده “آسیب عاطفی را که وارد می کنید را نمی بخشند. درد و صدمه ناشی از عصبانیت تحریک آمیز زخم های ماندگار را ترک می کند.”
هنگامی که Wordsworth در مورد نویسنده تحقیق کرد ، او یک عکس را مشاهده کرد که به نظر می رسد AI تولید شده است ، به علاوه عدم صلاحیت. وی چندین عنوان دیگر را در بازار آمازون جستجو کرد و از مواجهه با هشدارهایی مبنی بر اینکه وضعیت وی “فاجعه بار” است و او “چهار برابر بیشتر احتمال دارد که به طور قابل توجهی بمیرد” شوکه شد.
او همانطور که پدرش ، که بسیار تحصیل کرده است ، بلافاصله احساس ناراحتی کرد. Wordsworth گفت: “اگر او را می توان با این نوع کتاب گرفت ، هر کسی می تواند باشد-و افراد بسیار خوب و ناامید کننده سر خود را پر از مزخرفات خطرناک توسط هنرمندان کلاهبرداری سودآور در حالی که آمازون بریده می شود.”
سخنگوی آمازون گفت: “ما دستورالعملهای محتوا را در اختیار داریم که می تواند کتاب را برای فروش ذکر کند و ما روشهای پیشگیرانه و واکنشی داریم که به ما کمک می کند تا محتوایی را که نقض دستورالعمل های ما را نقض می کند ، یا نه ، به ما کمک کند.
“ما همچنان به تقویت حمایت های خود در برابر محتوای غیر سازگار ادامه می دهیم و روند و دستورالعمل های ما همچنان در حال تحول خواهد بود زیرا شاهد تغییراتی در انتشار هستیم.”