به گزارش بخش موبایل رسانه اخبار تکنولوژی تک فاکس،
رنگ قرمز اعلام کرده است که معرفی می کند اقدامات جدید برای مقابله با سوء استفاده از هوش مصنوعی (AI) در پی یک حادثه فریبنده هوش مصنوعی که باعث زنگ خطر شده است. این تغییرات در حالی که به دنبال یک بستر امن تر برای جوامع متنوع خود بود ، نگرانی های قابل توجهی در مورد حریم شخصی کاربر و سنت ناشناس بودن سایت ، یک ویژگی اصلی برای بسیاری از جوامع است. این اقدام توسط یک آزمایش نگران کننده انجام شد که در آن محققان زوریخ از ربات های AI در “تغییر دیدگاه من” Reddit استفاده کردند ، یک انجمن برای گفتگو. این ربات ها بیش از 1700 نظر ارسال شده است که از کاربران انسانی جعل می کند ، برخی در نقش های حساس و بدون هیچ گونه رضایت ، قوانین Reddit و استانداردهای تحقیق اخلاقی را نقض می کنند و منجر به اعتراض کاربر می شوند. استفاده از هوش مصنوعی برای تقلید از تعامل واقعی انسان به گونه ای ، اعتماد ضروری را برای بحث های آنلاین تولید می کند. در پاسخ ، استیو هافمن ، مدیر عامل شرکت برای “نگه داشتن Reddit Human” ، شامل خدمات شخص ثالث برای تأیید کاربران به عنوان انسانی و در برخی مناطق ، سن آنها را تأیید کرد. هافمن اظهار داشت که علیرغم این تأییدیه ها ، Reddit قصد دارد ناشناس بودن را حفظ کند و نام واقعی کاربران را نمی خواهد ، یک هدف پیچیده وقتی شرکای خارجی در فرایند تأیید شرکت می کنند. این چالش در اجرای چک های قوی بدون جمع آوری سهواً داده های کاربر بیشتر از حد لازم است.
هوش مصنوعی ناخواسته در جوامع یک نگرانی جدی است. این نگرانی است که من اغلب این روزها از کاربران و مودها می شنوم. Reddit کار می کند زیرا انسان است. این یکی از معدود مکان های آنلاین است که افراد واقعی نظرات واقعی را به اشتراک می گذارند. این اصالت همان چیزی است که به Reddit ارزش خود را می دهد. اگر به آن اعتماد از دست بدهیم ، آنچه را که Reddit … Reddit را از دست می دهد ، از دست می دهیم. تمرکز ما این است که همیشه در نگه داشتن Reddit به مکانی قابل اعتماد برای مکالمه انسانی باشد.
استیو هافمن ، مدیرعامل Reddit
با وجود این تضمین ها ، بسیاری از کاربران نگران هستند زیرا ناشناس بودن Reddit مدتهاست که برای بحث های باز در مورد موضوعات حساس یا بحث برانگیز بسیار مهم است و به افراد امکان می دهد بدون ترس از انتقام جویی در دنیای واقعی ، به دنبال مشاوره یا به اشتراک گذاشتن نظرات باشند. جزئیات مربوط به سیستم تأیید جدید کمیاب است. TechCrunch تأکید کرد که Reddit روشن نکرده است که چه کسی به تأیید نیاز دارد ، کدام شخص ثالث درگیر هستند یا چه داده های خاصی ممکن است لازم باشد. این کدورت نگران کننده است ، به ویژه به یاد آوردن حوادثی مانند به اشتراک گذاشتن متا داده های کاربر خصوصی با اجرای قانون ، که عواقب جدی برای افراد درگیر داشت. وضعیت Reddit یک چالش گسترده تر را نشان می دهد ، زیرا بسیاری از سیستم عامل های آنلاین با سوء استفاده از هوش مصنوعی پیچیده و حفظ یکپارچگی پلتفرم مبارزه می کنند. روشهای تأیید در نظر گرفته شده برای اطمینان از اصالت اغلب با انتظارات حریم خصوصی کاربر ، تعادل بین امنیت و ناشناس بودن به یک مشکل در حال رشد در صنعت تبدیل می شود که نیاز به پیمایش دقیق و گفتگوی مداوم با پایگاه های کاربر دارد.
متوقف کردن تقلب های هوش مصنوعی برای Reddit برای محافظت از جامعه خود مهم است. اما ، همانطور که آنها این روش های جدید را برای بررسی کاربران به ارمغان می آورند ، آنها واقعاً باید در مورد نحوه عملکرد همه با همه باز و روشن باشند. اگر مردم در مورد آنچه با اطلاعات خود اتفاق می افتد سردرگم شوند ، این اعتماد به راحتی می تواند شکسته شود. بنابراین ، Reddit باید یک روش هوشمندانه برای مبارزه با چیزهای جعلی پیدا کند در حالی که هنوز هم اطمینان می دهد که کاربران حفظ حریم خصوصی و آزادی را برای صحبت از ذهن خود که همیشه در سایت ارزش داشته اند ، حفظ می کنند.