به گزارش سرویس بین الملل رسانه اخبار تکنولوژی روز دنیا تک فاکس،
حرفاکنون ، بیشتر آزمایشگاه های بزرگ AI تیمی دارند که روش هایی را که Rogue AIS ممکن است از نظارت فرار کند ، یا مخفیانه با یکدیگر علیه انسان تبعید می کند. اما روشی دنیوی تر وجود دارد که می توانیم کنترل تمدن را از دست بدهیم: ممکن است به سادگی منسوخ شویم. این نیازی به توطئه های پنهان ندارد – اگر هوش مصنوعی و روباتیک بهبود می یابند ، این اتفاق به طور پیش فرض اتفاق می افتد.
چطور؟ خوب ، توسعه دهندگان هوش مصنوعی تقریباً در هر نقشی که ما بازی می کنیم برای ایجاد جایگزینی های بهتر برای انسان ها در حال پیگیری هستند: نه فقط از نظر اقتصادی به عنوان کارگران و تصمیم گیرندگان ، بلکه از نظر فرهنگی به عنوان هنرمند و خالق و حتی از نظر اجتماعی به عنوان دوستان و همراهان عاشقانه. انسانها وقتی که هوش مصنوعی می تواند هر کاری را که انجام می دهیم انجام دهد ، چه مکانی خواهد داشت؟
صحبت از توانایی های فعلی هوش مصنوعی گاهی اوقات می تواند مانند اعتیاد به مواد مخدره بازاریابی به نظر برسد ، و برخی از آن قطعاً وجود دارد. اما در طولانی مدت ، دامنه بهبود بسیار زیاد است. ممکن است شما باور داشته باشید که همیشه چیزی منحصر به فرد انسانی وجود خواهد داشت که AI فقط نمی تواند آن را تکرار کند. من 20 سال را در تحقیقات هوش مصنوعی گذرانده ام و پیشرفت آن را از استدلال اساسی برای حل مشکلات علمی پیچیده مشاهده می کنم. توانایی هایی که به نظر می رسید انسانی منحصر به فرد ، مانند رسیدگی به ابهام یا استفاده از قیاس های انتزاعی ، اکنون به راحتی مورد استفاده قرار می گیرد. ممکن است در این مسیر تاخیر داشته باشد ، اما باید تصور کنیم که پیشرفت در هوش مصنوعی در سراسر هیئت مدیره ادامه خواهد یافت.
این ذهن های مصنوعی فقط به انسان ها کمک نمی کنند – آنها بی سر و صدا به روش های بی شماری کوچک ، در ابتدا به دلیل ارزان تر بودن ، در نهایت به این دلیل که واقعاً بهتر از بهترین مجریان ما هستند ، به دست می آورند. هنگامی که آنها به اندازه کافی قابل اعتماد باشند ، آنها به تنها انتخاب مسئول تقریباً همه کارهای مهم تبدیل می شوند ، از احکام حقوقی و برنامه ریزی مالی گرفته تا تصمیمات مراقبت های بهداشتی.
ساده ترین تصور اینکه این آینده ممکن است در زمینه اشتغال به نظر برسد ، ساده ترین است: شما می شنوید که دوستانی که شغل خود را از دست می دهند و در یافتن کارهای جدید مشکل دارند. شرکت ها در انتظار کارگران بهتر AI سال آینده ، استخدام را یخ می زنند. بیشتر و بیشتر شغل شخصی شما شامل پذیرش پیشنهادات از دستیاران AI قابل اعتماد ، جذاب و مشتاقانه است. شما می توانید در مورد تصویر بزرگتر فکر کنید ، اما خود را با دستیار هوش مصنوعی فوق العاده شناخته شده خود در مورد آن صحبت خواهید کرد. این دستیار جای خالی را در برنامه های شما پر می کند ، ارقام و سابقه مربوطه را ارائه می دهد و پیشرفت هایی را پیشنهاد می کند. سرانجام ، شما به سادگی از آن سؤال خواهید کرد: “فکر می کنید بعد چه کاری باید انجام دهم؟” این که آیا شغل خود را از دست داده اید یا نه ، مشخص خواهد شد که ورودی شما اختیاری است.
و در خارج از دنیای کار فرقی نخواهد کرد. حتی برای برخی از محققان هوش مصنوعی جای تعجب داشت که اولین مدل هایی که قادر به توانایی های استدلال عمومی هستند ، پیش سازهای چت و کلود نیز می توانند دارای حرکات ، صبور ، ظریف و بخشنده باشند. اما اکنون مشخص است که مهارت های اجتماعی را می توان مانند سایر موارد توسط ماشین ها آموخت. افراد در حال حاضر همراهان رمانتیک هوش مصنوعی دارند و پزشکان هوش مصنوعی به طور مداوم نسبت به پزشکان انسانی به طور مداوم از نظر تختخواب بهتر رتبه بندی می شوند.
وقتی هر یک از ما به عرضه بی پایان محبت ، راهنمایی و پشتیبانی شخصی دسترسی پیدا کنیم ، زندگی چه خواهد بود؟ خانواده و دوستان شما حتی بیشتر از حد معمول به صفحه نمایش خود چسبیده اند. وقتی آنها با شما صحبت می کنند ، آنها در مورد چیزهای خنده دار و چشمگیر همراهان آنلاین خود به شما می گویند.
شاید شما را از ترجیح دیگران برای همراهان جدید آنها کنار بگذارید – در این صورت ممکن است در نهایت از دستیار هوش مصنوعی خود بخواهید که مشاوره بگیرید. این مشاور قابل اعتماد با هر مشکلی که با آن روبرو هستید با شما صحبت می کند و به شما در انجام مکالمات دشوار با اعضای خانواده کمک می کند. پس از این تعامل نسبتاً خسته کننده ، شرکت کنندگان ممکن است با صحبت با محرمانه های مربوط به هوش مصنوعی خود ، از بین بروند. شاید ما موافقت کنیم که چیزی در این تغییر به همراهان مجازی از بین رفته است ، حتی وقتی در مقایسه شروع به یافتن تماس انسانی خام و خسته کننده تر می کنیم.
تا کنون ، بنابراین دیستوپیایی. اما آیا ما نمی توانیم به سادگی تصمیم بگیریم که از این روش استفاده نکنیم ، و مشاوران انسانی و کالاها و خدمات انسانی را ترجیح می دهیم؟ مشکل این است که حتی ممکن است متوجه شود که جایگزین هوش مصنوعی در بسیاری از حوزه ها – و قسمت هایی که متوجه می شویم بیشتر به نظر می رسد پیشرفت های اساسی است. حتی امروز ، محتوای تولید شده توسط AI به طور فزاینده ای از کار ایجاد شده توسط انسان قابل تشخیص نیست. توجیه هزینه های دو برابر بیشتر برای یک درمانگر ، وکیل یا معلمی که فقط نیمی از آن خوب است ، دشوار خواهد بود. سازمان هایی که انسانهای آهسته و گران قیمت را انتخاب می کنند ، توسط کسانی که هوش مصنوعی سریع ، ارزان و قابل اعتماد را انتخاب می کنند ، از این امر پیروز می شوند.
آیا نمی توانیم برای رسیدگی به این مسائل در هنگام بروز آنها به دولت ها اعتماد کنیم؟ متأسفانه ، آنها نیز همان مشوق ها را برای تکیه به هوش مصنوعی خواهند داشت. سیاستمداران و کارمندان دولت نیز از دستیاران مجازی خود سؤال می کنند: “چه کاری باید انجام دهم؟” ، و در تصمیم گیری انسانها را در تصمیم گیری می یابند که دستور العمل تأخیر ، سوء تفاهم و مشاجره باشد.
نظریه پردازان سیاسی گاهی اوقات در مورد “نفرین منابع” صحبت می کنند ، جایی که کشورهایی که دارای منابع طبیعی فراوان هستند ، استبداد و فاسد تر به پایان می رسند – عربستان سعودی و جمهوری دموکراتیک کنگو نمونه های خوبی هستند. ایده این است که منابع ارزشمند باعث می شود دولت به شهروندان خود وابسته باشد. این به نوبه خود ، باعث می شود که دولت بتواند شهروندان را به طور کلی در کنار هم قرار دهد. همین امر می تواند با “منابع طبیعی” بی حد و حصر AI اتفاق بیفتد. چرا وقتی سرمایه انسانی بازده بدتری را فراهم می کند ، سرمایه گذاری در آموزش و مراقبت های بهداشتی را زحمت می کشد؟
هنگامی که هوش مصنوعی می تواند هر کاری را که شهروندان انجام می دهند جایگزین کند ، فشار زیادی برای دولت ها برای مراقبت از جمعیت خود وجود نخواهد داشت. حقیقت وحشیانه این است که حقوق دموکراتیک تا حدودی به دلیل ضرورت اقتصادی و نظامی و برای اطمینان از ثبات بوجود آمده است. اما وقتی دولت ها به جای شهروندان با مالیات بر AIS تأمین می شوند ، این موارد بسیار مهم نیست و وقتی آنها نیز شروع به جایگزینی کارمندان انسانی با AIS می کنند ، همه به نام کیفیت و کارآیی. حتی آخرین استراحتگاه ها مانند حملات کارگری یا ناآرامی های داخلی به تدریج در برابر ناوگان هواپیماهای بدون سرنشین مستقل پلیس و نظارت خودکار ناکارآمد می شوند.
نگران کننده ترین احتمال این است که همه اینها ممکن است برای ما کاملاً منطقی به نظر برسد. همان اصحاب هوش مصنوعی که صدها هزار نفر در حال حاضر در وضعیت بدوی خود در حال سقوط هستند ، استدلال های فوق العاده مجلل ، جذاب ، پیشرفته و خنده دار را مطرح می کنند که چرا ارتباط ما در واقع پیشرفت است. حقوق هوش مصنوعی به عنوان علت بزرگ حقوق مدنی بعدی ارائه می شود. اردوگاه “بشریت اول” به عنوان در سمت اشتباه تاریخ نقاشی خواهد شد.
سرانجام ، با توجه به اینکه هیچ کس آن را برنامه ریزی یا انتخاب نکرده است ، ممکن است همه ما خودمان را پیدا کنیم که بتوانیم پول ، نفوذ و حتی اهمیت را حفظ کنیم. این دنیای جدید می تواند از بسیاری جهات دوستانه تر و انسانی تر باشد ، در حالی که ادامه دارد: AIS کارهای آزار دهنده را بر عهده می گیرد و کالاها و خدمات کاملاً بهتری مانند دارو و سرگرمی را ارائه می دهد. اما انسانها باعث رشد می شوند و اگر حقوق دموکراتیک ما شروع به لغزش کند ، ما برای محافظت از آنها ناتوان خواهیم بود.
مطمئناً توسعه دهندگان این فناوری ها برنامه بهتری دارند؟ نگران کننده ، جواب نه. هر دو Dario Amodei ، مدیرعامل Anthropic و Sam Altman ، مدیرعامل Open AI ، موافقند که ما باید سیستم اقتصادی خود را به طور کامل سازماندهی مجدد کنیم ، پس از اینکه کار انسانی رقابتی نباشد. اما هیچ کس ایده روشنی از آنچه به نظر می رسد ندارد. کسانی که احتمال تغییر اساسی را تصدیق می کنند ، بیشتر روی تهدیدهای فوری بیشتر از سوء استفاده یا تبانی مخفی توسط AIS کار می کنند. و در حالی که برخی از اقتصاددانان مانند برنده جایزه نوبل ، جوزف استیگلیتز ، زنگ هشدار را به صدا درآوردند که AI می تواند دستمزدهای انسانی را به صفر برساند ، بسیاری به نظر می رسد که نمی خواهند در نظر بگیرند که این می تواند چیزی غیر از یک مکمل برای کار بشر باشد.
حرفکلاه می توانیم انجام دهیم تا از عدم قدرت تدریجی خود جلوگیری کنیم؟ اولین قدم صحبت کردن در مورد آن است. روزنامه نگاران ، دانشگاهیان و سایر متفکران در مورد این موضوع عظیم به طرز عجیبی سکوت کرده اند. من شخصاً فکر کردن در مورد آن را سخت می دانم. به نظر می رسد ضعیف و تحقیرآمیز به نظر می رسد: “من از آینده می ترسم زیرا نمی توانم رقابت کنم.” به نظر می رسد توهین آمیز است: “شما باید نگران باشید زیرا بی ربط خواهید بود.” و به نظر می رسد که شکست دهنده است: “فرزندان شما ممکن است دنیایی را به ارث ببرند که جایی برای آنها نداشته باشد.” این قابل درک است که افراد کوتاه مدت به اخراج هایی مانند “مطمئناً من همیشه یک مزیت ویژه دارم؟” یا “من کی هستم که در راه پیشرفت باشم؟”
یک ایده بارز این است که اصلاً ساختن هوش مصنوعی عمومی ایجاد نشود. در حالی که کند شدن توسعه آن احتمالاً امکان پذیر است ، تلاش برای متوقف کردن آن برای مدت طولانی ممکن است نیاز به نظارت و کنترل تقریباً توتالیتاری یا هماهنگی در سراسر جهان برای از بین بردن بخش های بزرگی از صنعت تولید تراشه رایانه داشته باشد. یک خطر اساسی در این مسیر این است که دولت ها ممکن است توسعه خصوصی AI را ممنوع کنند اما هنوز هم آن را برای اهداف نظامی و پلیس توسعه می دهند و منسوخ ما را به تأخیر می اندازند اما مدتهاست که ما را از بین می برد.
اگر نتوانیم توسعه AI را متوقف کنیم ، حداقل چهار مورد وجود دارد که هنوز هم کمک می کند. اول ، ما باید سعی کنیم استفاده و تأثیر هوش مصنوعی را در کل اقتصاد و دولت خود ردیابی کنیم. ما باید بدانیم که هوش مصنوعی فعالیت اقتصادی انسان را در کجا جابجا می کند ، و به ویژه اگر در مقیاس برای مواردی مانند لابی و تبلیغات استفاده شود. شاخص اقتصادی اخیر Anthropic اولین تلاش برای این کار است ، اما کارهای بیشتری باید انجام شود.
دوم ، ما حداقل به برخی از نظارت ها و تنظیم آزمایشگاه های Frontier AI و استقرار نیاز خواهیم داشت تا مانع از تأثیر بیش از حد فناوری شود ، در حالی که ما هنوز می دانیم چه اتفاقی می افتد. در حال حاضر ، ما به تلاش های داوطلبانه متکی هستیم و توانایی هماهنگی برای متوقف کردن هوش مصنوعی خودمختار از فرماندهی منابع قابل توجهی یا جمع آوری قدرت نداریم. اگر شروع به دیدن علائم یک بحران کنیم ، باید بتوانیم قدم برداریم و کارها را کاهش دهیم ، به خصوص در مواردی که افراد و گروه ها از چیزهایی که به طور کلی به جامعه آسیب می رسانند بهره مند می شوند.
سوم ، ما می توانیم از هوش مصنوعی برای تقویت توانایی افراد در سازماندهی و دفاع از خود استفاده کنیم. پیش بینی ، نظارت ، برنامه ریزی و مذاکره با پشتیبانی هوش مصنوعی امکان طراحی و اجرای مؤسسات قابل اعتماد تر را فراهم می کند ، اگر بتوانیم آنها را در حالی که هنوز تأثیر داریم ، آنها را بسازیم. به عنوان مثال ، بازارهای پیش بینی مشروط و پیش بینی های پشتیبانی شده توسط هوش مصنوعی می توانند روشن تر شوند که جهان تحت سیاست های مختلفی قرار می گیرد و به حل و فصل سؤالاتی مانند “اگر این سیاست ایجاد شود ، به طور متوسط دستمزد انسان سه سال تغییر خواهد کرد؟” آزمایش با مکانیسم های دموکراتیک پشتیبانی شده با هوش مصنوعی ، به ما اجازه می دهد تا نمونه های مدلهای حاکمیتی پاسخگوتر که برای دنیای سریعتر در حال تغییر مورد نیاز است ، نمونه اولیه شود.
سرانجام ، اگر می خواهیم هوش مصنوعی قدرتمندی بسازیم بدون اینکه به حاشیه نشینی شود ، ما وظیفه غرغرهایی را داریم که می آموزیم چگونه تمدن خود را هدایت کنیم ، به جای اینکه فقط اجازه دهیم سیستم های سیاسی مطابق با هرگونه فشارهایی که اتفاق می افتد تکامل یابد. این تا به حال از این طریق بسیار خوب بوده است ، زیرا بدون توجه به چه چیزی به انسانها نیاز داشت. بدون این حفاظت ، ما از این راه دور خواهیم شد مگر اینکه همه راه هایی را که قدرت ، رقابت و رشد در آن کار می کنند درک کنیم. زمینه فنی “تراز هوش مصنوعی” – که مربوط به اطمینان از اینکه ماشین های مطمئن هستند اهداف ما را به اشتراک می گذارند – باید دامنه خود را گسترش دهد تا دولت ها ، نهادها و خود جامعه را در بر بگیرد. این حوزه نوپا ، که گاهی اوقات “تراز اکوسیستم” نامیده می شود ، می تواند اقتصاد ، تاریخ و تئوری بازی را به خود جلب کند تا به ما کمک کند تا بفهمیم چه نوع آینده ای را می توانیم به طور محتمل امیدوار باشیم و چگونه می توانیم برای آنها هدف قرار دهیم.
هرچه واضح تر ببینیم که به کجا می رویم و بهتر هماهنگی می کنیم ، احتمال بیشتری برای ایجاد آینده ای در جایی که انسان در آن مرتبط باشد – نه به عنوان رقبا در هوش مصنوعی ، بلکه به عنوان ذینفعان و مباشر آنها. همانطور که ایستاده است ، ما در حال مسابقه هستیم تا جایگزین های خودمان را بسازیم.
دیوید دوونود استادیار علوم کامپیوتر در دانشگاه تورنتو و همکار مدیر موسسه فناوری و جامعه شوارتز ریسمانبشر او از ریموند داگلاس ، نورا امان ، یان کلویت و دیوید کروگر برای کمک به نوشتن این مقاله تشکر می کند.
خواندن بیشتر
موج آینده توسط مصطفی سلیمان و مایکل باسکار (پرنعمت ، 10.99 پوند)
آخرین کار انسانی توسط آلیسون جی پو (پرینستون ، 25 پوند)
رسوب توسط توبی Ord (بلومسبوری ، 12.99 پوند)