پیشرفتهای خیرهکننده در حوزه هوش مصنوعی، چشماندازهای تازهای در زیستشناسی و پزشکی گشوده است. این فناوری میتواند در طراحی داروهای دقیقتر، واکسنهای نوین و پروتئینهای سفارشی نقشی حیاتی ایفا کند. با این حال، همین تواناییها نگرانیهایی نیز برانگیختهاند؛ از جمله احتمال استفاده از هوش مصنوعی در ساخت سلاحهای بیولوژیکی پیشرفته که از دید سیستمهای نظارتی کنونی پنهان میمانند. پرسش اساسی این است که تا چه اندازه باید از آیندهای که در آن الگوریتمها قادر به تولید عوامل زیستی مرگبار هستند، بیمناک بود؟
به گزارش رسانه اخبار فناوری تک فاکس، گروهی از پژوهشگران به سرپرستی اریک هورویتز، مدیر ارشد علمی مایکروسافت، به بررسی این موضوع پرداختهاند. هورویتز تأکید میکند که هرچند پیشرفتهای هوش مصنوعی نیروی محرکهای برای نوآوری در علم پزشکی و زیستشناسی است، اما «قدرت تازه به مسئولیتی تازه نیز نیاز دارد». او هشدار میدهد که بدون چارچوبهای نظارتی دقیق، همین فناوریهای تحولساز میتوانند به تهدیدی جدی برای امنیت جهانی بدل شوند.
تیم تحقیقاتی هورویتز در این پژوهش ارزیابی کرده است که آیا هوش مصنوعی قادر است پروتئینهایی طراحی کند که عملکردی مشابه پروتئینهای خطرناک شناختهشده داشته باشند اما در ساختار مولکولی خود تفاوتهایی ایجاد کنند تا از دید سامانههای امنیت زیستی پنهان بمانند. جزئیات دقیق درباره این پروتئینها منتشر نشده، اما احتمالاً شامل موادی مانند رایسین ــ سمی که در ترور سال ۱۹۷۸ به کار رفت ــ و بوتولینوم، سم عصبی فوقالعاده قوی که شکل رقیقشده آن با نام بوتاکس شناخته میشود، بوده است.
تولید هر پروتئین در مقیاس بالا مستلزم در اختیار داشتن دستور ژنتیکی آن، یعنی توالی دیانای است. زیستشناسان این توالیها را معمولاً از شرکتهایی سفارش میدهند که در سنتز دیانای تخصص دارند. برای جلوگیری از سوءاستفادههای احتمالی، برخی شرکتها داوطلبانه سفارشها را غربال میکنند تا مطمئن شوند کسی در پی ساخت مواد زیستی خطرناک نیست. در این فرایند، توالیهای آمینواسیدی با پایگاه دادهای از «توالیهای نگرانکننده» مقایسه میشوند که احتمال استفاده در سلاحهای بیولوژیکی دارند.
پژوهش هورویتز نشان داده است که هوش مصنوعی میتواند بهصورت نظری نسخههایی از پروتئینهای خطرناک طراحی کند که ساختار ژنتیکی متفاوت اما عملکردی مشابه دارند. تیم تحقیق این فرضیه را بر روی ۷۲ پروتئین بالقوه خطرناک آزمایش کرد و دریافت که غربالگریهای فعلی در بسیاری موارد قادر به شناسایی این نسخههای جایگزین نیستند. با وجود این، یافتهها بهاندازهای که ممکن است در نگاه اول نگرانکننده به نظر برسند، تهدیدآمیز نیستند؛ زیرا هیچیک از پروتئینهای بازطراحیشده در عمل تولید نشدند و بیشتر نمونههای آزمایشی عملکرد زیستی قابلتوجهی از خود نشان ندادند.
در کنار این نتایج، باید توجه داشت که حملات زیستی واقعی در طول تاریخ بسیار نادر بودهاند و این موضوع لزوماً ناشی از توان بالای سیستمهای نظارتی نیست. در واقع، ساخت مواد خطرناک از راههای سادهتری نیز ممکن است. برای نمونه، سم رایسین بهسادگی از گیاه کرچک ــ گیاهی که در بسیاری از باغها یافت میشود ــ استخراج میشود. از این رو، پژوهش اخیر بیشتر شبیه هشدار در برابر تهدیدی پیچیده است، در حالی که روشهای ابتداییتر همچنان خطرناکتر و عملیتر باقی ماندهاند.
بررسیهای تاریخی نشان میدهد هیچ گروه تروریستی غیردولتی تاکنون موفق به استفاده مرگبار از سلاحهای زیستی مبتنی بر پروتئین نشده است. برای مثال، فرقه آئوم شینریکیو در ژاپن در دهه ۹۰ میلادی تلاش کرد با استفاده از بوتولینوم حمله کند، اما تنها در اجرای حملات شیمیایی موفق بود. حتی نامههای حاوی رایسین که به کاخ سفید ارسال شدند، هیچ قربانی نداشتند. بر اساس آمار تلفات، همچنان سلاحهای گرم و مواد منفجره خطرناکتر از هر نوع سم یا عامل زیستی هستند.
با این وجود، خطر بالقوه همچنان وجود دارد. مطالعه هورویتز تنها به پروتئینها محدود بود، در حالی که تهدید اصلی میتواند از سوی ویروسها بروز کند. هوش مصنوعی هماکنون در بازطراحی ویروسها به کار میرود. به عنوان نمونه، در پژوهشی در دانشگاه استنفورد، گروهی از دانشمندان ویروسی را بازطراحی کردند که باکتری اشرشیا کلی را آلوده میکند. از میان ۳۰۲ ویروس طراحیشده با کمک هوش مصنوعی، تنها ۱۶ ویروس توانستند باکتری را آلوده کنند. اگرچه نتیجه محدود بود، اما این تجربه نشان داد مسیر تازهای برای تحقیقات زیستی گشوده شده است.
جیمز دیگنز از شرکت توییست بایوساینس، یکی از اعضای تیم هورویتز، توضیح میدهد که شناسایی دیانای ویروسهای خطرناک بهمراتب سادهتر از تشخیص پروتئینهای خطرناک است. او میگوید هرچه دادههای ژنومی بیشتری در دسترس باشد، غربالگری با دقت بالاتری انجام میشود، زیرا اطلاعات در سطح ژنوم بسیار دقیقتر و گستردهتر است. با این حال، هنوز همه شرکتهای تولید دیانای فرایند غربالگری را اجرا نمیکنند و در همین حال دستگاههای سنتز دیانای خانگی نیز در حال ارزانتر و در دسترستر شدن هستند.
برخی کارشناسان پیشنهاد دادهاند که ابزارهای هوش مصنوعی جدیدی طراحی شوند تا از تولید ویروسهای خطرناک یا استفاده مخرب از الگوریتمها جلوگیری کنند. با این حال، تجربه نشان داده است که محدودیتهای فنی اغلب قابل دور زدناند. مشابه با مواردی که کاربران هوش مصنوعی را فریب میدهند تا بهطور غیرمستقیم دستور ساخت بمب را ارائه دهد، احتمال سوءاستفاده در حوزه زیستی نیز وجود دارد و به همین دلیل، نظارت مستمر امری حیاتی است.
از منظر تاریخی، ویروسهای طبیعی همواره تهدیدی بهمراتب بزرگتر از زیستتروریسم بودهاند. شواهد علمی برخلاف برخی ادعاهای سیاسی نشان میدهد که ویروس SARS-CoV-2 بهاحتمال زیاد از بازار حیوانات و از انتقال ویروس خفاش به حیوانات وحشی و سپس انسان منشأ گرفته است، نه از نشت آزمایشگاهی. این واقعیت نشان میدهد که طبیعت هنوز هم منبع اصلی تهدیدات زیستی برای بشر است.
حتی بدون کمک هوش مصنوعی، فردی با نیت مخرب میتواند با انتشار ویروسی شناختهشده مانند آبله، فاجعهای جهانی رقم بزند. با وجود کاستیهای متعدد در نظامهای کنترل سلاحهای زیستی، نیازی به فناوریهای پیشرفته برای ایجاد بحران نیست. در مجموع، احتمال رها شدن یک ویروس طراحیشده با هوش مصنوعی در آینده نزدیک بسیار پایین است، اما با پیشرفت سریع فناوریهای زیستی و محاسباتی، این خطر در حال افزایش است. تجربه همهگیری کووید-۱۹ نشان داد حتی ویروسی با نرخ مرگ پایین نیز میتواند جهان را فلج کند؛ واقعیتی که کافی است تا جامعه جهانی را نسبت به آیندهای که در آن هوش مصنوعی و زیستشناسی در هم میآمیزند، هوشیارتر و محتاطتر کند.