برای آخرین به روزرسانی ها و مطالب اختصاصی در مورد پوشش هوش مصنوعی پیشرو در صنعت ، به خبرنامه های روزانه و هفتگی ما بپیوندید. بیشتر بدانید
قابلیت همکاری عامل در حال افزایش بخار است ، اما سازمان ها همچنان به ارائه پروتکل های جدید قابلیت همکاری می پردازند زیرا این صنعت همچنان می داند که کدام استانداردها را اتخاذ می کند.
گروهی از محققان دانشگاه کارنگی ملون یک پروتکل جدید قابلیت همکاری را حاکی از هویت ، پاسخگویی و اخلاق عوامل هوش مصنوعی خودمختار ارائه دادند. ارکستر لایه ای برای عوامل آگاهی ، یا Loka ، می تواند به سایر استانداردهای پیشنهادی مانند Google’s Agent2Agent (A2A) و پروتکل زمینه مدل (MCP) از انسان شناسی بپیوندد.
در یک مقاله ، محققان خاطرنشان کردند که ظهور عوامل هوش مصنوعی بر اهمیت حاکمیت آنها تأکید می کند.
محققان نوشتند: “هرچه حضور آنها گسترش می یابد ، نیاز به یک چارچوب استاندارد برای حاکمیت تعامل آنها بسیار مهم می شود.” “علی رغم همه گیر بودن در حال رشد ، عوامل هوش مصنوعی اغلب در سیستم های خاموش عمل می کنند و فاقد پروتکل مشترکی برای ارتباط ، استدلال اخلاقی و رعایت مقررات قضایی هستند. این تکه تکه شدن خطرات قابل توجهی را ایجاد می کند ، مانند مسائل مربوط به قابلیت همکاری ، سوء استفاده اخلاقی و شکاف های پاسخگویی.”
برای پرداختن به این موضوع ، آنها منبع باز لوکا را پیشنهاد می کنند ، که مأمورین را قادر می سازد هویت خود را “تبادل پیام های غنی و غنی از نظر اخلاقی” مبادله کنند ، پاسخگویی را اضافه کنند و حاکمیت اخلاقی را در طول فرآیند تصمیم گیری نماینده ایجاد کنند.
لوکا بر اساس آنچه محققان از آن به عنوان یک لایه هویت عامل جهانی یاد می کنند ، ساخته شده است ، چارچوبی که هویت منحصر به فرد و قابل اثبات را به نمایندگان اختصاص می دهد.
“ما لوکا را به عنوان یک معماری بنیادی و فراخوانی برای بررسی مجدد عناصر اصلی – هویت ، هدف ، اعتماد و اجماع اخلاقی تصور می کنیم. این باید تعاملات عامل را تحت تأثیر قرار دهد. از آنجا که دامنه عوامل هوش مصنوعی گسترش می یابد ، ارزیابی اینکه آیا زیرساخت های موجود ما می توانند با مسئولیت پذیری این انتقال را تسهیل کنند.”
لایه های لوکا
لوکا به عنوان یک پشته لایه لایه کار می کند. اولین پشته حول هویت می چرخد ، که عامل آن را بیان می کند. این شامل یک شناسه غیر متمرکز یا “شناسه منحصر به فرد ، رمزنگاری قابل اثبات” است. این امر به کاربران و سایر نمایندگان این امکان را می دهد تا هویت عامل را تأیید کنند.
لایه بعدی لایه ارتباطی است ، جایی که نماینده عامل دیگری را از قصد خود و وظیفه لازم برای انجام آن مطلع می کند. این اخلاق بعداً و لایه امنیتی دنبال می شود.
لایه اخلاق لوکا نحوه رفتار عامل را بیان می کند. این شامل “یک چارچوب تصمیم گیری اخلاقی انعطاف پذیر و در عین حال قوی است که به نمایندگان اجازه می دهد بسته به زمینه ای که در آن فعالیت می کنند ، با استانداردهای مختلف اخلاقی سازگار شوند.” پروتکل لوکا از مدلهای تصمیم گیری جمعی استفاده می کند و به نمایندگان در چارچوب این امکان را می دهد تا مراحل بعدی خود را تعیین کنند و ارزیابی کنند که آیا این مراحل با استانداردهای اخلاقی و مسئول هوش مصنوعی مطابقت دارد یا خیر.
در همین حال ، لایه امنیتی از آنچه محققان به عنوان “رمزنگاری مقاوم به کوانتومی” توصیف می کنند ، استفاده می کند.
چه چیزی لوکا را متمایز می کند
محققان گفتند که لوکا از این امر برجسته است زیرا اطلاعات مهمی را برای برقراری ارتباط با سایر مأمورین و کار به طور مستقل در سیستم های مختلف ایجاد می کند.
Loka می تواند برای شرکت ها برای اطمینان از امنیت نمایندگانی که در جهان مستقر می کنند ، مفید باشد و روشی قابل ردیابی برای درک چگونگی تصمیم گیری نماینده ارائه دهد. از ترس بسیاری از بنگاهها این است که یک نماینده به سیستم دیگری ضربه می زند یا به داده های خصوصی دسترسی پیدا کرده و اشتباه می کند.
رانجان گفت این سیستم “نیاز به تعریف عوامل چه کسی و نحوه تصمیم گیری و نحوه پاسخگویی آنها را برجسته می کند.”
وی گفت: “چشم انداز ما این است که سؤالات مهم را که اغلب در عجله به مقیاس عوامل هوش مصنوعی تحت الشعاع قرار می گیرند ، روشن کنیم: چگونه می توان اکوسیستم هایی را ایجاد کرد که در آن می توان به این نمایندگان اعتماد کرد ، پاسخگو باشد و از نظر اخلاقی در سیستم های متنوع قابل تعامل باشد؟” رانجان گفت.
لوکا باید با سایر پروتکل ها و استانداردهای عامل که اکنون در حال ظهور هستند ، رقابت کند. پروتکل هایی مانند MCP و A2A مخاطبان زیادی پیدا کرده اند ، نه فقط به دلیل راه حل های فنی که ارائه می دهند ، بلکه به این دلیل که این پروژه ها توسط سازمانهایی که مردم می دانند پشتیبانی می شوند. Anthropic MCP را شروع کرد ، در حالی که Google از A2A حمایت می کند ، و هر دو پروتکل بسیاری از شرکت ها را برای استفاده و بهبود این استانداردها باز کرده اند.
لوکا به طور مستقل فعالیت می کند ، اما رانجان گفت که آنها “بازخورد بسیار دلگرم کننده و هیجان انگیز” را از سایر محققان و سایر موسسات برای گسترش پروژه تحقیقاتی Loka دریافت کرده اند.