دادگاه عالی انگلستان و ولز هشدار داده است که استفاده نادرست از فناوری‌های هوش مصنوعی در فرایندهای حقوقی می‌تواند پیامدهای جدی و حتی مجازات‌های سنگینی برای وکلا به‌همراه داشته باشد. این هشدار در پی بررسی‌های قضایی پیرامون دو پرونده تازه مطرح شده صادر شده و بر ضرورت احتیاط و دقت حرفه‌ای وکلا در بهره‌گیری از ابزارهای هوش مصنوعی تأکید دارد. دادگاه اعلام کرده است که وکلا باید اقدامات جدی‌تری را برای جلوگیری از بروز خطاهای ناشی از اتکا به اطلاعات نادرست تولیدشده توسط هوش مصنوعی اتخاذ کنند. به‌ویژه در مواردی که نتایج تحقیقات حقوقی به طور کامل بر خروجی این فناوری‌ها استوار است، احتمال اشتباه و گمراهی افزایش می‌یابد که این موضوع می‌تواند روند دادرسی را به‌شدت تحت‌تأثیر قرار دهد.
به گزارش رسانه اخبار فناوری تک فاکس، قاضی ویکتوریا شارپ، یکی از چهره‌های بلندپایه دستگاه قضایی انگلستان، در حکم صادرشده درباره این پرونده‌ها، به‌صراحت اعلام کرده است که ابزارهایی همچون ChatGPT با وجود توانایی در تولید پاسخ‌هایی منسجم و در ظاهر موجه، قادر به ارائه تحقیقات حقوقی معتبر و قابل استناد نیستند. او تأکید کرد که این ابزارها ممکن است مطالبی تولید کنند که از نظر ساختار و زبان، حرفه‌ای و منطقی به‌نظر برسند، اما از لحاظ محتوایی کاملاً نادرست باشند. این خروجی‌ها حتی ممکن است شامل ارجاع‌های جعلی به پرونده‌ها یا نظریه‌های حقوقی ناموجود باشند که در صورت استفاده در روند قضایی، اعتبار وکلا را زیر سوال می‌برد.
با وجود این هشدار صریح، دادگاه به‌طور کامل استفاده از هوش مصنوعی را ممنوع نکرده است. در واقع، قاضی شارپ تأکید کرده که فناوری‌های نوین می‌توانند در خدمت حرفه وکالت قرار گیرند، اما این موضوع مستلزم رعایت اصول حرفه‌ای و اخلاقی است. به گفته او، وکلا وظیفه دارند صحت و اعتبار محتوای ارائه‌شده توسط سامانه‌های هوش مصنوعی را با رجوع به منابع حقوقی معتبر بررسی و تأیید کنند. این وظیفه بخشی از مسئولیت حرفه‌ای آنان در قبال موکلان، دادگاه و سیستم قضایی است و نمی‌توان آن را نادیده گرفت یا به گردن ابزارهای فناورانه انداخت.
قاضی شارپ همچنین به افزایش نگران‌کننده مواردی اشاره کرد که در آن‌ها، وکلا به شکل ناآگاهانه یا سهل‌انگارانه به اطلاعات نادرست تولیدشده توسط هوش مصنوعی استناد کرده‌اند. او هشدار داد که چنین اقداماتی نه‌تنها می‌تواند به زیان موکلان منجر شود، بلکه ممکن است وجهه حرفه‌ای وکلای دخیل را نیز خدشه‌دار کند. وی یادآور شد که در چنین مواردی، دادگاه اختیار دارد مجازات‌هایی را برای وکلایی که از این فناوری‌ها به شکل نادرست بهره‌برداری می‌کنند، در نظر بگیرد. این مجازات‌ها ممکن است شامل جریمه‌های مالی، تعلیق از فعالیت یا حتی لغو مجوز وکالت باشد.
موضوع استفاده از هوش مصنوعی در حوزه حقوقی یکی از چالش‌برانگیزترین مباحث روز در میان جوامع حقوقی جهان به شمار می‌رود. فناوری‌هایی مانند ChatGPT با توانایی در تولید سریع متون پیچیده و قابل قبول، فرصت‌هایی برای افزایش بهره‌وری فراهم کرده‌اند، اما هم‌زمان خطراتی نیز با خود به‌همراه دارند. دادگاه عالی انگلستان با صدور این حکم، تلاش کرده است تا مرز مشخصی میان استفاده مسئولانه و سوءاستفاده ناآگاهانه از هوش مصنوعی ترسیم کند و در عین حال، به جامعه حقوقی یادآوری کند که وظایف اخلاقی و حرفه‌ای آنان همچنان در اولویت قرار دارد، حتی در عصری که هوش مصنوعی به‌سرعت در حال تحول و گسترش است.