برای آخرین به روزرسانی ها و مطالب اختصاصی در مورد پوشش هوش مصنوعی پیشرو در صنعت ، به خبرنامه های روزانه و هفتگی ما بپیوندید. بیشتر بدانید
حتی هرچه مدل های بزرگ زبان (LLM) پیشرفته تر و تواناتر شوند ، آنها همچنان از توهم رنج می برند: ارائه اطلاعات نادرست ، یا اینکه آن را سخت تر و دروغ می گویند.
این امر می تواند به ویژه در مناطقی مانند مراقبت های بهداشتی مضر باشد ، جایی که اطلاعات اشتباه می تواند نتایج وخیمی داشته باشد.
کلینیک مایو ، یکی از بیمارستان های برتر در ایالات متحده ، تکنیک جدیدی را برای رسیدگی به این چالش اتخاذ کرده است. برای موفقیت ، تأسیسات پزشکی باید بر محدودیت های نسل بازیابی (RAG) غلبه کند. این فرایندی است که توسط آن مدل های بزرگ زبان (LLMS) اطلاعات را از منابع داده خاص و مرتبط می گیرند. این بیمارستان از آنچه در اصل RAG به عقب است ، استفاده کرده است ، جایی که مدل اطلاعات مربوطه را استخراج می کند ، سپس هر نقطه داده را به محتوای منبع اصلی خود پیوند می دهد.
نکته قابل توجه ، این تقریباً تمام توهمات مبتنی بر داده های بازآفرینی در موارد استفاده غیر تشخیصی را از بین برده است-به مایو اجازه می دهد تا مدل را در عمل بالینی خود بیرون بکشد.
متیو کالستروم ، مدیر پزشکی استراتژی و رئیس رادیولوژی ، به VentureBeat گفت: “با این رویکرد مراجعه به اطلاعات منبع از طریق پیوندها ، استخراج این داده ها دیگر مشکلی نیست.”
حسابداری برای هر نقطه داده
برخورد با داده های مراقبت های بهداشتی یک چالش پیچیده است – و می تواند یک سینک زمان باشد. اگرچه مقادیر زیادی از داده ها در سوابق بهداشت الکترونیکی (EHRS) جمع آوری شده است ، اما داده ها می توانند برای یافتن و تجزیه آن بسیار دشوار باشند.
اولین مورد استفاده مایو برای هوش مصنوعی در مورد همه این داده ها خلاصه های تخلیه بود (با استفاده از نکات مربوط به مراقبت های پس از مراقبت ، به بسته بندی های بسته بندی شده مراجعه کنید) ، با مدل های آن از RAG سنتی استفاده کرد. همانطور که Callstrom توضیح داد ، این مکان طبیعی برای شروع بود زیرا استخراج و خلاصه سازی ساده است ، این همان چیزی است که LLMS به طور کلی از آن خارج می شود.
وی گفت: “در مرحله اول ، ما در تلاش نیستیم تا تشخیص دهیم ، جایی که ممکن است شما از یک مدل سؤال کنید ،” بهترین مرحله بعدی برای این بیمار در حال حاضر چیست؟ ”
خطر توهم نیز تقریباً به همان اندازه قابل توجه نبود که در سناریوهای پزشک و پزشک وجود داشته باشد. نه اینکه بگوییم که اشتباهات بازآفرینی داده ها باعث خراش دادن نشد.
کالستروم گفت: “در اولین تکرار ما ، ما توهمات خنده دار داشتیم که شما به وضوح تحمل نمی کنید – به عنوان مثال سن اشتباه بیمار.” “بنابراین شما باید آن را با دقت بسازید.”
در حالی که RAG یک مؤلفه مهم در زمینه LLMS (بهبود توانایی های آنها) بوده است ، این تکنیک محدودیت های خود را دارد. مدل ها ممکن است داده های بی ربط ، نادرست یا کم کیفیت را بازیابی کنند. در تعیین اینکه آیا اطلاعات مربوط به سؤال از انسان است ، نمی توان تعیین کرد. یا خروجی هایی ایجاد کنید که با فرمت های درخواست شده مطابقت ندارند (مانند بازگرداندن متن ساده به جای یک جدول دقیق).
در حالی که برخی از راه حل ها برای این مشکلات وجود دارد – مانند نمودار نمودار ، که به نمودارهای دانش برای تهیه زمینه یا پارچه اصلاح (CRAG) می پردازد ، جایی که یک مکانیسم ارزیابی کیفیت اسناد بازیابی شده را ارزیابی می کند – توهم از بین نرفته است.
مراجعه به هر نقطه داده
این جایی است که فرآیند RAG به عقب وارد می شود. به طور خاص ، مایو آنچه را که به عنوان خوشه بندی با استفاده از الگوریتم نمایندگان (CURE) شناخته می شود با LLMS و پایگاه داده های بردار برای بررسی دو بار بازیابی داده ها جفت کرد.
خوشه بندی برای یادگیری ماشین (ML) بسیار مهم است زیرا بر اساس شباهت ها یا الگوهای آنها ، نقاط داده را سازماندهی ، طبقه بندی و گروه بندی می کند. این در اصل به مدلها “داده” داده می شود. درمان فراتر از خوشه بندی های معمولی با یک تکنیک سلسله مراتبی ، با استفاده از اقدامات از راه دور برای گروه های گروهی بر اساس نزدیکی است (فکر کنید: داده های نزدیک به یکدیگر بیشتر از مواردی که از هم جدا هستند مرتبط هستند). این الگوریتم توانایی تشخیص “Outliers” یا نقاط داده ای را دارد که با دیگران مطابقت ندارند.
با ترکیب درمان با یک رویکرد پارچه معکوس ، LLM مایو خلاصه هایی را که در حقایق فردی ایجاد کرده بود ، تقسیم کرد ، سپس آن ها را با اسناد منبع هماهنگ کرد. سپس یک LLM دوم به ثمر رساند که واقعیت ها با آن منابع مطابقت دارد ، به طور خاص در صورت وجود رابطه علّی بین این دو.
Callstrom گفت: “هر نقطه داده به داده های منبع آزمایشگاهی اصلی یا گزارش تصویربرداری ارجاع می شود.” “این سیستم تضمین می کند که منابع واقعی و با دقت مورد بازیابی قرار می گیرند ، و به طور مؤثر توهمات مربوط به بازیابی را حل می کند.”
تیم Callstrom از پایگاه داده های بردار برای اولین بار سوابق بیمار استفاده کرد تا این مدل بتواند به سرعت اطلاعات را بازیابی کند. آنها در ابتدا از یک پایگاه داده محلی برای اثبات مفهوم (POC) استفاده کردند. نسخه تولید یک بانک اطلاعاتی عمومی با منطق در خود الگوریتم CURE است.
کالستروم توضیح داد: “پزشکان بسیار شکاک هستند و می خواهند اطمینان حاصل کنند که از آنها اطلاعاتی که قابل اعتماد نیست ، تغذیه نمی شوند.” “بنابراین اعتماد به ما به معنای تأیید هر چیزی است که ممکن است به عنوان محتوا ظاهر شود.”
“علاقه باورنکردنی” در طول تمرین مایو
تکنیک درمان برای سنتز سوابق جدید بیمار نیز مفید بوده است. Callstrom توضیح داد: سوابق خارجی که جزئیات پیچیده بیماران را در مورد مشکلات پیچیده بیماران در قالب های مختلف می تواند داشته باشد. این امر باید مورد بررسی و خلاصه قرار گیرد تا پزشکان بتوانند قبل از دیدن بیمار برای اولین بار ، خود را آشنا کنند.
وی گفت: “من همیشه سوابق پزشکی خارج را به عنوان کمی شبیه صفحه گسترده توصیف می کنم: شما هیچ ایده ای ندارید که در هر سلول وجود دارد ، باید به هرکدام نگاه کنید تا محتوا را بکشد.”
اما اکنون ، LLM استخراج را انجام می دهد ، مواد را طبقه بندی می کند و یک مرور کلی بیمار ایجاد می کند. Callstrom گفت ، به طور معمول ، این کار می تواند 90 دقیقه یا چند دقیقه از روز پزشک خارج شود – اما AI می تواند این کار را در حدود 10 انجام دهد.
وی “علاقه باورنکردنی” را برای گسترش توانایی در سراسر عمل مایو برای کمک به کاهش بار اداری و ناامیدی توصیف کرد.
“هدف ما ساده سازی پردازش محتوا است – چگونه می توانم توانایی ها را تقویت کنم و کار پزشک را ساده کنم؟” گفت
مقابله با مشکلات پیچیده تر با هوش مصنوعی
البته Callstrom و تیمش پتانسیل خوبی برای هوش مصنوعی در مناطق پیشرفته تر می بینند. به عنوان مثال ، آنها برای ساختن یک مدل ژنومی با سیستم های مغزی همکاری کرده اند که پیش بینی می کند بهترین درمان آرتریت برای بیمار باشد و همچنین با مایکروسافت روی رمزگذار تصویر و یک مدل بنیاد تصویربرداری همکاری می کنند.
اولین پروژه تصویربرداری آنها با مایکروسافت ، اشعه ایکس قفسه سینه است. آنها تاکنون 1.5 میلیون اشعه X را تبدیل کرده اند و قصد دارند در دور بعدی 11 میلیون نفر دیگر انجام دهند. Callstrom توضیح داد که ساخت یک رمزگذار تصویر فوق العاده دشوار نیست. پیچیدگی در ساخت تصاویر حاصل در واقع مفید است.
در حالت ایده آل ، اهداف ساده سازی نحوه بررسی پزشکان مایو پرتونگاری سینه و تقویت تحلیل های آنها است. به عنوان مثال ، هوش مصنوعی ممکن است مشخص کند که در کجا باید یک لوله endotracheal یا یک خط مرکزی را درج کنند تا به بیماران کمک کند تنفس کند. کالستروم گفت: “اما این می تواند بسیار گسترده تر باشد.” به عنوان مثال ، پزشکان می توانند محتوای و داده های دیگر ، مانند پیش بینی ساده کسر بیرون زدگی – یا میزان پمپاژ خون از قلب – را از یک پرتوی X قفسه سینه باز کنند.
وی گفت: “اکنون می توانید در مورد پاسخ پیش بینی به درمان در مقیاس وسیع تر فکر کنید.”
مایو همچنین “فرصت باورنکردنی” را در ژنومیک (مطالعه DNA) و همچنین سایر مناطق “OMIC” مانند پروتئومیکس (مطالعه پروتئین ها) می بیند. هوش مصنوعی می تواند از رونویسی ژن یا فرایند کپی کردن یک دنباله DNA پشتیبانی کند تا نقاط مرجع برای سایر بیماران ایجاد شود و به ایجاد مشخصات خطر یا مسیرهای درمانی برای بیماری های پیچیده کمک کند.
کالستروم توضیح داد: “بنابراین شما اساساً در حال نقشه برداری بیماران در برابر سایر بیماران هستید و هر بیمار را در اطراف یک گروه قرار می دهید.” “این همان چیزی است که پزشکی شخصی واقعاً ارائه می دهد:” شما مانند این بیماران دیگر به نظر می رسید ، این راهی است که ما باید با شما رفتار کنیم تا نتایج مورد انتظار را ببینیم. ” هدف واقعاً بازگشت بشریت به مراقبت های بهداشتی است زیرا ما از این ابزارها استفاده می کنیم. ”
اما کالستروم تأکید کرد که همه چیز از طرف تشخیص نیاز به کار بیشتری دارد. این یک چیز است که نشان می دهد یک مدل پایه برای ژنومیک برای آرتریت روماتوئید کار می کند. این یک مورد دیگر است که در واقع در یک محیط بالینی تأیید شود. محققان باید با آزمایش مجموعه داده های کوچک شروع کنند ، سپس به تدریج گروه های آزمایش را گسترش داده و در برابر درمان معمولی یا استاندارد مقایسه کنند.
وی خاطرنشان كرد: “شما بلافاصله به آن نمی روید ،” سلام ، بیایید از Methotrexate پرش كنیم “(داروی آرتریت روماتوئید محبوب).
در نهایت: “ما توانایی باورنکردنی این (مدلها) را تشخیص می دهیم تا در واقع نحوه مراقبت از بیماران و تشخیص به روشی معنی دار ، برای مراقبت از بیمار محور یا بیمار خاص در مقابل درمان استاندارد ، تغییر دهیم.” “داده های پیچیده ای که ما در مراقبت از بیمار با آنها سر و کار داریم ، جایی است که ما متمرکز شده ایم.”