به گزارش سلامت نیوز به نقل از theguardian، فناوریهای هوش مصنوعی که برای گوش دادن به مکالمات پزشکان و بیماران و تبدیل آنها به متن و خلاصهسازی جلسات پزشکی استفاده میشوند، ممکن است نام داروها و بیماریها را اشتباه ثبت کنند و سلامت بیماران را به خطر بیندازند.
نهاد قانونی حامی حقوق بیماران در نظام سلامت انگلیس، با هشدار درباره استفاده گسترده از دستیارهای هوش مصنوعی در مطبها و بیمارستانها اعلام کرد که برخی خطاهای این ابزارها توسط پزشکان شناسایی نمیشوند و گاهی این خود بیماران هستند که اشتباهات را کشف میکنند.
در یکی از موارد، خلاصه تولیدشده توسط یک ابزار هوش مصنوعی به اشتباه اعلام کرد که یک زن دچار دِمیلیناسیون (آسیب به غلاف میلین اعصاب) شده است؛ عارضهای جدی که میتواند با بیماریهایی مانند اماس ارتباط داشته باشد.
این زن که خود از کارکنان نظام سلامت NHS بود، پس از مشاهده نتیجه ثبتشده برای MRI خود، متوجه اشتباه شد و موضوع را پیگیری کرد. در نهایت بیمارستان تأیید کرد که عبارت ثبتشده اشتباه بوده و در نتیجه تصویربرداری، «عدم وجود دمیلیناسیون» گزارش شده است.
او درباره این تجربه گفت دریافت یک تشخیص نادرست به دلیل خطای هوش مصنوعی و سپس مواجه شدن با توضیح اینکه این موضوع صرفاً «یک اشتباه تایپی» بوده، برایش بسیار آزاردهنده و تکاندهنده بوده است.
Healthwatch England با اشاره به این مورد و نمونههای مشابه، هشدار داده است که استفاده سریع و گسترده از دستیارهای هوش مصنوعی در NHS میتواند به تهدیدی برای ایمنی بیماران تبدیل شود؛ زیرا اگر خطاها شناسایی نشوند، ممکن است وارد پرونده پزشکی بیمار شوند و بر روند درمان آینده او تأثیر بگذارند.
در موردی دیگر، یک دستیار هوش مصنوعی نام دارویی را که پزشک عمومی برای بیمار تجویز کرده بود، با داروی دیگری با نام مشابه اشتباه گرفت. این بار نیز بیمار بود که خطا را تشخیص داد.
در نمونهای دیگر، نامه خلاصهشده توسط هوش مصنوعی به توصیه پزشک متخصص بیمار برای دریافت مجدد داروی میگرن از پزشک عمومی اشاره نکرده بود؛ اشتباهی که در صورت اصلاح نشدن، میتوانست بیمار را در دریافت داروی مورد نیاز خود با مشکل مواجه کند.
Healthwatch اعلام کرده است که «موارد متعددی» از سوی بیمارانی دریافت کرده که متوجه اشتباهات ثبتشده توسط این ابزارها شدهاند، در حالی که متخصصان سلامت متوجه آنها نشده بودند. این نهاد هشدار داده است که اگر بیمار اشتباه را تشخیص ندهد، ممکن است اطلاعات نادرست در پرونده پزشکی او باقی بماند.
استفاده گسترده NHS از دستیارهای هوش مصنوعی
بر اساس برنامه ۱۰ ساله سلامت دولت انگلیس، دستیارهای هوش مصنوعی قرار است با کاهش بار اداری پزشکان و کارکنان NHS، زمان بیشتری برای مراقبت از بیماران ایجاد کنند. این فناوری یکی از محورهای اصلی برنامه دولت برای حرکت نظام سلامت انگلیس از خدمات سنتی به یک نظام سلامت دیجیتال است.
با این حال، Healthwatch خواستار تعیین سازوکاری شفاف برای گزارش خطاهای ایجادشده توسط ابزارهای هوش مصنوعی و اصلاح آنها شده است.
سخنگوی این نهاد گفت نظام سلامت هیچگاه کاملاً عاری از خطا نبوده، اما یافتههای جدید نشان میدهد که باید هرچه سریعتر مشخص شود بیماران چگونه میتوانند اشتباهات ایجادشده توسط ابزارهای هوش مصنوعی یا متخصصانی را که از این ابزارها استفاده میکنند، گزارش و اصلاح کنند.
«ریچل پاور»، مدیر اجرایی انجمن بیماران، نیز گفت اعتماد به این فناوری به ارتباط مناسب و مشارکت واقعی بیماران وابسته است؛ اما در حال حاضر هر دو مورد با کمبود مواجه هستند.
Healthwatch همچنین تصمیم آژانس تنظیم مقررات داروها و محصولات مراقبت سلامت انگلیس (MHRA) مبنی بر اینکه دستیارهای هوش مصنوعی را در گروه تجهیزات پزشکی قرار ندهد، نگرانکننده دانسته است. به گفته این نهاد، در نتیجه این تصمیم، نظارت یکپارچهای در سراسر انگلیس برای اطمینان از ایمنی و اثربخشی این ابزارها وجود نخواهد داشت.
در حال حاضر پزشکان عمومی و متخصصان بیمارستانی در انگلیس از ۲۷ نوع مختلف دستیار هوش مصنوعی استفاده میکنند.
«توهم» هوش مصنوعی در پرونده پزشکی
نگرانی درباره دقت این فناوری پیش از این نیز مطرح شده است. «دکتر شیر زیزر داوود»، پزشک عمومی در لندن، سال گذشته در مقالهای در یک مجله پزشکی هشدار داده بود که دستیارهای هوش مصنوعی میتوانند برای پزشکان خانواده به «شمشیری دولبه» تبدیل شوند.
او در یکی از تجربههای خود توضیح داده بود که یک دستیار هوش مصنوعی در گزارش خود نوشته بود پزشک به بیمار گفته است مصرف پروزاک را ادامه دهد؛ در حالی که پزشک اصلاً این دارو را تجویز یا درباره آن با بیمار صحبت نکرده بود.
این نمونه از خطاهایی است که به آن «توهم هوش مصنوعی» (AI hallucination) گفته میشود؛ یعنی سیستم اطلاعاتی را در گزارش خود وارد میکند که اصلاً در جریان ویزیت مطرح نشده است.
به گفته داوود، پزشکان برای اطمینان از صحت متنهای تولیدشده همچنان مجبورند همه گزارشها و رونوشتها را بررسی کنند و همین مسئله میتواند باعث شود این فناوری هنوز آنطور که انتظار میرود، در زمان پزشکان صرفهجویی نکند.
او همچنین هشدار داده است اگر مدیران NHS بر این باور باشند که دستیارهای هوش مصنوعی نیاز پزشکان به یادداشتبرداری حین ویزیت را از بین میبرند، ممکن است از پزشکان عمومی انتظار داشته باشند روزانه دو بیمار بیشتر ببینند؛ این در حالی است که مدت زمان ویزیت پزشکان عمومی در انگلیس همین حالا نیز از کوتاهترین زمانها در جهان است.
«دکتر شارلوت بلیز»، پژوهشگر حوزه استفاده از هوش مصنوعی در سلامت در دانشگاه اوپسالا سوئد، نیز تأکید کرد که هوش مصنوعی میتواند و در عمل نیز مرتکب اشتباه شود.
پژوهشهای او نشان داده است پزشکان عمومی که از فناوری ضبط و ثبت خودکار مکالمات استفاده میکنند، معتقدند احتمال بروز خطا در شرایطی مانند حضور چند نفر در جلسه، داشتن سابقه پزشکی پیچیده و زمانی که زبان اول بیمار انگلیسی نیست بیشتر است.
با این حال، بلیز تأکید کرد که پزشکان نیز بدون استفاده از هوش مصنوعی مرتکب خطا میشوند و حتی ممکن است نرخ خطا در استفاده از هوش مصنوعی بیشتر باشد.
او افزود که در یک نظرسنجی از ۱۰۰۳ پزشک عمومی انگلیسی در سال گذشته، بیش از نیمی از پزشکان معتقد بودند گزارشهای ثبتشده توسط فناوریهای هوش مصنوعی مورد استفاده در مطب، از گزارشهایی که خودشان تهیه میکنند دقیقتر است.
نظر شما