به گزارش سلامت نیوز به نقل از verywellhealth، هوش مصنوعی، چه آماده باشیم چه نه، به بخشی از مسیر درمان بیماران تبدیل شده است.

بیمارانی که در گذشته برای تشخیص علائم خود به جست‌وجوهای اینترنتی و گوگل متوسل می‌شدند، حالا ابزار قدرتمندتری در اختیار دارند: ChatGPT. در برخی موارد نیز تشخیص ارائه‌شده توسط هوش مصنوعی درست از آب درمی‌آید.

در یکی از نمونه‌های اخیر، ChatGPT پس از آنکه یک زن ۲۳ ساله گفت پزشکان بارها بیماری او را به اشتباه تشخیص داده‌اند، به شناسایی یک اختلال ژنتیکی نادر کمک کرد. تشخیص ارائه‌شده توسط هوش مصنوعی بعداً با آزمایش ژنتیکی تأیید شد.

با این حال، چنین مواردی هنوز استثنا هستند. در مقابل هر داستان موفقیت‌آمیز درباره استفاده از هوش مصنوعی در حوزه سلامت، موارد متعددی از تشخیص‌های اشتباه، نگرانی‌های مربوط به حریم خصوصی و حتی پدیده‌ای موسوم به «روان‌پریشی چت‌باتی» گزارش شده است؛ وضعیتی که در آن علائم پارانویا همزمان با استفاده از چت‌بات تشدید می‌شوند.

با توجه به اینکه میلیون‌ها نفر هر روز از ChatGPT برای دریافت اطلاعات سلامت استفاده می‌کنند، طبیعی است که بخشی از پاسخ‌های این ابزار نیز اشتباه یا گمراه‌کننده باشند.

اما پزشکان چگونه باید با بیماری برخورد کنند که بیش از حد به «پزشک رباتیک» جدید خود اعتماد کرده است؛ به‌ویژه اگر خود پزشک نیز آشنایی کاملی با هوش مصنوعی مصرف‌کننده نداشته باشد؟

پزشکان و متخصصان حوزه سلامت که با هوش مصنوعی آشنایی بیشتری دارند، سه توصیه اصلی ارائه کرده‌اند:

۱. از هوش مصنوعی برای آماده شدن برای ویزیت استفاده کنید، نه تشخیص بیماری

هوش مصنوعی می‌تواند به بیمار کمک کند علائم خود را مرتب کند، سؤالاتش را بنویسد و برای مراجعه به پزشک آماده شود، اما نباید جایگزین تشخیص پزشکی شود.

پاسخ‌های هوش مصنوعی بر اساس الگوهای آماری تولید می‌شوند و جای یک ارزیابی کامل بالینی را نمی‌گیرند. این ابزار ممکن است علائم بیمار را بیش از حد ساده کند، یک بیماری زمینه‌ای جدی را تشخیص ندهد یا اطلاعاتی ارائه کند که دیگر به‌روز نیستند.

۲. مراقب نحوه مطرح کردن سؤال باشید

چت‌بات‌های هوش مصنوعی ممکن است گاهی بیش از حد با فرضیات کاربر موافقت کنند، حتی زمانی که این فرضیات اشتباه هستند.

برای مثال، ممکن است فرد بارها یک سؤال را با شکل‌های مختلف از هوش مصنوعی بپرسد تا در نهایت به پاسخی اطمینان‌بخش برسد. این کار می‌تواند باعث دریافت اطلاعات گمراه‌کننده و افزایش اضطراب شود.

به همین دلیل، بهتر است کاربر به جای تلاش برای گرفتن پاسخ مورد نظر خود، سؤال را تا حد امکان بی‌طرفانه مطرح کند و پاسخ هوش مصنوعی را نیز قطعی و نهایی در نظر نگیرد.

۳. از حریم خصوصی خود محافظت کنید

هر اطلاعاتی که در یک ابزار هوش مصنوعی وارد می‌کنید، ممکن است ذخیره یا برای بهبود سیستم بررسی شود.

بنابراین بهتر است از وارد کردن اطلاعات حساس شخصی مانند سوابق کامل پزشکی، اطلاعات هویتی یا جزئیاتی که نمی‌خواهید ثبت یا ذخیره شوند خودداری کنید.

همچنین ابزارهای هوش مصنوعی مصرف‌کننده لزوماً تحت قوانین محرمانگی پزشکی مانند HIPAA قرار ندارند.

پزشک نباید نگرانی بیمار درباره پاسخ هوش مصنوعی را نادیده بگیرد

به گفته صحیب امتیاز، پزشک و مدیر ارشد پزشکی، طبیعی است که بیماران بپرسند آیا پزشک ممکن است در تشخیص آنها چیزی را از قلم انداخته باشد؛ چه این نگرانی با کمک هوش مصنوعی ایجاد شده باشد و چه بدون آن.

به جای نادیده گرفتن نگرانی بیمار، پزشک می‌تواند از او بخواهد پاسخ‌ها یا اطلاعاتی را که از هوش مصنوعی دریافت کرده است با یکدیگر بررسی کنند و توضیح دهد کدام بخش از این اطلاعات درست، نادرست یا نیازمند بررسی بیشتر است.

این رویکرد می‌تواند به کاهش اضطراب بیمار و ایجاد گفت‌وگوی بهتر میان پزشک و بیمار کمک کند.

بیماران بیش از گذشته از هوش مصنوعی برای سلامت استفاده می‌کنند

بررسی‌های اخیر نشان می‌دهد استفاده از ChatGPT برای موضوعات مربوط به تغذیه و سلامت روان افزایش یافته است.

کاربران دیگر تنها برای دریافت اطلاعات عمومی به هوش مصنوعی مراجعه نمی‌کنند، بلکه آن را وارد زندگی روزمره خود کرده‌اند؛ از تهیه برنامه غذایی گرفته تا دریافت حمایت و راهنمایی درباره سلامت روان.

این روند اهمیت زیادی برای پزشکان دارد، زیرا بیماران ممکن است پیش از آنکه حتی برای گرفتن وقت پزشک اقدام کنند، ابتدا سراغ چت‌بات‌ها بروند.

در نتیجه، پزشکان ممکن است مجبور شوند زمان بیشتری را صرف توضیح زمینه اطلاعات تولیدشده توسط هوش مصنوعی، اصلاح فرضیات نادرست بیمار و کمک به تصمیم‌گیری آگاهانه کنند.

اطلاعات پزشکی بیمار هنگام استفاده از هوش مصنوعی امن است؟

ممکن است بیماران نگران باشند که اگر پزشک در مطب از ابزارهای هوش مصنوعی برای رونویسی یا ثبت اطلاعات استفاده کند، چه اتفاقی برای داده‌های پزشکی آنها می‌افتد.

اگر یک ابزار ثبت یادداشت مبتنی بر هوش مصنوعی به پرونده الکترونیک پزشکی یا سیستم مستندسازی متصل باشد، معمولاً باید الزامات مربوط به HIPAA را رعایت کند. با این حال، صرف اینکه یک ابزار به پرونده پزشکی متصل شده یا با عنوان «سازگار با HIPAA» معرفی می‌شود، به معنای بی‌خطر بودن آن نیست.

عمر سلیم، پزشک طب داخلی و طب طول عمر، توصیه می‌کند پیش از استفاده از چنین ابزارهایی چهار موضوع بررسی شود:

• چه اطلاعاتی در اختیار ابزار قرار می‌گیرد؛

• این اطلاعات در چه محیطی دریافت و ذخیره می‌شود؛

• مجوز استفاده از اطلاعات برای این هدف وجود دارد یا خیر؛

• اطلاعات با چه هدفی مورد استفاده قرار می‌گیرند.

بیماران همچنین باید بدانند این ابزار چه اطلاعاتی را ثبت می‌کند، چرا از آن استفاده می‌شود، چه افرادی به اطلاعات دسترسی دارند، اطلاعات چه مدت نگهداری می‌شوند، آیا ممکن است برای آموزش مدل‌های هوش مصنوعی مورد استفاده قرار گیرند و آیا بیمار می‌تواند با استفاده از آنها مخالفت کند یا خیر.

نسخه مصرف‌کننده و نسخه پزشکی یک ابزار هوش مصنوعی ممکن است از نظر سطح حفاظت از اطلاعات، تفاوت زیادی داشته باشند.

بنابراین اگر شرایط استفاده از ابزار یا تأیید سازمان درمانی درباره آن مشخص نباشد، اطلاعات بیمار نباید وارد سیستم شود.

هیچ فناوری کاملاً بدون خطر نیست. آنچه اهمیت دارد این است که سازوکارهای حفاظتی مشخصی وجود داشته باشد، بیمار حق انتخاب داشته باشد و یک پزشک یا متخصص درمانی، یادداشت تولیدشده توسط هوش مصنوعی را پیش از وارد شدن آن به پرونده پزشکی بررسی کند.