به گزارش سلامت نیوز به نقل از newser، یک مرد ۷۵ ساله آمریکایی پس از آنکه توصیه‌های پزشکان را نادیده گرفت و به جای آن به ابزارهای هوش مصنوعی تکیه کرد، جان خود را از دست داد؛ ماجرایی که بار دیگر نگرانی‌ها درباره استفاده نادرست از AI در تصمیم‌های حیاتی را پررنگ کرده است.

به گزارش The New York Times، «جو رایلی» (عصب‌شناس بازنشسته در سیاتل) پس از ابتلا به لوسمی، به این باور رسید که پزشکانش اشتباه می‌کنند و درمان پیشنهادی آن‌ها وضعیتش را بدتر خواهد کرد. او با استفاده از چت‌بات‌هایی مانند Perplexity بارها درباره بیماری‌اش جست‌وجو کرد و حتی گزارشی به‌ظاهر علمی تولید کرد که به گفته خانواده‌اش حاوی اطلاعات نادرست و نقل‌قول‌های اشتباه بود.

با وجود هشدارهای پزشک متخصص، خانواده و حتی پژوهشگرانی که آثارشان به‌اشتباه در آن گزارش ذکر شده بود، او به نتایج هوش مصنوعی اعتماد کرد و درمان را به تعویق انداخت. زمانی که در نهایت تصمیم به شروع درمان گرفت، شرایط جسمی‌اش بسیار ضعیف شده بود و در اواخر سال ۲۰۲۵ درگذشت.

پسر او، «بن رایلی»، که خود از منتقدان استفاده بی‌رویه از هوش مصنوعی است، می‌گوید خروجی‌های ظاهراً معتبر اما نادرست AI نقش مهمی در این تصمیم سرنوشت‌ساز داشتند. او تأکید می‌کند که هدفش سرزنش کامل هوش مصنوعی نیست، اما این ابزارها می‌توانند با ارائه اطلاعات گمراه‌کننده، افراد را به تصمیم‌های خطرناک سوق دهند.

این ماجرا در شرایطی مطرح می‌شود که شرکت‌های فناوری در حال توسعه ابزارهای سلامت مبتنی بر هوش مصنوعی هستند و بحث‌های اخلاقی درباره میزان اعتماد به این فناوری در تصمیم‌های پزشکی بیش از پیش داغ شده است.