به گزارش سلامت نیوز به نقل از axios، هشدارهای اخیر درباره خطرات هوش مصنوعی بار دیگر توجه‌ها را به این موضوع جلب کرده است که مدل‌های هوش مصنوعی همین حالا نیز در برخی آزمایش‌های زیستی پرخطر مورد استفاده قرار می‌گیرند؛ در حالی که سازوکارهای نظارتی و حفاظتی برای مقابله با این تهدیدها هنوز کافی نیستند.

نگرانی‌ها درباره خطرات نوظهوری مانند ویروس‌های طراحی‌شده با کمک هوش مصنوعی رو به افزایش است. با این حال، ایجاد چارچوب‌های حفاظتی مؤثر دشوار است؛ زیرا حتی در برخی موارد مشخص نیست سیستم‌های هوش مصنوعی چگونه و با چه هدفی مورد استفاده قرار خواهند گرفت.

یکی از بدترین سناریوهایی که پژوهشگران درباره آن هشدار داده‌اند، استفاده از هوش مصنوعی برای توسعه سلاح‌های زیستی است؛ فناوری‌ای که در صورت سوءاستفاده می‌تواند پیامدهایی فاجعه‌بار برای سلامت عمومی و حتی بقای انسان داشته باشد.

هوش مصنوعی و تلاش برای توسعه سلاح‌های زیستی

شرکت «آنتروپیک» روز پنجشنبه اعلام کرد پنج مورد احتمالی از استفاده از مدل‌های هوش مصنوعی خود را شناسایی و متوقف کرده است که می‌توانست به توسعه سلاح‌های زیستی کمک کند.

این موارد در ارزیابی تهدیدی مطرح شده‌اند که نمونه‌های واقعی شناسایی‌شده توسط این شرکت را بین دسامبر تا اوت بررسی کرده است.

در دو مورد، پژوهشگران تلاش کرده بودند از مدل «کلود» برای کمک به تحقیقات «افزایش عملکرد» یا Gain-of-Function روی ویروس‌های خطرناک استفاده کنند؛ نوعی پژوهش آزمایشگاهی که با تغییر یا تقویت برخی ویژگی‌های عوامل بیماری‌زا، به مطالعه رفتار آنها و احتمال ایجاد همه‌گیری کمک می‌کند.

آنتروپیک در گزارش خود تأکید کرده است که توانایی‌های زیستی هوش مصنوعی می‌توانند هم برای اهداف مفید و هم برای اهداف مخرب به کار گرفته شوند و تشخیص نیت واقعی کاربران، به‌ویژه زمانی که افراد یا گروه‌های پیچیده تلاش می‌کنند هدف خود را پنهان کنند، دشوار است.

این شرکت همچنین تأکید کرده است که موارد شناسایی‌شده لزوماً به معنای آن نیست که تهدید زیستی ناشی از کلود در حال وقوع یا قریب‌الوقوع است، بلکه نشان می‌دهد برخی فعالیت‌های تحقیقاتی دوکاربردی در حوزه زیست‌شناسی با بازیگران دولتی نگران‌کننده مرتبط هستند؛ بازیگرانی که معمولاً می‌توانند از سازوکارهای کنترل دسترسی عبور کنند.

آنتروپیک اعلام کرده است مدل‌های جدید این شرکت با سازوکارهای حفاظتی عرضه شده‌اند که دسترسی به پرسش‌های مربوط به تحقیقات زیستی را که امکان سوءاستفاده از آنها وجود دارد، محدود می‌کنند.

نگرانی از سرعت تغییرات در علوم زیستی

این هشدارها در شرایطی مطرح می‌شود که هوش مصنوعی با سرعت زیادی در حال تغییر علوم زیستی است و همزمان، قوانین و نهادهای دولتی مسئول نظارت بر تحقیقات پرخطر را با چالش مواجه کرده است.

ماه گذشته، یک تیم تحقیقاتی در دانشگاه استنفورد گزارش داد که از نوع دیگری از هوش مصنوعی مولد برای طراحی یک ویروس مصنوعی استفاده کرده است؛ اقدامی که به گفته پژوهشگران، نخستین استفاده از این فناوری برای ایجاد یک موجود زیستی مشاهده‌نشده در طبیعت بوده است.

همچنین، نظرسنجی از بیش از ۱۰۰ متخصص امنیت ملی که توسط مؤسسه امنیت و فناوری انجام شده، نشان داد ۷۰ درصد از آنها معتقدند هوش مصنوعی خطر توسعه سلاح‌های زیستی را به شکل قابل‌توجهی افزایش داده یا طی دو تا سه سال آینده چنین اثری خواهد داشت.

این کارشناسان معتقدند مهم‌ترین تهدید هوش مصنوعی در حوزه زیستی، کاهش موانع ورود برای افراد و گروه‌هایی است که مهارت تخصصی بالایی ندارند. در میان نگرانی‌های مطرح‌شده نیز توانایی ایجاد عوامل زیستی با قابلیت ایجاد همه‌گیری در صدر قرار دارد.

هوش مصنوعی چه توانایی‌هایی دارد که می‌توانند مورد سوءاستفاده قرار گیرند؟

پژوهشگران دانشگاه‌ها و مؤسسات مختلف از جمله فوردهم، جانز هاپکینز، آکسفورد، استنفورد، کلمبیا و نیویورک هشدار داده‌اند که مدل‌های هوش مصنوعی کنونی دارای قابلیت‌هایی هستند که در صورت استفاده نادرست می‌توانند خطرات زیستی ایجاد کنند.

به گفته این پژوهشگران، برخی مدل‌ها می‌توانند در طراحی ساختارهای جدید مرتبط با ویروس‌ها، پیش‌بینی نحوه تکامل عوامل بیماری‌زا، تولید توالی‌های نوکلئیک‌اسیدی در DNA یا RNA با هدف دور زدن سامانه‌های غربالگری ایمنی و طراحی ژنوم‌های ویروسی با ویژگی‌های تقویت‌شده مورد استفاده قرار گیرند.

پژوهشگران همچنین نسبت به توسعه و عرضه مدل‌های زیستی قدرتمندتر و کارآمدتر بدون انجام ارزیابی‌های پایه ایمنی هشدار داده‌اند؛ رویکردی که به گفته آنها در بسیاری از حوزه‌های حساس علوم زیستی قابل قبول نیست.

کاهش آستانه دسترسی به فناوری‌های خطرناک

یکی از نگرانی‌های اصلی این است که هوش مصنوعی پیشرفته می‌تواند انجام برخی وظایف پیچیده را برای افراد دارای نیت مخرب بسیار آسان‌تر کند.

کارشناسان هشدار می‌دهند آموزش مدل‌ها با داده‌هایی که ارتباط میان ویژگی‌های ژنتیکی یک ویروس و خصوصیات واقعی آن، مانند قابلیت انتقال یا فرار از پاسخ ایمنی، را نشان می‌دهند، می‌تواند آستانه لازم برای ایجاد عوامل بیماری‌زای خطرناک را کاهش دهد.

به همین دلیل، درخواست‌ها برای افزایش نظارت دولت‌ها بر مدل‌های جدید هوش مصنوعی و تعیین استانداردهای ایمنی در حال افزایش است.

برخی کارشناسان پیشنهاد کرده‌اند به جای اتکا به نظام فعلی مشاوره‌های داوطلبانه میان شرکت‌های هوش مصنوعی و مقامات فدرال، سازوکاری رسمی برای ارزیابی خطرات مدل‌های جدید ایجاد شود.

یکی از نهادهایی که می‌تواند در این زمینه نقش داشته باشد، «مرکز استانداردها و نوآوری هوش مصنوعی» در وزارت بازرگانی آمریکا است که سال گذشته برای کمک به تدوین استانداردهای ملی تأسیس شد.

تام اینگلسبی، مدیر مرکز امنیت سلامت جانز هاپکینز، در گفت‌وگو با آکسیوس گفت اکنون فرصتی وجود دارد تا جامعه درباره آینده مطلوب هوش مصنوعی و بخش‌های مختلف اکوسیستم آن تصمیم‌گیری کند.

او تأکید کرد افکار عمومی باید اطمینان داشته باشد که قدرتمندترین مدل‌های هوش مصنوعی در حال توسعه در آمریکا از نظر خطرات جدی برای امنیت ملی بررسی می‌شوند.

هوش مصنوعی باید مستقل عمل کند؟

برخی کارشناسان معتقدند آینده ایمن‌تر هوش مصنوعی زیستی ممکن است در سیستم‌هایی باشد که برای اهداف پژوهشی مشخص طراحی شده‌اند؛ مانند مدل‌هایی که برای پیش‌بینی ساختار پروتئین‌ها و تحقیقات زیستی به کار می‌روند، اما مانند «عامل‌های هوش مصنوعی» به‌صورت مستقل برنامه‌ریزی و اجرا نمی‌کنند.

عامل‌های هوش مصنوعی می‌توانند به‌طور مستقل مجموعه‌ای از وظایف را برنامه‌ریزی و اجرا کنند و همین ویژگی، نگرانی‌های ایمنی بیشتری ایجاد می‌کند.

حمزه چودری، مسئول هوش مصنوعی و امنیت ملی در مؤسسه Future of Life، می‌گوید افزودن قابلیت خودمختاری به سیستم‌های هوش مصنوعی می‌تواند عدم قطعیتی ایجاد کند که بالقوه خطرناک است؛ زیرا ممکن است نتوان پیش‌بینی کرد این سیستم‌ها در آینده چه اقداماتی انجام خواهند داد.

به گفته او، نگرانی درباره سیستم‌های بسیار هوشمند تنها به میزان هوش آنها مربوط نیست، بلکه افزایش همزمان قابلیت خودمختاری آنها می‌تواند خطر را بیشتر کند.

قانون‌گذاران چگونه می‌خواهند با این تهدید مقابله کنند؟

اکنون توجه‌ها به این موضوع معطوف شده است که آیا قانون‌گذاران به هشدارهای جدید واکنش نشان خواهند داد یا خیر.

یکی از طرح‌های مطرح‌شده در کنگره آمریکا، موسوم به لایحه «کلید خاموش»، به دولت اجازه می‌دهد در صورت تشخیص اینکه یک مدل هوش مصنوعی می‌تواند آسیب فاجعه‌باری ایجاد کند، آن را غیرفعال کند.

طرح دیگری نیز چارچوب قانونی برای همکاری شرکت‌های هوش مصنوعی در مقابله با تهدیدهای امنیتی ویژه این فناوری ایجاد می‌کند.

با گسترش استفاده از هوش مصنوعی در تحقیقات زیستی، پرسش اصلی دیگر فقط این نیست که این فناوری چه دستاوردهایی برای پزشکی و علوم زیستی به همراه خواهد داشت؛ بلکه این است که چگونه می‌توان اطمینان حاصل کرد قابلیت‌های قدرتمند آن به ابزاری برای ایجاد تهدیدهای زیستی تبدیل نمی‌شوند.