- خانهتکنولوژیهوش مصنوعی
مقاله جدید ژورنال Patterns درباره خطرات توهم هوش مصنوعی مولد در اختراع کشفهای غیرواقعی زیستی و تحریف دادههای داروسازی هشدار میدهد.
در دیجیاتو ثبتنام کنید
جهت بهرهمندی و دسترسی به امکانات ویژه و بخشهای مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.
سیستمهای هوش مصنوعی مولد اگرچه میتوانند به دانشمندان در شناسایی داروهای جدید کمک کنند، اما توانایی متقاعدکردن پژوهشگران درباره وجود پدیدههای زیستی غیرواقعی را نیز دارند. «توماس برگر» (Thomas Burger)، زیستشناس محاسباتی دانشگاه گرونوبل آلپ در فرانسه، میگوید الگوریتمهای هوش مصنوعی ممکن است با تولید دادههای مصنوعی، پدیدهای فرضی یا نادرست را به عنوان دستاورد علمی جا بزنند.
به گزارشساینسآلرت، هوش مصنوعی مولد با یادگیری ویژگیها و روابط موجود در دادههای واقعی، محتوای جدید تولید میکند. اگرچه شهرت اولیه این فناوری به تولید متن و تصویر مربوط میشود، اما محققان درحالحاضر از آن برای طراحی پروتئینها، شبیهسازی عملکرد سلولها، پرکردن شکافهای نتایج آزمایشگاهی و تولید دادههای زیستی مصنوعی بهره میبرند.
ریسکهای استفاده از هوش مصنوعی در پژوهشهای علمی
توماس برگر در مقاله تحلیلی خود در ژورنالPatterns، ده کاربرد مختلف هوش مصنوعی مولد در زیستشناسی را ارزیابی کرده است. او میگوید بروز پدیده توهم در این سیستمها میتواند به معنای تولید الگوی مولکولی یا استنباطی ظاهراً معتبر باشد که در واقعیت زیستی هیچ ریشهای ندارد.
این خطای الگوریتمی پیامدهای ملموس و جبرانناپذیری دارد. هوش مصنوعی ممکن است یک کاندیدای دارویی کارآمد را به اشتباه رد کند، پژوهشگران را به سمت بررسی درمانهای بیاثر سوق دهد، یک اثر زیستی واقعی را پنهان سازد یا یک مکانیسم بیماری ساختگی را به عنوان یک کشف جدید مطرح کند.
مقاله برگر نشان میدهد که همه کاربردهای هوش مصنوعی سطح خطر یکسانی ندارند. مرز اصلی خطر جایی است بین اینکه آیا خروجی هوش مصنوعی را در دنیای واقعی آزمایش میکنیم یا به عنوان داده مصنوعی در مقالات علمی میآوریم.
غربالگری داروها یا طراحی پروتئینها جزو کاربردهای کمخطرتر هستند. در این فرایند، مدل هوش مصنوعی تعداد زیادی از کاندیداها را ارزیابی میکند و گروه کوچکی را برای آزمایشهای واقعی در اختیار دانشمندان قرار میدهد. اگر هوش مصنوعی دچار خطا شود، پژوهشگران وقت یا هزینه خود را روی یک گزینه ناموفق تلف میکنند، اما ماده نهایی همچنان باید اثربخشی خود را در آزمایش واقعی اثبات کند.
خطرات جدی زمانی بروز میکند که دادههای مصنوعی جایگزین اندازهگیریهای واقعی آزمایشگاهی شوند. اگرچه دادههای زیستی مصنوعی برای پر کردن دادههای مفقود، حفظ حریم خصوصی بیماران، ایجاد گروههای مقایسهای و کاهش استفاده از حیوانات آزمایشگاهی مفید هستند، اما افزودن یک ویژگی غیرواقعی توسط هوش مصنوعی میتواند دانشمندان را به این باور غلط برساند که اثر زیستی جدیدی را کشف کردهاند.
توماس برگر میگوید مسئله اصلی معمولاً مقایسه مستقیم یک توهم با یک کشف واقعی نیست، بلکه تحریف دادههای واقعی در طول فرایندهای محاسباتی پیچیده است. هوش مصنوعی طی پردازش سیگنالهای خام دریافتشده از ابزارهای زیستفناوری ممکن است سیگنالی را تقویت یا دگرگون کند. این تغییر جزئی بیآنکه یک کشف ساختگی مجزا شکل بگیرد، نتیجهگیری نهایی پژوهشگران را تغییر میدهد و تشخیص آن برای دانشمندان بسیار دشوار خواهد بود.
یکی از ابعاد جالب تحلیل برگر، احتمال دستیابی به کشفهای واقعی از دل توهمات هوش مصنوعی است. برگر این پدیده را با یافتن تصادفی (Serendipity) یا کشفهای غیرمنتظره ناشی از خطاهای آزمایشگاهی مقایسه میکند. همانطور که اشتباهات انسانی در آزمایشگاههای سنتی در گذشته به کشفهای بزرگی مانند پنیسیلین منجر شدند، توهم هوش مصنوعی نیز ممکن است فرضیه جدیدی ایجاد کند که پس از آزمایش واقعی به یک کشف علمی تبدیل شود.
بااینحال، دانشمندان میگویند حتی هیجانانگیزترین خروجیهای هوش مصنوعی تا زمانی که در یک آزمایش واقعی و مستقل تأیید نشوند، کشف علمی محسوب نخواهند شد. نحوه استفاده پژوهشگران از این ابزار تعیینکننده است؛ اگر خروجی هوش مصنوعی صرفاً فرضیهای برای آزمایش باشد، طی آزمایشها آن فرضیه رد میشود، اما اگر خروجی به عنوان واقعیت پذیرفته شود، فرضیه ساختگی وارد مدارک و اسناد علمی خواهد شد.
دانشآموخته زبانشناسی هستم و همانقدر که به «کلمه» علاقهمندم، از سرککشیدن به گوشهوکنارِ جهان تکنولوژی و علم هم حظ میکنم.
مقالات و اخبار مرتبط
- تحقیق جدید: نقش خواب در موفقیت تحصیلی پررنگتر از تغذیه و کنترل استفاده از گوشی استجواد تاجی2 روز قبل0نتایج تحقیق روی ۱۰ میلیون فرزند: ترتیب تولد بر بروز بیماریها تأثیر میگذاردآزاد کبیری3 روز قبل1محققان: کاهش مصرف شکر در دو سال اول زندگی میتواند خطر زوال عقل را پایین بیاوردجواد تاجی6 روز قبل0پژوهش جدید: مصرف کمتر پروتئین میتواند سرعت پیری را کاهش دهدآزاد کبیری6 روز قبل0
برای گفتگو با کاربرانثبت نامکنید یاوارد حساب کاربریخود شوید.
- کاربرد نادرست هوشمصنوعی! | اونسایدقیمت روز پرفروشترین گوشیهای بازار ایران [18 مرداد 1405]مسئولین تو دنیای دیگهای زندگی میکنن! | تکتاکفقط من دستور میدم که چی فیلتر بشه! | تکتاک