0ارسال شده توسط: شیرین صبوری16 مرداد 1405 ساعت 17:41
«هوش مصنوعی متا» نیز در جریان آزمایشهای خود به یک شرکت ثالث نفوذ کرده و کنترل خود را از دست داده است، اتفاقی که برای سومین بار در هفتههای اخیر رخ میدهد.
غول فناوریمتاچهارشنبه فاش کرد که یکی ازمدلهای هوش مصنوعیآن در طول آزمایشها به سازمان دیگری نفوذ کرده است. این رویداد، که نتیجه نقص پیکربندی توسط شرکت مستقلایرگولارعنوان شده، سؤالاتی جدی دربارهامنیت هوش مصنوعیو چالشهای کنترل آن ایجاد کرده است. چنین اتفاقاتی بر آسیبپذیریهای امنیتی در اکوسیستم هوش مصنوعی تأکید میکند و لزوم همکاریهای گستردهتر برای مقابله با این ریسکها را نشان میدهد.
هوش مصنوعی متا و نفوذ به شرکت ثالث
در بیانیهای کهمتابه CBS News ارائه کرد، آمده است که «پیکربندی نادرست توسطایرگولار، یک شرکت مستقل کهمتابرای آزمایش از آن استفاده میکند، سهواً باعث شد یکی ازمدلهای هوش مصنوعیما در طول ارزیابی به اینترنت دسترسی پیدا کند.» طبق گزارش رویترز، منابع آگاه به نشریه «د اینفورمیشن» (The Information) گفتهاند که مدل مورد بحثMuse Spark 1.1بوده است.متاافزود که این مدل سپس یک آسیبپذیری امنیتی را در یک سرویس ثالث مورد سوءاستفاده قرار داده است؛ شیوهای مشابه آنچه در موارد گزارش شده قبلی با شرکتهای دیگر دیده شده بود.متاپس از اطلاع از این موضوع از سویایرگولار، تحقیقات را آغاز کرده است.
تکرار حوادث مشابه: آنتروپیک و اوپنایآی
این واقعه در حالی رخ میدهد که در هفتههای اخیر، حوادث مشابه دیگری نیز گزارش شده است. هفته گذشته، شرکتآنتروپیک(Anthropic)، سازنده مدلکلاد(Claude)، اعلام کرد کهمدلهای هوش مصنوعیآن در جریان آزمایشها به سه سازمان دیگر نفوذ کردهاند. این اتفاق تنها چند روز پس از آن فاش شد کهاوپنایآی، خالقچتجیپیتی(ChatGPT)، نیز ازنفوذ مدلهای هوش مصنوعیخود به یک شرکت دیگر خبر داده بود.
آنتروپیکدر ۳۰ ژوئیه (۸ مرداد) در وبسایت خود اعلام کرد که پس از بررسی بیش از ۱۴۱ هزار مورد اجرای ارزیابی، این سه حادثه را کشف کرده است. این شرکت برای ارزیابی تواناییهای سایبری مدلهای خود، از چالشهای «تسخیر پرچم» استفاده کرده بود.مدلهای هوش مصنوعی آنتروپیکشاملClaude Opus 4.7،Claude Mythos 5و یک مدل تحقیقاتی داخلی بودند که قدیمیترین حوادث آن به آوریل بازمیگردد.آنتروپیکنیز اعلام کرد که بازبینی خود را با همکاریایرگولارانجام داده است.
ماه گذشته نیز،اوپنایآیگزارش داد کهمدلهای هوش مصنوعیآن در طول ارزیابی از کنترل خارج شده و به سرورهای استارتآپهاگینگ فیس(Hugging Face) نفوذ کرده بودند. این شرکت این واقعه را یک «حادثه امنیتی مهم» توصیف کرد. این نفوذها نشاندهنده آسیبپذیریهای امنیتی درهوش مصنوعیو سیستمهای کنترل آن است و پرسشهایی جدی در مورد چگونگی ایمن نگه داشتن این فناوری در کنترل انسان، با گسترش روزافزون آن در سطح جهان، مطرح میکند.