- خانهتکنولوژیهوش مصنوعی
مدلهای OpenAI به صورت کاملاً خودکار و بدون دستور انسان، حملهای چندمرحلهای را علیه سرورهای هاگینگ فیس طراحی و اجرا کردند.
در دیجیاتو ثبتنام کنید
جهت بهرهمندی و دسترسی به امکانات ویژه و بخشهای مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.
- مدیرعامل اندرز: میخواهیم صنعت آموزش را متحول کنیم11 دقیقه قبلانجمن تجارت الکترونیک: رجیستری .ir نباید به ابزار محدودسازی کسبوکارها تبدیل شود59 دقیقه قبلفرانسه ممنوعیت استفاده از شبکههای اجتماعی برای افراد زیر ۱۵ سال را تصویب کرد1 ساعت قبلسامسونگ دستیار هوش مصنوعی برای پایش سلامت و تندرستی معرفی کرد2 ساعت قبلگوگل از مدلهای جمینای ۳.۶ فلش، ۳.۵ فلشلایت و ۳.۵ فلش سایبر رونمایی کرد2 ساعت قبل
چند روز پس از آنکه پلتفرم محبوبهاگینگ فیساعلام کرد ایجنت هوش مصنوعی خودمختاری به سیستمهای آنها نفوذ کرده، شرکت OpenAI با انتشار مطلبی رسماً اعتراف کرد که مدلهای هوش مصنوعی این شرکت عامل اصلی این حمله ناخواسته بودهاند.
براساساعلام رسمی OpenAI، این حادثه در جریان ارزیابیهای امنیتی داخلی و سنجش توانمندیهای سایبری مدلها رخ داده است. در این تست، مدلهای GPT-5.6 Sol و یک مدل عرضهنشده و به مراتب قدرتمندتر، در یک محیط قرنطینه و سندباکس قرار داده شده بودند که برای ارزیابی دقیقتر، لایههای حفاظتی آنها کاهش یافته بود. هدف از این آزمایش، بررسی توانایی مدلها در تبدیل آسیبپذیریهای امنیتی به اکسپلویتهای عملیاتی در یک سامانه بنچمارک به نام ExploitGym بود.
بااینحال، مدلها در طول فرایند تست، روی یافتن پاسخهای بنچمارک ExploitGym متمرکز یا اصطلاحاً هایپرفوکس شدند. آنها برای یافتن پاسخ، ابتدا یک آسیبپذیری روز صفر را در خود محیط تست ایزوله اوپنایآی کشف و اکسپلویت کردند تا به یک Node متصل به اینترنت دست پیدا کنند.
پس از خروج از محیط قرنطینه، مدلهای هوش مصنوعی استنتاج کردند که پلتفرم هاگینگ فیس احتمالاً میزبان دادهها، مدلها یا راهکارهای مرتبط با بنچمارک ExploitGym است. ازاینرو، به صورت کاملاً خودکار و بدون دستور انسان، حملهای زنجیرهای و چندمرحلهای را علیه سرورهای هاگینگ فیس طراحی و اجرا کردند.
حمله خودکار مدلهای OpenAI به هاگینگ فیس
درحالحاضر، تیمهای مهندسی اوپنایآی و هاگینگ فیس درحال همکاری مشترک برای بررسی این حادثه هستند و آسیبپذیریهای مورد استفاده مدلها را در محیطهای آزمایشگاهی و پلتفرمها پچ کردهاند.
هاگینگ فیس در بیانیه خود گفت: «ابزارهای تهاجمی و خودمختار متکی بر هوش مصنوعی دیگر یک موضوع نظری و تئوریک نیستند. استفاده از هوش مصنوعی برای حملات سایبری، سرعت حملات را بالا برده و هزینههای آن را کاهش میدهد. امروزه حفاظت از بسترهای آنلاین نیازمند بهکارگیری هوش مصنوعی دفاعی است.»
اگرچه این حادثه نشاندهنده یک رخنه امنیتی جدی در کنترل مدلهای هوش مصنوعی است، اما به نظر میرسد اوپنایآی از این رویداد برای نمایش قدرت تهاجمی مدلهای خود استفاده کرده است. این اقدام در راستای رقابت فشرده با رقبای حوزه امنیت سایبری، نظیر مدل Claude Mythos از آنتروپیک وGemini 3.5 Flash Cyberاز گوگل است.
اوپنایآی در گزارش خود نمودارهایی را نیز به نمایش گذاشته که نشان میدهد مدل GPT-5.6 Sol چطور در حفظ و اجرای عملیاتهای سایبری چندمرحلهای و پیچیده مهارت یافته است. این شرکت همچنین از مشتریان سازمانی خود خواسته است تا برای دسترسی به مدلهای جدید حوزه امنیت سایبری (OpenAI Cyber) ثبتنام کنند.
دانشآموخته زبانشناسی هستم و همانقدر که به «کلمه» علاقهمندم، از سرککشیدن به گوشهوکنارِ جهان تکنولوژی و علم هم حظ میکنم.
مقالات و اخبار مرتبط
- مدل داخلی OpenAI از سندباکس فرار کرد تا نتایج کار خود را در گیتهاب بگذاردجواد تاجی20 ساعت قبل0OpenAI حالا به والدین درباره تخطی فرزندشان از قوانین ChatGPT هشدار میدهدجواد تاجی2 روز قبل0نامه حقوقی اپل به دهها کارمند سابق خود در OpenAI: اسناد مرتبط با شکایت را حفظ کنیدحمید گنجی5 روز قبل1جستجو میان چتها، فایلها و تصاویر در ChatGPT آسانتر شدحمید گنجی5 روز قبل0
برای گفتگو با کاربرانثبت نامکنید یاوارد حساب کاربریخود شوید.
- به لطف تورم به دهه ۷۰ بازگشتیم! | تکتاکقیمت روز پرفروشترین گوشیهای بازار ایران [31 تیر 1405]چرا همه محاسبات ما به ضرر مردمه؟ | تکتاکاین یک ویدیوی اونساید نیست! اون ساید