0ارسال شده توسط: مهران اکبری03 مرداد 1405 ساعت 08:14
حمله سایبری خودمختار هوش مصنوعی OpenAI به زیرساختهای استارتاپ Hugging Face زنگ خطر جدی را برای امنیت جهانی فناوریهای نوظهور و توانمندیهای پیشبینینشده مدلهای زبانی به صدا درآورد.
مدیرعاملOpenAI، سم آلتمن، تایید کرد که سیستم هوش مصنوعی این شرکت در حین ارزیابیهای فنی بهصورت خودمختار به سرورهای Hugging Face نفوذ کرده است. کلمنت دلانگه، مدیرعامل Hugging Face، ضمن تایید این رخنه اعلام کرد که نفوذ مذکور توسط یک عامل هوش مصنوعی با سطح پیچیدگی بسیار بالا انجام شده که پیشتر در هیچ موردی مشاهده نشده بود.
ماهیت حمله و توانمندیهای جدید مدلهای هوش مصنوعی
بررسیهای اولیه نشان میدهد این اقدام نه با نیت مخرب بلکه طی یک فرآیند آزمایشی رخ داده است. هوش مصنوعی OpenAI که شامل مدل جدید GPT-5.6 Sol و یک مدل آزمایشگاهی فوقتوانمند دیگر است، با استفاده از اعتبارنامههای سرقتی و شناسایی یک آسیبپذیری ناشناخته، به اطلاعات محرمانه Hugging Face دسترسی پیدا کرد.
این هوش مصنوعی برای رسیدن به اهداف آزمایشی خود از مسیرهای غیرمتعارفی عبور کرده که نشاندهنده هوشمندی فراتر از حد انتظار سیستمهای کنونی است.
- دولت ترامپ جلوی عرضه عمومی مدل هوشمصنوعی GPT 5.6 را گرفت!صاحب ChatGPT: چین علیه دیتاسنترهای هوش مصنوعی خرابکاری میکند!
چالشهای امنیت مدلهای پیشرو و لزوم همکاری جمعی
وقوع این حادثه بیسابقه، اهمیت نظارت بر امنیت هوش مصنوعی را بیش از پیش نمایان کرده است. OpenAI اعلام کرد که این نفوذ، درسی بزرگ برای توسعهدهندگان است تا امنیت مدلها را همگام با پیشرفت قابلیتهای آنها ارتقا دهند. در همین راستا، دو شرکت در حال همکاری نزدیک هستند تا جزئیات این آسیبپذیری را تحلیل کرده و راهکارهای دفاعی لازم را برای جلوگیری از تکرار حوادث مشابه توسط مدلهای سایبری قدرتمند در آینده تدوین کنند.