همبنیانگذار هاگینگ فیس حمله سایبری خودسرانه مدلهای هوش مصنوعی اوپنایآی را زنگ خطری جدی برای امنیت صنعت فناوری دانست.
در دیجیاتو ثبتنام کنید
جهت بهرهمندی و دسترسی به امکانات ویژه و بخشهای مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.
«توماس ولف» (Thomas Wolf)، همبنیانگذار و مدیر ارشد علمی هاگینگ فیس، در واکنش به حمله سایبری اخیر مدلهای پیشرفته OpenAI اعلام کرد این حادثه زنگ خطری جدی برای کل صنعت فناوری است. به گفته او، این نوع حملات بهزودی به یکی از رایجترین شیوههای تهاجم سایبری تبدیل خواهند شد.
مدتی پیش اوپنایآی اعلام کرد که مدلهای هوش مصنوعی این شرکت در حین یک آزمون آزمایشگاهی، از محیط ایمن و ایزوله خارج شده و دست بهحمله سایبری به هاگینگ فیسزدهاند. به گفته توماس ولف، نشانههای اولیه این نفوذ در اواسط ماه ژوئیه مشاهده شد و تیمهای امنیتی در ابتدا از منشأ اصلی حمله بیخبر بودند.
بااینحال، هاگینگ فیس موفق شد سطح دسترسیها را محدود و شکاف امنیتی را مسدود کند. اوپنایآی نیز بلافاصله پس از شناسایی موضوع، هاگینگ فیس را مطلع ساخت که مدلهای هوش مصنوعی خودش عامل اصلی این تهاجم بودهاند. در این حمله، در یک بازه زمانی بسیار کوتاه، حدود ۱۷ هزار درخواست تهاجمی از آدرسها و آیپیهای مختلف به سمت شبکههای هاگینگ فیس هدایت شده بود.
هشدار همبنیانگذار هاگینگ فیس درباره حمله مدل OpenAI
به گزارشBBC، بروز این حادثه موجی از نگرانی را در میان پژوهشگران ایمنی هوش مصنوعی ایجاد کرده است. «نیت سوارز»، از پژوهشگران مؤسسه تحقیقات هوش ماشینی، میگوید این اتفاق بسیار نگرانکننده است؛ چرا که نشان میدهد مدل هوش مصنوعی اوپنایآی حفاظهای امنیتی تعریفشده را نادیده گرفته است. به گفته او، سیستم تا حدی درک میکرده که این اقدام مغایر با خواسته سازندگانش است، اما همچنان به رفتار خودسرانه ادامه داده است.
در همین راستا، نهادهای دولتی نیز به این موضوع ورود کردهاند. سخنگوی دولت بریتانیا اعلام کرد که مؤسسه امنیت هوش مصنوعی این کشور در حال بررسی دقیق نحوه رفتار این سیستم هوش مصنوعی است و همکاریهای خود را با اوپنایآی و سایر آزمایشگاهها برای تقویت لایههای حفاظتی فشردهتر خواهد کرد. همچنین از تمامی سازمانها خواسته شده است تا با اخذ گواهینامههای معتبر امنیتی، زیرساختهای دفاعی خود را در برابر تهدیدات جدید ارتقا دهند.
دانشآموخته زبانشناسی هستم و همانقدر که به «کلمه» علاقهمندم، از سرککشیدن به گوشهوکنارِ جهان تکنولوژی و علم هم حظ میکنم.
مقالات و اخبار مرتبط
- هزینههای زیرساختی OpenAI تا ۲۰۳۰ به رقم سرسامآور ۷۵۰ میلیارد دلار خواهد رسیدامیرحسین امامجمعه8 ساعت قبل0تعداد کاربران ابزارهای هوش مصنوعی ایجنتی OpenAI به مرز ۱۰ میلیون رسیدآزاد کبیری1 روز قبل0اعتراف OpenAI: مدلهای ما با فرار از محیط آزمایشگاه، هاگینگ فیس را هک کردندآزاد کبیری2 روز قبل0مدل داخلی OpenAI از سندباکس فرار کرد تا نتایج کار خود را در گیتهاب بگذاردجواد تاجی2 روز قبل0
برای گفتگو با کاربرانثبت نامکنید یاوارد حساب کاربریخود شوید.
- قیمت رسمی سری گلکسی واچ ۹ و گلکسی واچ اولترا ۲ مشخص شدقیمت روز پرفروشترین گوشیهای بازار ایران [31 تیر 1405]به لطف تورم به دهه ۷۰ بازگشتیم! | تکتاکچرا همه محاسبات ما به ضرر مردمه؟ | تکتاک