- خانهتکنولوژیهوش مصنوعی
گرگ براکمن هشدار داد ارتقای سریع ابزارهای دفاعی خودکار ضروری شده است.
در دیجیاتو ثبتنام کنید
جهت بهرهمندی و دسترسی به امکانات ویژه و بخشهای مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.
«گرگ براکمن»، رئیس OpenAI، در یادداشتی هشدار داد که پیشرفت سریع قابلیتهای کدنویسی هوش مصنوعی، تهدیدهای سایبری را افزایش داده است و سازمانها برای جلوگیری از نفوذ، باید روشهای امنیت سایبری خود را با سرعتی بسیار بیشتر ارتقا دهند؛ به عبارتی یعنی بیشتر به هوش مصنوعی روی بیاورند.
براکمن دروبلاگ شخصیخود مینویسد هوش مصنوعی میتواند در حوزه دفاعی نیز بسیار مؤثر باشد و ساختار اقتصادی امنیت سایبری را به نفع مدافعان تغییر دهد. تولید کدهای دارای امنیت فوقبشری و ایجاد اثباتهای ریاضی برای سیستمهای رمزنگاری از جمله کارکردهای دفاعی این فناوری هستند.
نظرات رئیس OpenAI درباره تهدیدهای سایبری هوش مصنوعی
رئیس اوپنایآی به تیمهای امنیتی توصیه کرده است که استفاده از ایجنتهای هوش مصنوعی را در اولویت قرار دهند و آنها را به ابزارهایی به منظور بررسی امنیتی کدها، تحلیل آسیبپذیری و ارزیابی ریسک زنجیره تأمین نرمافزار مجهز کنند.
البته براکمن میگوید این اقدامات باید تدریجی و پلهبهپله باشد و پیشنهاد داده است که فرایندها ابتدا از اسکنهای ساده آغاز شود و سپس به اسکنهای عملیاتی و رفع خودکار هشدارهای نادرست گسترش یابد.
مدلهای پیشرو مثل میتوس آنتروپیک توجه کارشناسان امنیت و مقامهای دولتی را در ماههای اخیر به خود جلب کردهاند. این مدلها بهصورت برنامههایی با دسترسی محدود عرضه میشوند و فقط در اختیار شرکای تأییدشده قرار دارند.
تفاوت اصلی این مدلها در توانایی آنها برای شناسایی سریع حفرههای امنیتی و پیکربندیهای نادرست و همچنین ایجاد زنجیرههای حمله جدید است. توسعه هوش مصنوعی اکنون بر ایجنتهای هوش مصنوعی متمرکز شده است که میتوانند به نرمافزارها متصل شوند.
برخی پژوهشگران حوزههای امنیتی بر این باورند که سرعت ارتقای نردههای حفاظتی در مدلهای زبانی بزرگ با سرعت رشد قابلیتهای آنها همگام نبوده است. البته شرکتهای دارای دسترسی به مدلهای پیشرو اصلاحیههای امنیتی متعددی منتشر کردهاند؛ برای مثال اوراکل در ماه گذشته نزدیک به ۱۴۵۰ وصله امنیتی عرضه کرد.
دانشآموخته زبانشناسی هستم و همانقدر که به «کلمه» علاقهمندم، از سرککشیدن به گوشهوکنارِ جهان تکنولوژی و علم هم حظ میکنم.
برای گفتگو با کاربرانثبت نامکنید یاوارد حساب کاربریخود شوید.
- قیمت روز پرفروشترین گوشیهای بازار ایران [27 مرداد 1405]عارف: رئیس جمهور تصمیم گرفته پرونده فیلترینگ بسته شودچرا همه چیز رو پیچیده میکنیم؟ | اونسایدمدیرعامل آسیاتک: کاش تعرفه اینترنت به سال ۹۲ برمیگشت