- خانهتکنولوژیهوش مصنوعی
مدل جدید Astra رتبهبندی «آستانه بحرانی امنیت سایبری» دریافت کرده است.
در دیجیاتو ثبتنام کنید
جهت بهرهمندی و دسترسی به امکانات ویژه و بخشهای مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.
- کلادفلر از مرورگر Kitesurf برای ایجنتهای هوش مصنوعی رونمایی کرد22 دقیقه قبلچرا اپل تلگرام را از اپ استور حذف میکند اما ایکس را نه؟12 ساعت قبلمحققان از هوش مصنوعی برای ساخت ویروسهای جدید استفاده کردند16 ساعت قبلپاسخ اروپا به استارلینک؛ طرح ساخت منظومه ماهوارهای IRIS² نهایی شد17 ساعت قبلمدل Opus 5 بهاشتباه کل پوشه پروفایل یک توسعهدهنده را هنگام پشتیبانگیری حذف کرد18 ساعت قبل
OpenAI اعلام کرد که روند توسعه و فعالیتهای داخلی مربوط به مدل جدید هوش مصنوعی خود با نام Astra را کندتر کرده است. بررسیها و ارزیابیهای داخلی این شرکت نشان میدهد که مدل استرا پیشرفتهای خیرهکنندهای در زمینه کدنویسی ایجنتی و امنیت سایبری بهدست آورده است.
طبقبیانیه اوپنایآی، مدل درحال توسعه استرا به سطح بالایی از توانمندی دست یافته که براساس «چارچوب آمادگی» تدوینشده در سال ۲۰۲۳، بهعنوان «آستانه بحرانی امنیت سایبری» طبقهبندی میشود. دستیابی به این آستانه بدین معناست که هوش مصنوعی میتواند بهصورت مستقل، حملات سایبری پیچیدهای را علیه سیستمهای واقعی طراحی و اجرا کند.
کاهش سرعت توسعه مدل قدرتمند Astra
براساس تعاریف رسمی اوپنایآی در چارچوب آمادگی، یک مدل هوش مصنوعی زمانی به آستانه بحرانی امنیت سایبری میرسد که بتواند بدون نیاز به مداخله انسانی، آسیبپذیریهای کارآمد روز صفر را در سطوح مختلف شدت، درون سیستمهای حساس واقعی شناسایی و استخراج کند، یا بتواند تنها با دریافت یک هدف کلی، راهبردهای جدید و سراسری برای حملات سایبری علیه اهداف محافظتشده طراحی و اجرا کند.
بااینحال، مسئولان اوپنایآی شفافسازی کردهاند که مدل استرا نقشی در حادثه نفوذ اخیر به پلتفرم هاگینگ فیس نداشته است و آن رویداد مربوط به تستهای ایمنی مدل دیگری در زیرساخت آزمایشی بوده است.
افشای عمومی تصمیم اوپنایآی برای توقف یا کندکردن توسعه یک محصول پیش از عرضه رسمی، اقدامی کمنظیر در فضای رقابتی آزمایشگاههای پیشرو هوش مصنوعی محسوب میشود. اوپنایآی علت انتشار این گزارش را متعهد بودن به اصل شفافیت با افکار عمومی و جامعه پژوهشگران ایمنی هوش مصنوعی عنوان کرده است.
در پاسخ به این یافتهها، اوپنایآی تدابیر امنیتی سختگیرانهتری را برای مدلهای دارای توانمندی بالا اجرا کرده است. ازجمله این اقدامات، پیادهسازی سیستم «نظارت سراسری» برای شناسایی اقدامات پرخطر در تمام برنامههای ایجنتی است. این شرکت همچنین اعلام کرد که برای ارزیابی دقیقتر و ایمنسازی مدل استرا، با نهادهای دولتی مربوطه و سازمانهای تخصصی ایمنی هوش مصنوعی همکاری نزدیکی را آغاز کرده است.
دانشآموخته زبانشناسی هستم و همانقدر که به «کلمه» علاقهمندم، از سرککشیدن به گوشهوکنارِ جهان تکنولوژی و علم هم حظ میکنم.
برای گفتگو با کاربرانثبت نامکنید یاوارد حساب کاربریخود شوید.
- قیمت روز پرفروشترین گوشیهای بازار ایران [15 مرداد 1405]فقط من دستور میدم که چی فیلتر بشه! | تکتاککی دقیقتره، زرنگتره و حرفهایتره؟ | اونساید + جایزهمردم ماهی ۱۵ همت پول ویپیان میدن! | تکتاک