0ارسال شده توسط: ایمان احمدیان17 مرداد 1405 ساعت 13:59
مدل هوش مصنوعی Astra که OpenAI اخیراً تواناییهای آن را ستایش کرده بود، به دلیل نگرانیهای جدی درباره قدرتهای سایبری خطرناک، توسط این شرکت متوقف شد.
شرکتOpenAIهفته گذشته با افتخار از مدل پیشرفته Astra به عنوان یک دستاورد علمی بزرگ یاد کرده بود. اکنون، تنها چند روز پس از آن ستایش، این شرکت اعلام کرده که فعالیتهای داخلی مربوط به توسعه Astra را متوقف میکند. این تصمیم به دلیل کشف تواناییهای حملات سایبری قدرتمند در مدل هوش مصنوعی Astra اتخاذ شده است.
نگرانیهای سایبری و چارچوب آمادگی OpenAI
OpenAI در بیانیهای مطبوعاتی اعلام کرد که «ارزیابیهای داخلی اخیر از Astra، یکی از مدلهای آتی ما، در چند روز گذشته پیشرفتهای قابلتوجهی را در زمینه کدنویسی عاملمحور و امنیت سایبری نشان میدهد.» این نتایج، همراه با ارزیابیهای متخصصان، شرکت را به این نتیجه رسانده که «نمیتوان قابلیتهای سایبری حیاتی را طبق چارچوب آمادگی ما رد کرد.»
چارچوب آمادگی OpenAI سناریوهایی را مشخص میکند که در آنها توسعه یک مدل جدید باید «متوقف شود» اگر در دستهبندیهای مختلف از جمله «زیستشناسی»، «امنیت سایبری» و «خودبهبودی هوش مصنوعی» به آستانههای قابلیت معینی برسد. برای امنیت سایبری، آستانه «بحرانی» به این معنی است که مدل میتواند «آسیبپذیریهای روز صفر با هر سطح شدت» را در «سیستمهای واقعی مقاومشده» بدون کمک انسانی شناسایی کند. این سطح همچنین شامل توانایی مدل برای انجام «استراتژیهای نوآورانه و جامع برای حملات سایبری علیه اهداف مقاومشده» تنها با یک «هدف کلی دلخواه» است.
- جانی آیو و OpenAI اسپیکر هوشمند بدون نمایشگر رونمایی میکنندحمله سایبری خودمختار هوش مصنوعی OpenAI به یک استارتاپ، نگرانیها درباره امنیت AI را افزایش داداولین سختافزار صاحب ChatGPT رونمایی شد؛ کنترل عاملهای هوش مصنوعی با کیبورد Codex Micro
اقدامات احتیاطی و شفافیت
OpenAI در واکنش به نگرانیها درباره خطرات امنیتی بالقوه مدل هوش مصنوعی Astra، اعلام کرده که در حال «اجرای کنترلهای امنیتی سختگیرانهتر» برای این مدل است. این اقدامات شامل راهاندازی «محیطهای تست ایزوله» و «دسترسی محدود به شبکه و ابزار» و سایر تدابیر میشود. در حال حاضر، OpenAI «فعالیتهای داخلی مربوط به آسترا را که هنوز این الزامات کنترل امنیتی تقویتشده را برآورده نمیکنند، متوقف کرده است.»
شرکت OpenAI خاطرنشان کرد که این هشدار درباره Astra را منتشر کرده، زیرا «شفافیت با عموم مردم» درباره تواناییهای بالقوه Astra اهمیت دارد.