- خانهتکنولوژیهوش مصنوعی
فرایند آموزش یادگیری تقویتی برای مدلهای بزرگ و پیشرفته این شرکت موقتاً به حالت تعلیق درآمد.
در دیجیاتو ثبتنام کنید
جهت بهرهمندی و دسترسی به امکانات ویژه و بخشهای مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.
شرکت OpenAI از اعمال بهروزرسانیهای امنیتی جدیدی خبر داده است که در پی رویدادهای ماه ژوئیه در پیش گرفته میشوند؛ یعنی زمانی که مشخص شد هوش مصنوعی این شرکت با خروج از محیط ایزوله یا سندباکس، بهطور تصادفیبه پلتفرم هاگینگ فیسنفوذ کرده است. این اصلاحات جدید شامل بهبود زیرساختهای محیط پژوهشی، نظارت بر سیستمها و تقویت تکنیکهای همترازی خواهد بود.
پیش از این، OpenAI روند توسعهمدل جدیدی با نام Astraرا بهدلیل احتمال برخورداری از قابلیتهای امنیت سایبری حیاتی، متوقف کرده بود. علاوهبراین،OpenAI اعلام کردهکه آموزش یادگیری تقویتی (روشی در هوش مصنوعی که در آن مدل از طریق پاداش و جریمه رفتارهای خود را بهینهسازی میکند) را برای مدلهای جدید آماده عرضه، به مدت دو هفته متوقف کرده تا مسائل امنیتی بازبینی شوند. همچنین فرایند برنامهریزیشده برای آموزش مدلهای پیشگام با این روش، کماکان در وضعیت تعلیق قرار دارد.
بازنگری در پروتکلهای امنیتی هوش مصنوعی OpenAI
در بخش تحقیقات مربوط به مدلهای پیشگام، OpenAI استفاده از محیطهای ایزوله یا سندباکسهای قدرتمندتر را برای پردازشهایی که در آنها کدهای تولیدشده توسط مدل یا سایر کدهای غیرقابلاعتماد اجرا میشوند، اجباری کرده است. همچنین کنترلهای بیشتری بهکار گرفته شده تا پردازشهای پرخطر و غیرقابلاطمینان از اینترنت جدا شوند. محیط تحقیقاتی این مجموعه نیز بهمنظور حذف سرویسهای مشترک آسیبپذیر، کاهش دسترسیهای سطح بالا و ارتقای مرزهای امنیتی و اعتبارسنجی اصلاح شده است.
براساس ساختار نظارتی جدید، OpenAI تلاش میکند در صورت شناسایی هرگونه فعالیت نگرانکننده، ظرف مدت ۳۰ دقیقه هشدارهای لازم را صادر کند. چنانچه تیمهای مربوطه نتوانند طی ۳۰ دقیقه پس از دریافت اخطار بهطور قطعی مشخص کنند که هشدار اعلامشده نادرست یا خطای سیستمی بوده است، موظف هستند فرایند مربوطه را متوقف سازند.
OpenAI همچنین اعلام کرده که تکنیکهای همترازی خود را در مراحل بیشتری از فرایند آموزش اعمال میکند. این تکنیکها شامل مدلهایی هستند که رفتارهای ناایمن را بهتر شناسایی کرده و از وقوع آنها جلوگیری میکنند. علاوهبراین، مدلها طوری آموزش داده میشوند که درباره عملکرد، تواناییها و محدودیتهای خود رویکرد صادقانهتری داشته باشند.
کاهش سرعت توسعه مدلهای OpenAI
OpenAI همچنین اعلام کرده که بهمنظور بازنگری بنیادین در سیستمهای تحقیقاتی و آموزشی خود، سرعت توسعه هوش مصنوعی را کاهش داده است. «سم آلتمن»، مدیرعامل این شرکت، تأکید کرده که آنها اکنون به شواهد محکمتری از رفتارهای همتراز با اصول مدنظر جامعه در طول کل فرایند آموزش نیاز دارند تا اطمینان حاصل شود مدلها تحت نظارت انسان باقی میمانند. همچنین «میا گلیز»، مدیر بخش ایمنی OpenAI، اشاره کرده که این شرکت هنوز با بازگشت به روند عادی فعالیتها فاصله زیادی دارد.
این تصمیم در شرایطی اتخاذ شده که ارزیابیهای داخلی اخیر روی مدل Astra، پیشرفتهای چشمگیری را در زمینه کدنویسی عاملمحور و امنیت سایبری نشان داده و قابلیتهای آن را به مرز سطوح بحرانی نزدیک کرده است. ازاینرو، OpenAI سختگیرانهترین تدابیر امنیتی را برای پردازشهای مربوط به این مدل الزامی کرده و بخش قابلتوجهی از فرایندهای آموزشی آن تا زمان تطبیق کامل با استانداردهای امنیتی جدید، در وضعیت تعلیق باقی خواهند ماند. علاوهبراین، کاهش سرعت توسعه در پی فشارهای سیاسی اخیر، از جمله نامه «برنی سندرز»، سناتور آمریکایی به مدیران عامل شرکتهای هوش مصنوعی مبنیبر توقف توسعه بهدلیل خطر ازدسترفتن کنترل بر این فناوری، صورت گرفته است.
پس از ماجرای نفوذ به هاگینگ فیس، شرکتهای آنتروپیک و متا نیز متوجه شدند که مدلهای هوش مصنوعی آنها به سازمانهای دیگری نفوذ کردهاند.
دوران حرفهای من در دنیای فناوری تقریبا به ۱۰ سال قبل برمیگرده؛ مسیری که با سختافزار شروع شد، با نرمافزار ادامه پیدا کرد و حالا با خبرنگاری حوزه فناوری توی دیجیاتو داره ادامه پیدا میکنه. من جوادم و بیشتر از سه دهه از عمرم میگذره و علاوه بر دنیای فناوری عاشق فیلموسینما، موسیقی کلاسیکراک و رئال مادریدم.
برای گفتگو با کاربرانثبت نامکنید یاوارد حساب کاربریخود شوید.
- قیمت روز پرفروشترین گوشیهای بازار ایران [27 مرداد 1405]عارف: رئیس جمهور تصمیم گرفته پرونده فیلترینگ بسته شودچرا همه چیز رو پیچیده میکنیم؟ | اونسایدمدیرعامل آسیاتک: کاش تعرفه اینترنت به سال ۹۲ برمیگشت