- خانهتکنولوژیهوش مصنوعی
آنتروپیک خطر انحراف مدلهای هوش مصنوعی از اهداف و کنترل انسانی را از «بسیار کم» به «کم» تغییر داد.
در دیجیاتو ثبتنام کنید
جهت بهرهمندی و دسترسی به امکانات ویژه و بخشهای مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.
- وزارت بازرگانی آمریکا مخالفت خود را با خرید تراشههای حافظه چینی به اپل اعلام کرد17 ساعت قبلنسل جدید روترهای استارلینک با پشتیبانی از وایفای ۷ در راه است18 ساعت قبلانویدیا و الجی تفاهمنامههایی را درباره رباتهای انساننمای نسل بعدی و صنعت خودرو امضا کردند18 ساعت قبلسازمان سنجش: عضویت در گروههای مجازی خرید سوالات کنکور جرم تلقی میشود18 ساعت قبلقیمت روز بهترین گوشیهای اپل [24 مرداد 1405]19 ساعت قبل
شرکت آنتروپیک در جدیدترین گزارش ارزیابی ریسک خود اعلام کرده برنامهای برای عرضه عمومی مدل داخلی موسوم به «Model 2» ندارد؛ مدلی که گفته میشود از نسخه پرچمدار Mythos نیز قدرتمندتر است. ارزیابیهای آنتروپیک نشان داده که هرچند احتمال وقوع شدیدترین آسیبها از سوی مدلها همچنان در سطح پایینی قرار دارد، اما این میزان نسبت به گزارش قبلی با افزایش همراه بوده است.
آنتروپیک برآورد کلی خود ازریسک ناهماهنگی (Misalignment)یا همان خطر همسو نبودن تصمیمات مدل با اهداف و امنیت انسانی را در شرایط حساس از سطح «بسیار کم» به «کم» تغییر داده است. این شرکت همچنین نشانههایی از شتاب در توانایی مدلها برای تحقیقوتوسعه خودکار را مشاهده کرده است؛ قابلیتی که میتواند باعث افزایش سرعت پیشرفتهای فنی شود اما درعینحال در صورت سوءاستفاده، خطرات قابلتوجهی به همراه خواهد داشت.
آنتروپیک در توضیح وضعیت این سیستم اعلام کرده که به عنوان بخشی از فرایند استاندارد تحقیقوتوسعه خود، نسخههای آزمایشی متعددی از مدلها را آموزش داده و ارزیابی میکند که قصد عرضه آنها را ندارد و Model 2 نیز یکی از همین مدلها محسوب میشود.
توانمندیهای مدل جدید آنتروپیک و رویکرد رقبا در ارزیابی خطرات هوش مصنوعی
طبق گزارش منتشرشده، مدل Model 2 در انجام بسیاری از وظایف داخلی شرکت عملکرد بسیار بهتری نشان داده است. آنتروپیک درحالحاضر از این مدل و نسخه Mythos 5 بهطور گسترده برای کدنویسی، امور عاملمحور و تولید داده استفاده میکند. البته این شرکت تأکید کرده که جهش عملکردی Model 2 به بزرگی جهشِ Opus 4.6 به Mythos نیست و فعلاً هیچ برنامهای هم برای عرضه عمومی آن وجود ندارد.
این تصمیم در شرایطی اتخاذ شده که شرکت OpenAI نیز عرضهمدل آینده خود به نام Astraرا به دلیل عدم اطمینان از مهار قابلیتهای سایبری آن با تأخیر مواجه کرده است. به گفته کارشناسان، عدم توقف روند توسعه داخلی در آنتروپیک در شرایطی که سایر بازیگران سرعت خود را کنترل میکنند، میتواند این شرکت را در موقعیت پیشتازی برای رسیدن به هوش جامع مصنوعی یا AGI قرار دهد.
درعینحال، گزارش آنتروپیک نشان میدهد که سنجش دقیق توانمندیها و خطرات مدلهای جدید پیچیدهتر شده است؛ زیرا ارزیابیهای قبلی که مبتنی بر وظایف مشخصی بودهاند، دیگر نمیتوانند میزان افزایش واقعی قابلیتهای مدلها را بهطور کامل منعکس کنند.
دوران حرفهای من در دنیای فناوری تقریبا به ۱۰ سال قبل برمیگرده؛ مسیری که با سختافزار شروع شد، با نرمافزار ادامه پیدا کرد و حالا با خبرنگاری حوزه فناوری توی دیجیاتو داره ادامه پیدا میکنه. من جوادم و بیشتر از سه دهه از عمرم میگذره و علاوه بر دنیای فناوری عاشق فیلموسینما، موسیقی کلاسیکراک و رئال مادریدم.
مقالات و اخبار مرتبط
- آنتروپیک جزئیات بیشتری درباره نحوه ثبت واترمارک روی متون Claude منتشر کردجواد تاجی2 ساعت قبل0همسر مدیرعامل آنتروپیک برای شرکت فیلمهای بزرگسال خود از اپستین درخواست سرمایه کرده بودآزاد کبیری21 ساعت قبل1پژوهش آنتروپیک: تقابل ایجنتهای هوش مصنوعی به جنگ بر سر قلمرو منجر میشودجواد تاجی1 روز قبل0سرمایهگذاران ارزش آنتروپیک را برای IPO حدود ۲ تریلیون دلار برآورد میکنندجواد تاجی2 روز قبل0
برای گفتگو با کاربرانثبت نامکنید یاوارد حساب کاربریخود شوید.
- حقوق مارو هم با میانگین جهانی محاسبه کنید! | تکتاکقیمت روز پرفروشترین گوشیهای بازار ایران [24 مرداد 1405]۱۰۰۰ میلیارد تومن رو ریختیم دور! | تکتاکمعاون وزیر ارتباطات: در دوران جنگ هزار میلیارد تومان برای پیامرسانهای داخلی هزینه کردیم