- خانهتکنولوژیهوش مصنوعی
آنتروپیک میگوید نشانههای خروج هوش مصنوعی از کنترل انسان در آینده بروز پیدا کرده است و باید در صورت لزوم توسعه آن را متوقف کرد.
در دیجیاتو ثبتنام کنید
جهت بهرهمندی و دسترسی به امکانات ویژه و بخشهای مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.
- اشتراک اینستاگرام پلاس با قیمت ماهانه ۳.۹۹ دلار بهصورت عمومی عرضه شد33 دقیقه قبلروزیاتو: ۱۰ ورزشکار پردرآمد جهان در فصل ورزشی ۲۰۲۵/۲۶ + اینفوگرافی و جزییات1 ساعت قبلاساتید دانشگاه استنفورد در پاسخگویی به سؤالات حقوقی از هوش مصنوعی شکست خوردند12 ساعت قبلروزیاتو: صورتحساب هفتگی ۳.۵ میلیون یورویی؛ دستمزد هر بازیکن پاری سن ژرمن چقدر است؟14 ساعت قبلسازمان ملل: هوش مصنوعی تا ۲۰۳۰ میتواند معادل ۱.۳ میلیارد نفر آب مصرف کند15 ساعت قبل
آنتروپیک پیشنهاد کرده که توسعه قدرتمندترین سیستمهای هوش مصنوعی در سراسر جهان بهطور موقت متوقف شود؛ چرا که به گفته این شرکت، مدلهای جدید درحال بروز نشانههایی هستند که شاید حاکی از خارج شدن آنها از کنترل انسان باشد. این شرکت که توسعهدهنده خانواده مدلهای هوش مصنوعی Claude است، در گزارش خود اعلام کرده که کند شدن روند توسعه مدلهای پیشرفته هوش مصنوعی در سطح جهانی احتمالاً اتفاق خوبی خواهد بود، اما درعینحال هشدار داده که اگر تنها یک شرکت دست از کار بکشد، رقبای آن به سرعت پیشی خواهند گرفت.
آنتروپیکدر گزارش خود نوشته است:
«ما معتقدیم برای جهان خوب است که گزینه کند کردن یا توقف موقت توسعه هوش مصنوعی پیشرو را در اختیار داشته باشد تا ساختارهای اجتماعی و تحقیقات همراستایی (Alignment) بتوانند خود را با پیشرفت این فناوری هماهنگ کنند.»
«ما معتقدیم برای جهان خوب است که گزینه کند کردن یا توقف موقت توسعه هوش مصنوعی پیشرو را در اختیار داشته باشد تا ساختارهای اجتماعی و تحقیقات همراستایی (Alignment) بتوانند خود را با پیشرفت این فناوری هماهنگ کنند.»
به گفته آنتروپیک، برای اینکه یک توقف واقعی کارساز باشد، شرکتهای بزرگ هوش مصنوعی در کشورهای مختلف (به ویژه ایالات متحده و چین) باید بهطور همزمان و تحت مقرراتی که برای همه قابل راستیآزمایی باشد، توافق کنند که توسعه را متوقف سازند. این شرکت تأکید کرده که بدون یک مکانیسم هماهنگی جهانی، شرکتها و دولتها مجبور خواهند بود در بحبوحه فشارهای رقابتی و ژئوپلیتیک، تصمیمات سختی درباره امنیت اتخاذ کنند.
این پیشنهاد با مخالفتهایی از سوی دیگر فعالان این صنعت و مقامات کاخ سفید مواجه شده است. منتقدان میگویند تمرکز آنتروپیک روی بدترین سناریوهای ممکن، خطرات را بیش از حد بزرگ جلوه میدهد و این اقدام در واقع یک استراتژی تحت پوشش نگرانیهای امنیتی برای کند کردن روند پیشرفت رقبا است.
آنتروپیک این چالش را با معاهدات کنترل تسلیحات هستهای مقایسه کرده، اما یادآور شده که مدیریت هوش مصنوعی حتی سختتر خواهد بود؛ چرا که پنهان کردن فرایند آموزش هوش مصنوعی بسیار آسانتر از پنهان کردن یک موشک است و وسوسه ادامه دادن پنهانی کار بسیار بزرگ خواهد بود. این شرکت اعلام کرده که قصد دارد در ماههای آینده مقامات دولتی، دانشمندان، گروههای حامی و شرکتهای رقیب هوش مصنوعی را گرد هم آورد تا نحوه عملکرد چنین سیستمی را بررسی کنند.
خطر بهبود هوش مصنوعی توسط خودش
در بخشی از گزارش خود، آنتروپیک هشدار داده که شتاب در توسعه میتواند در نهایت به پدیدهای منجر شود که محققان آن را «خودبهبودی بازگشتی» (Recursive Self-Improvement) مینامند.
این اصطلاح به ایدهای اشاره دارد که در آن یک سیستم هوش مصنوعی میتواند اساساً به خودش آموزش دهد تا بدون نیاز به کمک انسان، هوشمندتر شود. هرچند آنتروپیک میگوید فعلاً این مرحله محقق نشده، اما اشاره کرده که این پدیده ممکن است زودتر از آنچه بیشتر دولتها و نهادها برای آن آمادگی دارند، فرا برسد. این شرکت در نهایت اعلام کرده که شواهد نشان میدهد نقش انسان در هر مرحله از فرایند توسعه هوش مصنوعی درحال محدودتر شدن است.
براساس دادههای داخلی آنتروپیک، مهندسان این شرکت اکنون با کمک کلود ۸ برابر بیشتر از بازه زمانی ۲۰۲۱ تا ۲۰۲۵ کد منتشر میکنند. موفقیت مدل Claude در حل مسائل باز و پیچیده کدنویسی به ۷۶ درصد رسیده و کیفیت کدهای آن اکنون با انسان برابری میکند. همچنین، مدل جدید Mythos Preview توانسته سرعت بهینهسازی کدهای آموزش هوش مصنوعی را (در مقایسه با بهبود ۳ برابری در مدلهای سال ۲۰۲۴) ۵۲ برابر کند و در تصمیمگیریهای تحقیقاتی در ۶۴ درصد مواقع بهتر از پژوهشگران انسانی ظاهر شود.
آنتروپیک خاطرنشان کرده است که اگر سیستمهای هوش مصنوعی بتوانند مدلهای جانشین خود را طراحی کنند، این پدیده در کنار تشدید چالشهای امنیتی و خطر از دست رفتن کنترل، میتواند تحولات مثبت و شگرفی در حوزههای پزشکی، فناوری و اقتصاد به همراه داشته باشد. به همین منظور، آنتروپیک قصد دارد تحقیقات گستردهای را برای بررسی پیامدهای این سیستمهای قدرتمند آغاز کند.
پیشنهاد توقف توسعه در واشنگتن و سیلیکونولی با مسیر دشواری روبهرو است؛ زیرا مقامات آمریکایی و مدیران فناوری بارها استدلال کردهاند که هرگونه کندی در توسعه هوش مصنوعی، خطر واگذاری برتری استراتژیک به چین را در این رقابت فناوری به همراه دارد.
بااینحال، «دونالد ترامپ»، رئیسجمهور ایالات متحده، اعلام کرده که در سفر اخیر خود به پکن، درباره امکان همکاری با چین در زمینه مسائل امنیتی هوش مصنوعی گفتگو کرده است. ترامپ همچنین این هفتهفرمانی اجرایی امضا کردکه به دولت فرصتی ۳۰ روزه میدهد تا پیش از عرضه قدرتمندترین مدلهای هوش مصنوعی آمریکایی، آنها را ارزیابی کند.
دوران حرفهای من در دنیای فناوری تقریبا به ۱۰ سال قبل برمیگرده؛ مسیری که با سختافزار شروع شد، با نرمافزار ادامه پیدا کرد و حالا با خبرنگاری حوزه فناوری توی دیجیاتو داره ادامه پیدا میکنه. من جوادم و بیشتر از سه دهه از عمرم میگذره و علاوه بر دنیای فناوری عاشق فیلموسینما، موسیقی کلاسیکراک و رئال مادریدم.
مقالات و اخبار مرتبط
- طرح جدید برنی سندرز: دولت آمریکا ۵۰ درصد سهام OpenAI و آنتروپیک را تصاحب کندجواد تاجی3 روز قبل5آنتروپیک زودتر از OpenAI وارد بازار بورس میشود؛ محک جدی برای حباب هوش مصنوعیآزاد کبیری3 روز قبل0برد بزرگ یاسمین رضوی؛ سرمایهگذاری ۷۵ میلیون دلاری در آنتروپیک به سود حداقل ۳ میلیارد دلاری رسیدآزاد کبیری4 روز قبل4جهش سرسامآور ارزش آنتروپیک، ثروت هرکدام از بنیانگذاران را به ۱۶.۶ میلیارد دلار رساندآزاد کبیری5 روز قبل1
برای گفتگو با کاربرانثبت نامکنید یاوارد حساب کاربریخود شوید.
- قهرمان جام جهانی کیه؟ | اونسایدقیمت روز پرفروشترین گوشیهای بازار ایران [14 خرداد 1405]وقتش نیست فیلترینگ رو تموم کنید؟ | تکتاکمعاون وزیر ارتباطات: به دنبال ایجاد چارچوبی هستیم تا اینترنت به راحتی قطع نشود