«حدود پنج ماه است که حتی یک خط کد هم خودم ننوشتهام.» شاید انتظارش را نداشته باشید، ولی این جمله درددل برنامهنویسی میانرده و بیحوصله نیست، توصیف وضعیت یکی از مهندسانی است که در پیشرفتهترین آزمایشگاههای هوش مصنوعی جهان کار میکند.
تا همین چند سال پیش، تمام مراحل تاریخ توسعهی ماشینها با دستهای انسان پیش میرفت. انسانها ایده میدادند، کد مینوشتند، زیرساختها را بنا میکردند و باگها را رفع میکردند؛ اما حالا انگار تاریخ را ورق زدهایم. براساس مستندات و دادههای درونسازمانی که آنتروپیک بهتازگی منتشر کرده است، ماشینها در حال به دستگرفتن فرآیند توسعهی خودشان هستند.
خلاصهی صوتی مقاله، ساختهشده با هوش مصنوعی
دیگر فقط از چتباتهایی حرف نمیزنیم که قرار بود کار ما را راحتتر کنند، صحبت از سیستمی است که در صورت تأمین توان پردازشی کافی، میتواند کاملا خودمختار، جانشین بعدیِ خودش را طراحی کند و توسعه دهد؛ پدیدهای که متخصصان حوزهی هوش مصنوعی، «خودبهبودیِ بازگشتی» (Recursive Self-Improvement) مینامند.
آنتروپیک با ارائهی آمارهایی بیسابقه از درون تیمهای مهندسیخود، هشدار میدهد که رسیدن به چنین سطحی از خودمختاری ماشینها، غیرقابلاجتناب نیست؛ اما بسیار زودتر از آن چیزی فرامیرسد که نهادهای جهانی برایش آماده باشند.
وقتی سیستمها بتوانند سیستمهای بعدی را بسازند، روشهای نظارت، تأمین امنیت و کنترل رفتار آنها به چالشی بینهایت پیچیدهتر تبدیل میشود. هشدار آنتروپیک آنقدر جدی و مستند است که این شرکت، پیشنهادِ یک توقف موقت و هماهنگِ جهانی در توسعهی هوش مصنوعی را روی میز میگذارد؛ درخواستی برای خریدن زمان، پیشاز آنکه ناظران انسانی برای همیشه از چرخه کنار بروند.
از دستیار تا توسعهدهنده؛ وقتی کد را ماشین مینویسد
آمارهای عمومی و بنچمارکها همیشه تصویر کاملی از واقعیت ارائه نمیدهند. برای درک ابعاد واقعی تغییری که جریان دارد، باید به پشت درهای بسته نگاه کرد. آنتروپیک در گزارش خود از دادههای داخلیاش پرده برداشته و روندی را نشان میدهد که سرعت توسعه را از اساس دگرگون کرده است.
روزگاری در حوالی سالهای ۲۰۲۳ تا ۲۰۲۵، کارمندان آنتروپیک نیز مانند سایر شرکتهای فناوری، کدهایشان را روی لپتاپ مینوشتند و در نهایت برای تولید چند خط کد کوتاه از چتباتها کمک میگرفتند؛ اما شیب این مسیر بهسرعت تغییر کرد.
طبق اطلاعات منتشرشده از سوی آنتروپیک، تا پیشاز فوریهی ۲۰۲۵ و زمان انتشار نسخهی پیشنمایش Claude Code، سهم هوش مصنوعی در کدهای نهایی شرکت، عدد یکرقمی ناچیزی بود؛ اما تا ماه مه ۲۰۲۶، کار به جایی رسید که بیشاز ۸۰ درصد کدهایی که اکنون وارد پایگاه کُد برنامههای آنتروپیک میشوند، دستپروردهی خود کلاد هستند.
مهندسان آنتروپیک در سهماهه دوم ۲۰۲۶، بیشاز ۸برابر سالهای ۲۰۲۱ تا ۲۰۲۴، کُد منتشر کردهاند
تغییر رویه در فرآیند توسعهی ابزارهای نرمافزاری، خروجی روزانهی مهندسان را کاملا متحول میکند، چنانکه مهندسان آنتروپیک در سهماههی دوم ۲۰۲۶، بهطور میانگین روزانه ۸برابر بیشتر از سالهای ۲۰۲۱ تا ۲۰۲۴ کد منتشر کردهاند؛ البته خود نویسندگان گزارش اذعان میکنند که شمارش خطوط کد معیار کاملی برای سنجش کیفیت نیست؛ اما وقتی با نظرسنجیهای داخلی مطابقت داده میشود، نتیجهی یکسانی حاصل میشود.
در مارس ۲۰۲۶، کارمندان بخش تحقیقات آنتروپیک اعلام کردند که با استفاده از مدل پیشنمایش Mythos، خروجی آنها روی پروژههایشان حدود ۴برابر شده است. مهندسان حالا کمتر تایپ میکنند و بیشتر بهعنوان یک راهبر، عملکرد ماشین را هدایت و بررسی میکنند.
بیش از ۸۰ درصد از کدهای هسته نرمافزاری آنتروپیک توسط هوش مصنوعی تولید شدهاند
اما آیا چنین حجم عظیمی از کدهای تولیدشده، صرفا برنامههایی سریع و بیکیفیتاند؟ آنتروپیک به این سوال پاسخ منفی میدهد. ماشین نهتنها سریعتر کار میکند؛ بلکه در حال حل مشکلاتی است که پیشتر برای انسانها کابوس محسوب میشد.
در آوریل ۲۰۲۶، کلاد موفق شد بیشاز ۸۰۰ اصلاحیه را روی کدهای شرکت اعمال کند که منجر به کاهش ۱۰۰۰برابری یک خطای خاص در API شد. مهندس ناظر پروژه تخمین میزند که انجام چنین پاکسازی عظیمی برای یک انسان، حدود ۴سال زمان میبرد؛ کاری که انسانها بهدلیل ناتوانی در حفظ همزمان حجم عظیمی از زمینههای ناآشنا در ذهن خود، از انجام آن طفره میروند.
ماشینها در حال اثبات مهارت خود در مدیریت بحرانهای پیچیده هستند. در یک مورد، زمانیکه یک بهروزرسانی روتین باعث ازکارافتادن دهها هزار فرایند آموزش مدل شد، مهندسان صرفا کلاد را با حداقل اطلاعات متنی به سمت محیط زنده هدایت کردند. کلاد با بررسی فرایندها، منبع پنهان و مبهم خطا را یافت و در عرض ۲ساعت مشکلی را حل کرد که یک تیم انسانی برای آن به ۲ تا ۳ روز زمان نیاز داشت.
کلود در عرض ۲ساعت مشکلی را حل کرد که یک تیم انسانی برای رفع آن به ۲ تا ۳روز زمان نیاز داشت
ضریب موفقیت ماشین در کارهای باز و بدون دستورالعمل دقیق، تنها در ۶ماه با ۵۰درصد رشد، به عدد ۷۶درصد در می ۲۰۲۶ رسیده است.
تکاندهندهترین بخش از دادههای آنتروپیک نشان میدهد که هوش مصنوعی حالا نقش ناظر را برای خالقانش بازی میکند. سیستم بررسی خودکار کلاد که پیشاز ادغام نهایی کدها، آنها را میخواند، قادر است باگها و ضعفهای امنیتی را پیدا کند. بررسیهای گذشتهنگر آنتروپیک نشان میدهد که اگر این ابزار زودتر فعال شده بود، میتوانست حدود یکسوم باگهایی را که بهترین مهندسان جهان از قلم انداخته بودند، پیشاز رسیدن به مرحلهی تولید، مهار کند.
وقتی انسان از مجری به ناظر تبدیل میشود
فرآیند ساخت مدلهای هوش مصنوعی پیشرفته، به دو بازوی عملیاتی مهندسی (نوشتن کد و ایجاد زیرساخت) و پژوهش (طراحی و اجرای آزمایشها) بستگی دارد. مستندات آنتروپیک بهوضوح نشان میدهد که مرز میان انجامدادن و تصمیمگرفتن در حال پررنگتر شدن است. در بخش مهندسی، ماشین اکنون میتواند مسئلهی کاملا مبهمی را دریافت کند و خودش راهکار را بیابد. انسانها دیگر فقط هدف را تعیین میکنند و نیازی به دیکتهکردن روش رسیدن به آن ندارند.
تحول شکلگرفته در بخش پژوهش ملموستر هم بهنظر میرسد. هر بار که آنتروپیک مدل جدیدی را میآزماید، مأموریت مشخصی را به آن میسپارد؛ کدی برای آموزش یک مدل کوچک هوش مصنوعی در اختیار کلاد قرار میگیرد تا با حفظ صحت عملکرد، اجرای آن را به سریعترین حالت ممکن بهینهسازی کند. ماشین باید کد را بازنویسی کند، اجرا کند، زمان بگیرد و این چرخه را بهینهتر کند؛ یک نمونهی مینیاتوری از یک تحقیق علمی کامل.
تحول بنیادین در فرآیند مهندسی، نقش انسان را از عامل اجرایی به یک ناظر تنزل داده است
گزارش آنتروپیک نشان میدهد که در ماه مه ۲۰۲۵، مدل Claude Opus 4 توانست سرعت اجرای کد آزمایشی شرکت را حدود ۳برابر افزایش دهد؛ اما تنها یک سال بعد، در آوریل ۲۰۲۶، مدل Mythos Preview بهسرعت خیرهکنندهی ۵۲برابری رسید؛ درحالیکه یک انسان متخصص برای رساندن این سرعت به تنها ۴برابر، به ۴ تا ۸ ساعت زمان نیاز دارد.
بیایید نگاهی هم به تعریف مسیر پروژههای باز داشته باشیم. در آوریل ۲۰۲۶، ایجنتهای خودمختار کلاد یک پروژهی تحقیقاتی پیچیده پیرامون ایمنی هوش مصنوعی را در دست گرفتند، خودشان فرضیه ساختند، آزمایش کردند و نتایج را با ایجنتهای موازی به اشتراک گذاشتند تا در مجموع با ۸۰۰ساعت کار، ۹۷ درصد از شکاف موجود در مسئله را حل کنند؛ درحالیکه نقش انسان صرفا به جهتدهی اولیه و تعیین چارچوب محدود میشد.
یکی از محققان آنتروپیک پساز تجربهی کار با ایجنتهای خودمختار در پروژهی پیچیدهی شرکت مینویسد: «کلاد این کار را با کمترین کمک من طی یکی دو روز انجام داد. آینده همین حالا فرارسیده است.»
حالا کُندی انسان در تأیید کدها، بزرگترین مانع در برابر سرعت پردازندهها بهشمار میرود
اما سرعت باورنکردنی هوش مصنوعی در کدنویسی و توسعه، بحران جدیدی هم بههمراه دارد. در علوم رایانه، اصلی بهنام «قانون امداهل» (Amdahl's law) میگوید حداکثر سرعت یک سیستم، توسط کُندترین بخش آن محدود میشود. وقتی هزینهی زمانی تولید کد، اجرای آزمایش و استخراج نتیجه، تا این حد پایین میآید، ترافیک در بخش انسان ناظر گیر میکند.
بهعبارتی با سرازیرشدن حجم انبوهی از کدهای جدید، «بررسی و تأیید نهایی کد توسط انسان» تبدیل به گلوگاه و مانع سرعت توسعه شده است. مدلها اکنون آنقدر ایده، ابزار و شبیهسازیهای جدید در ثانیه تولید میکنند که نیروی انسانی در هدایت و بررسی آنها به مشکل برمیخورد.
سه سناریو برای عصر ماشینها
فکر میکنید باتوجهبه سرعت حیرتانگیز اتوماسیون، گام بعدی صنعت هوشمصنوعی چه خواهد بود؟ آیا این روند صعودی ادامه پیدا میکند و اگر چنین اتفاقی بیفتد، ما چه واکنش نشان میدهیم؟ نویسندگان گزارش آنتروپیک، سه سناریوی محتمل را برای آینده ترسیم میکنند:
مسیر اول؛ توقف روند و برخورد با محدودیتهای فیزیکی:شاید نمودارهای نمایی پیشرفت، در واقع منحنیهایی بهشکل حرف S باشند که بهزودی افقی و مسطح میشوند. در این سناریو، ممکن است معماریهای فعلی مانند ترانسفورمرها به نهایت ظرفیت خود برسند و عبور از بنبست، مستلزم کشفی جدید و بنیادین باشد.
شاید هم محدودیتهای زنجیرهی تأمین مانند کمبود تراشه، ظرفیت شبکههای برق و پهنای باند پیش از رسیدن به مرزهای هوشمندی، ترمز توسعه را بکشند.
شاید محدودیتهای زنجیره تأمین و معماری ترانسفورمرها، شیب نمودارهای پیشرفت هوش مصنوعی را کاهش دهد
آنتروپیک معتقد است حتی اگر پیشرفت هوش مصنوعی همین امروز و در همین سطح متوقف شود، باز هم جهان دستخوش تغییراتی بسیار جدی خواهد شد؛ بهعنوانمثال در پروژهی Glasswing، مدل پیشنمایش Mythos توانست تنها در چند هفته، بیشاز ۱۰هزار آسیبپذیری نرمافزاری حیاتی را در مهمترین سیستمهای جهان کشف کند.
در چنین سطحی از بلوغ، یک استارتاپ ۱۰۰ نفره میتواند خروجی یک سازمان ۱۰۰۰ نفره را داشته باشد؛ زیرا هر کارمند، در رأس هرمی از ایجنتهای خودمختار قرار میگیرد؛ اما هنوز شواهدی از کندشدن شیب رشد دیده نشده است و همین امر وقوع سناریوی اول را تقریبا منتفی میکند.
مسیر دوم؛ شتاب مرکب و بهرهوری بینهایت:سناریویی که انگار همین حالا واردش شدهایم، یعنی وقتی توسعهی سیستمها تا حد زیادی خودکار میشود؛ اما انسانها همچنان جهتگیری تحقیقات را تعیین و نتایج را ارزیابی میکنند.
در چنین دنیایی، شرکتهای ۱۰۰نفره میتوانند کارهایی را انجام دهند که پیشتر نیازمند ۱۰هزار یا حتی ۱۰۰هزار نیروی انسانی بود. در وهلهی نخست، خدمات دولتی و کارهای دانشی در مقیاس وسیع دگرگون میشوند.
حالا ابزارهای نظارت و دستکاری با هزینهای ناچیز در اختیار نهادهای سودجو قرار میگیرد
مسیر دوم، رویِ تاریکی هم دارد که نمیتوان نادیدهاش گرفت. ابزارهای نظارت و دستکاری که پیشتر نیازمند لشکری از نیروهای انسانی بود، حالا با هزینهای ناچیز در اختیار نیروهای تمامیتخواه قرار میگیرد تا عملیات تأثیرگذاری روانی را برای تکتک افراد جامعه شخصیسازی و پیاده کنند، آن هم در مقیاسی که هیچ تیمی از انسانها قادر به رقابت با آن نیست.
در نهایت نقش انسان در شرکتهای پیشرو، عمدتا به تلاش برای اعتبارسنجی خروجی ماشینها تقلیل مییابد.
مسیر سوم؛ خودبهبودی بازگشتی و حذف انسان:افراطیترین و درعینحال نگرانکنندهترین سناریوی گزارش آنتروپیک از دورانی میگوید که سیستمها قادر میشوند با بهکارگیری قابلیتی معادل نبوغ انسانی، مدلهای جانشین خود را طراحی و اصلاح کنند و توسعه دهند. ماشینها خود به طراح و توسعهدهندهی ماشینهای بعدی تبدیل میشوند.
در جهانی که با طیشدن مسیر سوم شکل میگیرد، سرعت پیشرفت هوش مصنوعی فقط و فقط به میزان توان پردازشی گره میخورد. انسانها از چرخهی توسعه خارج میشوند و صرفا نقش ناظرانی را در یک آزمایشگاه مجازی بینهایت بزرگ بهعهده دارند. پیشرفتهایی که از این مسیر حاصل میشود بهسرعت به سایر حوزههای علوم سرایت میکند و نرخ تولید دانش و کشفهای علمی را بهشکلی بیسابقه افزایش میدهد.
آیا مدلهای خودمختار، اخلاقیات و ارزشهای انسانی را نیز توسعه میدهند؟
درست در همین نقطه آنتروپیک نسبت به مسئلهی همراستایی هشدار میدهد؛ وقتی خودِ ماشینها، ماشینهای بعدی را میسازند، آیا مدلها آنقدر خردمند خواهند بود که اخلاقیات و ارزشهای انسانی را نیز توسعه دهند و در صورت لزوم ترمز پیشرفت را بکشند؟ یا شاید آن خطاهای نادر و جزئی که در مدلهای امروزی میبینیم، در فرآیند خودبهبودی سیستمها رویهم انباشته شوند و بهمرورزمان کار به جایی برسد که بشر برای همیشه کنترل ماشینها را از دست بدهد؟
بهزعم محققان گزارش آنتروپیک، پیشبینی اقتصاد و سازوکارهای چنین جهانی عملا غیرممکن است؛ چراکه با قدرتگرفتن ماشینی که خودش را بهتر میکند، کار انسانی دیگر هیچ توان رقابتی در بازار نخواهد داشت.
برخورد هوش مصنوعی با دنیای واقعی؛ سرعت سیلیکون، ریتم انسان
گزارش آنتروپیک با نگاهی واقعبینانه یادآوری میکند که حتی اگر ماشینها در آزمایشگاههای دیجیتال به سطح خودبهبودی بازگشتی برسند و هوش خود را در کسری از ثانیه ارتقا دهند، برخورد آنها با دنیای فیزیکی و جوامع انسانی، سرعتشان را بهشدت مهار خواهد کرد. در واقع اینجا نیز با تأثیر «قانون امداهل» مواجهیم؛ این بار نه در کدهای برنامهنویسی؛ بلکه در ساختارهای بیولوژیک و اجتماعیِ بشر.
هوش مصنوعی بسیار قدرتمند، ممکن است بتواند فرمول یک داروی حیاتبخش و کاملا جدید را در چند ثانیه محاسبه و کشف کند؛ اما همانطور که متخصصان میگویند، هوش بیشتر نمیتواند درک کند که یک دارو طی دههها استفاده، چه تأثیری بر بدن انسان میگذارد. آزمایشهای بالینی نیازمند زمان، بدنهای واقعی و گذر عمر هستند. فرایندهای فیزیکی با سرعت پردازندهها حرکت نمیکنند.
سرعت تغییرات در جهان واقعی همواره توسط ساختارهای کُند بیولوژیک، بوروکراتیک و نهادهای اجتماعی انسان محدود خواهد ماند
همین محدودیت در نهادهای اجتماعی نیز وجود دارد؛ بهعنوان مثال ماشین نمیتواند انتخابات یک کشور را زودتر از موعد قانون اساسی برگزار کند، نمیتواند ساختار بوروکراتیک دولتها را یکشبه تغییر دهد و قادر نیست یک غریبه را در طول یک آخر هفته، به یک دوست قدیمی و قابلاعتماد تبدیل کند.
بههمین دلیل برای بیشتر انسانها، سرعت تغییرات در آینده همچنان توسط همین گلوگاههای فیزیکی و نهادی تعیین خواهد شد؛ حتی اگر آزمایشگاههای بالادستی با سرعت در حال تولید ایده باشند؛ ولی جاییکه ماشین خودمختار با دنیای کُند روابط انسانی و حاکمیتها تصادف میکند؛ بخش تاریک و غیرقابلپیشبینی ماجراست.
پیشنهاد توقف موقت و هماهنگ توسعه AI
در برابر چنین آیندهی مبهم و پرشتابی، چه باید کرد؟ آنتروپیک پیشنهاد میدهد جهان ترمز اضراری را بکشد. اگر بتوان توسعهی این فناوری را کُند یا متوقف کرد تا ساختارهای اجتماعی و تحقیقات مرتبط با ایمنی هوش مصنوعی زمان کافی برای انطباق داشته باشند، قطعا اتفاق مثبتی رخداده است.
ولی توقف یکجانبهی رشد هوش مصنوعی توسط یک یا چند شرکت محتاط، نتایج فاجعهباری خواهد داشت؛ زیرا بهاحتمال زیاد سایر شرکتها و دولتهای رقیب، فناوری را در خفا پیش میبرند و کسانی رهبری فناوری را بهدست میگیرند که کمترین اهمیت را به ایمنی میدهند.
بههمین دلیل، آنتروپیک خواستار ایجاد سیستمی برای «توقف موقت، هماهنگ و قابل راستیآزمایی» در سطح بینالمللی است؛ شرایطیکه میتوان آن را با معاهدات پیچیدهی کنترل تسلیحات در دوران جنگ سرد مقایسه کرد.
آنتروپیک میگوید تا زمان منطبقشدن ساختارهای اجتماعی، باید ترمز توسعه هوش مصنوعی را کشید
ولی پنهانکردن یک دیتاسنتر عظیم برای آموزش یک مدل سرکش هوش مصنوعی، بسیار سادهتر از پنهانکردن سیلوهای موشکهای هستهای است. قطعات کامپیوتری کاربردهای دوگانه و عمومی دارند و انگیزه برای تقلب در چنین معاهدهای بینهایت بالاست؛ چرا که برنده میتواند کنترل اقتصاد و امنیت جهان را در دست بگیرد.
خالق کلاد میگوید در حال تحقیق برای ساخت سیستمهای راستیآزمایی است و درصورتیکه چنین ابزارهایی در سطح جهانی وجود داشته باشد، این شرکت نیز توسعهی مدلهای پیشگام خود را متوقف خواهد کرد.
هرچند میدانیم که توسعهی چنین رژیمهای نظارتی و اعتمادسازی بینالمللی در گذشته دهها سال زمان برده؛ کالای ارزشمندی که جهان امروز در برابر هوش مصنوعی، از آن محروم است.
گزارش آنتروپیک درحالی منتشر میشود که این استارتاپ پیشرو، خود را برای عرضهی عمومی سهام آماده میکند. از زمان انتشار پست پیشرو، پیشنهاد توقف جهانی توسعهی هوش مصنوعیواکنشهای زیادی به همراه داشتهاست و چهرههایی نظیردیوید ساکس، مشاور ارشد سابق کاخ سفید، بهشدت از آن انتقاد کردهاند.
در مقابلاندرو بی. هال، مشاور Forum AI و مشاور سابق متا، اذعان کرد کهدمیس هاسابیسمدیرعامل گوگل دیپمایند نیز پیشتر گفته بود از توقف جهانی حمایت میکند؛ بهشرطیکه تمام توسعهدهندگان پیشرو از آن پیروی کنند.
برخی منتقدان اشاره میکنند که مشخص نیست چگونه میتوان چنین پیشنهادی را روی مدلهای متنباز اعمال کرد و آیا شرکتهای مستقر در چین واقعا به توافقی جهانی تن میدهند یا خیر.
فرانچسکو بیانکی، استاد اقتصاد در دانشگاه جانز هاپکینز، نیز در واکنش به گزارش آنتروپیک گفت که پیشنهاد آنها منفعتطلبانه بهنظر میرسد؛ زیرا برای رهبر بازار آسان است که از توقف روندها صحبت کند.