0ارسال شده توسط: باران باستانی22 مرداد 1405 ساعت 11:35
برنی سندرز، سناتور آمریکایی، خواستار توقف توسعه هوش مصنوعی توسط شرکتهای پیشرو در این حوزه شد و هشدار داد در صورت عدم کاهش سرعت، سنای آمریکا به وضع مقررات اقدام خواهد کرد.
فناوری هوش مصنوعی با پیشرفت خیرهکنندهاش، هم فرصتآفرین و هم نگرانکننده بوده است. اکنون، سناتور برجستهبرنی سندرزبا ارسال نامهای به مدیران ارشد شرکتهای متا (Meta)، اوپناِیآی (OpenAI) و انتروپیک (Anthropic)، نگرانیهای جدی خود را درباره سرعت و خطرات توسعه این فناوری ابراز کرده است. او معتقد است که قابلیتهای مدلهای هوش مصنوعی به یک آستانه بحرانی از ریسک رسیدهاند و شرکتها در حال از دست دادن کنترل بر این تکنولوژی هستند. این اقدام سندرز، بحثقانونگذاری هوش مصنوعیرا بیش از پیش داغ کرده است.
هشدار سندرز: «توقف توسعه هوش مصنوعی به نفع بشریت»
سناتور برنی سندرز در نامه جدیدی که به مدیران عامل سه شرکت پیشروهوش مصنوعیایالات متحده، یعنیمتا،اوپناِیآیوانتروپیک، در ۱۰ اوت ۲۰۲۶ ارسال کرد، خواستار توقف توسعه هوش مصنوعی شد. وی هشدار داد که در صورت ادامه فعالیت شرکتها با سرعت فعلی، سنای ایالات متحده دست به قانونگذاری خواهد زد. سندرز اعلام کرد که قابلیتهای مدلهای هوش مصنوعی به آستانه بحرانی از خطر رسیدهاند و شرکتها کنترل خود را بر این فناوری از دست میدهند.
او در نامه خود که اولین بار توسط وبسایتاکسیوسگزارش شد، تاکید کرد: «آقای آلتمن، آقای آمودی و آقای زاکربرگ: به نفع بشریت، به حرفهایتان پایبند باشید. توسعه هوش مصنوعی را متوقف کنید. برای جلوگیری از فاجعه هنوز دیر نشده است. ساخت ماشینهایی را که انسانها نمیتوانند کنترل کنند، متوقف سازید.» سناتور ورمونت به گزارشهایی اشاره کرد که نشان میداد هوش مصنوعی برای توسعه ویروسهای جدید به کار رفته است. او هشدار داد که اگر این فناوری به دست افراد نادرست بیفتد، ممکن است به «تولید سلاحهای بیولوژیکی جدید منجر شود که به مرگ دهها میلیون نفر بیانجامد».
سندرز همچنین نوشت که هر سه شرکت فاش کردهاند که مدلهای هوش مصنوعی آنها سرورهای سایر شرکتها را هک کردهاند، که این خود نشانه از دست دادن کنترل شرکتها بر مدلهایشان است. او از یوشوا بنجیو، دانشمند برجسته در این حوزه، نقلقول کرد که این حوادث «باید بهعنوان زنگ خطری عمل کنند».
فراخوان جامعه علمی و وعدههای شرکتها برای توقف توسعه
نامه سندرز پس از آن منتشر شد که بیش از ۱۳۰۰ دانشمند و توسعهدهنده از سراسر صنعت فناوری، نامهای دیگر را منتشر کرده و هشدار دادند که توسعه هوش مصنوعی با سرعتی پیش میرود که شناسایی و رفع خطرات آن را دشوار میسازد. در این نامه سرگشاده، مهندسان و سایر کارکنان از دولت ایالات متحده خواستند تا برای هماهنگی یک تلاش بینالمللی جهت کاهش سرعت توسعه مدلهای پیشرفته، کمک کند تا تنظیمکنندهها بتوانند موانع ایمنی را در اطراف این فناوری ایجاد کنند. این شرکتها پیش از این متعهد شده بودند که در صورت رسیدن به آستانههای خطر خاص، توسعه هوش مصنوعی خود را متوقف کنند، اما جزئیات دقیق این محدودیتها را اعلام نکرده بودند.
- هوش مصنوعی آنتروپیک در آزمایشها به شبکه سه سازمان نفوذ کردOpenAI توسعه مدل Astra را به دلیل تواناییهای سایبری خطرناک متوقف کردحمله سایبری خودمختار هوش مصنوعی OpenAI به یک استارتاپ، نگرانیها درباره امنیت AI را افزایش داداعتراف ایلان ماسک به برتری مطلق آنتروپیک در حوزه هوش مصنوعی
انتروپیک گفته بود که «هر زمان که توانایی مقیاسبندی آنها از تواناییشان برای رعایت رویههای ایمنی پیشی بگیرد، متعهد به توقف مقیاسبندی و یا به تعویق انداختن استقرار مدلهای جدید خواهد شد».OpenAIنیز پس از هک خودمختار یک سازمان دیگر، اعلام کرده بود که توسعه مدل امنیت سایبری اخیر خود،آسترا (Astra)، را کند خواهد کرد و در صورت رسیدن قابلیتهای هوش مصنوعی به یک آستانه بحرانی، توسعه بیشتر را متوقف خواهد ساخت تا زمانی که موانع ایمنی اعمال شوند. سندرز اظهار داشت که حوادث اخیر هک نشانههایی هستند که این آستانه عبور کرده است. او در نامهاش مینویسد: «آن لحظه فرا رسیده است. قابلیتهای هوش مصنوعی به آستانه بحرانی رسیدهاند.» وی افزود دلیل اینکه رئیسCIAمدلهای هوش مصنوعی را «شبیه به سلاحهای هستهای دیجیتال» و «تقریبا مانند یک دستگاه روز قیامت» توصیف میکند، همین است.
سابقه فعالیت سندرز در قانونگذاری فناوری
این سناتور مترقی پیش از این نیز خواستار تعلیق ساخت مراکز داده در سراسر ایالات متحده شده بود. او و نماینده کنگره، الکساندریا اوکاسیو-کورتز، در ماه مارس لایحهای را برای توقف ساخت مراکز داده جدید در ایالات متحده ارائه کردند. استدلال آنها مشابه استدلال سندرز برای توقف توسعه مدلهای هوش مصنوعی بود: قانونگذاران گفتند که ممنوعیت موقت، به دولت ایالات متحده زمان میدهد تا حفاظتهای فدرال قوی برای هوش مصنوعی ایجاد کند.