- خانهتکنولوژیهوش مصنوعی
مدیر ارشد مایکروسافت هشدار داد که پیشرفت هوش مصنوعی از توانایی درک انسان فراتر رفته است.
در دیجیاتو ثبتنام کنید
جهت بهرهمندی و دسترسی به امکانات ویژه و بخشهای مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.
- روزیاتو: بزرگترین پیمانکاران نظامی و غیرنظامی دولت ایالات متحده در سال ۲۰۲۵ + اینفوگرافی22 دقیقه قبلتداوم بحران حافظه؛ AMD احتمالاً قیمت کارتهای گرافیک RX 9000 را تا ۱۵ درصد افزایش میدهد1 ساعت قبلوزیر ارتباطات خواستار ارائه گزارشی از وضعیت موتورهای جستوجوی بومی شد2 ساعت قبلترامپ: آنتروپیک دیگر تهدیدی برای امنیت ملی آمریکا نیست2 ساعت قبلاستونی برای اولینبار در جهان به ایجنتهای هوش مصنوعی کد شناسایی میدهد2 ساعت قبل
آیا روزی میرسد که مدلهای هوش مصنوعی بسیار بیشتر از آنچه ما درباره آنها میدانیم، ما را بشناسند؟ «اریک هورویتز» (Eric Horvitz)، مدیر ارشد علمی مایکروسافت، و «رابرت وست» (Robert West)، محقق دانشگاه EPFL سوئیس، با انتشار مقالهای هشدار دادند که سرعت پیشرفت سیستمهای هوش مصنوعی درحال عبور از توانایی درک ما است. آنها معتقدند که ما با یک پنجره زمانی محدود برای درک این فناوری مواجه هستیم و اگر زود اقدام نکنیم، احتمالاً برای همیشه کنترل اوضاع را از دست خواهیم داد.
براساس مقاله هورویتز و وست در ژورنالScience، پیچیدگی فناوریهای جدید با سرعتی بهمراتب بیشتر از توانایی شناخت انسان درحال افزایش است. نگرانی اصلی هورویتز و وست این نیست که ما حتماً باید تکتک خطوط کد یا تمام پارامترهای پنهان در این سیستمها را درک کنیم؛ بلکه دغدغه آنها حفظ سطحی از بینش است که برای نظارت معنادار بر سیستمهای هوش مصنوعی ضروری است.
به اعتقاد این دو دانشمند، حتی درک نسبی هم میتواند برای شناسایی زودهنگام خطرات مفید باشد؛ دقیقاً پیش از آنکه این خطرات آنقدر عمیق شوند که دیگر راهی برای جبران آنها وجود نداشته باشد.
یکی از بزرگترین مسائل فعلی این است که ابزارهای هوش مصنوعی بهطور فزایندهای برای طراحی و بهبود سایر سیستمهای هوش مصنوعی استفاده میشوند. با رواج این چرخههای توسعه بسته، درک انسان از فرایندهای اساسی آنها محدود میشود. هورویتز و وست دراینباره میگویند این سیستمها در فضاهای با ابعاد بالاتر از فهم انسان توسعه مییابند و این موضوع نوعی ابهام ایجاد میکند؛ به این معنا که نتایج نهایی قابل مشاهده هستند، اما توضیح مکانیسمهای تولیدکننده آنها بسیار دشوار شده است.
کنترل هوش مصنوعی توسط انسان یا برعکس
نگرانی مهم دیگر، افزایش ارتباط میان ایجنتهای هوش مصنوعی در محیطهای به همپیوسته و بسیار پیچیده است. به گفته محققان، ارتباطات میان این سیستمها میتواند به تدریج از الگوهای زبانی و استدلالی آشنا برای انسان فاصله بگیرد.
با گسترش این تعاملات در شبکههای بزرگتر، درک چگونگی شکلگیری تصمیمات برای ناظران انسانی بسیار دشوارتر خواهد شد. این انحراف از الگوهای انسانی، پدیدهای ایجاد میکند که هورویتز و وست آن را ابهام تعاملی مینامند. در این حالت، اگرچه رفتار ماشینها در اکوسیستم خودشان کاملاً منسجم و منطقی است، اما تفسیر معنادار آنها برای انسانها سختتر میشود.
هورویتز و وست توجه ویژهای به ایجنتهای هوش مصنوعی تطبیقی دارند که در دورههای طولانی فعال میمانند و در فعالیتهای روزمره ما مدام ادغام میشوند. این سیستمها از طریق تعاملات مکرر میتوانند مدلهای بسیار دقیقی از رفتار، ترجیحات، انگیزهها، ترسها و تمایلات اجتماعی ما ایجاد کنند. آنها در مقاله خود تأکید کردند که این سیستمها ترجیحات و حتی محرکهای پنهانی مانند ترس، عدم قطعیت و نیاز به تعلق اجتماعی ما را نیز به دقت ثبت و مدلسازی میکنند. این مسئله یک عدم تقارن روبهرشد ایجاد میکند؛ به این صورت که ماشینها دانش عمیقتری درباره انسانها به دست میآورند، درحالیکه درک انسان از آنها در مسیر معکوس حرکت میکند و کاهش مییابد.
این خطر نیز وجود دارد که مدلهای هوش مصنوعی به جای تکیه بر فرایندهای استدلالی خود، پاسخهایی تولید کنند که صرفاً بازتابدهنده انتظارات ارزیابان انسانی باشد. به همین دلیل استانداردها و بنچمارکهای قدیمی ارزیابی حتماً باید با رویکردهای جدید تکمیل شوند. هورویتز و وست هشدار میدهند که با ادغام عمیقتر این سیستمها در زندگی ما، ممکن است انسانها به تدریج علاقه خود را به زیر سؤالبردن تصمیمات هوش مصنوعی از دست بدهند.
دانشآموخته زبانشناسی هستم و همانقدر که به «کلمه» علاقهمندم، از سرککشیدن به گوشهوکنارِ جهان تکنولوژی و علم هم حظ میکنم.
مقالات و اخبار مرتبط
- آسیبپذیری خطرناک کوپایلوت: سرقت کدهای تأیید دومرحلهای با هک هوش مصنوعی مایکروسافتآزاد کبیری4 روز قبل0مایکروسافت شاید بخش ایکس باکس را از کسبوکار خود جدا کندجواد تاجی4 روز قبل0سرفیس پرو ۱۲ و سرفیس لپتاپ ۸ با اسنپدراگون X2 و قیمت بالاتر از راه رسیدندآزاد کبیری4 روز قبل0ردیابی حضور کارکنان در دفتر؛ مایکروسافت قابلیت جنجالی Check-in را به تیمز میآوردآزاد کبیری5 روز قبل0
برای گفتگو با کاربرانثبت نامکنید یاوارد حساب کاربریخود شوید.
- چرا آیفون رو گرونتر از اپل نفروشیم!؟ | تکتاکقیمت روز پرفروشترین گوشیهای بازار ایران [31 خرداد 1405]بانک مرکزی: عمدی بودن اختلال چهار بانک «زاییده توهمات ذهنی برخی افراد» استآقای رولکس کیه؟ | اونساید