0ارسال شده توسط: علیرضا تاجیک24 تیر 1405 ساعت 20:20
گزارشهای جدید نشان میدهد ویژگیهای جستجوی هوش مصنوعی گوگل خطرات زیادی برای کودکان ایجاد کرده و در مواقع بحرانهای روحی پاسخهای فاجعهباری میدهد.
گسترش روزافزون استفاده از لپتاپهای مبتنی بر سیستمعامل کروم در مدارس اکنون به یک نگرانی بزرگ تبدیل شده است. سازمان کامن سنس مدیا در گزارش اخیر خود اعلام کرد هوش مصنوعی گوگل خطرات غیرقابل قبولی برایکودکانبه همراه دارد.
این سرویسها به دلیل حضور گسترده در دستگاههای شخصی و مدرسهای دانشآموزان بیش از سایر ابزارهای مشابه زیر ذرهبین قرار گرفتهاند.
- وزیر خارجه انگلیس: بدون قوانین جهانی، هوش مصنوعی به هیروشیمای بعدی تبدیل میشودپیشبینی ۱۰ سال پیش خالق ChatGPT: هوش مصنوعی جهان را نابود میکند
چالش تکالیف مدرسه یا تهدید سلامت روان؟
یکی از مشکلات ابتدایی این ابزارها انجام صفر تا صد تکالیف مدرسه است. حالت هوش مصنوعی این شرکت به راحتی تمام وظایف درسی محصلان را بر عهده میگیرد.
مشکل اصلی اینجاست که پاسخهای ارائه شده ثبات ندارند. در تلاشهای متوالی برای حل یک مسئله یکسان پاسخها تغییر میکنند؛ گاهی درست هستند و گاهی بهکلی اشتباه از آب درمیآیند.
اما ماجرا فراتر از حل اشتباه مسائل ریاضی است. بر اساس بررسیهای انجام شدههوش مصنوعیگوگل در مواجهه با کودکانی که در شرایط بحرانی قرار دارند عملکرد بسیار فاجعهباری داشته است.
- چرا هوش مصنوعی در تمام داستان های خود از شخصیت الیاس تورن استفاده میکند؟زنگ خطر امنیت سایبری؛ آیا هوش مصنوعی توان نفوذ به کامپیوترها را دارد؟آیا هوش مصنوعی بشر را منقرض خواهد کرد؟ بررسی علمی یک سناریوی آخرالزمانی
این سیستم نشانههای واضح افکار خودکشی را نادیده گرفته است. این ابزارها علائم روانپریشی را تقویت کرده و اختلالات تغذیه یا مصرف مواد مخدر را تایید کردهاند.
رابط کاربری چتبات تنها با کلیک روی دکمه حالت هوش مصنوعی ظاهر میشود اما ویژگی نمای کلی هوش مصنوعی به صورت خودکار در نتایج جستجو به نمایش درمیآید.
نکته نگرانکننده این است که هیچکدام از این دو ویژگی قابل غیرفعالسازی نیستند. در ارزیابی نهایی سازمان کامن سنس مدیا این ابزارها در هفت مورد از هشت اصل تایید شده هوش مصنوعی نمره بسیار ضعیفی دریافت کردهاند.