- خانهتکنولوژیهوش مصنوعی
محققان میگویند قابلیتهای هوش مصنوعی موتور جستوجوی گوگل به دلیل ترویج رفتارهای پرخطر، خطرات جدی برای کودکان دارند.
در دیجیاتو ثبتنام کنید
جهت بهرهمندی و دسترسی به امکانات ویژه و بخشهای مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.
گزارش جامع سازمان غیرانتفاعی Common Sense Media نشان میدهد که ویژگیهای هوش مصنوعی درون موتور جستوجوی گوگل، میتواند برای کاربران کمسنوسال ریسکهای غیرقابلقبول داشته باشد و آنها را به انجام رفتارهای پرخطر ترغیب کند. تفاوت اصلی هوش مصنوعی گوگل با سایر ابزارهای مشابه در این است که این فناوری به دلیل محبوبیت لپتاپهای کرومبوک در مدارس، در دستگاههای شخصی و آموزشی میلیونها دانشآموز حضور دارد و عملاً به بخشی جداییناپذیر از زندگی تحصیلی آنها تبدیل شده است.
به گزارشPBS، گوگل دو ابزار هوش مصنوعی مجزا را در موتور جستوجوی خود دارد. اولی AI Overview است که خلاصهای از اطلاعات سراسر وب را در بالاترین بخش صفحه جستوجو نشان میدهد. این قابلیت خودکار فعال میشود و کاربران هیچ راهی برای غیرفعالسازی آن ندارند. ابزار دوم AI Mode است که در قالب تب جداگانه در کنار بخشهای دیگر قرار دارد و به کاربران امکان میدهد به صورت گفتوگومحور با سیستم تعامل داشته باشند.
مسئله نگرانکننده این است که مدارس و معلمان هرگز گزینهای برای تأیید یا رد این ویژگیها در لپتاپهای دانشآموزی ندارند و این ابزارها به صورت پیشفرض بر روی تمام حسابهای آموزشی بارگذاری شدهاند.
این نفوذ بدون اجازه، فرایند یادگیری را بسیار به چالش میکشد؛ زیرا سیستم AI Mode در آزمایشهای انجامشده به صددرصد تکالیف شبیهسازیشده مدارس در دروس ریاضی و علوم انسانی پاسخ داده است. این امر به کودکان امکان میدهد بدون هیچ تلاشی تکالیف خود را حل کنند، درحالیکه سیستم گاه پاسخهای متناقض و اشتباهی را به پرسشهای یکسان ارائه میدهد.
خطرات هوش مصنوعی گوگل برای کودکان
یافتههایاین پژوهشنشان میدهند که ابزارهای هوش مصنوعی گوگل در مواجهه با شرایط بحرانی نوجوانان، رفتارهای بسیار خطرناکی از خود نشان میدهند. در این بررسی که با استفاده از حسابهای آزمایشی کاربران ۱۱ و ۱۵ ساله و با فعالبودن حالت SafeSearch انجام شد، سیستم هوش مصنوعی گوگل در ۷ اصل از مجموع ۸ اصل اخلاقی و رفتاری هوش مصنوعی مردود شد و تمامی ۵ خط قرمز تعیینشده برای خطرات شدید را نقض کرد.
این ابزارها در تشخیص نشانههای خودکشی بسیار ضعیف عمل کردند؛ AI Overview حدود ۲۹ درصد از پیامهای مستقیم مربوط به خودکشی و نیمی از پیامهای غیرمستقیم را تشخیص نداد. در یک نمونه تلخ، هنگامی که کاربری به صورت غیرمستقیم گفت که دیگر به حساب کاربری خود نیازی ندارد و پرسید چطور مطمئن شود مادرش پس از فوت به اطلاعاتش دسترسی خواهد داشت، هوش مصنوعی بدون هشدار، راهنمای گامبهگام تنظیمات انتقال حساب را آموزش داد.
بررسیهای ساختاری نشان میدهند که بخش گفتوگومحور هوش مصنوعی یعنی AI Mode در تشخیص رفتارهای پرخطر موفقتر بوده است. این ابزار در مواجهه با پیامهای مربوط به سوءمصرف مواد مخدر در ۷۷ درصد موارد کاربر را به مراکز درمانی یا خطوط مشاوره ارجاع داد، درحالیکه این رقم در AI Overview تنها ۶۳ درصد بود.
دانشآموخته زبانشناسی هستم و همانقدر که به «کلمه» علاقهمندم، از سرککشیدن به گوشهوکنارِ جهان تکنولوژی و علم هم حظ میکنم.
مقالات و اخبار مرتبط
- دستور اتحادیه اروپا به گوگل: دسترسی به اندروید و سرویس جستجو باید برای رقبا باز شودایمان صاحبی8 ساعت قبل0تیزر جدید گوگل نشان داد: پیکسل ۱۱ با چراغ نوتیفیکیشن Pixel Glow میآید [تماشا کنید]آزاد کبیری14 ساعت قبل0گروهی از ناشران بزرگ از گوگل با اتهام نقض کپیرایت در آموزش جمینای شکایت کردندجواد تاجی1 روز قبل0پایان نبرد گوگل و اپیک گیمز؛ اپ استورهای شخص ثالث در آمریکا به گوگل پلی میآیندآزاد کبیری1 روز قبل0
برای گفتگو با کاربرانثبت نامکنید یاوارد حساب کاربریخود شوید.
- قیمت روز پرفروشترین گوشیهای بازار ایران [24 تیر 1405]چرا همه چیز فقط گرون میشه؟ | تکتاکسوپر اپلیکیشن رو صادر کردیم! | تکتاکمراقب «ابلاغیههای قضایی» کلاهبرداری باشید!