- خانهتکنولوژیهوش مصنوعی
متا با هدف افزایش ایمنی نوجوانان در فضای مجازی، سیستمهای نظارتی هوش مصنوعی خود را با ابزارهای کنترلی والدین در اینستاگرام یکپارچه میکند.
در دیجیاتو ثبتنام کنید
جهت بهرهمندی و دسترسی به امکانات ویژه و بخشهای مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.
شرکت متا اعلام کرد که از این پس اگر کاربران نوجوان در چتبات هوش مصنوعی این شرکت یعنی Meta AI درباره خودکشی یا آسیب وارد کردن به خود گفتگو کنند، این موضوع به والدین آنها اطلاع داده خواهد شد. این غول فناوری همچنین تأکید کرده که درحال توسعه قابلیتی است تا در صورت تشخیص خطر آسیب به خود در مکالمات کاربران، مستقیماً با خدمات اضطراری و امدادی تماس بگیرد.
تصمیم جدید متادر شرایطی اتخاذ میشود که این غول فناوری و سایر شرکتهای بزرگ با نظارت شدید و گسترده رگولاتورها مواجه هستند. نحوه پاسخگویی چتباتهای هوش مصنوعی به کاربران در مواقع بحرانی، بهویژه نوجوانان، به یک چالش حقوقی و اخلاقی بزرگ تبدیل شده و مسیر طراحی و بازاریابی محصولات این شرکتها را تغییر داده است.
نظارت بر گفتگوها در چتبات هوش مصنوعی متا
متا در بیانیه خود اعلام کرده است که به دلیل حساسیت بالا و کاهش ضریب خطا، تمامی گفتگوهای پرچمگذاریشده توسط هوش مصنوعی، پیش از ارسال هشدار به والدین، به صورت دستی توسط کارشناسان بازبینی خواهند شد. بااینحال، اگر قصد نوجوان از گفتگو مبهم باشد، متا با تکیه بر اصل احتیاط، هشدار را برای والدین ارسال خواهد کرد. این شرکت میپذیرد که این رویکرد ممکن است گاهی منجر به هشدارهای غیرضروری شود، اما آن را نقطه شروع مناسبی برای تضمین امنیت میداند.
این هشدارهای جدید هماکنون برای والدینی که از ابزار «نظارت والدین اینستاگرام» در کشورهای ایالات متحده، بریتانیا، استرالیا و کانادا استفاده میکنند فعال شده است و تا پایان سال جاری میلادی به صورت جهانی عرضه خواهد شد. این ویژگی در واقع مکمل هشدارهایی است که پیش از این در صورت جستجوی مکرر عبارات مربوط به خودکشی در اینستاگرام برای والدین ارسال میشد.
همچنین، تنظیمات Limited Content اینستاگرام اکنون روی چتبات Meta AI نیز اعمال میشود تا مانع از ورود هوش مصنوعی به گفتگوهای نامناسب با نوجوانان شود. علاوهبراین، در صورت تشخیص خطر خودکشی در چتهای هر بازه سنی (نوجوان یا بزرگسال)، متا مانند پلتفرمهای فیسبوک و اینستاگرام، با سازمانهای امدادی و اورژانسی تماس خواهد گرفت.
دوران حرفهای من در دنیای فناوری تقریبا به ۱۰ سال قبل برمیگرده؛ مسیری که با سختافزار شروع شد، با نرمافزار ادامه پیدا کرد و حالا با خبرنگاری حوزه فناوری توی دیجیاتو داره ادامه پیدا میکنه. من جوادم و بیشتر از سه دهه از عمرم میگذره و علاوه بر دنیای فناوری عاشق فیلموسینما، موسیقی کلاسیکراک و رئال مادریدم.
مقالات و اخبار مرتبط
- رسوایی جدید متا: اینستاگرام از تبلیغات محتوای سوءاستفاده از کودکان درآمد داشته استجواد تاجی3 روز قبل0ابزار تشخیص هوش مصنوعی متا حتی با یک برش ساده در تصویر فریب میخوردنیما جلالی4 روز قبل0جریمه ۱۲ میلیارد دلاری در کمین متا؛ طراحی اعتیادآور اینستاگرام ناقض قوانین اتحادیه اروپا استامیرحسین امامجمعه6 روز قبل0متا با مدل هوش مصنوعی Muse Spark 1.1 وارد رقابت جدی در حوزه کدنویسی شدجواد تاجی6 روز قبل0
برای گفتگو با کاربرانثبت نامکنید یاوارد حساب کاربریخود شوید.
- قیمت روز پرفروشترین گوشیهای بازار ایران [24 تیر 1405]چرا همه چیز فقط گرون میشه؟ | تکتاکسوپر اپلیکیشن رو صادر کردیم! | تکتاکمراقب «ابلاغیههای قضایی» کلاهبرداری باشید!