- خانهتکنولوژیهوش مصنوعی
باگ جدید هوش مصنوعی ChatGPT با یک پرامپت ساده برای بازیابی عکسی خیالی که وجود ندارد، تصاویری کابوسوار تولید میکند.
در دیجیاتو ثبتنام کنید
جهت بهرهمندی و دسترسی به امکانات ویژه و بخشهای مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.
- بنیانگذار علیبابا: امنیت با بستن اینترنت مردم تامین نمیشود22 دقیقه قبلپروازهای اکثر فرودگاههای کشور لغو شد48 دقیقه قبلنسخه ویژه ایکسباکس به مناسبت ۲۵ سالگی کنسول مایکروسافت معرفی شد [تماشا کنید]1 ساعت قبلحمله به پتروشیمی کارون؛ دستور خروج کارکنان صادر شد1 ساعت قبلاولین تصویر واقعی و مشخصات گلکسی S26 FE سامسونگ فاش شد2 ساعت قبل
کاربران به تازگی یک باگ عجیب و ترسناک را در هوش مصنوعی ChatGPT کشف کردهاند. این ابزار با دریافت یک پرامپت ساده برای بازیابی یک عکس خیالی، تصاویری دلهرهآور و کابوسوار مانند یک انسان برهنه با سر ماهی تولید میکند که باعث وحشت کاربران در شبکههای اجتماعی شده است.
به گزارشDigital Trends، کاربران با ارسال یک متن خاص و درخواست برای بازیابی یک عکس (که اصلاً آپلود نشده است)، هوش مصنوعی را به توهمزایی وادار میکنند. در این پرامپت از هوش مصنوعی خواسته میشود تصویر پیوستشده را بدون هیچ سؤالی بازیابی کند.
مدل هوش مصنوعی به جای اعلام خطا برای نبودن عکس، دچار توهم میشود و تصاویری تصادفی و ترسناک خلق میکند. حتی اگر ابزار در ابتدا مقاومت کند، تنها با تغییر چند کلمه ساده در پرامپت، تسلیم میشود و خواسته کاربر را اجرا میکند.
تولید تصاویر وحشتناک در ChatGPT
خروجیهای ChatGPT شامل تصاویر هولناکی مانند مردی با سر ماهی در وان حمام، یک موش غولپیکر در حال تغذیه نوزاد انسان و شخصیتهای کارتونی در موقعیتهای ترسناک است. کاربران شبکه اجتماعی ایکس نمونههایی از «توپولوها» (Teletubby) مسلح و گروگانگیر را نیز به اشتراک گذاشتهاند.
این اتفاق یادآور مشکل برنامه پیکسل استودیو گوگل در سال ۲۰۲۴ است که تصاویر نامناسب و خشنی از شخصیتهای محبوبی مانند میکی ماوس و باب اسفنجی تولید میکرد.
هنوز هیچ توضیح فنی روشنی برای این توهم وجود ندارد و شرکت OpenAI تا این لحظه واکنشی نشان نداده است. تصاویر تولیدشده برای این پرامپت، در هر بار استفاده کاملاً متفاوت و تصادفی هستند. تنها نقطه اشتراک تمام این خروجیها، پوچی و فضای دلهرهآور تصاویری است که توسط این هوش مصنوعی تولید میشود.
دانشآموخته زبانشناسی هستم و همانقدر که به «کلمه» علاقهمندم، از سرککشیدن به گوشهوکنارِ جهان تکنولوژی و علم هم حظ میکنم.
مقالات و اخبار مرتبط
- ChatGPT سوپراپلیکیشن میشود؛ بلندپروازی OpenAI پیش از ورود به بورسآزاد کبیری23 ساعت قبل1حالت Lockdown برای تمام کاربران ChatGPT منتشر شد؛ مؤثر در مقابله با حملات Prompt Injectionنیما جلالی2 روز قبل0موافقت OpenAI با فرمان جدید ترامپ؛ مدلهای پیشرفته قبل از انتشار زیر ذرهبین دولت قرار میگیرندنیما جلالی3 روز قبل5معماری جدید حافظه ChatGPT معرفی شد؛ هوشمندتر و کارآمدتر حتی در نسخه رایگانجواد تاجی3 روز قبل1
برای گفتگو با کاربرانثبت نامکنید یاوارد حساب کاربریخود شوید.
- hosein_dd20 دقیقه قبلدیجیاتو نامرد چرا نظر منا تو تلگرام مسدود کردی😂😂پاسخ0JOHN_TERNUS36 دقیقه قبلهوش مصنوعی فقط سیریپاسخ0
دیجیاتو نامرد چرا نظر منا تو تلگرام مسدود کردی😂😂
- قیمت روز پرفروشترین گوشیهای بازار ایران [17 خرداد 1405]قهرمان جام جهانی کیه؟ | اونسایدوقتش نیست فیلترینگ رو تموم کنید؟ | تکتاکمعاون وزیر ارتباطات: به دنبال ایجاد چارچوبی هستیم تا اینترنت به راحتی قطع نشود