- خانهتکنولوژیهوش مصنوعی
کارشناسان میگویند به احتمال زیاد، مدل زبانی بزرگ ChatGPT «مسموم» شده و اطلاعات مخرب به دیتابیس آن راه پیدا کرده است.
در دیجیاتو ثبتنام کنید
جهت بهرهمندی و دسترسی به امکانات ویژه و بخشهای مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.
- بنیانگذار علیبابا: امنیت با بستن اینترنت مردم تامین نمیشود22 دقیقه قبلباگ ترسناک ChatGPT؛ تصاویر خیالی هوش مصنوعی کاربران را به وحشت انداخت43 دقیقه قبلپروازهای اکثر فرودگاههای کشور لغو شد48 دقیقه قبلنسخه ویژه ایکسباکس به مناسبت ۲۵ سالگی کنسول مایکروسافت معرفی شد [تماشا کنید]1 ساعت قبلحمله به پتروشیمی کارون؛ دستور خروج کارکنان صادر شد1 ساعت قبل
طبق گزارشهای جدید، ChatGPT به دلیل دستکاری و به اصطلاح «مسمومیت» اطلاعاتی مدلهای زبانی خود، ناخواسته ممکن است کاربران را برای خرید آنلاین به وبسایتهای جعلی هدایت کند؛ اتفاقی که در نهایت منجر به کلاهبرداری مالی و سرقت اطلاعات بانکی افراد میشود. کارشناسان امنیت سایبری هشدار میدهند که مجرمان با نفوذ به منابع یادگیری هوش مصنوعی، لینک فروشگاههای تقلبی را در میان پیشنهادها و نتایج جستجوی این چتبات جایگذاری میکنند.
سرویس بررسی کلاهبرداری Ask Silver اخیراً در تحقیقات خود متوجهحضور سایتهای شبیهسازیشده و جعلیدر پاسخهای ChatGPT شده است. به عنوان نمونه، زمانی که کاربران از هوش مصنوعی درباره محصولات برندهای بریتانیایی مانند Russell & Bromley یا Dunelm راهنمایی میخواهند، این چتبات گزینههایی با قیمت و تخفیفهای جذاب ارائه میدهد که لینک آنها کاربر را به سایتهای جعلی و نامعتبر هدایت میکند.
خریداران با ورود به این سایتها و پرداخت وجه، نهتنها کالایی دریافت نمیکنند، بلکه اطلاعات حسابشان را در اختیار هکرها قرار میدهند.
«آنا جونز» از Ask Silver توضیح میدهد که به احتمال زیاد، مدل زبانی بزرگ ChatGPT «مسموم» شده است. این اتفاق زمانی رخ میدهد که محتوای مخرب، از طریق صفحات وب جعلی که توسط کلاهبرداران ساخته شدهاند، وارد دیتابیس اطلاعاتی هوش مصنوعی شود. او در ادامه میگوید:
«در یک مورد، کلاهبرداران از این واقعیت سوءاستفاده کردند که یک برند به تازگی تغییر مالکیت داده و سایت رسمی آن از دسترس خارج شده است؛ در نتیجه سایتهای جعلی خود را به عنوان مرجع معتبر به خورد هوش مصنوعی دادند.»
«در یک مورد، کلاهبرداران از این واقعیت سوءاستفاده کردند که یک برند به تازگی تغییر مالکیت داده و سایت رسمی آن از دسترس خارج شده است؛ در نتیجه سایتهای جعلی خود را به عنوان مرجع معتبر به خورد هوش مصنوعی دادند.»
نحوه عملکرد کلاهبرداری در نتایج جستجوی هوش مصنوعی
«لوییس بکستر»، رئیس تیم کلاهبرداری در سازمان استانداردهای تجارت ملی بریتانیا، تأکید میکند که مردم نباید صرفاً به این دلیل که یک وبسایت توسط ابزار هوش مصنوعی پیشنهاد شده است، به آن اعتماد کنند. او میگوید:
«مصرفکنندگان بهطور فزایندهای برای دریافت مشاوره به ابزارهای هوش مصنوعی روی میآورند، اما مجرمان نیز به همان سرعت خود را با این شرایط تطبیق میدهند. ظاهر شدن وبسایتهای کلاهبرداری در نتایج هوش مصنوعی نگرانکننده است و نشان میدهد که کلاهبرداران از هر فناوری جدیدی برای رسیدن به قربانیان استفاده میکنند.»
«مصرفکنندگان بهطور فزایندهای برای دریافت مشاوره به ابزارهای هوش مصنوعی روی میآورند، اما مجرمان نیز به همان سرعت خود را با این شرایط تطبیق میدهند. ظاهر شدن وبسایتهای کلاهبرداری در نتایج هوش مصنوعی نگرانکننده است و نشان میدهد که کلاهبرداران از هر فناوری جدیدی برای رسیدن به قربانیان استفاده میکنند.»
بررسیها نشان میدهد سایتهای جعلی معرفیشده توسط ChatGPT، ظاهر بسیار فریبندهای دارند و گاهی تخفیفهای غیرمنطقی تا ۸۰ درصد را به کاربران پیشنهاد میدهند. همچنین این سایتهای شبیهسازیشده اغلب از آدرسهایی بسیار نزدیک به نام اصلی برندها (مانند استفاده از پسوندهای onlineuk یا official در کنار نام برند) استفاده میکنند تا کاربر متوجه جعلی بودن آنها نشود.
کارشناسان توصیه میکنند هنگام خرید آنلاین، آدرس اینترنتی (URL) سایتها را با دقت بررسی کنید و مراقب کلمات اضافی در دامنه باشید. سایتهای کلاهبرداری اغلب فقط پرداخت از طریق حواله بانکی را میپذیرند که این موضوع یک زنگ خطر جدی محسوب میشود.
در صورت امکان، بهجای کلیک روی لینکهای پیشنهادی هوش مصنوعی، نام فروشگاهها را جستجو کرده و مستقیماً وارد وبسایت رسمی آنها شوید. در همین راستا، سخنگوی OpenAI اعلام کرده است که وبسایتهای کلاهبرداری شناساییشده را از فهرست جستجوی این مدل حذف کرده و کاربران میتوانند سایتهای ناقض قوانین را به طور مستقیم گزارش کنند.
دوران حرفهای من در دنیای فناوری تقریبا به ۱۰ سال قبل برمیگرده؛ مسیری که با سختافزار شروع شد، با نرمافزار ادامه پیدا کرد و حالا با خبرنگاری حوزه فناوری توی دیجیاتو داره ادامه پیدا میکنه. من جوادم و بیشتر از سه دهه از عمرم میگذره و علاوه بر دنیای فناوری عاشق فیلموسینما، موسیقی کلاسیکراک و رئال مادریدم.
مقالات و اخبار مرتبط
- ChatGPT سوپراپلیکیشن میشود؛ بلندپروازی OpenAI پیش از ورود به بورسآزاد کبیری23 ساعت قبل1حالت Lockdown برای تمام کاربران ChatGPT منتشر شد؛ مؤثر در مقابله با حملات Prompt Injectionنیما جلالی2 روز قبل0موافقت OpenAI با فرمان جدید ترامپ؛ مدلهای پیشرفته قبل از انتشار زیر ذرهبین دولت قرار میگیرندنیما جلالی3 روز قبل5معماری جدید حافظه ChatGPT معرفی شد؛ هوشمندتر و کارآمدتر حتی در نسخه رایگانجواد تاجی3 روز قبل1
برای گفتگو با کاربرانثبت نامکنید یاوارد حساب کاربریخود شوید.
- قیمت روز پرفروشترین گوشیهای بازار ایران [17 خرداد 1405]قهرمان جام جهانی کیه؟ | اونسایدوقتش نیست فیلترینگ رو تموم کنید؟ | تکتاکمعاون وزیر ارتباطات: به دنبال ایجاد چارچوبی هستیم تا اینترنت به راحتی قطع نشود