- خانهتکنولوژیهوش مصنوعی
پایبندی به قانون شفافیت هوش مصنوعی اتحادیه اروپا دلیل اصلی الزام شرکتها به استفاده از سیستمهای ردیابی متون است.
در دیجیاتو ثبتنام کنید
جهت بهرهمندی و دسترسی به امکانات ویژه و بخشهای مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.
- وزارت بازرگانی آمریکا مخالفت خود را با خرید تراشههای حافظه چینی به اپل اعلام کرد16 ساعت قبلنسل جدید روترهای استارلینک با پشتیبانی از وایفای ۷ در راه است17 ساعت قبلانویدیا و الجی تفاهمنامههایی را درباره رباتهای انساننمای نسل بعدی و صنعت خودرو امضا کردند17 ساعت قبلسازمان سنجش: عضویت در گروههای مجازی خرید سوالات کنکور جرم تلقی میشود17 ساعت قبلقیمت روز بهترین گوشیهای اپل [24 مرداد 1405]18 ساعت قبل
شرکت آنتروپیک در یک پست وبلاگی، به پرسشهای اساسی کاربران دربارهنحوه واترمارکگذاری روی متونتولیدشده توسط چتبات Claude پاسخ داده است. این توضیحات به مسائلی از قبیل شیوه عملکرد این فناوری، امکان حذف یا پنهانسازی آن با ویرایش متن و تأثیر آن بر کدهای برنامهنویسی پرداخته است.
تصمیم آنتروپیک برای ثبت واترمارک مخفی روی متون از زمان اعلام رسمی آن با بحثهای گستردهای میان کاربران روبرو شده بود.این شرکت اعلام کردهکه برای پایبندی به منشور شفافیت قانون هوش مصنوعی اتحادیه اروپا اقدام به درج واترمارک میکند؛ قانونی که شرکتهای توسعهدهنده هوش مصنوعی را به استفاده از سیستمهای شناسایی محتوای تولیدشده ملزم میسازد. در این میان، برخی کاربران این سازوکار را اقدام نادرستی تلقی کردهاند و گروهی دیگر گزارش دادهاند که اشتراکهای خود را لغو خواهند کرد.
آنتروپیک در تشریح این فناوری توضیح داده که هنگام تصمیمگیریهای با حساسیت پایین در انتخاب کلمات مترادف برای پاسخ، چتبات Claude الگویی پنهان در متن ایجاد میکند. این الگو برای خواننده عادی کاملاً نامرئی است، اما هر فرد یا سامانهای که کلید رمزگشایی را در اختیار داشته باشد، میتواند آن را ردیابی کند. این شرکت تأکید کرده که واترمارکگذاری به هیچ وجه روی کیفیت متن تولیدی اثر منفی نمیگذارد و پاسخهای دارای واترمارک از نمونههای بدون آن تفکیکپذیر نیستند.
سازوکار فنی واترمارک Claude و تأثیر ویرایش بر آن
این سیستم با بهرهگیری از رویکرد «SynthID-Text» که تیم گوگل دیپمایند در سال ۲۰۲۴ معرفی کرد، پیادهسازی شده است. همچنین آنتروپیک در نظر دارد یک رابط برنامهنویسی کاربردی (API) برای تشخیص واترمارک عرضه کند. به گفته آنتروپیک، این روش بنیادین با ابزارهای سنتی تشخیص متن هوش مصنوعی تفاوت دارد؛ ابزارهایی مانند سامانههای شرکت Pangram که صرفاً به دنبال الگوهای تکراری نگارشی میگردند، با این الگوریتمهای کدگذاری ریاضی قابل مقایسه نیستند.
در پاسخ به این پرسش که آیا بازنویسی متن واترمارک را از بین میبرد یا خیر، آنتروپیک بیان کرده که ویرایشهای جزئی و سبک احتمالاً واترمارک را پاک نخواهند کرد، اما بازنویسی کامل متن که در آن تمام کلمات جایگزین شوند، آن را به کلی حذف میکند. بااینحال، در صورت بازنویسی کامل، دیگر نمیتوان اثر مذکور را به عنوان متن تولیدشده توسط هوش مصنوعی در نظر گرفت. در صورتی که Claude تنها برای ویرایش یک متن انسانی استفاده شود، تشخیص واترمارک به میزان دخل و تصرف آن در متن بستگی دارد؛ اگر تغییرات اندک باشد، کلمات توسط انسان نوشته شدهاند و نشانهای برای ردیابی وجود نخواهد داشت.
واترمارک روی کدهای برنامهنویسی اثر بسیار کمتری نسبت به متنهای عادی دارد؛ چون هوش مصنوعی برای درست کار کردن کد نمیتواند کلمات را آزادانه تغییر دهد. بااینحال، در بخشهایی مثل کامنتها و توضیحات کد که دست مدل برای انتخاب واژهها بازتر است، امکان ثبت واترمارک وجود دارد، هرچند این موضوع روی عملکرد اصلی کد تأثیری نمیگذارد.
آنتروپیک خاطرنشان کرده که Claude تنها مدلی نیست که متون واترمارکشده تولید خواهد کرد، زیرا سایر شرکتهای بزرگ این حوزه نیز منشور مذکور را امضا کردهاند و سازوکارهای اختصاصی خود را فعال میکنند. درهمینحال، گوگل اخیراًقابلیت جدیدی را برای جمینایمعرفی کرده بود که ثبت واترمارک دیدنی روی عکس و ویدیوهای ساخته شده با هوش مصنوعی را غیرفعال میکند.
دوران حرفهای من در دنیای فناوری تقریبا به ۱۰ سال قبل برمیگرده؛ مسیری که با سختافزار شروع شد، با نرمافزار ادامه پیدا کرد و حالا با خبرنگاری حوزه فناوری توی دیجیاتو داره ادامه پیدا میکنه. من جوادم و بیشتر از سه دهه از عمرم میگذره و علاوه بر دنیای فناوری عاشق فیلموسینما، موسیقی کلاسیکراک و رئال مادریدم.
مقالات و اخبار مرتبط
- همسر مدیرعامل آنتروپیک برای شرکت فیلمهای بزرگسال خود از اپستین درخواست سرمایه کرده بودآزاد کبیری20 ساعت قبل0پژوهش آنتروپیک: تقابل ایجنتهای هوش مصنوعی به جنگ بر سر قلمرو منجر میشودجواد تاجی1 روز قبل0سرمایهگذاران ارزش آنتروپیک را برای IPO حدود ۲ تریلیون دلار برآورد میکنندجواد تاجی2 روز قبل0آنتروپیک قابلیت Claude Cowork را به مرورگر گوگل کروم آورد [تماشا کنید]آزاد کبیری3 روز قبل0
برای گفتگو با کاربرانثبت نامکنید یاوارد حساب کاربریخود شوید.
- حقوق مارو هم با میانگین جهانی محاسبه کنید! | تکتاکقیمت روز پرفروشترین گوشیهای بازار ایران [24 مرداد 1405]۱۰۰۰ میلیارد تومن رو ریختیم دور! | تکتاکمعاون وزیر ارتباطات: در دوران جنگ هزار میلیارد تومان برای پیامرسانهای داخلی هزینه کردیم