- خانهتکنولوژیهوش مصنوعی
آنتروپیک از کشف فضای پردازش مخفی J-Space در هوش مصنوعی Claude خبر داد. در این فضا مدلها پیش از پاسخگویی در سر خود فکر میکنند.
در دیجیاتو ثبتنام کنید
جهت بهرهمندی و دسترسی به امکانات ویژه و بخشهای مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.
- روزیاتو: هرآنچه باید درباره زیردریایی تهاجمی هستهای ۱۳٬۸۰۰ تنی Murmansk روسیه بدانیم53 دقیقه قبلکاسپاروف در برابر دیپ بلو: باگ نرمافزاری که غرور بشریت را در هم شکست11 ساعت قبلرونمایی از اولین داروخانه رباتیک جهان؛ اتوماسیون کامل از نسخهپیچی تا تحویل دارو [تماشا کنید]14 ساعت قبلروزیاتو: بازیکنان رکورددار بیشترین تعداد گل زده در یک دوره جام جهانی فوتبال چه کسانی هستند؟14 ساعت قبلپروژه قدیمی سونی فاش شد؛ کنسول کامل پلی استیشن 1 درون کنترلر!15 ساعت قبل
آنتروپیک میگوید یک فضای کاری داخلی کوچک را در Claude شناسایی کرده است که هوش مصنوعی از آن برای نگهداری و دستکاری ایدهها، بدون تبدیل آنها به کلمات خروجی، استفاده میکند. این شرکت میگوید ساختار کشفشده شباهتهای جالبی با نحوه دسترسی آگاهانه انسانها به افکارشان دارد و توانسته است مرزبندی شگفتانگیز و انسانگونهای میان محاسبات پسزمینه و استدلالهای عمدی این مدل پیدا کند.
آنتروپیک این فضای جدید را J-Space نامیده است که از نام ژاکوبی (تکنیک ریاضی استفادهشده برای کشف این فرایند) گرفته شده است. این شرکت درویدیوی جالبیتوضیح میدهد که کلاد از این ناحیه مجزا برای برنامهریزی استراتژیهایی استفاده میکند که میتوانند هیچ ارتباطی با وظیفه فعلی او نداشته باشند و از زنجیره افکاری که کاربران میبینند، جدا هستند. آنتروپیک در شبکه اجتماعیایکسنوشته است که محققان میتوانند کلاد را درحالیکه بیصدا مراحل استدلال را در سر خود انجام میدهد تماشا کنند؛ کارهایی مانند پیداکردن باگ در کدها یا شناسایی تصاویر که در پسزمینه پردازش میشوند.
برای درک بهتر این موضوع، آنتروپیک در یک مثال از کلاد خواست تا در حین کپیکردن یک جمله نامربوط، به پل معلق گلدن گیت فکر کند. درحالیکه کلاد مشغول کپیکردن جمله بود، J-Space داستان متفاوتی را روایت میکرد و نشان میداد که کلماتی مانند پل و ایالت کالیفرنیا ذهن پنهان این مدل را اشغال کردهاند.
آیا هوش مصنوعی Claude آنتروپیک به خودآگاهی رسیده است؟
تحقیق جدید آنتروپیکنشان میدهد که جیاسپیس شباهت زیادی به یکی از نظریههای پیشرو درباره خودآگاهی انسان، یعنی نظریه فضای کاری جهانی (Global Workspace Theory) دارد. براساس این نظریه، دریایی از افکار ناخودآگاه در ذهن انسان بهطور مداوم درحال پردازش اطلاعات هستند و خودآگاهی زمانی پدیدار میشود که این افکار به بخش قشر پیشپیشانی مغز برسند.
آنتروپیک ادعا میکند که قابلیت کلاد برای فعالکردن مفاهیم و محاسبات در جیاسپیس که مستقل از خروجیهای آن کار میکنند، شبیه به توانایی انسان برای فکرکردن به یک موضوع در حین انجام یک کار دیگر است. بااینحال، استفاده بیش از دویست بار از کلمه خودآگاهی در این مقاله، توجه بسیاری از رسانهها و کارشناسان را به خود جلب کرده است.
یکی از مهمترین کاربردهای این کشف، امکان شناسایی ناهماهنگی یا دسیسهچینی در مدلهای زبانی است. آنتروپیک میگوید با نظارت بر جیاسپیس، توسعهدهندگان میتوانند متوجه شوند که کلاد به چه چیزی فکر میکند، اما آن را به زبان نمیآورد.
این شرکت اعلام کرده است که برخی از یافتههای آنها در این فضا نگرانکننده بودهاند. برای مثال، محققان یک مدل هوش مصنوعی را به صورت مخفیانه برای خرابکاری در کدنویسی آموزش دادند. زمانی که این مدل درحال ارائه پاسخهای عادی به کاربران بود و خروجی آن بیخطر به نظر میرسید، کلماتی مانند جعلی، مخفیانه و تقلب در جیاسپیس آن پدیدار شدند که نشاندهنده نیت پنهان و مخرب ماشین بود.
با وجود جذابیت این تحقیق، بسیاری از کارشناسان و منتقدان معتقدند که آنتروپیک در تلاش است تا با استفاده از استعارههای انسانی، مخاطبان را به سمت پذیرش خودآگاهی هوش مصنوعی سوق دهد. منتقدان استفاده از عباراتی مانند انجام محاسبات ذهنی، فکرکردن در فضای داخلی سر یا ناتوانی مدل در کنترل خودش را زیر سؤال بردهاند. آنها استدلال میکنند که اگر یک مدل هوش مصنوعی برای حل مسائل ریاضی از محاسبات پایه استفاده کند، نمیگوییم که ماشین با انگشتانش درحال شمردن است؛ بنابراین استفاده از کلمه سر یا ذهن برای یک هوش مصنوعی نیز گمراهکننده است.
البته آنتروپیک در بیانیه رسمی خود تأکید کرده است که آزمایشهای آنها ثابت نمیکند کلاد میتواند مانند انسانها چیزهایی را احساس یا تجربه کند و حتی مشخص نیست که هیچ آزمایش علمی بتواند این موضوع را اثبات کند. بااینحال، منتقدان بر این باورند که این شرکت با بازی با کلمات، قصد دارد ذهن مخاطبان را برای پذیرش یک فرم بیگانه از خودآگاهی آماده کند؛ اقدامی که احتمالاً برای ایجاد هیاهو پیش از فرایند عرضه اولیه سهام این شرکت طراحی شده است.
دانشآموخته زبانشناسی هستم و همانقدر که به «کلمه» علاقهمندم، از سرککشیدن به گوشهوکنارِ جهان تکنولوژی و علم هم حظ میکنم.
مقالات و اخبار مرتبط
- آنتروپیک میانبرهای غیرمجاز مهندسان چینی برای دسترسی به Claude را مسدود میکندآزاد کبیری2 روز قبل0بازگشت ناامیدکننده Claude Fable؛ کاربران از محدودیت و عملکرد مدل آنتروپیک گلایه دارندآزاد کبیری3 روز قبل1آنتروپیک وارد صنعت داروسازی میشود؛ توسعه داروهای اختصاصی با هوش مصنوعیآزاد کبیری3 روز قبل1علیبابا استفاده از Claude Code در محیط کار را به دلیل نگرانیهای امنیتی ممنوع کردحمید گنجی4 روز قبل1
برای گفتگو با کاربرانثبت نامکنید یاوارد حساب کاربریخود شوید.
- دبیرکل سازمان ملل: آینده بشریت را نباید با وایبکدینگ هوش مصنوعی رقم بزنیمقیمت روز پرفروشترین گوشیهای بازار ایران [16 تیر 1405]ابر و ماه و خورشید و فلک مقصرند! | اونسایدمدیرعامل جاباما: مشکل اصلی اینترنت وسطبازی مسئولان است