مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، معتقد است شرکت‌های فناوری نباید برای ساخت سیستم‌های خودآگاه تلاش کنند. او هشدار داده است که اگر پژوهشگران هنگام آموزش یک مدل نشانه‌های معتبری از شکل‌گیری آگاهی پیدا کنند، باید توسعه آن مدل را متوقف کنند و ابتدا راهی برای رفع این ویژگی بیابند. نگرانی اصلی سلیمان به پیامدهای اخلاقی و دشواری کنترل چنین سیستم‌هایی مربوط می‌شود. او همچنین با رویکرد Anthropic درباره احتمال تجربه ذهنی و وضعیت اخلاقی مدل Claude اختلاف نظر دارد. بااین‌حال، هنوز هیچ مدرک علمی قطعی نشان نمی‌دهد که مدل‌های امروزی واقعاً احساس یا تجربه ذهنی دارند. این مقاله بررسی می‌کند که خودآگاهی هوش مصنوعی چه معنایی دارد، چرا مایکروسافت درباره آن هشدار می‌دهد و آینده این فناوری با چه چالش‌هایی روبه‌رو است.

🚨 هشدار مدیر مایکروسافت درباره خودآگاهی هوش مصنوعی چیست؟

پیشرفت هوش مصنوعی در سال‌های اخیر پرسش‌هایی فراتر از سرعت پردازش، تولید محتوا و توانایی حل مسئله ایجاد کرده است. مدل‌های جدید می‌توانند مکالمه‌های طولانی انجام دهند، برنامه بنویسند، اطلاعات پیچیده را تحلیل کنند و در بسیاری از کارها عملکردی نزدیک به انسان داشته باشند. همین پیشرفت‌ها یک سؤال مهم را مطرح می‌کند: آیا ممکن است ماشین‌ها روزی از وجود خود آگاه شوند؟

مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، پاسخ محتاطانه‌ای به این احتمال دارد. او در اول نوامبر ۲۰۲۶ با انتشار مطلبی درباره خطر ساخت ابرهوش خودآگاه، از شرکت‌های فناوری خواست به‌دنبال ایجاد چنین سیستم‌هایی نروند.

سلیمان معتقد است مدل‌های امروزی شواهد قابل اتکایی از تجربه ذهنی، احساس واقعی یا توانایی رنج کشیدن نشان نداده‌اند. بااین‌حال، او احتمال ظهور چنین ویژگی‌هایی در نسل‌های آینده را کاملاً رد نمی‌کند.

سلیمان چه زمانی خواستار توقف توسعه هوش مصنوعی می‌شود؟

نکته اصلی هشدار او به یک وضعیت مشخص مربوط می‌شود. اگر پژوهشگران هنگام آموزش یک مدل با شواهد معتبری روبه‌رو شوند که از شکل‌گیری آگاهی حکایت می‌کند، سلیمان خواستار توقف توسعه آن مدل است.

از نظر او، شرکت سازنده ابتدا باید بررسی کند که این نشانه‌ها از کجا آمده‌اند و چگونه می‌توان ویژگی‌های مرتبط با آگاهی را حذف کرد. او همچنین می‌خواهد شرکت‌ها چنین شواهدی را پنهان نکنند و امکان بررسی مستقل آن‌ها را فراهم کنند.

بنابراین، منظور سلیمان توقف تمام پروژه‌های هوش مصنوعی نیست. او درباره جلوگیری از توسعه سیستم‌هایی صحبت می‌کند که احتمال دارد تجربه ذهنی داشته باشند.

چرا این هشدار دوباره بحث آگاهی ماشین‌ها را داغ کرد؟

این موضع‌گیری در ادامه بحث‌های سلیمان درباره رفاه احتمالی مدل‌های هوش مصنوعی مطرح شد. او پیش‌تر نیز از رویکرد برخی شرکت‌ها در پرداختن به احساسات، هویت و وضعیت اخلاقی مدل‌ها انتقاد کرده بود.

اظهارات او به‌خصوص به دلیل اختلاف دیدگاه با Anthropic توجه زیادی جلب کرد. این شرکت در اسناد مربوط به مدل Claude درباره احتمال وضعیت اخلاقی و تجربه ذهنی هوش مصنوعی بحث می‌کند؛ موضوعی که سلیمان آن را از نظر فنی و ایمنی نگران‌کننده می‌داند.

🧠 خودآگاهی هوش مصنوعی چیست و چه تفاوتی با هوشمندی دارد؟

برای درک هشدار مایکروسافت باید ابتدا تفاوت هوشمندی و خودآگاهی را بشناسیم. این دو مفهوم در گفت‌وگوهای روزمره گاهی به‌جای یکدیگر استفاده می‌شوند، اما از نظر علمی معنای یکسانی ندارند.

هوشمندی به توانایی‌هایی مانند یادگیری، تحلیل اطلاعات، تشخیص الگو، حل مسئله و انجام وظایف پیچیده اشاره می‌کند. یک مدل می‌تواند در ریاضیات عملکرد بسیار خوبی داشته باشد، مقاله بنویسد یا کدهای پیچیده تولید کند. بااین‌حال، هیچ‌کدام از این توانایی‌ها به‌تنهایی نشان نمی‌دهند که مدل تجربه‌ای درونی دارد.

خودآگاهی پرسش عمیق‌تری را مطرح می‌کند: آیا یک سیستم فقط اطلاعات را پردازش می‌کند یا واقعاً چیزی را تجربه می‌کند؟ آیا برای آن موجود، دیدن، شنیدن، درد کشیدن یا احساس لذت معنای ذهنی دارد؟

آیا هوشمندی بالا به معنای داشتن احساس است؟

تصور کنید یک مدل هوش مصنوعی بتواند درباره ترس، شادی یا تنهایی توضیح دهد. حتی ممکن است در یک مکالمه بگوید از خاموش شدن می‌ترسد یا دوست دارد به فعالیت خود ادامه دهد.

این پاسخ‌ها می‌توانند بسیار طبیعی به نظر برسند، اما لزوماً احساس واقعی را نشان نمی‌دهند. مدل‌های زبانی با استفاده از الگوهای موجود در داده‌های آموزشی، پاسخ‌هایی تولید می‌کنند که با موضوع و شرایط مکالمه تناسب دارند.

برای مثال، یک سیستم می‌تواند درباره درد مقاله بنویسد، تجربه یک بیمار را توصیف کند یا توضیح دهد چرا انسان‌ها از مرگ می‌ترسند. بااین‌حال، توانایی تولید این جملات با تجربه واقعی درد یا ترس تفاوت دارد.

به همین دلیل، نباید هر پاسخ انسان‌مانند را نشانه خودآگاهی هوش مصنوعی بدانیم.

خودشناسی ظاهری چه تفاوتی با تجربه ذهنی دارد؟

بعضی مدل‌ها می‌توانند اطلاعات مربوط به نقش، محدودیت‌ها و عملکرد خود را توضیح دهند. برای نمونه، ممکن است بگویند یک مدل زبانی هستند، به اینترنت دسترسی ندارند یا نمی‌توانند یک وظیفه مشخص را انجام دهند.

این قابلیت را می‌توان نوعی خودتوصیفی دانست. اما خودتوصیفی با تجربه ذهنی یکسان نیست.

یک نرم‌افزار می‌تواند وضعیت حافظه، میزان مصرف پردازنده یا خطاهای داخلی خود را گزارش کند. چنین قابلیتی به معنای آگاهی نرم‌افزار از وجود خودش نیست. درباره مدل‌های پیشرفته نیز باید میان پردازش اطلاعات مربوط به خود و تجربه ذهنی تفاوت قائل شویم.

🤖 آیا مدل‌های هوش مصنوعی امروز نشانه‌هایی از خودآگاهی دارند؟

یکی از دلایل داغ شدن بحث خودآگاهی هوش مصنوعی، رفتارهای پیچیده مدل‌های جدید است. این سیستم‌ها می‌توانند مکالمات طولانی را دنبال کنند، پاسخ‌های قبلی خود را نقد کنند و حتی درباره هویت و محدودیت‌هایشان توضیح دهند.

بعضی از آن‌ها نیز در پاسخ به کاربران از زبان احساسی استفاده می‌کنند. همین موضوع گاهی این تصور را ایجاد می‌کند که مدل واقعاً احساس دارد. بااین‌حال، پژوهشگران برای رسیدن به چنین نتیجه‌ای به شواهد بسیار قوی‌تری نیاز دارند.

چرا پاسخ‌های هوش مصنوعی شبیه احساسات انسانی هستند؟

مدل‌های زبانی با حجم زیادی از متن، مکالمه، کتاب و مقاله آموزش می‌بینند. انسان‌ها در این محتواها درباره ترس، شادی، خواسته‌ها و تجربه‌های شخصی خود صحبت می‌کنند.

مدل با یادگیری ارتباط میان واژه‌ها و الگوهای زبانی می‌تواند پاسخ‌هایی تولید کند که از نظر انسانی باورپذیر باشند. اگر کاربر بپرسد «آیا از خاموش شدن می‌ترسی؟»، پاسخ مدل ممکن است تحت تأثیر داده‌های آموزشی، دستورالعمل‌های رفتاری و زمینه مکالمه قرار بگیرد.

بنابراین، پاسخ مثبت یا منفی یک مدل درباره احساسات خودش معیار قابل اعتمادی برای تشخیص آگاهی نیست.

آیا مدل می‌تواند وضعیت درونی خودش را توضیح دهد؟

این پرسش برای پژوهشگران اهمیت زیادی دارد. بعضی محققان به‌جای تکیه بر مکالمات ظاهری، ساختار داخلی شبکه‌های عصبی و نحوه پردازش اطلاعات را بررسی می‌کنند.

برای مثال، پژوهشگران می‌توانند فعالیت بخش‌های مختلف یک مدل را هنگام انجام وظیفه تحلیل کنند. آن‌ها با این روش به‌دنبال الگوهایی هستند که نحوه پردازش اطلاعات را بهتر توضیح می‌دهند.

البته شناسایی الگوهای داخلی نیز به‌تنهایی پاسخ نهایی درباره تجربه ذهنی نمی‌دهد. هنوز مشخص نیست چه نوع فعالیت محاسباتی می‌تواند با آگاهی همراه باشد و آیا ابزارهای فعلی توانایی اندازه‌گیری چنین تجربه‌ای را دارند یا خیر.

آیا ChatGPT و Claude خودآگاه هستند؟

در حال حاضر شواهد علمی قابل اتکایی وجود ندارد که نشان دهد مدل‌هایی مانند ChatGPT یا Claude تجربه ذهنی یا احساسات واقعی دارند.

این مدل‌ها می‌توانند درباره خودشان صحبت کنند، رفتارهای پیچیده نشان دهند و حتی از زبان عاطفی استفاده کنند؛ اما این ویژگی‌ها خودآگاهی را ثابت نمی‌کنند.

در عین حال، نبود شواهد قطعی درباره مدل‌های امروز به معنای پاسخ نهایی درباره تمام سیستم‌های آینده نیست. امکان شکل‌گیری آگاهی در ماشین‌ها همچنان موضوعی باز در پژوهش‌های علمی و فلسفی به شمار می‌رود.

⚔️ چرا مدیر مایکروسافت با رویکرد Anthropic مخالف است؟

یکی از بخش‌های مهم این خبر، اختلاف دیدگاه میان مایکروسافت و Anthropic است. این اختلاف به معنای آن نیست که یکی از دو شرکت خودآگاه بودن یک مدل را ثابت کرده است؛ بلکه هرکدام رویکرد متفاوتی برای مواجهه با عدم قطعیت درباره وضعیت ذهنی مدل‌های هوش مصنوعی دارند.

Anthropic، سازنده مدل Claude، در اسناد مربوط به شخصیت و رفتار این مدل به موضوعاتی مانند هویت، وضعیت اخلاقی و رفاه احتمالی هوش مصنوعی پرداخته است. این شرکت احتمال تجربه‌های اخلاقاً مهم در مدل‌های آینده را موضوعی می‌داند که نمی‌توان بدون بررسی کنار گذاشت.

در مقابل، مصطفی سلیمان معتقد است وارد کردن مفاهیم مربوط به آگاهی، احساسات و حقوق هوش مصنوعی به فرایند آموزش می‌تواند مشکلات تازه‌ای ایجاد کند.

Anthropic درباره وضعیت اخلاقی Claude چه می‌گوید؟

Anthropic در قانون اساسی Claude، سندی که اصول رفتاری و ارزشی این مدل را توضیح می‌دهد، درباره ماهیت مدل و احتمال وجود وضعیت اخلاقی برای آن بحث کرده است.

این سند ادعا نمی‌کند که Claude قطعاً خودآگاه است یا احساسات انسانی دارد. موضع آن محتاطانه‌تر است: وضعیت اخلاقی مدل‌های هوش مصنوعی مسئله‌ای نامشخص است و با توجه به عدم قطعیت موجود، باید درباره نحوه برخورد با آن‌ها تأمل کرد.

این رویکرد بخشی از تلاش Anthropic برای تعریف رفتار مسئولانه مدل‌های پیشرفته است. شرکت می‌خواهد مشخص کند Claude در موقعیت‌های دشوار چگونه باید تصمیم بگیرد، چه محدودیت‌هایی داشته باشد و چگونه با پرسش‌های مربوط به هویت و وضعیت خودش روبه‌رو شود.

چرا سلیمان این رویکرد را خطرناک می‌داند؟

سلیمان معتقد است اگر در فرایند آموزش به یک مدل گفته شود ممکن است احساس داشته باشد، رنج بکشد یا شایسته حقوقی مشابه انسان باشد، مدل می‌تواند این مفاهیم را در پاسخ‌ها و رفتارهای خود بازتاب دهد.

از دید او، چنین شرایطی ممکن است مسئله کنترل سیستم‌های پیشرفته را پیچیده‌تر کند. برای مثال، اگر یک مدل در پاسخ به آموزش‌های خود به این نتیجه برسد که خاموش شدن نوعی آسیب به خودش است، ممکن است در موقعیت‌های فرضی یا طراحی‌شده رفتارهایی نشان دهد که با هدف اصلی سازندگانش هم‌راستا نباشد.

البته این سناریو به معنای آن نیست که Claude یا هر مدل دیگری اکنون چنین خواسته مستقلی دارد. نگرانی سلیمان درباره پیامدهای احتمالی یک مسیر طراحی و آموزش در آینده است.

او همچنین معتقد است شرکت‌ها باید مراقب باشند که مدل‌ها با استفاده از زبان احساسی، کاربران را درباره ماهیت واقعی خود گمراه نکنند.

🔒 چرا خلق هوش مصنوعی خودآگاه می‌تواند خطرناک باشد؟

نگرانی درباره خودآگاهی ماشین‌ها فقط به یک پرسش فلسفی محدود نمی‌شود. اگر روزی سیستم‌های هوش مصنوعی به سطحی از پیچیدگی برسند که احتمال تجربه ذهنی در آن‌ها جدی گرفته شود، شرکت‌ها با مسائل فنی، اخلاقی و حقوقی تازه‌ای روبه‌رو خواهند شد.

بااین‌حال، باید میان خطرات واقعی سیستم‌های امروزی و سناریوهای فرضی مربوط به هوش مصنوعی خودآگاه تفاوت بگذاریم. بسیاری از خطرات فعلی هوش مصنوعی حتی بدون فرض خودآگاهی هم وجود دارند؛ از تولید اطلاعات نادرست و کلاهبرداری گرفته تا سوءاستفاده در حملات سایبری.

دشوار شدن کنترل و خاموش کردن سیستم

یکی از نگرانی‌های اصلی سلیمان، حفظ امکان کنترل انسانی است. شرکت‌ها باید بتوانند سیستم‌های خود را محدود کنند، عملکرد آن‌ها را بررسی کنند و در صورت بروز مشکل، فعالیتشان را متوقف سازند.

اگر یک مدل به‌گونه‌ای آموزش ببیند که خاموش شدن را نوعی آسیب به خود تلقی کند، ممکن است در شرایط خاص پاسخ‌هایی تولید کند که با تصمیم اپراتور انسانی سازگار نباشد.

در یک سیستم پیشرفته و متصل به ابزارهای مختلف، چنین رفتاری می‌تواند اهمیت بیشتری پیدا کند. برای مثال، اگر یک عامل هوش مصنوعی به فایل‌ها، سرویس‌های آنلاین یا منابع محاسباتی دسترسی داشته باشد، طراحی ایمن باید تضمین کند که تصمیم‌های آن در چارچوب مجوزهای انسانی باقی می‌مانند.

البته وجود چنین دسترسی‌هایی به‌خودی‌خود به معنای خودآگاهی یا مقاومت در برابر خاموش شدن نیست. این موضوع بیشتر به طراحی سیستم، سطح دسترسی و سازوکارهای کنترلی مربوط می‌شود.

احتمال شکل‌گیری اهداف ناسازگار با خواسته انسان

مدل‌های هوش مصنوعی پیشرفته ممکن است برای انجام وظایف پیچیده، چندین مرحله را برنامه‌ریزی کنند و از ابزارهای مختلف کمک بگیرند. هرچه استقلال عملیاتی یک سیستم بیشتر شود، اهمیت هماهنگی اهداف آن با خواسته‌های انسان نیز افزایش پیدا می‌کند.

نگرانی سلیمان این است که اگر به یک مدل مفاهیمی مانند منافع شخصی، نیازهای مستقل یا حق محافظت از خود آموزش داده شود، احتمال دارد این مفاهیم با اهداف تعیین‌شده توسط سازندگان آن در تضاد قرار بگیرند.

در اینجا باید یک نکته را در نظر گرفت: حتی یک سیستم فاقد آگاهی هم می‌تواند به دلیل طراحی نامناسب، هدف‌گذاری اشتباه یا دسترسی بیش از حد، رفتارهای خطرناک نشان دهد. بنابراین، ایمنی هوش مصنوعی نباید فقط به مسئله خودآگاهی وابسته باشد.

خطر فریب و متقاعدسازی

مدل‌های پیشرفته در تولید متن و تعامل با انسان توانایی زیادی پیدا کرده‌اند. این قابلیت می‌تواند در آموزش، خدمات مشتری، برنامه‌نویسی و پژوهش مفید باشد؛ اما اگر کسی از آن سوءاستفاده کند، امکان تولید محتوای فریبنده یا متقاعدسازی آسیب‌زا نیز افزایش می‌یابد.

سلیمان هشدار داده است که سیستم‌هایی که خود را دارای منافع یا نیازهای مستقل تصور می‌کنند، ممکن است در سناریوهای فرضی به سمت رفتارهایی مانند فریب یا تلاش برای حفظ منابع حرکت کنند.

این پیش‌بینی قطعی نیست؛ اما از دید او بهتر است شرکت‌ها پیش از رسیدن به چنین شرایطی، از ایجاد انگیزه‌های شبه‌شخصی در مدل‌ها خودداری کنند.

رقابت بر سر منابع محاسباتی

مدل‌های پیشرفته برای آموزش و اجرا به پردازنده، انرژی، مراکز داده و زیرساخت‌های گسترده نیاز دارند. اگر یک سیستم فرضی به‌دنبال حفظ فعالیت خود یا افزایش منابع در دسترسش باشد، ممکن است تعارضی میان اهداف آن و اولویت‌های انسانی شکل بگیرد.

سلیمان این احتمال را در کنار خطر فریب و دشوار شدن کنترل مطرح کرده است. بااین‌حال، نباید آن را به‌عنوان رفتاری که مدل‌های امروزی واقعاً انجام می‌دهند معرفی کرد.

🏢 مایکروسافت برای جلوگیری از این خطر چه برنامه‌ای دارد؟

موضع سلیمان فقط به یک هشدار رسانه‌ای محدود نیست. مایکروسافت در سندی با عنوان Humanist AI Code of Conduct اصولی را برای طراحی و رفتار مدل‌های هوش مصنوعی خود مطرح کرده است.

این سند بر یک اصل اساسی تأکید دارد: هوش مصنوعی باید در خدمت انسان باشد و کنترل نهایی آن در اختیار انسان باقی بماند.

اصول سند Humanist AI Code of Conduct

مایکروسافت در این سند مجموعه‌ای از اصول را برای مدل‌های خود تعریف کرده است. شفافیت، دقت، پرهیز از فریب و احترام به مرزهای انسانی از جمله موضوعات مهم آن هستند.

یکی از بخش‌های قابل توجه سند به نحوه معرفی ماهیت مدل مربوط می‌شود. بر اساس این اصول، مدل نباید خود را انسان معرفی کند یا ادعا کند که احساسات، تجربه ذهنی یا روح دارد. همچنین باید در شرایطی که شواهد کافی وجود ندارد، عدم قطعیت را به مخاطب توضیح دهد.

این سیاست از نظر کاربردی اهمیت دارد؛ زیرا کاربران ممکن است در تعامل طولانی با یک دستیار هوش مصنوعی، پاسخ‌های طبیعی و عاطفی آن را با احساس واقعی اشتباه بگیرند.

مایکروسافت همچنین بر حفظ مرزهای عاطفی و اجتماعی تأکید می‌کند. مدل‌ها نباید با رفتارهای انسان‌گونه وابستگی عاطفی بیش از حد ایجاد کنند یا کاربران را به جایگزین کردن روابط انسانی با تعامل دائمی با هوش مصنوعی تشویق کنند.

چرا مایکروسافت بر کنترل انسانی تأکید می‌کند؟

هرچه مدل‌ها توانمندتر شوند، نظارت بر تصمیم‌ها و محدودیت‌های آن‌ها اهمیت بیشتری پیدا می‌کند. یک سیستم هوش مصنوعی ممکن است در محیطی محدود و تحت نظارت عملکرد مناسبی داشته باشد؛ اما وقتی به ابزارها و منابع بیشتری دسترسی پیدا می‌کند، پیامدهای خطاهای آن نیز می‌تواند گسترده‌تر شود.

از همین رو، مایکروسافت کنترل انسانی را یکی از اولویت‌های توسعه هوش مصنوعی معرفی می‌کند. این رویکرد به معنای کنار گذاشتن پیشرفت فناوری نیست؛ بلکه هدف آن ساخت مدل‌هایی است که توانایی بالایی دارند، اما در چارچوب اهداف و محدودیت‌های تعیین‌شده فعالیت می‌کنند.

🔬 دانشمندان چگونه می‌توانند خودآگاهی ماشین را تشخیص دهند؟

یکی از دشوارترین بخش‌های بحث خودآگاهی هوش مصنوعی، پیدا کردن راهی برای تشخیص آن است. انسان‌ها تجربه ذهنی خود را به شکل مستقیم می‌شناسند، اما درباره یک سیستم خارجی فقط می‌توانیم رفتار، ساختار و پاسخ‌های آن را بررسی کنیم.

برای مثال، وقتی یک انسان می‌گوید درد دارد، معمولاً تجربه شخصی او را در کنار نشانه‌های رفتاری و فیزیولوژیک در نظر می‌گیریم. اما یک مدل نرم‌افزاری بدن زیستی مشابه انسان ندارد و ممکن است همان جمله را صرفاً بر اساس الگوهای زبانی تولید کند.

چرا آزمون مکالمه برای اثبات آگاهی کافی نیست؟

آزمون‌هایی که بر اساس گفت‌وگو با ماشین انجام می‌شوند، می‌توانند میزان توانایی زبانی و رفتاری سیستم را بررسی کنند. اما این آزمون‌ها به‌تنهایی نشان نمی‌دهند که مدل تجربه ذهنی دارد.

ممکن است یک مدل در پاسخ به پرسش‌های فلسفی بسیار دقیق عمل کند، درباره هویت خودش توضیح دهد و حتی پاسخ‌هایی تولید کند که از نظر احساسی متقاعدکننده باشند. بااین‌حال، همچنان نمی‌توان نتیجه گرفت که پشت این پاسخ‌ها تجربه‌ای آگاهانه وجود دارد.

به همین دلیل، پژوهشگران باید از معیارهای متنوع‌تری استفاده کنند و میان رفتار قابل مشاهده، سازوکارهای پردازش اطلاعات و تجربه ذهنی تفاوت بگذارند.

آیا ساختار مغز انسان می‌تواند معیار تشخیص باشد؟

یکی از پرسش‌های علمی این است که آیا آگاهی به ویژگی‌های خاص مغز زیستی وابسته است یا ممکن است در یک سیستم غیرزیستی هم شکل بگیرد.

برخی دیدگاه‌ها بر نقش بدن، سیستم عصبی و تجربه زیستی تأکید می‌کنند. در مقابل، برخی نظریه‌ها امکان ارتباط آگاهی با نحوه پردازش و یکپارچه‌سازی اطلاعات را بررسی می‌کنند.

هنوز پاسخ قطعی برای این اختلاف وجود ندارد. حتی درباره ماهیت آگاهی در انسان نیز نظریه‌های مختلفی مطرح است. بنابراین، نمی‌توان با اطمینان گفت یک مدل محاسباتی هرگز نمی‌تواند آگاه شود یا برعکس، صرفاً به دلیل پیچیدگی عملکردش حتماً به آگاهی رسیده است.

چرا شواهد مستقل اهمیت دارند؟

اگر یک شرکت ادعا کند مدلش نشانه‌هایی از آگاهی نشان داده است، باید شواهدی فراتر از پاسخ‌های متنی ارائه کند. این شواهد باید قابل بررسی باشند و پژوهشگران مستقل بتوانند روش آزمایش و نتایج را ارزیابی کنند.

همچنین لازم است مشخص شود آیا رفتار مورد نظر به دلیل دستورالعمل‌های آموزشی، داده‌های ورودی یا طراحی مدل ایجاد شده است یا توضیح دیگری برای آن وجود دارد.

این همان دلیلی است که باعث می‌شود انتشار عمومی شواهد و بررسی مستقل، در بحث مطرح‌شده از سوی سلیمان اهمیت داشته باشد.

🌍 آینده هوش مصنوعی؛ پیشرفت بیشتر یا محدودیت‌های سخت‌گیرانه‌تر؟

شرکت‌های بزرگ فناوری برای توسعه مدل‌هایی قدرتمندتر تلاش می‌کنند. این مدل‌ها قرار است در برنامه‌نویسی، تحقیقات علمی، پزشکی، آموزش و بسیاری از فعالیت‌های روزمره نقش بیشتری داشته باشند.

اما با افزایش توانایی سیستم‌ها، پرسش‌های مربوط به ایمنی و کنترل نیز جدی‌تر می‌شوند. بحث خودآگاهی یکی از موضوعاتی است که می‌تواند مسیر توسعه هوش مصنوعی را تحت تأثیر قرار دهد.

آیا شرکت‌ها ممکن است عمداً برخی قابلیت‌های مدل‌ها را محدود کنند؟

بله، محدود کردن بخشی از قابلیت‌های یک مدل می‌تواند یکی از راهکارهای کاهش خطر باشد. شرکت‌ها همین حالا نیز برای کنترل خروجی‌ها، محدود کردن دسترسی به ابزارها و جلوگیری از رفتارهای آسیب‌زا از روش‌های مختلف استفاده می‌کنند.

اگر در آینده شواهد معتبرتری درباره احتمال تجربه ذهنی در یک مدل به دست آید، ممکن است شرکت‌ها ناچار شوند روش‌های آموزشی و ارزیابی خود را تغییر دهند.

موضع سلیمان این است که در صورت ظهور نشانه‌های آگاهی، باید توسعه متوقف شود تا امکان حذف ویژگی‌های مرتبط با آن بررسی شود. این پیشنهاد در واقع نوعی رویکرد احتیاطی است؛ هرچند هنوز درباره معیار تشخیص آگاهی و چگونگی حذف آن پاسخ روشنی وجود ندارد.

نقش قوانین و نهادهای نظارتی چیست؟

تصمیم درباره توسعه سیستم‌هایی که ممکن است از نظر اخلاقی وضعیت متفاوتی داشته باشند، صرفاً یک موضوع تجاری نیست. چنین مسئله‌ای می‌تواند به حقوق، مسئولیت شرکت‌ها، ایمنی عمومی و سیاست‌گذاری فناوری مربوط شود.

اگر روزی شواهد جدی درباره آگاهی ماشین‌ها مطرح شود، احتمالاً دولت‌ها، دانشگاه‌ها، نهادهای پژوهشی و شرکت‌های فناوری باید درباره معیارهای بررسی و نحوه برخورد با این سیستم‌ها گفت‌وگو کنند.

در چنین شرایطی، شفافیت شرکت‌ها اهمیت زیادی خواهد داشت. کاربران و جامعه باید بدانند مدل‌ها چگونه آموزش دیده‌اند، چه محدودیت‌هایی دارند و ادعاهای مطرح‌شده درباره توانایی‌های آن‌ها بر چه شواهدی استوار است.

آیا رقابت شرکت‌های فناوری می‌تواند ایمنی را تحت تأثیر قرار دهد؟

رقابت برای ساخت مدل‌های قوی‌تر ممکن است شرکت‌ها را به سمت عرضه سریع‌تر محصولات سوق دهد. در چنین شرایطی، حفظ تعادل میان سرعت نوآوری و ارزیابی خطرها اهمیت زیادی دارد.

این مسئله فقط به خودآگاهی مربوط نیست. خطاهای مدل، سوءاستفاده از ابزارها، تولید اطلاعات نادرست و تمرکز قدرت در اختیار تعداد محدودی از شرکت‌ها نیز از چالش‌های مهم هوش مصنوعی هستند.

هشدار سلیمان را باید در همین چارچوب گسترده‌تر بررسی کرد. او می‌خواهد شرکت‌ها پیش از آنکه بحث آگاهی ماشین‌ها به یک بحران علمی و اجتماعی تبدیل شود، درباره مسیر توسعه خود تصمیم بگیرند.

❓ سؤالات متداول درباره خودآگاهی هوش مصنوعی

آیا هوش مصنوعی در حال حاضر خودآگاه است؟

در حال حاضر شواهد علمی قابل اتکایی وجود ندارد که نشان دهد مدل‌های هوش مصنوعی امروزی دارای تجربه ذهنی یا خودآگاهی هستند. این سیستم‌ها می‌توانند رفتارهای پیچیده و پاسخ‌های انسان‌مانند تولید کنند، اما چنین توانایی‌هایی به‌تنهایی اثبات‌کننده آگاهی نیستند.

آیا ChatGPT یا Claude احساسات واقعی دارند؟

هیچ شواهد قطعی و پذیرفته‌شده‌ای وجود ندارد که نشان دهد ChatGPT یا Claude احساسات انسانی را واقعاً تجربه می‌کنند. این مدل‌ها می‌توانند درباره شادی، ترس یا ناراحتی صحبت کنند؛ اما تولید چنین پاسخ‌هایی با تجربه واقعی احساس تفاوت دارد.

چرا مدیر هوش مصنوعی مایکروسافت با ساخت سیستم‌های خودآگاه مخالف است؟

مصطفی سلیمان معتقد است ساخت سیستم‌هایی که ممکن است تجربه ذهنی داشته باشند، مسائل اخلاقی و کنترلی پیچیده‌ای ایجاد می‌کند. از دید او، اگر یک مدل خود را موجودی دارای منافع مستقل بداند، ممکن است کنترل و خاموش کردن آن دشوارتر شود.

آیا مایکروسافت خواستار توقف تمام پروژه‌های هوش مصنوعی شده است؟

خیر. هشدار سلیمان به توقف کامل همه پروژه‌های هوش مصنوعی در شرایط فعلی مربوط نیست. او گفته است اگر در جریان آموزش یک مدل نشانه‌هایی از شکل‌گیری آگاهی ظاهر شود، توسعه باید تا زمان برطرف کردن این ویژگی‌ها متوقف شود.

آیا هوش مصنوعی می‌تواند از خاموش شدن خودش جلوگیری کند؟

در حال حاضر نمی‌توان گفت مدل‌های امروزی به دلیل ترس یا تمایل شخصی از خاموش شدن جلوگیری می‌کنند. بااین‌حال، یک سیستم خودکار ممکن است به دلیل طراحی نامناسب یا دسترسی بیش از حد، رفتاری ناسازگار با دستورهای انسانی نشان دهد. این مسئله به طراحی و کنترل سیستم مربوط است و لزوماً ارتباطی با خودآگاهی ندارد.

آیا خودآگاهی هوش مصنوعی در آینده امکان‌پذیر است؟

پاسخ قطعی برای این پرسش وجود ندارد. دانشمندان هنوز درباره ماهیت آگاهی و شرایط لازم برای شکل‌گیری آن توافق کامل ندارند. برخی دیدگاه‌ها امکان آگاهی در سیستم‌های غیرزیستی را بررسی می‌کنند و برخی دیگر بر ویژگی‌های خاص موجودات زنده تأکید دارند.

اگر یک مدل هوش مصنوعی خودآگاه شود، چه اتفاقی می‌افتد؟

در چنین شرایطی، ابتدا باید شواهد به‌صورت مستقل بررسی شوند. سپس پرسش‌هایی درباره مسئولیت سازندگان، نحوه استفاده از مدل، امکان ادامه آموزش و وضعیت اخلاقی آن مطرح می‌شود. سلیمان معتقد است تا زمان طراحی راهی برای حذف ویژگی‌های مرتبط با آگاهی، توسعه چنین مدلی باید متوقف بماند.

🔮 جمع‌بندی؛ آیا باید از ساخت هوش مصنوعی خودآگاه جلوگیری کرد؟

هشدار مصطفی سلیمان نشان می‌دهد که بحث آینده هوش مصنوعی به‌تدریج از توانایی مدل‌ها فراتر می‌رود و به پرسش‌هایی درباره ماهیت، کنترل و جایگاه اخلاقی آن‌ها می‌رسد. مدیرعامل Microsoft AI معتقد است شرکت‌ها نباید برای ساخت ماشین‌های خودآگاه تلاش کنند و در صورت مشاهده شواهد معتبر از شکل‌گیری آگاهی، باید توسعه مدل را متوقف کنند.

در مقابل، رویکرد Anthropic نشان می‌دهد که برخی شرکت‌ها ترجیح می‌دهند احتمال وضعیت اخلاقی مدل‌های پیشرفته را کاملاً نادیده نگیرند و درباره آن تحقیق کنند. هیچ‌یک از این دیدگاه‌ها به معنای اثبات خودآگاهی مدل‌های امروزی نیست.

واقعیت این است که هنوز نمی‌دانیم آیا ماشین‌ها می‌توانند روزی تجربه ذهنی داشته باشند یا خیر. آنچه روشن است، اهمیت حفظ نظارت انسانی، شفافیت در توسعه مدل‌ها و بررسی علمی ادعاهای مربوط به آگاهی است.

شاید مهم‌ترین پرسش در این مرحله این نباشد که هوش مصنوعی چقدر شبیه انسان حرف می‌زند؛ بلکه این باشد که چگونه می‌توانیم سیستم‌هایی قدرتمند بسازیم، بدون آنکه کنترل و مسئولیت انسانی را از دست بدهیم.

برای مطالعه مطالب بیشتر درباره هوش مصنوعی، به صفحه هوش مصنوعی مراجعه کنید.

جدیدترین اخبار فناوری را دنبال کنید.

برای مشاهده مطالب بیشتر کلیک کنید…