هشدار مدیرعامل مایکروسافت درباره هوش مصنوعی بار دیگر بحث قدیمی اما جدی صنعت فناوری را داغ کرده است: آیا شرکتهای بزرگ باید برای حفظ رقابت، هرچه سریعتر مدلهای قدرتمندتر بسازند یا قبل از عرضه فناوریهای جدید، زمان بیشتری برای آزمایش و ایمنسازی آنها صرف کنند؟
ساتیا نادلا، مدیرعامل مایکروسافت، در یک یادداشت داخلی برای کارکنان شرکت تأکید کرده است که هوش مصنوعی باید همچنان تحت کنترل انسان باقی بماند. او همچنین از افزایش استفاده از ارزیابهای شخص ثالث برای آزمایش سیستمهای هوش مصنوعی حمایت کرده و گفته است هرچه میزان خطر یک فناوری بالاتر میرود، شرکتها باید زمان بیشتری برای اطمینان از ایمنی آن اختصاص دهند.
ماجرا فقط به یک یادداشت داخلی محدود نمیشود. همزمان با بالا گرفتن بحث درباره سرعت توسعه هوش مصنوعی، مایکروسافت یک پیشنویس ۳۷صفحهای با عنوان «منشور رفتاری» برای مدلهای هوش مصنوعی خود منتشر کرده است. این سند تلاش میکند مشخص کند مدلهای پیشرفته مایکروسافت چه رفتارهایی باید داشته باشند و چه کارهایی نباید انجام دهند. یکی از اصول اصلی آن نیز حفظ کنترل انسان بر سیستمهای هوش مصنوعی است.
در نتیجه، هشدار مدیرعامل مایکروسافت درباره هوش مصنوعی را نباید بهمعنای توقف توسعه این فناوری دانست. موضع نادلا بیشتر به ایجاد تعادل میان سرعت، رقابت و ایمنی مربوط میشود. مایکروسافت همچنان میخواهد در رقابت هوش مصنوعی حضور داشته باشد، اما معتقد است وقتی قدرت و ریسک مدلها افزایش پیدا میکند، آزمایش، نظارت و کنترل نیز باید جدیتر شود.
🧠 هشدار مدیرعامل مایکروسافت درباره هوش مصنوعی دقیقاً چه بود؟
نادلا در یادداشت داخلی خود به بحثی اشاره کرده که در روزهای اخیر میان مدیران و پژوهشگران شرکتهای بزرگ فناوری شدت گرفته است: سرعت توسعه مدلهای هوش مصنوعی پیشرفته.
مدلهای جدید فقط ابزارهایی برای پاسخ دادن به سؤالهای کاربران نیستند. نسل تازه سیستمهای هوش مصنوعی میتواند در انجام کارهای چندمرحلهای، استفاده از ابزارها، نوشتن و اجرای کد و انجام وظایف پیچیدهتر نقش داشته باشد. همین افزایش توانایی باعث شده مسئله کنترل رفتار مدلها اهمیت بیشتری پیدا کند.
نادلا در پیام خود تأکید کرده که هدف باید ساخت هوش مصنوعیای باشد که تحت کنترل انسان باقی بماند و در نهایت منفعت گستردهای برای جامعه ایجاد کند. او همچنین از توسعه اکوسیستمی حمایت کرده که در آن مدلهای متنباز و بسته بتوانند در کنار یکدیگر فعالیت کنند.
اما بخش مهم پیام او به موضوع «سرعت» مربوط میشود. از نگاه نادلا، وقتی یک سیستم هوش مصنوعی ریسک بیشتری ایجاد میکند، نباید صرفاً به دلیل فشار رقابتی یا تجاری، مرحله آزمایش و ارزیابی آن را سریعتر پشت سر گذاشت.
این دیدگاه در شرایطی مطرح شده که شرکتهای هوش مصنوعی برای ساخت مدلهای قدرتمندتر با یکدیگر رقابت میکنند و هر شرکت نمیخواهد در این رقابت عقب بماند.
🔬 چرا نادلا روی ایمنی هوش مصنوعی تأکید کرده است؟
برای درک هشدار نادلا باید یک قدم از خود مایکروسافت فاصله بگیریم.
رقابت هوش مصنوعی در سالهای اخیر از ارائه چتباتهای ساده فراتر رفته است. شرکتها به سمت مدلهایی حرکت کردهاند که میتوانند بخشی از کارهای پیچیده را به شکل خودکار انجام دهند. این روند، اصطلاحاتی مانند «عاملهای هوش مصنوعی» یا AI Agents را هم به یکی از موضوعات اصلی صنعت تبدیل کرده است.
هرچه استقلال یک سیستم بیشتر شود، کنترل آن نیز اهمیت بیشتری پیدا میکند.
یک چتبات معمولی عمدتاً به سؤال کاربر پاسخ میدهد. اما یک عامل هوش مصنوعی میتواند در شرایط مشخص، مجموعهای از اقدامات را پشت سر هم انجام دهد، از ابزارهای مختلف استفاده کند و برای رسیدن به یک هدف چند مرحله را طی کند.
در چنین شرایطی یک خطای کوچک میتواند پیامد بزرگتری داشته باشد.
به همین دلیل، بحث ایمنی دیگر فقط به این سؤال محدود نمیشود که «آیا مدل جواب درست میدهد؟». پرسش مهمتر این است که:
- آیا مدل رفتار قابل پیشبینی دارد؟
- آیا انسان میتواند عملکرد آن را کنترل کند؟
- اگر مدل اشتباه کرد، آیا میتوان آن را متوقف کرد؟
- آیا میتوان رفتار آن را قبل از عرضه به شکل مستقل بررسی کرد؟
- آیا مدل در شرایط حساس از محدودیتهای تعیینشده عبور میکند؟
گزارشهای اخیر درباره افزایش نگرانیهای صنعت هوش مصنوعی نیز نشان میدهد که این پرسشها دیگر صرفاً موضوع بحث دانشگاهی نیستند و به بخشی از تصمیمگیری شرکتهای بزرگ تبدیل شدهاند.
🛡️ منظور نادلا از کنترل انسانی هوش مصنوعی چیست؟
عبارت «کنترل انسانی» ممکن است در نگاه اول بسیار کلی به نظر برسد، اما در عمل مجموعهای از اصول را شامل میشود.
امکان اصلاح رفتار مدل
یک سیستم هوش مصنوعی نباید طوری طراحی شود که در برابر اصلاح یا تغییر رفتار خود مقاومت کند. اگر ارزیابیها نشان دهد مدل عملکرد نامناسبی دارد، توسعهدهنده باید بتواند آن را اصلاح کند.
امکان خاموش کردن سیستم
یکی از اصول مهم در منشور رفتاری جدید مایکروسافت این است که سیستمهای هوش مصنوعی نباید در برابر خاموششدن مقاومت کنند. به زبان ساده، کنترل نهایی باید در اختیار انسان باقی بماند.
قابلفهم بودن ارتباط با انسان
مدل باید بتواند رفتار و تعامل خود را تا حد امکان به شکلی قابلفهم ارائه کند. این موضوع در سیستمهایی که قرار است وظایف حساس انجام دهند اهمیت بیشتری پیدا میکند.
نظارت مداوم
ایمنی فقط به مرحله قبل از عرضه مربوط نمیشود. حتی یک مدل آزمایششده نیز ممکن است در محیط واقعی با شرایطی مواجه شود که در آزمایشگاه دیده نشده است. بنابراین نظارت پس از عرضه نیز اهمیت دارد.
این اصول در پیشنویس منشور رفتاری مایکروسافت به شکل مشخصتری آمدهاند؛ سندی که شرکت آن را برای هدایت مدلهای هوش مصنوعی خود تهیه کرده است.
📜 منشور رفتاری مایکروسافت برای مدلهای هوش مصنوعی چیست؟
یکی از مهمترین اتفاقات همزمان با هشدار مدیرعامل مایکروسافت درباره هوش مصنوعی، انتشار پیشنویس یک منشور رفتاری ۳۷صفحهای برای مدلهای هوش مصنوعی مایکروسافت است.
این سند طی حدود پنج تا شش ماه تهیه شده و قرار است چارچوبی برای رفتار مدلهای هوش مصنوعی این شرکت ایجاد کند. مایکروسافت این منشور را در قالب یک سند قابل بررسی عمومی منتشر کرده و برای دریافت بازخورد نیز فرصت در نظر گرفته است.
مایکروسافت در این سند تلاش کرده مرزهای مشخصی برای رفتار مدلهای خود تعریف کند.
از جمله اصول مطرحشده میتوان به این موارد اشاره کرد:
- مدل باید تحت کنترل انسان باقی بماند.
- سیستم نباید در برابر خاموششدن مقاومت کند.
- مدل باید اصلاحپذیر باشد.
- رفتارهای خلاف اصول تعیینشده باید بهعنوان خطا در نظر گرفته شوند.
- تعامل مدل با انسان باید قابلفهم باشد.
- هوش مصنوعی نباید خود را موجودی دارای حقوق قانونی مستقل معرفی کند.
این منشور از یک جهت اهمیت دارد: مایکروسافت فقط درباره ایمنی صحبت نکرده، بلکه تلاش کرده بخشی از این نگرانیها را به قواعد مشخص برای مدلهای خود تبدیل کند.
👀 چرا ارزیابهای شخص ثالث برای هوش مصنوعی مهم هستند؟
یکی از نکات مهم در پیام نادلا، حمایت از افزایش استفاده از ارزیابهای شخص ثالث است.
اما چرا یک شرکت هوش مصنوعی باید اجازه دهد افراد یا مجموعههایی خارج از شرکت مدلهایش را بررسی کنند؟
پاسخ ساده است: شرکت سازنده همیشه نمیتواند تنها داور عملکرد محصول خودش باشد.
فرض کنید یک شرکت اعلام کند مدل جدیدش کاملاً ایمن است. این ادعا زمانی اعتبار بیشتری پیدا میکند که متخصصان مستقل نیز بتوانند مدل را بررسی کنند و نتایج آزمایشها را ارزیابی کنند.
ارزیابی مستقل میتواند چند مزیت داشته باشد:
- کشف آسیبپذیریهایی که تیم داخلی متوجه آنها نشده است.
- بررسی رفتار مدل در شرایط غیرمعمول.
- افزایش اعتماد عمومی.
- ایجاد استانداردهای قابل مقایسه میان شرکتها.
- کاهش احتمال پنهان ماندن مشکلات جدی پیش از عرضه.
این ایده البته کاملاً جدید نیست. در مقررات و چارچوبهای مختلف مربوط به مدلهای پرریسک نیز استفاده از ارزیابیهای مستقل خارجی بهعنوان یکی از ابزارهای مدیریت ریسک مطرح شده است.
اما تأکید دوباره مدیران صنعت بر این موضوع نشان میدهد که ارزیابی شخص ثالث ممکن است به یکی از عناصر مهم حکمرانی هوش مصنوعی تبدیل شود.
⏳ آیا مایکروسافت میخواهد سرعت توسعه هوش مصنوعی را کاهش دهد؟
نه به معنای توقف یا کنار گذاشتن رقابت.
این یکی از مهمترین نکاتی است که ممکن است در بازنشر خبرها اشتباه برداشت شود.
نادلا نگفته است مایکروسافت باید از توسعه هوش مصنوعی دست بکشد. برعکس، پیام او نشان میدهد شرکت همچنان به دنبال ساخت مدلهای پیشرفته و حضور جدی در این بازار است.
موضوع اصلی، تفاوت میان «کند شدن بیدلیل» و «آزمایش کافی» است.
یک مدل ساده که ریسک محدودی دارد، ممکن است با فرایند آزمایش متفاوتی وارد بازار شود. اما وقتی یک سیستم توانایی بیشتری پیدا میکند و میتواند وظایف حساستری انجام دهد، طبیعی است که مرحله آزمایش و ارزیابی آن نیز جدیتر شود.
نادلا همین منطق را درباره مدلهای پرریسک مطرح کرده است: هرچه پیامدهای احتمالی بزرگتر باشند، نباید برای رسیدن سریعتر به بازار، آزمایش و ایمنی را قربانی کرد.
⚔️ رقابت یا ایمنی؛ مشکل اصلی صنعت هوش مصنوعی چیست؟
این همان جایی است که بحث از مایکروسافت فراتر میرود.
شرکتهای بزرگ فناوری میلیاردها دلار روی توسعه هوش مصنوعی سرمایهگذاری کردهاند. در چنین بازاری، عقب افتادن از رقیب فقط به معنای از دست دادن یک محصول نیست؛ ممکن است جایگاه یک شرکت در بازار آینده فناوری را هم تغییر دهد.
از طرف دیگر، اگر یک شرکت برای سرعت بیشتر، مراحل ارزیابی را کوتاه کند و مدل آن رفتار خطرناکی از خود نشان دهد، هزینه این تصمیم میتواند بسیار بیشتر از مزیت رقابتی کوتاهمدت باشد.
به همین دلیل دو دیدگاه متفاوت شکل گرفته است.
دیدگاه اول میگوید:
اگر بیش از حد محتاط باشیم، ممکن است رقابت را به شرکتها یا کشورهای دیگر واگذار کنیم.
دیدگاه دوم میگوید:
اگر بدون آزمایش کافی جلو برویم، ممکن است سیستمی را منتشر کنیم که کنترل آن دشوار باشد.
هشدار نادلا بیشتر در سمت دوم این بحث قرار میگیرد، اما به معنی مخالفت با رقابت نیست. او در همان پیام بر وجود یک اکوسیستم رقابتی میان مدلهای بسته و متنباز تأکید کرده است.
🌐 آیا مدیران شرکتهای دیگر هم چنین نگرانیهایی دارند؟
مایکروسافت در این بحث تنها نیست.
در روزهای اخیر، داریو آمودی، مدیرعامل Anthropic، نیز درباره سرعت توسعه مدلهای پیشرفته هوش مصنوعی هشدار داده و خواستار رویکرد محتاطانهتری شده است.
سم آلتمن، مدیرعامل OpenAI، نیز درباره برخی خطرات مربوط به توسعه سریع هوش مصنوعی صحبت کرده است.
این همزمانی اهمیت زیادی دارد؛ زیرا نشان میدهد بحث ایمنی دیگر یک موضوع محدود به یک شرکت یا یک آزمایشگاه تحقیقاتی نیست.
بااینحال، همه مدیران فناوری درباره راهحل دقیق این مشکل اتفاقنظر ندارند.
برخی روی قوانین دولتی و استانداردهای مشترک تأکید میکنند. برخی دیگر معتقدند خود شرکتهای فناوری باید سازوکارهای ایمنی مؤثرتری ایجاد کنند. گروهی نیز نگراناند که مقررات بیش از حد سختگیرانه، نوآوری را کند کند.
در نتیجه، سؤال اصلی فقط این نیست که «آیا هوش مصنوعی خطرناک است؟»؛ بلکه این است که چه کسی باید میزان خطر را تعیین کند و چه کسی باید توسعه این فناوری را کنترل کند؟
🧩 مایکروسافت چه تفاوتی با رویکردهای دیگر دارد؟
موضع مایکروسافت را میتوان ترکیبی از سه موضوع دانست:
رقابت، کنترل و مسئولیت.
مایکروسافت نمیخواهد از بازار هوش مصنوعی کنار برود. در عین حال، نادلا تأکید دارد مدلهای پیشرفته باید تحت کنترل انسان بمانند.
انتشار منشور رفتاری نیز نشان میدهد شرکت تلاش دارد بخشی از این دیدگاه را به قواعد مشخص تبدیل کند.
این رویکرد با دیدگاه برخی شرکتها شباهت دارد، اما در جزئیات متفاوت است. برای مثال، منشور مایکروسافت صراحتاً اعلام میکند که مدلهای این شرکت نباید بهعنوان موجودات دارای حقوق قانونی یا شخصیت مستقل در نظر گرفته شوند. این موضع در مقایسه با بحثهای مربوط به احتمال آگاهی یا حقوق هوش مصنوعی در برخی شرکتهای دیگر، موضع مشخصتری به حساب میآید.
📊 خلاصه موضع مایکروسافت درباره ایمنی هوش مصنوعی
| موضوع | موضع مطرحشده |
|---|---|
| کنترل هوش مصنوعی | باید تحت کنترل انسان باقی بماند |
| سرعت توسعه | در پروژههای پرریسک نباید آزمایش را فدای سرعت کرد |
| ارزیابی مستقل | استفاده بیشتر از ارزیابهای شخص ثالث مورد حمایت است |
| خاموش کردن مدل | مدل نباید در برابر خاموششدن مقاومت کند |
| اصلاح مدل | سیستم باید امکان اصلاح و کنترل داشته باشد |
| منشور رفتاری | مایکروسافت پیشنویس ۳۷صفحهای منتشر کرده است |
| رقابت | توسعه مدلهای بسته و متنباز همچنان ادامه دارد |
| هدف نهایی | استفاده از AI برای منفعت گستردهتر جامعه |
🤖 این هشدار برای آینده هوش مصنوعی چه معنایی دارد؟
شاید مهمترین پیام اتفاقات اخیر این باشد که شرکتهای هوش مصنوعی دیگر نمیتوانند مسئله ایمنی را به مرحلهای در آینده موکول کنند.
تا چند سال قبل، بسیاری از بحثهای مربوط به خطرات هوش مصنوعی کاملاً آیندهنگرانه به نظر میرسیدند. صحبت از سیستمهای بسیار قدرتمند، عاملهای خودمختار و امکان از دست رفتن کنترل بیشتر شبیه یک سناریوی دور بود.
اما افزایش توانایی مدلهای امروزی باعث شده بخشی از این نگرانیها به مسائل عملی تبدیل شوند.
مدلها میتوانند کد تولید کنند، ابزارهای خارجی را به کار بگیرند، اطلاعات را تحلیل کنند و در برخی محیطها زنجیرهای از اقدامات را انجام دهند. بنابراین موضوع «کنترل» دیگر فقط یک بحث نظری نیست.
اگر این روند ادامه پیدا کند، احتمالاً در سالهای آینده شرکتهای بزرگ مجبور خواهند شد درباره مواردی مانند:
- روش ارزیابی مدلها
- گزارش حوادث
- نظارت مستقل
- محدودیتهای مدل
- نحوه خاموش کردن سیستم
- مسئولیت شرکت در برابر رفتار AI
شفافتر صحبت کنند.
از این نظر، اقدام مایکروسافت میتواند بخشی از روند بزرگتری باشد که در آن شرکتها تلاش میکنند پیش از قدرتمندتر شدن مدلها، قواعد مشخصتری برای رفتار آنها ایجاد کنند.
⚠️ آیا منشور رفتاری مایکروسافت بهتنهایی کافی است؟
احتمالاً نه.
انتشار یک سند، حتی اگر ۳۷ صفحه داشته باشد، بهتنهایی نمیتواند ایمنی یک سیستم پیچیده را تضمین کند.
مسئله اصلی اجرای همین اصول است.
اگر شرکتی اعلام کند مدلش باید تحت کنترل انسان باشد، باید بتواند نشان دهد که در عمل نیز امکان نظارت، اصلاح و توقف سیستم وجود دارد.
از طرف دیگر، ارزیابی مستقل زمانی ارزشمند است که ارزیاب واقعاً بتواند به اندازه کافی مدل را آزمایش کند. اگر دسترسی محدود باشد یا شرکت بتواند بخشهای مهمی از ارزیابی را از دید نهاد مستقل پنهان کند، نتیجه ممکن است تصویر کاملی از ریسک ارائه ندهد.
به همین دلیل، احتمالاً بحث آینده فقط درباره داشتن «منشور رفتاری» نخواهد بود. سؤال مهمتر این است که آیا شرکتها میتوانند اجرای این اصول را قابل اندازهگیری و قابل بررسی کنند؟
این مسئله یکی از دلایلی است که بحث استانداردهای مشترک و نظارت مستقل در صنعت هوش مصنوعی اهمیت بیشتری پیدا کرده است.
🏢 آیا این موضوع فقط به مایکروسافت مربوط میشود؟
خیر.
مایکروسافت یکی از بزرگترین بازیگران بازار هوش مصنوعی است و تصمیمهای آن اهمیت زیادی دارد، اما مسئله کنترل مدلهای پیشرفته به کل صنعت مربوط میشود.
OpenAI، Anthropic، گوگل، متا و دیگر شرکتهای فعال در حوزه مدلهای پیشرفته نیز با مسئله مشابهی روبهرو هستند: چطور میتوان مدلهایی ساخت که قدرتمندتر باشند، بدون اینکه کنترل آنها سختتر شود؟
همین سؤال احتمالاً در سالهای آینده بیشتر مطرح خواهد شد.
ممکن است در نهایت شرکتها به مجموعهای از استانداردهای مشترک برسند. ممکن است دولتها قوانین مشخصتری برای مدلهای پرریسک وضع کنند. یا حتی ترکیبی از هر دو شکل بگیرد.
آنچه اکنون مشخص است، این است که رقابت هوش مصنوعی دیگر فقط مسابقه بر سر ساخت «باهوشترین مدل» نیست. توانایی مدیریت ریسک نیز به بخشی از رقابت تبدیل شده است.
🔍 هشدار مدیرعامل مایکروسافت درباره هوش مصنوعی چه اهمیتی برای کاربران دارد؟
ممکن است کاربر عادی تصور کند چنین بحثی فقط میان مدیران شرکتهای فناوری جریان دارد، اما تصمیمهای این شرکتها مستقیماً روی تجربه روزمره کاربران تأثیر میگذارد.
مدلهای هوش مصنوعی وارد موتورهای جستوجو، سیستمعاملها، نرمافزارهای کاری، ابزارهای برنامهنویسی، گوشیهای هوشمند و سرویسهای مختلف شدهاند.
هرچه استفاده از این سیستمها بیشتر شود، اعتماد به آنها نیز اهمیت بیشتری پیدا میکند.
کاربر میخواهد بداند وقتی یک مدل هوش مصنوعی کاری را انجام میدهد:
- آیا اطلاعاتش امن است؟
- آیا مدل رفتار قابل پیشبینی دارد؟
- اگر اشتباهی رخ دهد چه کسی مسئول است؟
- آیا انسان همچنان کنترل نهایی را در اختیار دارد؟
- آیا شرکت سازنده رفتار مدل را بهصورت مداوم بررسی میکند؟
به همین دلیل، هشدار نادلا فقط یک بحث فنی نیست. این موضوع مستقیماً به رابطه میان کاربران و فناوریهای هوش مصنوعی مربوط میشود.
📌 آیا مایکروسافت از توسعه هوش مصنوعی عقبنشینی کرده است؟
خیر.
اتفاقاً انتشار منشور رفتاری را میتوان نشانهای از تلاش مایکروسافت برای ادامه توسعه هوش مصنوعی با چارچوب مشخصتر دانست.
مایکروسافت همچنان در حال توسعه مدلهای هوش مصنوعی است و تلاش میکند جایگاه خود را در رقابت این بازار حفظ کند.
تفاوت در اینجاست که نادلا میگوید سرعت نباید به قیمت از دست رفتن کنترل تمام شود.
این دیدگاه میتواند برای صنعتی که دائماً با فشار «سریعتر بساز، سریعتر منتشر کن» روبهرو است، اهمیت زیادی داشته باشد.
اگر مدلها در آینده به تواناییهای بسیار بیشتری برسند، احتمالاً همین مسئله یکی از مهمترین معیارهای موفقیت شرکتها خواهد بود.
🧠 جمعبندی؛ هشدار مدیرعامل مایکروسافت درباره هوش مصنوعی چه معنایی دارد؟
هشدار مدیرعامل مایکروسافت درباره هوش مصنوعی در اصل هشدار درباره توقف فناوری نیست؛ هشدار درباره توسعه بدون کنترل است.
ساتیا نادلا میگوید هوش مصنوعی باید تحت کنترل انسان باقی بماند و هرچه ریسک یک سیستم بالاتر میرود، شرکتها باید زمان بیشتری برای آزمایش و ایمنسازی آن در نظر بگیرند. او همچنین از استفاده بیشتر از ارزیابهای شخص ثالث حمایت کرده است.
همزمان، مایکروسافت پیشنویس یک منشور رفتاری ۳۷صفحهای را برای مدلهای هوش مصنوعی خود منتشر کرده که بر اصولی مانند کنترل انسانی، امکان اصلاح و خاموشکردن مدلها و تعامل قابلفهم با انسان تأکید دارد.
اهمیت این اتفاق در این است که بحث ایمنی هوش مصنوعی از مرحله شعار فاصله گرفته و به قواعد مشخصتر نزدیک میشود. شرکتهایی که برای ساخت قدرتمندترین مدلها با یکدیگر رقابت میکنند، حالا باید درباره روش کنترل همان مدلها نیز پاسخ روشنی داشته باشند.
در نهایت، مسئله اصلی این نیست که مایکروسافت طرفدار توسعه سریع هوش مصنوعی است یا توسعه آهسته آن. مسئله این است که آیا میتوان همزمان با افزایش قدرت هوش مصنوعی، توانایی انسان برای نظارت و کنترل آن را نیز حفظ کرد؟
به نظر میرسد این پرسش در سالهای آینده یکی از مهمترین بحثهای صنعت فناوری باقی خواهد ماند.
❓ سوالات متداول درباره هشدار مدیرعامل مایکروسافت درباره هوش مصنوعی
ساتیا نادلا درباره هوش مصنوعی چه هشداری داد؟
نادلا تأکید کرده است که هوش مصنوعی باید تحت کنترل انسان باقی بماند و در سیستمهای پرریسک نباید سرعت توسعه باعث کنار گذاشتن آزمایش و ارزیابی کافی شود.
آیا مایکروسافت قصد دارد توسعه هوش مصنوعی را متوقف کند؟
خیر. موضع نادلا به توقف توسعه هوش مصنوعی مربوط نیست. او از توسعه مدلهای پیشرفته حمایت میکند، اما معتقد است ایمنی و کنترل باید همزمان با افزایش توانایی مدلها تقویت شوند.
منظور از کنترل انسانی هوش مصنوعی چیست؟
کنترل انسانی یعنی انسان بتواند عملکرد سیستم را نظارت کند، در صورت نیاز رفتار آن را اصلاح کند و در شرایط لازم سیستم را متوقف یا خاموش کند.
منشور رفتاری مایکروسافت برای هوش مصنوعی چیست؟
مایکروسافت یک پیشنویس ۳۷صفحهای برای تعیین اصول رفتاری مدلهای هوش مصنوعی خود منتشر کرده است. این سند بر حفظ کنترل انسان، اصلاحپذیری، امکان خاموششدن و رفتار قابلفهم مدلها تأکید دارد.
چرا ارزیابی شخص ثالث برای هوش مصنوعی اهمیت دارد؟
ارزیاب مستقل میتواند مدل را خارج از تیم سازنده بررسی کند و مشکلاتی را پیدا کند که ممکن است در ارزیابیهای داخلی دیده نشده باشند. این کار میتواند به افزایش شفافیت و اعتماد کمک کند.
آیا شرکتهای دیگری هم درباره سرعت توسعه هوش مصنوعی هشدار دادهاند؟
بله. در روزهای اخیر مدیران و چهرههای مطرح صنعت هوش مصنوعی، از جمله داریو آمودی و سم آلتمن، درباره خطرات توسعه شتابزده مدلهای پیشرفته و اهمیت سازوکارهای ایمنی صحبت کردهاند.
آیا هوش مصنوعی مایکروسافت میتواند در برابر خاموششدن مقاومت کند؟
منشور رفتاری جدید مایکروسافت بهصراحت بر این اصل تأکید دارد که مدلهای این شرکت نباید در برابر خاموششدن یا اصلاح مقاومت کنند. این موضوع بخشی از تلاش شرکت برای حفظ کنترل انسانی بر سیستمهای پیشرفته است.
با آخرین تحولات هوش مصنوعی همراه شوید.
