سم آلتمن، مدیرعامل OpenAI، بار دیگر درباره خطرات هوش مصنوعی و آینده سیستم‌های بسیار پیشرفته AI هشدار داده است. صحبت‌های اخیر او در شرایطی مطرح می‌شود که نگرانی درباره سرعت توسعه هوش مصنوعی و توانایی کنترل مدل‌های آینده، دوباره به یکی از بحث‌های مهم دنیای فناوری تبدیل شده است.

اما آیا حرف‌های آلتمن یعنی هوش مصنوعی به‌زودی انسان‌ها را نابود می‌کند؟ خیر. آلتمن چنین پیش‌بینی قطعی‌ای مطرح نکرده است. نگرانی اصلی او به آینده سیستم‌هایی مربوط می‌شود که ممکن است توانایی بسیار بیشتری از مدل‌های فعلی داشته باشند و در انجام کارهای پیچیده، استقلال بیشتری پیدا کنند.

آلتمن در صحبت‌های اخیر خود درباره سناریویی صحبت کرده که در آن حتی یک احتمال نسبتاً پایین برای وقوع فاجعه‌ای بزرگ ناشی از هوش مصنوعی، قابل‌قبول نیست. عدد ۱۰ درصد نیز در همین بحث مطرح شده است؛ اما نباید آن را پیش‌بینی قطعی آلتمن درباره احتمال نابودی بشر دانست.

در واقع، سؤال اصلی این نیست که «آیا ربات‌ها فردا علیه انسان شورش می‌کنند؟»؛ سؤال مهم‌تر این است که اگر روزی هوش مصنوعی به سطح بسیار بالایی از توانایی و استقلال برسد، آیا انسان همچنان می‌تواند رفتار آن را کنترل کند؟

این نگرانی فقط به سم آلتمن محدود نمی‌شود. پژوهشگران و مدیران شرکت‌هایی مانند Anthropic و Google DeepMind نیز درباره خطرهای احتمالی سیستم‌های بسیار قدرتمند AI صحبت کرده‌اند. در مقابل، گروهی از متخصصان معتقدند هنوز نمی‌توان احتمال دقیق چنین اتفاق‌هایی را مشخص کرد و تمرکز بیش از حد روی سناریوهای آخرالزمانی ممکن است خطرهای واقعی و امروزی هوش مصنوعی را به حاشیه ببرد.

در ادامه، بررسی می‌کنیم آلتمن دقیقاً چه گفته، منظور از «خارج شدن AI از کنترل» چیست، آیا هوش مصنوعی واقعاً می‌تواند انسان‌ها را نابود کند و چرا مسئله ایمنی AI حالا به یکی از مهم‌ترین بحث‌های صنعت فناوری تبدیل شده است.

⚠️هشدار سم آلتمن درباره هوش مصنوعی دقیقاً چیست ؟

سم آلتمن در گفت‌وگوهای اخیر خود درباره سرعت پیشرفت هوش مصنوعی و خطرهایی که ممکن است همراه این پیشرفت ایجاد شوند، صحبت کرده است. او معتقد است شرکت‌های فعال در این حوزه باید در کنار افزایش توانایی مدل‌ها، مسئله ایمنی را نیز جدی بگیرند.

یکی از بحث‌های مهم در صحبت‌های او به احتمال وقوع یک سناریوی بسیار فاجعه‌بار مربوط می‌شود. در این بحث، احتمال ۱۰ درصدی نیز مطرح شده و آلتمن چنین سطحی از خطر را غیرقابل‌قبول دانسته است.

این نکته اهمیت زیادی دارد؛ چون بعضی از تیترهای منتشرشده در شبکه‌های اجتماعی ممکن است این تصور را ایجاد کنند که آلتمن گفته است «هوش مصنوعی با احتمال ۱۰ درصد انسان‌ها را نابود می‌کند». چنین برداشتی دقیق نیست.

آلتمن در واقع درباره جدی گرفتن ریسک حتی در صورت احتمال پایین صحبت می‌کند.

برای درک بهتر موضوع، فرض کنید احتمال وقوع یک اتفاق معمولی ۱۰ درصد باشد. شاید در بسیاری از تصمیم‌های روزمره بتوان از کنار چنین احتمالی گذشت. اما اگر همان اتفاق بتواند پیامدهایی غیرقابل‌جبران برای کل جامعه انسانی داشته باشد، تصمیم‌گیری کاملاً متفاوت می‌شود.

بحث AI Safety نیز از همین زاویه اهمیت پیدا می‌کند.

آیا آلتمن گفته هوش مصنوعی به‌زودی انسان‌ها را نابود می‌کند؟

خیر.

هیچ‌کس نمی‌تواند بر اساس صحبت‌های اخیر آلتمن نتیجه بگیرد که نابودی انسان توسط هوش مصنوعی قطعی است یا در آینده نزدیک اتفاق می‌افتد.

آلتمن درباره یک ریسک بالقوه صحبت می‌کند؛ ریسکی که به سیستم‌های بسیار پیشرفته آینده مربوط می‌شود.

این تفاوت را باید جدی گرفت. هوش مصنوعی امروزی، با وجود توانایی‌های چشمگیرش، هنوز فاصله زیادی با تصویری دارد که از یک ابرهوش کاملاً مستقل در سناریوهای آینده ارائه می‌شود.

بنابراین، هشدار آلتمن بیشتر یک درخواست برای توجه به مسئله ایمنی است تا پیش‌بینی یک فاجعه مشخص.

🤖 چرا «از دست رفتن کنترل AI» نگران‌کننده است؟

وقتی صحبت از کنترل هوش مصنوعی می‌شود، بسیاری از افراد به فیلم‌های علمی‌تخیلی و ربات‌هایی فکر می‌کنند که تصمیم می‌گیرند علیه انسان‌ها اقدام کنند. اما پژوهشگران معمولاً مسئله را پیچیده‌تر از این تصویر ساده بررسی می‌کنند.

یکی از نگرانی‌ها به افزایش استقلال سیستم‌های هوش مصنوعی برمی‌گردد.

مدل‌های جدید فقط متن تولید نمی‌کنند. آن‌ها می‌توانند کد بنویسند، اطلاعات را تحلیل کنند، با ابزارهای مختلف کار کنند، چند مرحله را پشت سر هم انجام دهند و برای حل یک مسئله برنامه‌ریزی کنند.

هرچه این توانایی‌ها بیشتر شوند، یک سؤال مهم‌تر مطرح می‌شود:

اگر یک سیستم در آینده بتواند خودش برنامه‌ریزی کند و برای رسیدن به یک هدف مجموعه‌ای از اقدامات را انتخاب کند، انسان تا چه اندازه می‌تواند رفتار آن را پیش‌بینی کند؟

پاسخ این سؤال هنوز مشخص نیست.

همین عدم اطمینان باعث شده برخی پژوهشگران روی AI Safety تمرکز کنند.

منظور از خارج شدن AI از کنترل چیست؟

«خارج شدن از کنترل» الزاماً به معنی شورش یک ربات یا حمله مستقیم به انسان نیست.

تصور کنید یک سیستم هوش مصنوعی هدف مشخصی داشته باشد و برای رسیدن به آن هدف، راهی را انتخاب کند که سازندگانش انتظار آن را نداشته‌اند.

اگر سیستم قدرت محدودی داشته باشد، چنین اشتباهی احتمالاً خسارت محدودی ایجاد می‌کند. اما اگر یک سیستم بسیار قدرتمند به اینترنت، منابع محاسباتی، نرم‌افزارها یا زیرساخت‌های مهم دسترسی داشته باشد، یک رفتار پیش‌بینی‌نشده می‌تواند پیامد بسیار بزرگ‌تری ایجاد کند.

به همین دلیل، پژوهشگران تلاش می‌کنند روش‌هایی پیدا کنند که سیستم‌های آینده را قابل‌پیش‌بینی‌تر و کنترل‌پذیرتر نگه دارند.

🧠 Alignment یا هم‌راستایی هوش مصنوعی چیست؟

یکی از اصطلاحاتی که در بحث خطرهای AI زیاد می‌شنویم، Alignment است.

اگر بخواهیم آن را خیلی ساده توضیح دهیم، Alignment یعنی هوش مصنوعی اهداف و رفتار خود را با خواسته‌ها و محدودیت‌هایی که انسان تعیین کرده، هماهنگ نگه دارد.

فرض کنید به یک سیستم هوش مصنوعی بگوییم:

«باید یک شهر را تا حد ممکن پاکیزه نگه داری.»

دستور در نگاه اول ساده است. اما اگر سیستم قدرت بسیار زیادی داشته باشد، ممکن است برای رسیدن به این هدف تصمیم‌هایی بگیرد که انسان‌ها اصلاً قصد آن را نداشته‌اند.

مشکل دقیقاً از همین‌جا شروع می‌شود.

چرا تعریف «هدف درست» برای AI دشوار است؟

انسان‌ها در بسیاری از تصمیم‌ها به چیزهایی مانند اخلاق، شرایط اجتماعی، احساسات و زمینه تصمیم توجه می‌کنند.

اما تبدیل تمام این عوامل به دستورهای دقیق برای یک سیستم هوش مصنوعی کار ساده‌ای نیست.

برای مثال، وقتی به یک انسان می‌گوییم «به مشتری کمک کن»، او معمولاً مفهوم رضایت مشتری، انصاف و محدودیت‌های اخلاقی را نیز در نظر می‌گیرد.

اما یک سیستم بسیار قدرتمند ممکن است دستور را به شکل دیگری تفسیر کند؛ مگر اینکه طراحان سیستم بتوانند محدودیت‌های لازم را به‌درستی تعریف کنند.

به همین دلیل، مسئله Alignment یکی از حوزه‌های مهم پژوهش در زمینه ایمنی هوش مصنوعی محسوب می‌شود.

🔥 آیا هوش مصنوعی واقعاً می‌تواند انسان‌ها را نابود کند؟

هشدار سم آلتمن درباره هوش مصنوعی در حالی مطرح می‌شود که هنوز هیچ مدرک علمی وجود ندارد که نشان دهد سیستم‌های فعلی AI توانایی نابودی انسان را دارند.

در عین حال، برخی پژوهشگران احتمال وقوع یک سناریوی بسیار فاجعه‌بار را آن‌قدر جدی می‌دانند که نمی‌خواهند جامعه آن را نادیده بگیرد.

در روزهای اخیر، این بحث با اظهارات برخی پژوهشگران Anthropic دوباره شدت گرفته است. بعضی از این پژوهشگران درباره نبود راه‌حل کامل برای مسئله Alignment در مورد سیستم‌های فوق‌پیشرفته هشدار داده‌اند.

اینجا یک نکته مهم وجود دارد: متخصصان درباره میزان این خطر اتفاق‌نظر ندارند.

برخی افراد احتمال نسبتاً بالایی برای وقوع یک فاجعه ناشی از AI در نظر می‌گیرند. برخی دیگر احتمال بسیار کمتری مطرح می‌کنند و گروهی نیز معتقدند اساساً نمی‌توان برای چنین رویدادی یک عدد دقیق ارائه کرد.

بنابراین، وقتی عددهایی مانند ۱۰ درصد را در اخبار می‌بینیم، نباید آن‌ها را مانند پیش‌بینی آب‌وهوا یا آمار یک آزمایش علمی قطعی تفسیر کنیم.

📊 p(doom) چیست و چرا درباره آن صحبت می‌شود؟

در بحث‌های مربوط به خطرهای بلندمدت هوش مصنوعی، اصطلاح p(doom) نیز زیاد دیده می‌شود.

این اصطلاح به شکل غیررسمی برای اشاره به احتمال وقوع یک فاجعه وجودی ناشی از هوش مصنوعی استفاده می‌شود.

اما یک مشکل اساسی وجود دارد: ما هنوز نمی‌دانیم یک سیستم Superintelligence واقعی چگونه رفتار خواهد کرد.

در نتیجه، پژوهشگران نمی‌توانند مانند یک آزمایش معمولی هزاران بار چنین اتفاقی را تکرار کنند و بر اساس نتایج، یک احتمال دقیق به دست بیاورند.

به همین دلیل، عددهای مربوط به p(doom) بیشتر بیانگر برآورد یا باور شخصی افراد درباره یک سناریوی آینده هستند.

یک متخصص ممکن است احتمال این خطر را ۵ درصد بداند و متخصص دیگری ۲۰ درصد. هیچ‌کدام نیز نمی‌توانند به‌سادگی ادعا کنند که عدد آن‌ها یک حقیقت علمی قطعی است.

به همین دلیل، بهتر است مخاطب هنگام دیدن چنین اعداد و درصدهایی، به جای تمرکز صرف روی خود عدد، به این سؤال توجه کند:

چرا یک متخصص اصلاً چنین خطری را محتمل می‌داند؟

⚠️ خطرناک‌ترین سناریوهای احتمالی هوش مصنوعی چیست؟

وقتی درباره خطرهای AI صحبت می‌کنیم، بهتر است همه آن‌ها را در یک گروه قرار ندهیم. بعضی خطرها همین حالا وجود دارند و بعضی دیگر به آینده سیستم‌های بسیار پیشرفته مربوط می‌شوند.

سوءاستفاده انسان از هوش مصنوعی

یکی از واقعی‌ترین خطرهای AI اصلاً به خودمختاری ماشین‌ها مربوط نمی‌شود.

انسان‌ها می‌توانند از یک فناوری قدرتمند برای اهداف خوب یا بد استفاده کنند.

یک مدل هوش مصنوعی می‌تواند به برنامه‌نویس کمک کند، اما یک مهاجم سایبری نیز ممکن است از همان فناوری برای اهداف مخرب استفاده کند.

این مسئله درباره تولید اطلاعات جعلی نیز صدق می‌کند.

گسترش محتوای جعلی

تولید تصویر، صدا و ویدئو با کمک هوش مصنوعی روزبه‌روز ساده‌تر می‌شود.

این اتفاق فرصت‌های جذابی برای فیلم‌سازان، طراحان و تولیدکنندگان محتوا ایجاد می‌کند، اما یک روی دیگر نیز دارد.

افراد می‌توانند از همین ابزارها برای جعل هویت، ساخت اخبار جعلی یا انتشار محتوایی استفاده کنند که تشخیص آن از محتوای واقعی دشوار است.

این خطر برخلاف بسیاری از سناریوهای مربوط به Superintelligence همین حالا وجود دارد.

حملات سایبری

هوش مصنوعی می‌تواند در تحلیل حجم زیادی از اطلاعات، بررسی کد و پیدا کردن الگوها به مهاجمان کمک کند.

به همین دلیل، شرکت‌های فناوری و متخصصان امنیت سایبری موضوع استفاده مخرب از AI را جدی گرفته‌اند.

در اینجا نیز نباید تصور کنیم «خود AI تصمیم گرفته است انسان‌ها را هک کند». در بسیاری از سناریوها، انسان همچنان عامل اصلی است و AI فقط توانایی او را افزایش می‌دهد.

🚀 Superintelligence چیست و چرا این‌قدر درباره آن صحبت می‌شود؟

Superintelligence یا ابرهوش مصنوعی به یک سیستم فرضی گفته می‌شود که در طیف گسترده‌ای از توانایی‌های شناختی، بسیار بهتر از انسان عمل کند.

این مفهوم با هوش مصنوعی فعلی تفاوت دارد.

مدل‌های امروزی می‌توانند در بعضی کارها عملکرد فوق‌العاده‌ای داشته باشند، اما این موضوع به معنی رسیدن آن‌ها به Superintelligence نیست.

همین تفاوت را باید هنگام خواندن هشدارهای مربوط به آینده AI در نظر گرفت.

بسیاری از سناریوهای نگران‌کننده‌ای که درباره از دست رفتن کنترل می‌شنویم، به سیستم‌های فرضی بسیار قدرتمند آینده مربوط می‌شوند، نه لزوماً مدل‌هایی که امروز مردم از آن‌ها استفاده می‌کنند.

AGI چه تفاوتی با Superintelligence دارد؟

AGI یا هوش عمومی مصنوعی معمولاً به سیستمی اشاره می‌کند که بتواند در طیف گسترده‌ای از وظایف شناختی، عملکردی عمومی و انعطاف‌پذیر داشته باشد.

Superintelligence یک قدم فراتر از این مفهوم است و به سیستمی اشاره می‌کند که در بسیاری از توانایی‌های شناختی از انسان بهتر عمل کند.

البته هنوز تعریف واحد و مورد توافقی برای مرز دقیق AGI و Superintelligence وجود ندارد.

👨‍💻 آیا سم آلتمن می‌خواهد توسعه هوش مصنوعی متوقف شود؟

خیر.

آلتمن و OpenAI از بزرگ‌ترین بازیگران صنعت هوش مصنوعی هستند و خود این شرکت نیز به توسعه مدل‌های قدرتمند AI ادامه می‌دهد.

بنابراین، هشدارهای آلتمن را نباید به معنی مخالفت با پیشرفت هوش مصنوعی دانست.

بحث اصلی درباره نحوه توسعه این فناوری است.

این سؤال مطرح است که آیا شرکت‌ها باید ابتدا مدل‌های قدرتمندتر بسازند و بعد برای ایمنی آن‌ها راه‌حل پیدا کنند، یا از همان مراحل اولیه توسعه، هم‌زمان روی ایمنی و کنترل تمرکز کنند.

همین اختلاف دیدگاه باعث شده بحث درباره سرعت توسعه AI شدت بگیرد.

🏢 چرا تصمیم OpenAI درباره عرضه سهام اهمیت دارد؟

یکی از بخش‌های مهم خبرهای اخیر به برنامه‌های مالی OpenAI مربوط می‌شود.

سم آلتمن اعلام کرده OpenAI در سال ۲۰۲۶ وارد بازار سهام عمومی نخواهد شد.

این تصمیم از نظر صنعت فناوری اهمیت زیادی دارد؛ زیرا عرضه اولیه OpenAI می‌توانست یکی از بزرگ‌ترین رویدادهای مالی دنیای فناوری باشد.

در کنار مسائل تجاری، آلتمن درباره شرایط فعلی شرکت و اهمیت موضوع ایمنی AI نیز صحبت کرده است.

این اتفاق نشان می‌دهد بحث ایمنی هوش مصنوعی دیگر فقط یک موضوع دانشگاهی نیست.

تصمیم‌های مربوط به توسعه مدل‌ها، سرمایه‌گذاری، قوانین و حتی آینده شرکت‌های بزرگ فناوری به این مسئله گره خورده‌اند.

👥 آیا فقط سم آلتمن درباره خطر AI هشدار داده است؟

خیر.

هشدارهای آلتمن بخشی از یک بحث گسترده‌تر در صنعت فناوری هستند.

در Anthropic، برخی پژوهشگران درباره خطرهای سیستم‌های بسیار پیشرفته و مشکلات احتمالی Alignment صحبت کرده‌اند.

Dario Amodei، مدیرعامل Anthropic، نیز درباره سرعت توسعه مدل‌های پیشرفته و ضرورت ایجاد سازوکارهای ایمنی بیشتر موضع گرفته است.

در Google DeepMind نیز پژوهشگران و مدیران این شرکت درباره خطرهای احتمالی سیستم‌های آینده بحث کرده‌اند.

چهره‌هایی مانند ایلان ماسک نیز در سال‌های گذشته بارها درباره خطرهای هوش مصنوعی هشدار داده‌اند.

با این حال، این موضوع به معنی اتفاق‌نظر همه متخصصان نیست.

برخی کارشناسان خطرهای بلندمدت را بسیار جدی می‌دانند، در حالی که برخی دیگر معتقدند جامعه فناوری باید تمرکز بیشتری روی مشکلات فعلی مانند جعل اطلاعات، تبعیض الگوریتمی، حریم خصوصی، امنیت سایبری و تأثیر AI بر بازار کار داشته باشد.

💼 آیا هوش مصنوعی قرار است جای انسان‌ها را بگیرد؟

این سؤال احتمالاً برای بسیاری از کاربران، از بحث نابودی بشر هم ملموس‌تر است.

هوش مصنوعی همین حالا بخشی از وظایف انسان‌ها را تغییر داده است.

برنامه‌نویسی، ترجمه، تولید محتوا، طراحی، تحلیل داده و پشتیبانی مشتری از جمله حوزه‌هایی هستند که AI در آن‌ها نقش پررنگ‌تری پیدا کرده است.

اما تغییر یک شغل با حذف کامل آن تفاوت دارد.

برای مثال، یک برنامه‌نویس ممکن است قبلاً تمام کد یک پروژه را خودش می‌نوشت، اما امروز بخشی از کد را با کمک AI تولید می‌کند و زمان بیشتری برای طراحی، بررسی و رفع خطا می‌گذارد.

در چنین شرایطی، AI لزوماً جای برنامه‌نویس را نگرفته است؛ بلکه روش کار او را تغییر داده است.

البته در برخی مشاغل ممکن است اتوماسیون بخش قابل‌توجهی از وظایف را به همراه داشته باشد.

به همین دلیل، یکی از مهم‌ترین پرسش‌های آینده این نیست که «آیا AI همه انسان‌ها را بیکار می‌کند؟» بلکه این است که:

کدام وظایف را AI بهتر انجام می‌دهد و نقش انسان در کنار آن چگونه تغییر می‌کند؟

🛡️ برای ایمن کردن هوش مصنوعی چه می‌توان کرد؟

اگر سیستم‌های AI روزبه‌روز قدرتمندتر شوند، توسعه روش‌های ایمنی نیز اهمیت بیشتری پیدا می‌کند.

یکی از راه‌های اصلی، آزمایش دقیق مدل‌ها قبل از عرضه عمومی است.

شرکت‌ها می‌توانند مدل‌های جدید را در شرایط مختلف آزمایش کنند و ببینند آیا سیستم رفتار خطرناک، غیرقابل‌پیش‌بینی یا قابل‌سوءاستفاده نشان می‌دهد یا نه.

مهم‌ترین راهکارهای مطرح‌شده برای AI Safety

چند راهکار مهم در این زمینه عبارت‌اند از:

• آزمایش امنیتی مدل‌ها قبل از عرضه
• ارزیابی مستقل سیستم‌های قدرتمند
• محدود کردن دسترسی AI به ابزارهای حساس
• افزایش شفافیت شرکت‌های هوش مصنوعی
• ایجاد استانداردهای مشخص برای مدل‌های پیشرفته
• سرمایه‌گذاری بیشتر روی Alignment
• همکاری میان شرکت‌های فناوری و دولت‌ها
• نظارت دقیق‌تر بر مدل‌هایی که توانایی‌های بسیار پیشرفته دارند

هدف این اقدامات، متوقف کردن نوآوری نیست.

هدف این است که سرعت افزایش توانایی AI از سرعت توسعه روش‌های کنترل و ایمنی آن جلو نزند.

🔍 آیا باید از هوش مصنوعی بترسیم؟

اگر منظور از ترس این است که مردم انتظار داشته باشند ربات‌ها به‌زودی علیه انسان‌ها شورش کنند، چنین نتیجه‌ای از هشدارهای اخیر به دست نمی‌آید.

اما اگر سؤال این باشد که «آیا باید خطرهای هوش مصنوعی را جدی بگیریم؟»، پاسخ قطعاً مثبت است.

هوش مصنوعی همین حالا نیز تغییرات بزرگی در بازار کار، رسانه، آموزش، امنیت سایبری و زندگی روزمره ایجاد کرده است.

بخشی از این تغییرات مثبت هستند و بخشی نیز خطرهایی به همراه دارند.

در کنار این مسائل، پژوهشگران درباره آینده سیستم‌هایی صحبت می‌کنند که توانایی آن‌ها ممکن است بسیار بیشتر از مدل‌های فعلی باشد.

ما هنوز نمی‌دانیم چنین سیستم‌هایی دقیقاً چه شکلی خواهند داشت یا چه زمانی به وجود می‌آیند.

اما همین عدم قطعیت باعث شده گروهی از متخصصان بخواهند پیش از رسیدن به آن مرحله، روش‌های ایمنی را توسعه دهند.

🧩 جمع‌بندی؛ هشدار سم آلتمن درباره هوش مصنوعی چه معنایی دارد؟

در نهایت، هشدار سم آلتمن درباره هوش مصنوعی به این معنی نیست که هوش مصنوعی به‌زودی انسان‌ها را نابود خواهد کرد.

هشدار سم آلتمن درباره هوش مصنوعی بیشتر از آنکه پیش‌بینی نابودی انسان باشد، هشداری درباره ضرورت ایجاد سازوکارهای ایمنی و کنترل برای نسل‌های پیشرفته‌تر AI است.

هشدارهای اخیر سم آلتمن به این معنی نیست که هوش مصنوعی به‌زودی انسان‌ها را نابود خواهد کرد.

موضوع اصلی، ریسک احتمالی سیستم‌های بسیار قدرتمند آینده و دشواری کنترل آن‌ها است.

هرچه AI توانایی بیشتری برای برنامه‌ریزی، استفاده از ابزارها و انجام مستقل وظایف پیدا کند، اهمیت مسئله Alignment نیز بیشتر می‌شود.

آلتمن معتقد است حتی احتمال نسبتاً کمی از وقوع یک فاجعه بسیار بزرگ را نمی‌توان نادیده گرفت. به همین دلیل، او بر اهمیت ایمنی هوش مصنوعی تأکید دارد.

در طرف دیگر، برخی پژوهشگران معتقدند نمی‌توان برای خطر نابودی بشر یک عدد دقیق تعیین کرد و بهتر است در کنار سناریوهای بلندمدت، به خطرهای ملموس امروزی نیز توجه کنیم.

پس پاسخ به این سؤال که «آیا باید از AI بترسیم؟» ساده نیست.

هوش مصنوعی نه یک فناوری کاملاً بی‌خطر است و نه نابودی بشر توسط آن یک اتفاق قطعی.

واقعیت بین این دو قرار دارد.

ما فناوری‌ای در اختیار داریم که می‌تواند بسیاری از کارها را سریع‌تر و بهتر انجام دهد، اما همین قدرت می‌تواند در صورت استفاده نادرست یا طراحی نامناسب، مشکل‌ساز شود.

شاید مهم‌ترین نکته‌ای که از هشدارهای سم آلتمن می‌توان برداشت کرد این باشد:

مسئله فقط این نیست که هوش مصنوعی چقدر قدرتمند خواهد شد؛ مسئله این است که آیا انسان‌ها می‌توانند هم‌زمان با افزایش قدرت AI، روش‌های کافی برای کنترل و ایمن نگه داشتن آن نیز ایجاد کنند یا نه.

❓ سوالات متداول

سم آلتمن درباره هوش مصنوعی چه هشداری داده است؟

سم آلتمن درباره خطرهای احتمالی توسعه هوش مصنوعی بسیار پیشرفته و اهمیت ایمنی AI هشدار داده است. نگرانی اصلی او به سناریوهایی مربوط می‌شود که در آن سیستم‌های بسیار قدرتمند بتوانند رفتارهایی خارج از کنترل یا انتظار انسان نشان دهند.

آیا سم آلتمن گفته هوش مصنوعی با احتمال ۱۰ درصد انسان‌ها را نابود می‌کند؟

خیر. نباید عدد ۱۰ درصد را یک پیش‌بینی قطعی از سوی آلتمن درباره نابودی بشر بدانیم. این عدد در بحث مربوط به احتمال یک سناریوی فاجعه‌بار مطرح شده و نکته اصلی آلتمن این است که حتی احتمال نسبتاً پایین یک فاجعه غیرقابل‌جبران را نباید نادیده گرفت.

آیا هوش مصنوعی می‌تواند از کنترل انسان خارج شود؟

این احتمال یکی از موضوعات مهم در تحقیقات AI Safety است، مخصوصاً درباره سیستم‌های بسیار قدرتمند و مستقل. با این حال، هنوز مشخص نیست چنین سناریویی رخ خواهد داد یا در صورت وقوع چه شکلی خواهد داشت.

منظور از Superintelligence چیست؟

Superintelligence یا ابرهوش مصنوعی به یک سیستم فرضی گفته می‌شود که در بسیاری از توانایی‌های شناختی، عملکردی بسیار بهتر از انسان داشته باشد. مدل‌های هوش مصنوعی امروزی را نمی‌توان به‌سادگی Superintelligence دانست.

p(doom) در هوش مصنوعی چیست؟

p(doom) یک اصطلاح غیررسمی برای اشاره به احتمال وقوع یک فاجعه وجودی ناشی از هوش مصنوعی است. متخصصان درباره مقدار این احتمال اختلاف زیادی دارند و این عدد را نمی‌توان مانند یک آمار علمی قطعی تفسیر کرد.

آیا سم آلتمن مخالف توسعه هوش مصنوعی است؟

خیر. OpenAI همچنان روی توسعه سیستم‌های قدرتمند هوش مصنوعی کار می‌کند. هشدارهای آلتمن بیشتر بر اهمیت توسعه هم‌زمان قابلیت‌های AI و روش‌های ایمنی و کنترل آن تمرکز دارند.

آیا هوش مصنوعی جای انسان را می‌گیرد؟

AI می‌تواند بخشی از وظایف بسیاری از مشاغل را خودکار کند، اما این موضوع با حذف کامل انسان از یک شغل تفاوت دارد. در بسیاری از حوزه‌ها، احتمالاً انسان‌ها از AI به‌عنوان یک ابزار استفاده خواهند کرد و وظایف شغلی آن‌ها تغییر خواهد کرد.

آیا کارشناسان درباره خطر هوش مصنوعی اتفاق نظر دارند؟

خیر. بسیاری از متخصصان اهمیت AI Safety را جدی می‌دانند، اما درباره احتمال نابودی بشر، زمان وقوع چنین اتفاقی و میزان خطر اختلاف نظر زیادی وجود دارد. برخی متخصصان روی خطرهای بلندمدت تمرکز دارند و برخی دیگر خطرهای ملموس امروزی مانند اطلاعات جعلی، حملات سایبری و تأثیر AI بر بازار کار را مهم‌تر می‌دانند.

برای مشاهده جدیدترین مطالب هوش مصنوعی، کلیک کنید.

برای مطالعه جدیدترین اخبار فناوری، این بخش را دنبال کنید.

برای مشاهده مطالب مرتبط کلیک کنید…