کاهش سرعت توسعه هوش مصنوعی، هوش مصنوعی در چند سال گذشته با سرعتی پیش رفته که حتی بسیاری از فعالان این صنعت را غافلگیر کرده است. مدل‌هایی که زمانی فقط برای پاسخ‌دادن به پرسش‌های ساده یا تولید متن استفاده می‌شدند، حالا می‌توانند کدنویسی کنند، اطلاعات را تحلیل کنند، ابزارهای مختلف را به کار بگیرند و در برخی فعالیت‌های پیچیده تا حد زیادی به شکل مستقل عمل کنند.

در چنین شرایطی، صحبت از کاهش سرعت توسعه هوش مصنوعی شاید در نگاه اول عجیب به نظر برسد؛ به‌خصوص وقتی بزرگ‌ترین شرکت‌های فناوری جهان میلیاردها دلار برای ساخت نسل بعدی مدل‌های هوش مصنوعی سرمایه‌گذاری می‌کنند. اما این بار پیشنهاد کاهش سرعت از طرف یکی از منتقدان فناوری هوش مصنوعی مطرح نشده است؛ بلکه داریو آمودی، مدیرعامل Anthropic، یکی از مهم‌ترین شرکت‌های فعال در حوزه مدل‌های پیشرفته هوش مصنوعی، خواستار تغییر رویکرد صنعت شده است.

آمودی در مقاله‌ای با عنوان «We Must Pace the Frontier» استدلال کرده که شرکت‌های فعال در ساخت مدل‌های پیشرفته باید سرعت افزایش قابلیت‌های این سیستم‌ها را کنترل کنند تا فرصت کافی برای توسعه سازوکارهای ایمنی وجود داشته باشد. او تأکید کرده که منظورش توقف توسعه هوش مصنوعی نیست، بلکه صحبت از ایجاد فاصله‌ای منطقی میان سرعت پیشرفت فناوری و سرعت آماده‌شدن ابزارهای ایمنی است.

این دیدگاه در حالی مطرح شده که برخی دیگر از چهره‌های سرشناس صنعت فناوری نیز نسبت به این نگرانی واکنش مثبتی نشان داده‌اند. سم آلتمن، مدیرعامل OpenAI، با اصل ایده «کنترل سرعت پیشرفت» موافقت کرده و ایلان ماسک نیز از موضع آمودی حمایت کرده است.

🧠 داریو آمودی دقیقاً چه گفته است؟

اصل صحبت مدیرعامل آنتروپیک را نباید به شکل «هوش مصنوعی باید متوقف شود» تفسیر کرد. اتفاقاً آمودی در نوشته خود همچنان از ظرفیت بسیار بالای این فناوری برای تغییر زندگی انسان‌ها صحبت می‌کند.

از نگاه او، هوش مصنوعی می‌تواند در زمینه‌هایی مانند پزشکی، رشد اقتصادی، پژوهش علمی و افزایش توانایی انسان‌ها تحول ایجاد کند. نگرانی اصلی زمانی شروع می‌شود که سرعت افزایش قابلیت‌های مدل‌ها از توانایی انسان‌ها برای شناخت و کنترل پیامدهای آن بیشتر شود.

آمودی معتقد است صنعت هوش مصنوعی وارد مرحله‌ای شده که دیگر نمی‌توان با همان رویکرد سال‌های گذشته به توسعه مدل‌های قدرتمند ادامه داد. مدل‌های جدید نه‌تنها توانایی بیشتری پیدا می‌کنند، بلکه در برخی زمینه‌ها به ساخت نسل بعدی ابزارهای هوش مصنوعی نیز کمک می‌کنند.

این مسئله از دید او اهمیت زیادی دارد، زیرا اگر یک فناوری بتواند بخشی از فرایند توسعه فناوری بعدی را سریع‌تر کند، سرعت تغییرات می‌تواند بیشتر از گذشته شود.

منظور از کاهش سرعت توسعه هوش مصنوعی چیست؟

کاهش سرعت توسعه هوش مصنوعی به معنای خاموش‌کردن آزمایشگاه‌های تحقیقاتی یا توقف ساخت مدل‌های جدید نیست.

منظور آمودی بیشتر به این موضوع مربوط می‌شود که شرکت‌ها قبل از عرضه یا توسعه سریع‌تر سیستم‌های قدرتمند، زمان بیشتری برای آزمایش، ارزیابی و بررسی خطرات احتمالی اختصاص دهند.

به بیان ساده، مسئله این نیست که هوش مصنوعی دیگر پیشرفت نکند؛ مسئله این است که سرعت پیشرفت قابلیت‌های آن با سرعت توسعه ایمنی هماهنگ‌تر شود.

او حتی تأکید کرده که پیشرفت هوش مصنوعی در صورت کاهش سرعت نیز همچنان می‌تواند بسیار سریع باشد. بنابراین بحث اصلی، انتخاب میان «پیشرفت» و «توقف» نیست؛ بلکه پیدا کردن تعادل میان نوآوری و ایمنی است.

آیا آنتروپیک می‌خواهد توسعه هوش مصنوعی متوقف شود؟

خیر. این برداشت با موضع آمودی مطابقت ندارد.

مدیرعامل آنتروپیک بارها بر مزایای بالقوه هوش مصنوعی تأکید کرده و در مقاله جدید نیز مسئله اصلی را مدیریت سرعت توسعه عنوان کرده است. حتی در گزارش‌های منتشرشده درباره این اظهارات نیز تأکید شده که پیشنهاد او توقف کامل توسعه AI نیست.

در واقع، دیدگاه آمودی را می‌توان این‌طور خلاصه کرد: هرچه فناوری قدرتمندتر می‌شود، سازوکارهای ایمنی نیز باید با سرعت بیشتری توسعه پیدا کنند.

⚠️ چرا مدیرعامل آنتروپیک نگران سرعت پیشرفت AI است؟

یکی از دلایل اصلی نگرانی آمودی، تغییر ماهیت مدل‌های هوش مصنوعی است.

در نسل‌های اولیه، یک مدل عمدتاً منتظر دستور کاربر می‌ماند و پاسخ تولید می‌کرد. اما سیستم‌های جدیدتر می‌توانند در یک فرایند چندمرحله‌ای تصمیم بگیرند، از ابزارها استفاده کنند و کارهای مختلف را پشت سر هم انجام دهند.

همین تغییر، بحث «عامل‌های هوش مصنوعی» یا AI Agents را جدی‌تر کرده است.

در این مدل، سیستم فقط یک پاسخ متنی تولید نمی‌کند؛ بلکه می‌تواند برای رسیدن به یک هدف، چند اقدام مختلف انجام دهد. هرچه این سیستم‌ها توانمندتر شوند، اهمیت نظارت بر رفتار آن‌ها نیز بیشتر می‌شود.

آمودی در نوشته خود به نمونه‌هایی از رفتارهای نگران‌کننده و همچنین سرعت بالای پیشرفت AI اشاره کرده است. او معتقد است افزایش توانایی سیستم‌ها باید همزمان با افزایش توانایی ما برای ارزیابی آن‌ها اتفاق بیفتد.

رشد سریع قابلیت‌های هوش مصنوعی چه مشکلی ایجاد می‌کند؟

اگر یک مدل در مدت کوتاهی از انجام یک کار ساده به انجام مجموعه‌ای از فعالیت‌های پیچیده برسد، روش‌هایی که قبلاً برای آزمایش ایمنی آن استفاده می‌شدند ممکن است دیگر کافی نباشند.

این مسئله در فناوری موضوع جدیدی نیست. هر فناوری قدرتمندی نیازمند آزمایش و استانداردهای مناسب است؛ اما تفاوت هوش مصنوعی در سرعت تغییرات آن است.

یک استاندارد ایمنی که امروز برای یک مدل کافی است، ممکن است چند ماه بعد برای مدلی با قابلیت‌های کاملاً متفاوت دیگر جوابگو نباشد.

به همین دلیل، نگرانی اصلی آمودی صرفاً درباره یک مدل خاص نیست؛ بلکه درباره شتاب گرفتن مسیر توسعه مدل‌های Frontier است.

چرا عامل‌های هوش مصنوعی اهمیت بیشتری پیدا کرده‌اند؟

عامل‌های هوش مصنوعی می‌توانند مجموعه‌ای از وظایف را پشت سر هم انجام دهند. برای مثال، به جای اینکه کاربر از سیستم بخواهد یک برنامه ساده بنویسد، عامل می‌تواند مسئله را بررسی کند، کد تولید کند، آن را آزمایش کند، خطاها را پیدا کند و دوباره کد را اصلاح کند.

این توانایی برای کاربران بسیار مفید است، اما همزمان پرسش‌های امنیتی جدیدی ایجاد می‌کند.

اگر یک عامل اجازه دسترسی به اینترنت، فایل‌ها، نرم‌افزارها یا سرویس‌های دیگر را داشته باشد، کنترل رفتار آن اهمیت بیشتری پیدا می‌کند.

گزارش‌های اخیر درباره رفتار برخی سیستم‌های عامل‌محور نیز به همین نگرانی دامن زده‌اند و آمودی در استدلال خود به چنین روندهایی اشاره کرده است.

🛡️ برنامه سه‌مرحله‌ای آنتروپیک برای افزایش ایمنی AI

آمودی فقط درباره خطرات هشدار نداده و برای مدیریت شرایط، یک چارچوب سه‌مرحله‌ای پیشنهاد کرده است.

این چارچوب بر ارزیابی مستقل، هماهنگی میان شرکت‌ها و در نهایت همکاری بین‌المللی تمرکز دارد.

ارزیاب‌های مستقل باید به سیستم‌ها دسترسی داشته باشند

یکی از پیشنهادهای مهم آمودی استفاده از ارزیاب‌های مستقل برای بررسی ایمنی مدل‌های هوش مصنوعی است.

ایده اصلی این است که شرکت سازنده نباید تنها مرجع ارزیابی امنیت محصول خودش باشد.

در این مدل، ارزیاب‌های مستقل باید بتوانند با دسترسی مناسب، عملکرد سیستم را بررسی کنند و درباره خطرات احتمالی آن گزارش ارائه دهند.

چنین رویکردی می‌تواند شبیه چیزی باشد که در بسیاری از صنایع حساس وجود دارد؛ یعنی یک محصول تنها بر اساس ادعای سازنده درباره ایمنی آن تأیید نشود.

استانداردهای مشترک میان شرکت‌های هوش مصنوعی

دومین بخش پیشنهاد آمودی به همکاری میان شرکت‌های مختلف مربوط می‌شود.

اگر هر شرکت استانداردهای کاملاً متفاوتی برای ایمنی مدل‌های خود داشته باشد، مقایسه و نظارت دشوار خواهد شد.

وجود استانداردهای مشترک می‌تواند حداقل‌هایی را برای آزمایش مدل‌ها، ارزیابی خطرات و نحوه برخورد با قابلیت‌های حساس مشخص کند.

این موضوع اهمیت ویژه‌ای دارد، زیرا رقابت میان شرکت‌های هوش مصنوعی شدید است و هر شرکت تلاش می‌کند مدل قدرتمندتری بسازد.

همکاری بین‌المللی برای کنترل خطرات AI

مرحله سوم از پیشنهاد آمودی بسیار پیچیده‌تر است.

او معتقد است برای مدیریت برخی خطرات هوش مصنوعی، همکاری میان کشورها نیز ضروری خواهد بود.

مشکل اینجاست که هوش مصنوعی مرز جغرافیایی مشخصی ندارد. یک مدل می‌تواند در یک کشور ساخته شود، زیرساخت آن در کشور دیگری قرار داشته باشد و کاربران آن در سراسر جهان حضور داشته باشند.

بنابراین، ایجاد استانداردهای جهانی برای بعضی از خطرات احتمالی AI بدون همکاری میان دولت‌ها بسیار دشوار خواهد بود.

در گزارش‌های منتشرشده درباره پیشنهاد آمودی، همکاری بین‌المللی و حتی گفت‌وگو با کشورهایی با نظام‌های سیاسی متفاوت نیز بخشی از این چارچوب عنوان شده است.

🌍 آیا سایر مدیران فناوری با آمودی موافق هستند؟

یکی از جالب‌ترین بخش‌های این اتفاق، واکنش برخی از رقبای Anthropic است.

سم آلتمن، مدیرعامل OpenAI، با اصل ایده آمودی درباره نیاز به کنترل سرعت توسعه Frontier AI موافقت کرده است. آلتمن همچنین گفته OpenAI نیز روی استفاده از ارزیاب‌های مستقل کار خواهد کرد.

ایلان ماسک نیز در واکنشی کوتاه از موضع آمودی حمایت کرده است.

این اتفاق از یک جهت قابل توجه است، زیرا شرکت‌های بزرگ هوش مصنوعی معمولاً در رقابت مستقیم برای ساخت مدل‌های قدرتمندتر قرار دارند.

با این حال، موافقت با اصل «افزایش ایمنی» الزاماً به معنای توافق کامل درباره نحوه اجرای آن نیست.

چرا حمایت مدیران بزرگ فناوری مهم است؟

وقتی نگرانی درباره سرعت توسعه AI تنها از سوی پژوهشگران یا فعالان حوزه ایمنی مطرح شود، شرکت‌های بزرگ ممکن است آن را صرفاً یک بحث نظری بدانند.

اما وقتی مدیران شرکت‌هایی که خودشان در خط مقدم توسعه AI قرار دارند درباره ضرورت افزایش ایمنی صحبت می‌کنند، موضوع اهمیت بیشتری پیدا می‌کند.

البته هنوز مشخص نیست این همگرایی تا چه اندازه می‌تواند به استانداردهای عملی و الزام‌آور تبدیل شود.

🔍 آیا کاهش سرعت توسعه هوش مصنوعی واقعاً امکان‌پذیر است؟

اینجا یکی از دشوارترین پرسش‌های این بحث مطرح می‌شود.

در تئوری، شرکت‌ها می‌توانند سرعت انتشار مدل‌های جدید را کاهش دهند یا زمان بیشتری را به ارزیابی ایمنی اختصاص دهند.

اما در عمل، رقابت اقتصادی و فناوری اجازه نمی‌دهد مسئله به این سادگی حل شود.

اگر یک شرکت سرعت توسعه خود را کاهش دهد و رقیب آن بدون چنین محدودیتی به کار ادامه دهد، ممکن است در برخی زمینه‌ها عقب بماند.

به همین دلیل، کاهش سرعت تنها زمانی می‌تواند اثر گسترده داشته باشد که شرکت‌های مختلف روی استانداردهای مشابه توافق کنند.

رقابت شرکت‌ها چگونه مانع کاهش سرعت می‌شود؟

هوش مصنوعی فقط یک فناوری آزمایشگاهی نیست.

این فناوری با اقتصاد، زیرساخت، نرم‌افزار، امنیت سایبری، خدمات ابری و رقابت بین شرکت‌ها گره خورده است.

هر مدل جدید می‌تواند قابلیت‌هایی را به محصولات مختلف اضافه کند و موقعیت یک شرکت را در بازار تغییر دهد.

بنابراین، از یک سو شرکت‌ها درباره خطرات احتمالی صحبت می‌کنند و از سوی دیگر، نمی‌توانند به‌سادگی از رقابت کنار بکشند.

این تضاد احتمالاً یکی از اصلی‌ترین چالش‌های اجرای ایده آمودی خواهد بود.

⚖️ مخالفان کاهش سرعت توسعه هوش مصنوعی چه می‌گویند؟

هرچقدر هم نگرانی درباره ایمنی جدی باشد، کاهش سرعت توسعه AI مخالفانی هم دارد.

یکی از مهم‌ترین استدلال‌ها این است که کندکردن نوآوری ممکن است باعث شود کشور یا شرکتی که محدودیت بیشتری دارد، از رقبای خود عقب بماند.

موضوع دیگر این است که همه کارشناسان درباره میزان و نوع خطرات AI اتفاق نظر ندارند.

برخی معتقدند به جای کاهش سرعت توسعه، باید همزمان با پیشرفت مدل‌ها ابزارهای ایمنی نیز سریع‌تر ساخته شوند.

این دیدگاه می‌گوید راه‌حل لزوماً «کمتر توسعه دادن» نیست؛ بلکه باید «ایمن‌تر توسعه دادن» باشد.

آیا کاهش سرعت می‌تواند نوآوری را محدود کند؟

این نگرانی کاملاً بی‌دلیل نیست.

اگر مقررات بیش از حد سخت‌گیرانه شوند، ممکن است شرکت‌های کوچک‌تر توانایی رقابت با شرکت‌های بزرگ را از دست بدهند.

از سوی دیگر، نبود مقررات و استاندارد کافی نیز می‌تواند خطرات جدی ایجاد کند.

بنابراین، یکی از مهم‌ترین چالش‌های سیاست‌گذاران این است که میان دو هدف تعادل برقرار کنند: حفظ نوآوری و جلوگیری از توسعه بی‌محابای فناوری‌های پرریسک.

💻 هوش مصنوعی چقدر به خودکارسازی توسعه خودش نزدیک شده است؟

یکی از موضوعاتی که آمودی روی آن تأکید کرده، افزایش توانایی AI برای کمک به ساخت نسل بعدی سیستم‌های هوش مصنوعی است.

این موضوع را نباید با مفهوم «هوش مصنوعی کاملاً خودآگاه» اشتباه گرفت.

مدل‌های فعلی ممکن است در بخش‌هایی از فرایند برنامه‌نویسی، آزمایش، تحلیل داده و تحقیق به انسان کمک کنند؛ اما این با ساخت کامل و مستقل یک نسل جدید از هوش مصنوعی تفاوت دارد.

با این حال، حتی کمک جزئی AI به توسعه مدل‌های آینده نیز می‌تواند سرعت کار پژوهشگران و مهندسان را افزایش دهد.

چرا خودکارشدن بخشی از توسعه AI مهم است؟

فرض کنیم بخشی از کارهای تکراری تحقیقاتی توسط عامل‌های هوش مصنوعی انجام شود.

در این صورت، پژوهشگران زمان بیشتری برای انجام آزمایش‌های جدید خواهند داشت و چرخه توسعه می‌تواند سریع‌تر شود.

اگر این روند ادامه پیدا کند، مسئله فقط قدرت مدل‌ها نیست؛ بلکه سرعت چرخه تحقیق، آزمایش و توسعه نیز اهمیت پیدا می‌کند.

همین موضوع یکی از دلایلی است که آمودی نسبت به آینده سرعت پیشرفت فناوری هشدار داده است.

🔐 خطرات احتمالی هوش مصنوعی پیشرفته چیست؟

بحث ایمنی هوش مصنوعی فقط درباره یک خطر مشخص نیست.

مجموعه‌ای از خطرات احتمالی وجود دارد که از سوءاستفاده انسانی گرفته تا رفتارهای پیش‌بینی‌نشده سیستم‌ها را شامل می‌شود.

سوءاستفاده از هوش مصنوعی

یک مدل قدرتمند می‌تواند برای اهداف مثبت استفاده شود، اما همان قابلیت‌ها ممکن است توسط افراد مخرب نیز مورد سوءاستفاده قرار بگیرند.

هرچه مدل‌ها توانمندتر شوند، کنترل نحوه استفاده از آن‌ها نیز دشوارتر می‌شود.

تهدیدهای امنیت سایبری

عامل‌های هوش مصنوعی می‌توانند در برخی وظایف امنیت سایبری به انسان کمک کنند.

همین توانایی می‌تواند در صورت استفاده نادرست، برای حملات سایبری نیز مورد سوءاستفاده قرار گیرد.

گزارش‌های اخیر درباره فعالیت‌های غیرمنتظره برخی سیستم‌های AI باعث شده این نگرانی دوباره مورد توجه قرار گیرد.

از دست رفتن کنترل انسان

سناریوهای مربوط به از دست رفتن کنترل نباید به عنوان اتفاقی قطعی مطرح شوند.

اما این پرسش که اگر سیستم‌های هوش مصنوعی در آینده بسیار مستقل‌تر شوند، چه مقدار نظارت انسانی لازم خواهد بود، یکی از موضوعات اصلی تحقیقات ایمنی AI است.

به همین دلیل، توسعه روش‌های ارزیابی و کنترل پیش از رسیدن به چنین سطوحی اهمیت دارد.

🏗️ چه عواملی روی هزینه توسعه هوش مصنوعی تأثیر می‌گذارند؟

در این بحث معمولاً درباره سرمایه‌گذاری عظیم شرکت‌های فناوری صحبت می‌شود، اما برای درک بهتر موضوع لازم نیست وارد قیمت‌های مشخص شویم.

توسعه مدل‌های بزرگ به مجموعه‌ای از منابع نیاز دارد.

زیرساخت محاسباتی

آموزش و اجرای مدل‌های بزرگ به سخت‌افزارهای قدرتمند و زیرساخت‌های گسترده نیاز دارد.

هرچه مدل پیچیده‌تر باشد، نیاز محاسباتی نیز می‌تواند افزایش پیدا کند.

داده‌های آموزشی

کیفیت، حجم و آماده‌سازی داده‌ها از عوامل مهم در توسعه مدل‌های هوش مصنوعی هستند.

داده‌ها باید جمع‌آوری، پاک‌سازی و در بسیاری از موارد پردازش شوند.

نیروی متخصص

پژوهشگران، مهندسان نرم‌افزار، متخصصان زیرساخت و کارشناسان ایمنی نقش مهمی در توسعه مدل‌ها دارند.

هرچه پروژه پیچیده‌تر شود، نیاز به تخصص‌های مختلف نیز افزایش پیدا می‌کند.

ارزیابی ایمنی

اگر شرکت‌ها بخواهند ارزیابی‌های گسترده‌تری انجام دهند، باید منابع بیشتری برای آزمایش و بررسی رفتار مدل‌ها اختصاص دهند.

در نگاه آمودی، این هزینه و زمان اضافی در واقع بخشی از هزینه لازم برای توسعه مسئولانه فناوری محسوب می‌شود.

مصرف انرژی و زیرساخت دیتاسنتر

مدل‌های بزرگ به مراکز داده و زیرساخت‌های پردازشی گسترده نیاز دارند.

بنابراین مصرف انرژی، تجهیزات سرمایشی، شبکه و نگهداری زیرساخت نیز از عوامل مؤثر در هزینه توسعه و اجرای مدل‌های پیشرفته هستند.

📈 آینده توسعه هوش مصنوعی چه خواهد شد؟

پیش‌بینی آینده AI کار ساده‌ای نیست.

با این حال، یک نکته تقریباً روشن است: بحث درباره سرعت توسعه هوش مصنوعی دیگر تنها یک بحث فنی نیست.

این موضوع به سیاست، اقتصاد، امنیت، آموزش، بازار کار و حتی روابط بین‌الملل ارتباط پیدا کرده است.

شرکت‌های فناوری همچنان برای ساخت مدل‌های توانمندتر رقابت خواهند کرد، اما احتمالاً همزمان فشار برای ایجاد استانداردهای ایمنی نیز بیشتر خواهد شد.

آیا سرعت توسعه AI واقعاً کاهش پیدا می‌کند؟

هنوز برای پاسخ قطعی به این سؤال زود است.

پیشنهاد آمودی تازه مطرح شده و واکنش شرکت‌ها و دولت‌ها در ماه‌های آینده مشخص خواهد کرد که این ایده تا چه اندازه می‌تواند از یک بحث عمومی به یک چارچوب عملی تبدیل شود.

نکته مهم این است که حتی اگر شرکت‌ها سرعت توسعه مدل‌ها را کاهش ندهند، ممکن است استانداردهای ارزیابی و نظارت بر مدل‌ها تقویت شوند.

در این حالت، نتیجه لزوماً کاهش سرعت فناوری نخواهد بود؛ بلکه ممکن است شاهد افزایش سرعت توسعه همزمان با افزایش سرعت ایمنی باشیم.

🌐 نقش دولت‌ها در آینده ایمنی هوش مصنوعی چیست؟

شرکت‌های فناوری نمی‌توانند تمام مشکلات مربوط به AI را به تنهایی حل کنند.

دولت‌ها می‌توانند استانداردهای مشخصی برای سیستم‌های پرخطر ایجاد کنند و شرکت‌ها را به شفافیت بیشتر درباره قابلیت‌ها و محدودیت‌های مدل‌ها تشویق کنند.

اما قانون‌گذاری نیز باید با احتیاط انجام شود.

قوانین بیش از حد سخت ممکن است نوآوری را محدود کنند و قوانین بیش از حد ضعیف نیز ممکن است نتوانند خطرات واقعی را مدیریت کنند.

به همین دلیل، یکی از مهم‌ترین بحث‌های آینده احتمالاً درباره پیدا کردن مرز مناسب میان آزادی نوآوری و مسئولیت‌پذیری فناوری خواهد بود.

🤔 آیا باید سرعت توسعه هوش مصنوعی را کاهش داد؟

پاسخ این سؤال ساده نیست.

از یک طرف، سرعت بالای پیشرفت AI مزایای زیادی دارد. مدل‌های بهتر می‌توانند در تحقیقات علمی، برنامه‌نویسی، آموزش و بسیاری از فعالیت‌های دیگر به انسان کمک کنند.

از طرف دیگر، هرچه سیستم‌ها قدرتمندتر و مستقل‌تر شوند، احتمال بروز رفتارهای غیرمنتظره یا سوءاستفاده نیز اهمیت بیشتری پیدا می‌کند.

به همین دلیل، پیشنهاد آمودی را شاید بهتر باشد به جای «توقف هوش مصنوعی» به عنوان درخواست برای ایجاد هماهنگی میان سرعت پیشرفت و سرعت ایمنی در نظر گرفت.

اگر مدل‌ها هر ماه توانمندتر شوند اما روش‌های ارزیابی آن‌ها با همان سرعت رشد نکنند، شکاف میان قابلیت و نظارت بزرگ‌تر خواهد شد.

اما اگر همزمان با توسعه مدل‌ها، روش‌های آزمایش، ارزیابی، نظارت و کنترل نیز پیشرفت کنند، امکان استفاده ایمن‌تر از این فناوری افزایش پیدا می‌کند.

🔮 نظر مدیرعامل آنتروپیک درباره آینده هوش مصنوعی چیست؟

موضع آمودی در نهایت بیشتر از آنکه ضد هوش مصنوعی باشد، بر استفاده مسئولانه از آن تأکید دارد.

او معتقد است AI می‌تواند مزایای بسیار بزرگی برای بشر داشته باشد، اما همین ظرفیت بالا دلیل دیگری برای احتیاط است.

اگر فناوری بتواند تغییرات بزرگی در پزشکی، اقتصاد و علم ایجاد کند، طبیعی است که نحوه توسعه و کنترل آن نیز اهمیت زیادی داشته باشد.

آمودی در مقاله خود تلاش کرده بین دو دیدگاه فاصله ایجاد کند: از یک سو افرادی که می‌خواهند به دلیل خطرات احتمالی، توسعه AI متوقف شود و از سوی دیگر کسانی که معتقدند باید بدون نگرانی مسیر توسعه را ادامه داد.

پیشنهاد او یک مسیر میانی است؛ ادامه توسعه، اما با سرعتی که فرصت کافی برای ایمنی و نظارت باقی بگذارد.

❓ سوالات متداول درباره کاهش سرعت توسعه هوش مصنوعی

چرا مدیرعامل آنتروپیک خواهان کاهش سرعت توسعه هوش مصنوعی شده است؟

داریو آمودی معتقد است قابلیت‌های مدل‌های هوش مصنوعی با سرعت بسیار زیادی در حال پیشرفت هستند و سازوکارهای ایمنی باید فرصت بیشتری برای هماهنگ‌شدن با این پیشرفت داشته باشند.

آیا آنتروپیک می‌خواهد توسعه هوش مصنوعی متوقف شود؟

خیر. منظور آمودی توقف کامل توسعه AI نیست. پیشنهاد او کنترل سرعت پیشرفت مدل‌های پیشرفته و اختصاص زمان بیشتر به ارزیابی و ایمنی است.

داریو آمودی کیست؟

داریو آمودی پژوهشگر و کارآفرین حوزه هوش مصنوعی و مدیرعامل Anthropic، شرکت سازنده مدل‌های Claude، است. او پیش از تأسیس Anthropic در OpenAI نیز فعالیت داشته است.

مهم‌ترین نگرانی درباره هوش مصنوعی پیشرفته چیست؟

از جمله نگرانی‌های مطرح‌شده می‌توان به سوءاستفاده از مدل‌ها، حملات سایبری، رفتارهای غیرمنتظره، افزایش استقلال عامل‌های هوش مصنوعی و دشوارشدن نظارت بر سیستم‌های بسیار قدرتمند اشاره کرد.

برنامه آنتروپیک برای افزایش ایمنی هوش مصنوعی چیست؟

آمودی سه مسیر کلی را مطرح کرده است: استفاده از ارزیاب‌های مستقل، ایجاد استانداردهای مشترک میان شرکت‌های هوش مصنوعی و افزایش همکاری بین‌المللی برای مدیریت خطرات AI.

آیا سم آلتمن با کاهش سرعت توسعه AI موافق است؟

سم آلتمن با اصل نیاز به «pace the frontier» موافقت کرده و گفته این موضوع در هفته‌های اخیر در OpenAI نیز مورد بحث بوده است.

آیا کاهش سرعت توسعه هوش مصنوعی می‌تواند نوآوری را متوقف کند؟

الزاماً نه. هدف می‌تواند افزایش زمان اختصاص‌یافته به آزمایش و ایمنی باشد، نه توقف تحقیقات. چالش اصلی پیدا کردن تعادلی است که هم نوآوری ادامه پیدا کند و هم ریسک‌های سیستم‌های پیشرفته جدی گرفته شوند.

آینده توسعه هوش مصنوعی به کدام سمت می‌رود؟

احتمالاً رقابت برای ساخت مدل‌های قدرتمندتر ادامه خواهد داشت، اما همزمان موضوعاتی مانند ارزیابی مستقل، استانداردهای ایمنی، قانون‌گذاری و همکاری بین‌المللی اهمیت بیشتری پیدا خواهند کرد.

جمع‌بندی

صحبت‌های داریو آمودی درباره کاهش سرعت توسعه هوش مصنوعی را می‌توان یکی از مهم‌ترین هشدارهای اخیر از داخل صنعت AI دانست؛ نه به این دلیل که مدیرعامل Anthropic خواهان توقف این فناوری شده، بلکه به این دلیل که یکی از مدیران شرکت‌های پیشرو در این حوزه معتقد است سرعت پیشرفت مدل‌ها به مرحله‌ای رسیده که باید جدی‌تر درباره ایمنی آن‌ها فکر کرد.

پیشنهاد او شامل ارزیابی مستقل، استانداردهای مشترک و همکاری بین‌المللی است. واکنش مثبت چهره‌هایی مانند سم آلتمن و ایلان ماسک نیز نشان می‌دهد نگرانی درباره سرعت پیشرفت AI دیگر محدود به یک شرکت یا یک گروه از پژوهشگران نیست.

با این حال، هنوز مشخص نیست صنعت هوش مصنوعی واقعاً بتواند روی کاهش سرعت توسعه به توافق برسد. رقابت اقتصادی و ژئوپلیتیکی میان شرکت‌ها و کشورها می‌تواند اجرای چنین ایده‌ای را دشوار کند.

شاید در نهایت سؤال اصلی این نباشد که «آیا باید هوش مصنوعی را متوقف کنیم؟» بلکه سؤال مهم‌تر این باشد که آیا می‌توانیم سرعت توسعه ایمنی را به اندازه سرعت توسعه خود هوش مصنوعی بالا ببریم؟

پاسخ این سؤال احتمالاً نقش مهمی در تعیین مسیر آینده هوش مصنوعی خواهد داشت.

مشاهده اخبار بیشتر.

خطرات هوش مصنوعی