OpenAI قرار است در هفته‌های آینده متن‌های واجد شرایط تولیدشده با ChatGPT و Codex در اتحادیه اروپا را به یک واترمارک نامرئی مجهز کند. این فناوری که textGrain نام دارد، علامت قابل مشاهده‌ای به متن اضافه نمی‌کند و به‌جای آن با تغییر الگوی آماری انتخاب کلمات، سیگنالی ایجاد می‌کند که ابزار تشخیص OpenAI می‌تواند آن را بررسی کند. در حال حاضر، OpenAI واترمارک متن را در سراسر دنیا به‌صورت پیش‌فرض فعال نمی‌کند و کاربران API در کشورهای مختلف می‌توانند برای مدل‌های منتخب آن را به‌صورت اختیاری فعال کنند.

⚡ خلاصه سریع؛ واترمارک ChatGPT دقیقاً چه تغییری ایجاد می‌کند؟

اگر فقط می‌خواهید اصل ماجرا را بدانید، نکات مهم این خبر این‌ها هستند:

• OpenAI فناوری واترمارک متن خود را textGrain نامیده است.
• این واترمارک برای کاربران واجد شرایط ChatGPT و Codex در اتحادیه اروپا طی هفته‌های آینده فعال می‌شود.
• واترمارک نامرئی است و خواننده عادی هیچ علامت یا نوشته‌ای روی متن نمی‌بیند.
• textGrain با تغییر آماری در انتخاب کلمات و بخش‌های کلمات، یک الگوی قابل تشخیص ایجاد می‌کند.
• کاربران API در سراسر جهان می‌توانند برای مدل‌های منتخب، واترمارک متن را به‌صورت اختیاری فعال کنند و این قابلیت در API به‌صورت پیش‌فرض خاموش است.
• OpenAI دسترسی به ابزار تشخیص واترمارک را فعلاً به پژوهشگران و سازمان‌های متخصص تأییدشده محدود کرده است.
• وجود واترمارک به‌تنهایی مشخص نمی‌کند چه کسی متن را نوشته یا چه مقدار از آن را انسان تولید کرده است.
• متن‌های کوتاه، کد و متن‌هایی که ویرایش یا ترجمه زیادی روی آن‌ها انجام شده، برای تشخیص مطمئن چالش بیشتری دارند.

بنابراین اگر نگرانید که بعد از این تغییر، کنار پاسخ‌های ChatGPT یک لوگو یا عبارت خاص ظاهر شود، پاسخ کوتاه خیر است. واترمارک textGrain در خود الگوی تولید متن قرار می‌گیرد و کاربر آن را با چشم نمی‌بیند.

🧠 واترمارک ChatGPT چیست؟

واترمارک ChatGPT در این خبر با چیزی که معمولاً از واترمارک تصاویر می‌شناسیم، تفاوت دارد. وقتی روی یک عکس واترمارک می‌بینیم، معمولاً یک لوگو، نوشته یا علامت مشخص روی تصویر قرار گرفته است. OpenAI برای متن از چنین روشی استفاده نمی‌کند.

فناوری جدید این شرکت textGrain نام دارد. OpenAI می‌گوید این فناوری هنگام تولید متن، روی انتخاب کلمات یا بخش‌های کلمات اثر آماری بسیار ظریفی می‌گذارد. در نتیجه، متن همچنان برای کاربر طبیعی به نظر می‌رسد، اما مجموعه انتخاب‌های مدل یک الگوی آماری ایجاد می‌کند که یک آشکارساز تخصصی می‌تواند آن را بررسی کند.

به زبان ساده‌تر، ChatGPT هنگام نوشتن هر جمله فقط یک کلمه مشخص را انتخاب نمی‌کند. مدل برای ادامه جمله چندین گزینه احتمالی در اختیار دارد و برای هر گزینه احتمال متفاوتی در نظر می‌گیرد. textGrain همین فرایند انتخاب را با یک الگوی مخفی تنظیم می‌کند.

اگر این انتخاب‌ها در یک متن طولانی کنار هم قرار بگیرند، الگوی آماری حاصل می‌تواند به‌عنوان نشانه‌ای از تولید یا پردازش متن توسط یک مدل OpenAI عمل کند.

آیا واترمارک ChatGPT قابل مشاهده است؟

خیر. کاربر هنگام خواندن متن، هیچ علامت، لوگو یا نشانه خاصی نمی‌بیند.

OpenAI می‌گوید textGrain کاراکتر مخفی، فاصله نامرئی، توکن اضافه یا نشانه نگارشی خاصی به متن اضافه نمی‌کند. واترمارک در همان الگوی انتخاب کلمات قرار دارد. بنابراین اگر یک متن را از ChatGPT کپی و در یک ویرایشگر متن قرار دهید، قرار نیست چیزی شبیه یک علامت مخفی را مشاهده کنید.

textGrain چیست؟

textGrain نام فناوری واترمارک متنی OpenAI است. این فناوری یک سیگنال آماری را در انتخاب کلمات و بخش‌های کلمات ایجاد می‌کند و سپس آشکارساز می‌تواند متن را از نظر وجود همان الگو بررسی کند.

OpenAI قصد دارد این فناوری را به‌صورت متن‌باز نیز در دسترس قرار دهد تا پژوهشگران و توسعه‌دهندگان بتوانند روی روش‌های واترمارک متن کار کنند و عملکرد آن را بهتر ارزیابی کنند.

🇪🇺 چرا OpenAI واترمارک متن را در اروپا فعال می‌کند؟

مهم‌ترین دلیل این تغییر، قوانین اتحادیه اروپا درباره شفافیت محتوای تولیدشده با هوش مصنوعی است.

OpenAI می‌گوید رویکرد جدیدش به واترمارک متن، بخشی از تلاش این شرکت برای اجرای الزامات EU AI Act است. این مقررات برای محتوای تولیدشده با هوش مصنوعی، قابلیت شناسایی ماشینی را مورد توجه قرار می‌دهد.

در نتیجه، OpenAI تصمیم گرفته اجرای textGrain را ابتدا در اتحادیه اروپا پیش ببرد. طبق اعلام شرکت، این تغییر طی هفته‌های آینده برای متن واجد شرایط ChatGPT و Codex در این منطقه انجام می‌شود.

نکته مهم اینجاست که OpenAI در زمان معرفی این قابلیت، نگفته است که واترمارک متن را هم‌زمان برای تمام کاربران جهان اجباری می‌کند.

آیا واترمارک ChatGPT در ایران هم فعال می‌شود؟

در حال حاضر OpenAI چنین فعال‌سازی عمومی را اعلام نکرده است.

طبق توضیحات رسمی شرکت، برنامه فعلی دو بخش دارد: OpenAI واترمارک را برای متن واجد شرایط ChatGPT و Codex در اتحادیه اروپا اضافه می‌کند و در بخش API، مشتریان سراسر جهان می‌توانند برای مدل‌های منتخب به‌صورت اختیاری این قابلیت را روشن کنند. واترمارک در API هنگام شروع کار به‌صورت پیش‌فرض خاموش است.

بنابراین نباید خبر جدید را این‌طور برداشت کرد که از همین حالا تمام متن‌های ChatGPT در همه کشورهای جهان واترمارک دارند.

آیا واترمارک ChatGPT برای همه کاربران اروپا اجباری است؟

OpenAI گفته است که واترمارک متن را طی هفته‌های آینده به خروجی واجد شرایط ChatGPT و Codex در اتحادیه اروپا اضافه می‌کند. در مقابل، API مدل متفاوتی دارد و مشتریان می‌توانند برای مدل‌های منتخب آن را فعال کنند.

این تفاوت مهم است؛ چون ChatGPT، Codex و API یک سیاست یکسان ندارند.

🔬 واترمارک ChatGPT چگونه کار می‌کند؟

برای درک textGrain لازم نیست وارد جزئیات پیچیده ریاضی شویم. کافی است بدانیم مدل هنگام تولید هر بخش از متن، چند انتخاب احتمالی برای کلمه بعدی دارد.

برای مثال، فرض کنید مدل می‌خواهد جمله‌ای درباره یک محصول فناوری بنویسد. برای یک بخش از جمله چند کلمه مختلف می‌تواند مناسب باشد. مدل برای هر گزینه احتمال مشخصی در نظر می‌گیرد.

textGrain در همین مرحله وارد عمل می‌شود.

این فناوری چند مجموعه احتمال تنظیم‌شده ایجاد می‌کند و بر اساس یک کلید مخفی، انتخاب مدل را به شکلی تغییر می‌دهد که در مجموع الگوی آماری مشخصی در متن شکل بگیرد. آشکارساز نیز بعداً می‌تواند بررسی کند که آیا انتخاب کلمات متن با آن الگو بیشتر از چیزی که به‌صورت تصادفی انتظار داریم، هماهنگ است یا خیر.

نکته مهم این است که این تغییر نباید متن را برای خواننده غیرطبیعی کند. هدف OpenAI این است که مدل همچنان پاسخ خود را با کیفیت عادی تولید کند، اما یک سیگنال قابل بررسی نیز در متن باقی بماند.

آیا واترمارک با کپی و پیست از بین می‌رود؟

خود کپی و پیست به‌تنهایی قرار نیست سیگنال textGrain را حذف کند؛ چون واترمارک در الگوی کلمات قرار دارد، نه در اطلاعات اضافی فایل.

البته اگر کاربر متن را به‌شدت بازنویسی کند، مترادف‌های زیادی جایگزین کند یا آن را ترجمه کند، تشخیص واترمارک می‌تواند سخت‌تر شود. OpenAI نیز تأکید کرده که تغییرات گسترده در متن می‌تواند قابلیت تشخیص سیگنال را کاهش دهد.

🕵️ آیا می‌توان واترمارک ChatGPT را تشخیص داد؟

بله، اما نه با نگاه کردن به متن.

OpenAI در حال توسعه یک text watermark detector است که الگوی آماری textGrain را بررسی می‌کند. با این حال، شرکت فعلاً دسترسی به این ابزار را برای پژوهشگران و سازمان‌های متخصص تأییدشده محدود کرده است.

این نکته اهمیت زیادی دارد؛ چون هر ابزار AI Detector که در اینترنت پیدا می‌کنید، الزاماً قادر به شناسایی واترمارک OpenAI نیست.

بسیاری از ابزارهای تشخیص متن هوش مصنوعی، بعد از تولید متن آن را با مدل‌های طبقه‌بندی خودشان بررسی می‌کنند. اما textGrain از ابتدا یک سیگنال مشخص را هنگام تولید متن ایجاد می‌کند و آشکارساز OpenAI به دنبال همان سیگنال می‌گردد.

آیا AI Detector همان واترمارک OpenAI است؟

خیر.

این دو فناوری هدف مشابهی دارند، اما روش کارشان یکی نیست.

OpenAI نیز میان واترمارک داخلی خود و ابزارهای تشخیص شخص ثالث تفاوت قائل می‌شود.

📏 واترمارک روی متن‌های کوتاه چقدر قابل اعتماد است؟

اینجا یکی از محدودیت‌های مهم textGrain مشخص می‌شود.

برای اینکه یک آشکارساز بتواند یک الگوی آماری را با اطمینان بیشتری تشخیص دهد، هرچه متن طولانی‌تر باشد، داده بیشتری برای بررسی در اختیار دارد. متن‌های بسیار کوتاه چنین فرصتی به آشکارساز نمی‌دهند.

OpenAI در ارزیابی‌های خود نیز نشان داده که تشخیص متن‌های کوتاه دشوارتر است. در یک آزمایش، آشکارساز در شرایط مشخص حدود ۸۰ درصد از نمونه‌های ۲۰۰ توکنی و حدود ۹۵ درصد از نمونه‌های ۴۰۰ توکنی را تشخیص داد. این اعداد به نوع محتوا نیز وابسته بودند.

بنابراین اگر کسی یک پاسخ بسیار کوتاه از ChatGPT دریافت کند، نباید انتظار داشته باشد که واترمارک همیشه با همان اطمینان یک متن طولانی قابل تشخیص باشد.

آیا واترمارک ChatGPT روی کدهای Codex هم کار می‌کند؟

OpenAI واترمارک را برای خروجی واجد شرایط Codex در اتحادیه اروپا نیز در برنامه خود قرار داده است؛ با این حال، کد از نظر فنی شرایط متفاوتی نسبت به متن عادی دارد.

در متن معمولی، مدل برای بیان یک مفهوم گزینه‌های واژگانی زیادی دارد. اما در کد، بسیاری از انتخاب‌ها به قواعد زبان برنامه‌نویسی، نام توابع، سینتکس و منطق برنامه محدود می‌شوند.

OpenAI نیز توضیح می‌دهد که کد به‌دلیل انتخاب‌های محدودتر برای تولید، یکی از موارد دشوارتر در زمینه واترمارک متنی محسوب می‌شود. همچنین مقررات مربوط به محتوای کوتاه محدودیت‌هایی برای اعمال واترمارک ایجاد می‌کنند.

✏️ آیا ویرایش متن واترمارک ChatGPT را از بین می‌برد؟

ویرایش می‌تواند تشخیص واترمارک را سخت‌تر کند، اما نمی‌توان گفت هر ویرایشی به‌طور خودکار آن را حذف می‌کند.

از آنجا که textGrain سیگنال خود را در انتخاب کلمات ایجاد می‌کند، تغییر گسترده واژه‌ها می‌تواند بخشی از همان الگو را تغییر دهد. OpenAI نیز در آزمایش‌های خود کاهش نرخ تشخیص را پس از جایگزینی بخشی از واژه‌ها با مترادف‌ها گزارش کرده است.

این موضوع یکی از دلایلی است که OpenAI درباره نتیجه آشکارساز با احتیاط صحبت می‌کند. شرکت نمی‌گوید یک نتیجه منفی ثابت می‌کند که متن انسانی است.

در واقع، تشخیص نشدن واترمارک با اثبات انسانی بودن متن تفاوت دارد.

ممکن است یک متن:

• خیلی کوتاه باشد؛
• با مدل یا مسیر خروجی پشتیبانی‌نشده تولید شده باشد؛
• قبل از فعال شدن واترمارک تولید شده باشد؛
• به‌شدت ویرایش شده باشد؛
• ترجمه شده باشد؛
• یا اصلاً توسط یک مدل هوش مصنوعی دیگر تولید شده باشد.

در چنین شرایطی، آشکارساز ممکن است سیگنال مورد انتظار را پیدا نکند.

⚖️ آیا واترمارک ChatGPT نویسنده متن را مشخص می‌کند؟

خیر؛ و این نکته شاید مهم‌تر از خود فناوری باشد.

اگر آشکارساز یک واترمارک OpenAI را در متن پیدا کند، نتیجه فقط نشان می‌دهد که یک مدل OpenAI احتمالاً متن را تولید یا پردازش کرده است. این نتیجه به‌تنهایی مشخص نمی‌کند چه کسی نویسنده متن بوده است.

برای مثال، اگر یک کاربر ایده و متن اولیه را بنویسد و سپس از ChatGPT بخواهد آن را ویرایش کند، وجود واترمارک نمی‌تواند میزان مشارکت انسان و مدل را مشخص کند.

همچنین واترمارک درباره مالکیت متن، مسئولیت قانونی، صحت اطلاعات یا میزان ویرایش انسانی نتیجه قطعی ارائه نمی‌دهد. OpenAI نیز به‌طور رسمی بر همین محدودیت تأکید کرده است.

آیا نبودن واترمارک یعنی متن انسانی است؟

باز هم پاسخ خیر است.

نبودن سیگنال می‌تواند دلایل مختلفی داشته باشد. متن ممکن است کوتاه باشد، تغییرات زیادی کرده باشد یا از یک مدل و مسیر خروجی پشتیبانی‌نشده آمده باشد.

به همین دلیل، بهتر است واترمارک را یک سیگنال منشأ بدانیم، نه یک آزمون قطعی برای تشخیص انسان از هوش مصنوعی.

🚀 آیا واترمارک ChatGPT کیفیت پاسخ‌ها را کاهش می‌دهد؟

طبق آزمایش‌های OpenAI، این شرکت تغییر معناداری در عملکرد مدل‌ها پس از فعال‌سازی واترمارک مشاهده نکرده است.

OpenAI می‌گوید تفاوت عملکرد مدل با واترمارک و بدون آن در آزمایش‌هایش در محدوده نوسان معمول نتایج قرار داشته است. این شرکت همچنین تأثیر textGrain بر سرعت مدل را ناچیز توصیف می‌کند.

البته باید توجه داشت که این نتایج از ارزیابی‌های خود OpenAI به دست آمده‌اند. برای قضاوت مستقل درباره عملکرد textGrain، نتایج آزمایش‌های پژوهشگران خارج از OpenAI نیز اهمیت دارند.

در نتیجه، فعلاً نمی‌توان گفت واترمارک باعث افت محسوس کیفیت ChatGPT می‌شود.

🌍 آیا OpenAI واترمارک را در سراسر جهان فعال می‌کند؟

فعلاً چنین تصمیمی به‌عنوان حالت پیش‌فرض جهانی اعلام نشده است.

OpenAI گفته است اجرای اولیه واترمارک متن را برای کاربران واجد شرایط ChatGPT و Codex در اتحادیه اروپا انجام می‌دهد. در عین حال، مشتریان API در سراسر جهان می‌توانند برای مدل‌های منتخب واترمارک را فعال کنند، اما این گزینه در API به‌صورت پیش‌فرض خاموش است.

این شرکت همچنین گفته است که تجربه واقعی کاربران و نتایج پژوهش‌ها می‌تواند به تصمیم‌های بعدی درباره توسعه فناوری کمک کند.

بنابراین اگر خارج از اتحادیه اروپا از ChatGPT استفاده می‌کنید، فعلاً نباید فرض کنید تمام متن‌های شما به‌صورت خودکار واترمارک می‌شوند.

🔐 آیا واترمارک OpenAI اطلاعات کاربر را هم ذخیره می‌کند؟

خود سیگنال واترمارک قرار نیست اطلاعاتی مانند نام کاربر، حساب کاربری یا متن درخواست را داخل خود نگه دارد.

OpenAI در توضیحات مربوط به provenance می‌گوید سیگنال‌های منشأ محتوای این شرکت اطلاعاتی درباره کاربر، سازمان یا prompt در اختیار قرار نمی‌دهند.

به بیان ساده، اگر یک آشکارساز textGrain را پیدا کند، قرار نیست از خود واترمارک بفهمد چه کسی متن را تولید کرده یا دقیقاً چه دستوری به ChatGPT داده است.

📊 OpenAI در آزمایش‌های textGrain به چه نتایجی رسیده است؟

OpenAI برای ارزیابی textGrain چندین آزمایش انجام داده است. نتایج منتشرشده نشان می‌دهند که طول متن، موضوع و میزان تغییرات روی متن، همگی روی تشخیص اثر می‌گذارند.

برای نمونه، در شرایط مشخص و با هدف نرخ مثبت کاذب یک درصد، آشکارساز در برخی متن‌های ۴۰۰ توکنی عملکرد بسیار بالایی داشت؛ اما وقتی متن کوتاه‌تر شد یا انعطاف زبانی کاهش پیدا کرد، نرخ تشخیص نیز پایین آمد.

این نتایج یک نکته مهم را نشان می‌دهند: textGrain یک ابزار تشخیص احتمالی است، نه یک برچسب قطعی و همیشگی.

OpenAI خودش نیز می‌گوید عملکرد خوب در شرایط آزمایشگاهی به معنی تشخیص کاملاً قابل اعتماد در دنیای واقعی نیست.

🧩 مزایا و محدودیت‌های واترمارک ChatGPT

واترمارک متن می‌تواند یک ابزار مهم برای شفافیت محتوای هوش مصنوعی باشد، اما نباید توانایی آن را بیش از اندازه بزرگ کرد.

مزایای textGrain

• کمک به شناسایی منشأ متن‌های تولیدشده با مدل‌های OpenAI
• ایجاد یک سیگنال ماشینی و قابل بررسی
• کمک به اجرای الزامات شفافیت اتحادیه اروپا
• امکان بررسی محتوای AI بدون اضافه کردن علامت قابل مشاهده
• حفظ ظاهر طبیعی متن برای خواننده
• ایجاد زمینه‌ای برای پژوهش بیشتر درباره منشأ محتوای AI

محدودیت‌های textGrain

• متن‌های کوتاه سخت‌تر تشخیص داده می‌شوند.
• کد محدودیت‌های بیشتری برای واترمارک دارد.
• تغییرات گسترده، ترجمه و بازنویسی می‌توانند تشخیص را دشوار کنند.
• تشخیص واترمارک به معنی اثبات نویسنده متن نیست.
• نبودن واترمارک به معنی انسانی بودن قطعی متن نیست.
• ابزار تشخیص OpenAI در شروع کار دسترسی عمومی ندارد.

🔎 تفاوت واترمارک ChatGPT با تشخیص‌دهنده‌های متن AI

یکی از سوءتفاهم‌های رایج این است که textGrain را همان AI Detector بدانیم.

ابزارهای رایج تشخیص متن AI معمولاً بعد از تولید محتوا وارد عمل می‌شوند. آن‌ها متن را دریافت می‌کنند و با بررسی الگوهایی مثل انتخاب واژه، ساختار جمله و ویژگی‌های آماری، احتمال تولید آن با AI را تخمین می‌زنند.

textGrain مسیر متفاوتی دارد. OpenAI سیگنال را هنگام تولید متن در الگوی انتخاب کلمات ایجاد می‌کند و سپس آشکارساز به دنبال همان سیگنال می‌گردد.

این تفاوت باعث می‌شود textGrain بیشتر یک فناوری اثبات منشأ باشد تا یک ابزار عمومی برای تشخیص تمام متن‌های تولیدشده با هوش مصنوعی.

اگر متنی را با یک مدل غیر OpenAI تولید کنید، textGrain قرار نیست آن را به‌عنوان متن تولیدشده با آن مدل شناسایی کند.

📰 این تغییر برای کاربران ChatGPT چه معنایی دارد؟

برای بیشتر کاربران عادی، احتمالاً در ظاهر اتفاق خاصی رخ نمی‌دهد.

شما همچنان سؤال خود را می‌نویسید و ChatGPT پاسخ می‌دهد. متن نیز همچنان مثل قبل قابل خواندن و کپی کردن خواهد بود. تفاوت اصلی این است که در برخی خروجی‌ها یک سیگنال آماری نامرئی در الگوی تولید متن قرار می‌گیرد.

تأثیر اصلی این تغییر بیشتر در سطح شفافیت، قانون‌گذاری، پژوهش و ابزارهای بررسی محتوا دیده خواهد شد.

برای ناشران، دانشگاه‌ها، پلتفرم‌های آنلاین و سازمان‌هایی که باید منشأ محتوای AI را بهتر بررسی کنند، چنین سیگنالی می‌تواند کاربرد بیشتری داشته باشد.

در عین حال، نباید از یک واترمارک انتظار داشت که به‌تنهایی مشخص کند یک متن «کاملاً انسانی» یا «کاملاً تولیدشده با AI» است.

❓ سوالات متداول درباره واترمارک ChatGPT

واترمارک ChatGPT چیست؟

واترمارک ChatGPT یک سیگنال آماری نامرئی به نام textGrain است که OpenAI آن را برای کمک به شناسایی منشأ متن تولیدشده با مدل‌هایش توسعه داده است.

آیا واترمارک ChatGPT دیده می‌شود؟

خیر. textGrain علامت قابل مشاهده، فاصله مخفی یا کاراکتر خاصی به متن اضافه نمی‌کند و در الگوی انتخاب کلمات قرار دارد.

آیا ChatGPT در ایران واترمارک دارد؟

OpenAI در حال حاضر اجرای واترمارک متن را برای ChatGPT و Codex در اتحادیه اروپا اعلام کرده است. برای API، کاربران سراسر جهان می‌توانند در مدل‌های منتخب این قابلیت را به‌صورت اختیاری فعال کنند.

آیا واترمارک ChatGPT اجباری است؟

برای خروجی واجد شرایط ChatGPT و Codex در اتحادیه اروپا، OpenAI اجرای آن را طی هفته‌های آینده آغاز می‌کند. در API، واترمارک هنگام شروع کار اختیاری و خاموش است.

textGrain چگونه کار می‌کند؟

textGrain الگوی آماری انتخاب کلمات و بخش‌های کلمات را هنگام تولید متن تغییر می‌دهد. سپس یک آشکارساز می‌تواند متن را برای پیدا کردن همان الگو بررسی کند.

آیا می‌توان واترمارک ChatGPT را تشخیص داد؟

بله، OpenAI برای این کار آشکارساز اختصاصی دارد؛ اما در شروع، دسترسی به آن را به پژوهشگران و سازمان‌های متخصص تأییدشده محدود کرده است.

آیا ویرایش متن واترمارک را حذف می‌کند؟

ویرایش گسترده، بازنویسی و ترجمه می‌تواند سیگنال را ضعیف کند و تشخیص را دشوارتر سازد. بنابراین نتیجه منفی آشکارساز الزاماً به معنی انسانی بودن متن نیست.

آیا واترمارک روی کدهای Codex هم وجود دارد؟

OpenAI واترمارک را برای خروجی واجد شرایط Codex در اتحادیه اروپا نیز در برنامه خود قرار داده است، اما کد به‌دلیل انتخاب‌های محدودتر نسبت به متن عادی، چالش‌های فنی بیشتری برای واترمارک دارد.

آیا واترمارک ChatGPT نویسنده متن را مشخص می‌کند؟

خیر. واترمارک فقط می‌تواند شواهدی درباره تولید یا پردازش محتوا با یک مدل OpenAI ارائه کند و نویسنده، مالکیت یا میزان مشارکت انسان را مشخص نمی‌کند.

آیا واترمارک ChatGPT کیفیت پاسخ‌ها را کاهش می‌دهد؟

طبق آزمایش‌های OpenAI، این شرکت کاهش معناداری در عملکرد مدل یا سرعت آن مشاهده نکرده است. با این حال، این نتایج از آزمایش‌های خود OpenAI به دست آمده‌اند و ارزیابی‌های مستقل نیز اهمیت دارند.

🏁 جمع‌بندی؛ واترمارک ChatGPT قرار است چه چیزی را تغییر دهد؟

واترمارک ChatGPT بیشتر از آنکه یک تغییر ظاهری برای کاربران باشد، یک تغییر در شیوه شناسایی منشأ محتوای تولیدشده با هوش مصنوعی است.

OpenAI با فناوری textGrain می‌خواهد یک سیگنال آماری نامرئی را در متن‌های تولیدشده با مدل‌های خود قرار دهد؛ سیگنالی که ابزار تشخیص بتواند آن را بررسی کند. اجرای این فناوری برای متن واجد شرایط ChatGPT و Codex در اتحادیه اروپا طی هفته‌های آینده آغاز می‌شود، در حالی که مشتریان API در سراسر جهان می‌توانند برای مدل‌های منتخب آن را به‌صورت اختیاری فعال کنند.

با این حال، نباید textGrain را یک آزمایش قطعی برای تشخیص انسان یا هوش مصنوعی بدانیم. متن کوتاه، کد، ترجمه و ویرایش گسترده می‌توانند تشخیص را دشوار کنند. از طرف دیگر، پیدا شدن واترمارک نیز مشخص نمی‌کند چه کسی متن را نوشته یا چه میزان از آن را انسان تولید کرده است.

در نهایت، ارزش اصلی این فناوری در ایجاد یک سیگنال قابل بررسی درباره منشأ محتوای OpenAI است؛ رویکردی که با افزایش استفاده از هوش مصنوعی و سخت‌گیرانه‌تر شدن قوانین شفافیت محتوا، احتمالاً اهمیت بیشتری پیدا خواهد کرد.

با آخرین تحولات هوش مصنوعی همراه شوید.

برای مطالعه جدیدترین اخبار فناوری، این بخش را دنبال کنید.

برای مشاهده مطالب مرتبط کلیک کنید…