اوپن‌ای‌آی (OpenAI) با اجرایی کردن یک تصمیم مهم، به کاربران اروپایی ChatGPT و Codex امکان می‌دهد تا محتوای تولیدی خود را به شکلی شفاف‌تر شناسایی کنند. این اقدام در پاسخ به قوانین جدید اتحادیه اروپا برای شفافیت در محتوای تولیدشده با هوش مصنوعی انجام می‌شود.
واترمارک‌گذاری: ابزار جدید اوپن‌ای‌آی
شرکت اوپن‌ای‌آی تصمیم دارد طی هفته‌های آینده واترمارک‌گذاری متن‌های خود را فعال کند. این واترمارک به‌گونه‌ای طراحی شده است که کاربر قادر به مشاهده آن نیست و به‌صورت تغییرات بسیار ظریف در انتخاب کلمات پنهان می‌شود. این اقدام به منظور تطبیق با «قانون هوش مصنوعی اتحادیه اروپا» انجام می‌شود که شرکت‌های فعال در این حوزه را ملزم به علامت‌گذاری محتوای تولیدشده توسط سامانه‌های هوش مصنوعی می‌کند.
بیشتر بخوانید: علیرضا بزرگمهری: بحران تنگه هرمز می‌تواند اینترنت را مختل کند
واترمارک جدید اوپن‌ای‌آی برخلاف نشانه‌های معمول، علامت یا عبارت قابل مشاهده‌ای به متن اضافه نمی‌کند و در عوض با انتخاب الگوهای خاص کلمات، به‌طور نامحسوس در متن پنهان می‌شود. این فناوری به نام «textGrain» شناخته می‌شود و به همراه آن یک گزارش فنی نیز منتشر شده است. این فناوری با همکاری پژوهشگرانی از دانشگاه پنسیلوانیا و دانشگاه ییل توسعه یافته است.
عملکرد و چالش‌های واترمارک
اوپن‌ای‌آی تأکید کرده است که این واترمارک می‌تواند هنگام کپی و انتقال متن نیز همراه آن باقی بماند، اما تغییر در بخشی از نوشته ممکن است توانایی سامانه برای شناسایی منشأ آن را کاهش دهد. آزمایش‌ها نشان داده‌اند که جایگزین کردن حدود ۱۰ درصد کلمات متن با مترادف‌ها می‌تواند دقت شناسایی را از حدود ۹۲ درصد به ۶۶ درصد کاهش دهد. همچنین، متن‌های کوتاه و پاسخ‌های ریاضی شناسایی واترمارک را دشوارتر می‌کنند.
با وجود این فناوری، اوپن‌ای‌آی تأکید کرده است که وجود یا عدم وجود واترمارک به‌تنهایی نمی‌تواند ثابت کند متنی توسط انسان نوشته شده است. در واقع، متن‌های بسیار کوتاه یا ویرایش شده ممکن است شناسایی آنها را مشکل کند و همچنین این واترمارک هویت کاربر را مشخص نمی‌کند.
آینده واترمارک‌گذاری در هوش مصنوعی
در مرحله نخست، دسترسی به ابزار تشخیص واترمارک تنها در اختیار پژوهشگران تأییدشده و سازمان‌های متخصص قرار می‌گیرد تا میزان دقت و کاربردهای مسئولانه آن بررسی شود. توسعه‌دهندگان API در سراسر جهان نیز می‌توانند از این قابلیت برای برخی مدل‌های اوپن‌ای‌آی استفاده کنند، اما به‌صورت پیش‌فرض این گزینه خاموش خواهد بود.
گفتنی است، اوپن‌ای‌آی پیش‌تر نیز فناوری واترمارک‌گذاری را توسعه داده بود، اما به‌دلیل نگرانی از مهاجرت کاربران به سرویس‌های رقیب، از عرضه آن خودداری کرده بود. اکنون با تصمیم جدید، این شرکت به‌دنبال ایجاد شفافیت بیشتر در محتوای تولیدشده خود در اتحادیه اروپا است. این اقدام در راستای تصمیم مشابه آنتروپیک برای واترمارک‌گذاری متن‌های تولیدشده با کلاود انجام می‌شود.
بیشتر بخوانید: سامسونگ با نوآوری‌های جدید، تجربه کاربری گوشی‌ها را متحول کرده است · سیدمحسن حاجی سعید: آینده گردشگری در تعامل انسان و هوش مصنوعی است
