آنتروپیک جزئیات واترمارک‌های جدید کلود را فاش کرد

آنتروپیک، شرکت سازنده دستیار هوش مصنوعی کلود، جزئیات جدیدی درباره نحوه عملکرد فناوری واترمارک‌گذاری خود منتشر کرده است. این سیستم با هدف جاسازی نشانه‌های نامرئی در متن‌های تولیدشده توسط کلود طراحی شده تا شناسایی محتوای هوش مصنوعی حتی پس از ویرایش یا انتشار آن ممکن باشد.

یکی از مهم‌ترین نگرانی‌ها درباره واترمارک‌ها این است که آیا می‌توان آن‌ها را از طریق ویرایش ساده حذف کرد یا نه. آنتروپیک اعلام کرده که رویکرد آن‌ها در برابر دستکاری‌های رایج متنی مانند جایگزینی کلمات، تغییر ساختار جملات و بازفرمت‌بندی پاراگراف‌ها مقاوم است. این موضوع آن را نسبت به راه‌حل‌های ساده‌تر مبتنی بر متادیتا که به‌راحتی قابل حذف هستند، به مراتب قوی‌تر می‌کند.

سوال دیگری که مطرح شده این است که واترمارک‌گذاری چه تأثیری بر تولید کد دارد. از آنجا که کلود به‌طور گسترده برای نوشتن و اشکال‌زدایی کد استفاده می‌شود، توسعه‌دهندگان نگران بودند که نشانه‌های جاسازی‌شده با عملکرد کد تداخل ایجاد کنند. آنتروپیک اعلام کرده که مکانیزم واترمارک‌گذاری به‌گونه‌ای طراحی شده که از ساختار کد آگاه است و نشانه‌های جاسازی‌شده در خروجی برنامه‌نویسی عملکرد کد را مختل نمی‌کنند.

با گسترش روزافزون محتوای تولیدشده توسط هوش مصنوعی در فضای آنلاین، فناوری‌های واترمارک‌گذاری نقش مهمی در حفظ شفافیت و پاسخگویی خواهند داشت. چارچوب‌های نظارتی مانند قانون هوش مصنوعی اتحادیه اروپا نیز بر افشای واضح محتوای تولیدشده توسط هوش مصنوعی تأکید دارند که این موضوع سیستم واترمارک‌گذاری آنتروپیک را به‌موقع و از نظر استراتژیک اهمیت‌دار می‌کند.