شرکت Anthropic اخیراً تصمیم گرفته خروجیهای هوش مصنوعی Claude را واترمارک کند. در این روش، کد نامرئی داخل متن تولیدشده توسط چتبات قرار میگیرد تا سیستمهای کامپیوتری بتوانند تشخیص دهند که متن توسط هوش مصنوعی تولید شده است.
Anthropic این سیاست جدید را برای هماهنگی با «قانون هوش مصنوعی اتحادیه اروپا» و الزامات شفافیت آن اجرا کرده است. بر اساس این مقررات، شرکتهای فناوری باید محتوایی را که توسط هوش مصنوعی تولید یا ویرایش شده، به شکلی قابل تشخیص برای سیستمهای کامپیوتری مشخص کنند. با این حال، در حالی که این اقدام احتمالاً رضایت نهادهای نظارتی اروپا را به همراه دارد، برخی کاربران هوش مصنوعی از آن ناراضی هستند.
در ردیت میتوان نشانههایی از این نارضایتی را مشاهده کرد، هرچند همه کاربران این سایت با چنین دیدگاهی موافق نیستند. یکی از پستهای انتقادی، با لحنی بسیار تند، توسط کاربری با نام visionode منتشر شده است؛ حسابی که تنها حدود سه هفته از ایجاد آن میگذرد. به گفته این کاربر، سیستم جدید واترمارکگذاری یک طرح سختگیرانه و توطئهآمیز است که کاربران عادی چتباتها را در سراسر جهان هدف قرار میدهد.
استدلال اصلی این کاربر ظاهراً این است که کاربران حرفهای Claude میتوانند با بازنویسی متن یا استفاده از سایر سرویسهای هوش مصنوعی، نشانههای استفاده از هوش مصنوعی را از خروجیها حذف کنند، اما کاربران عادی Claude ممکن است بهراحتی شناسایی شوند.
«چه کسی گرفتار خواهد شد؟ شما. دانشجویی که از Claude خواسته یک پاراگراف را مرتب و بازنویسی کند. روزنامهنگاری که از هوش مصنوعی خواسته یک متن ۲۰۰ صفحهای را خلاصه کند. نویسندهای که با مشکل کمبود ایده مواجه شده و از هوش مصنوعی برای پیدا کردن مترادف استفاده کرده است. این افراد در پایان کار، انگار یک برچسب دیجیتال روی پیشانی خود دارند.»
با وجود این، به نظر میرسد نمونههایی که visionode برای نشان دادن اعتراض خود مطرح کرده، چندان مناسب نیستند. برای مثال، روزنامهنگاری که از هوش مصنوعی میخواهد یک متن ۲۰۰ صفحهای را خلاصه کند، دلیلی برای نگرانی از وجود واترمارک روی آن خلاصه ندارد؛ مگر اینکه همان متن تولیدشده را بدون هیچ تغییری در مقاله خود کپی و منتشر کند که اقدامی غیراخلاقی و طبیعتاً نادرست است.
