با در دسترس قرار گرفتن گسترده مدلهای زبانی بزرگ (LLM)، تولید و انتشار انبوه محتوای اسپم در اینترنت برای افراد سودجو آسانتر از همیشه شده است. در نتیجه، محتوای تبلیغاتی ناخواسته و فعالیت رباتها در سالهای اخیر به یکی از بزرگترین چالشهای فضای آنلاین تبدیل شده است.
ردیت اعلام کرده است که برای مقابله با این مشکل، ابزارهای جدیدی مبتنی بر هوش مصنوعی و مدلهای زبانی بزرگ توسعه داده است؛ در حالی که بخش زیادی از همین اسپمها نیز با استفاده از همین فناوری تولید میشوند. به گفته این شرکت، ردیت اکنون روزانه از مشاهده حدود ۲۳ میلیون محتوای اسپم توسط کاربران جلوگیری میکند و هر روز نزدیک به ۲۵ هزار پست و نظر اسپم جدید را شناسایی و حذف میکند.
اگرچه شبکههای اجتماعی سالهاست از ابزارهای خودکار برای مقابله با اسپم استفاده میکنند، ردیت میگوید نسخه جدید این ابزارها عملکرد بهتری دارد و میزان بیشتری از محتوای اسپم را شناسایی میکند.
این شرکت اعلام کرده است که از مدلهای زبانی بزرگ برای شناسایی الگوهای پیچیده و هماهنگ رفتارهای جعلی و تبلیغات مصنوعی استفاده میکند؛ الگوهایی که سامانههای قدیمی قادر به تشخیص آنها نبودند. به گفته ردیت، این فناوری باعث شده میزان مواجهه کاربران با محتوای اسپم در فاصله ژانویه تا مارس، نسبت به سه ماه قبل از آن، ۲۰ درصد کاهش یابد.
در همین حال، پلتفرمهایی مانند یوتیوب، متا و اینستاگرام به کاربران اجازه انتشار محتوای تولیدشده با هوش مصنوعی را میدهند، مشروط بر اینکه این موضوع را اعلام کنند. تیکتاک نیز حتی قابلیتی در اختیار کاربران قرار داده است تا میزان نمایش محتوای تولیدشده با هوش مصنوعی را بر اساس ترجیح خود تنظیم کنند.
کارشناسان معتقدند اگر پلتفرمها بتوانند محتوای تولیدشده با هوش مصنوعی را سریعتر شناسایی کنند، این توانایی میتواند به تشخیص سریعتر محتوای ناقض قوانین، مانند نفرتپراکنی، نیز کمک کند. با این حال، متخصصان همواره تأکید میکنند که استفاده از هوش مصنوعی برای مدیریت محتوا باید در کنار نظارت انسانی باشد تا بهترین نتیجه حاصل شود.
