مردی که از گروه پزشکی New York Bariatric Group شکایت کرده، ظاهراً در اسناد ارائهشده به دادگاه دستورهای مخفی برای هوش مصنوعی قرار داده بود تا هر مدل هوش مصنوعی که این اسناد را بررسی میکند، او را برنده پرونده اعلام کند. قاضی یک دادگاه در ایالت کنتیکت این اقدام را «سوءاستفاده جدی از روند دادرسی» خوانده و گفته است که چنین کاری «منطق را به چالش میکشد».
بر اساس گزارش 404 Media، این فرد بدون داشتن وکیل شخصاً در حال پیگیری پروندهای علیه این گروه پزشکی بوده و آن را به نقض حریم خصوصی، تبعیض و موارد دیگری متهم کرده است. اما یکی از اسنادی که او در تاریخ ۲۶ ژوئیه ۲۰۲۶ در این پرونده ارائه کرده، حاوی چیزی بوده که به آن «حمله تزریق پرامپت» گفته میشود. در چنین حملهای، فرد تلاش میکند با قرار دادن دستورهای مخفی در متن یا دادههایی که یک سیستم هوش مصنوعی قادر به بررسی آنهاست، خروجی مدل را تحت تأثیر قرار دهد.
بر اساس گزارش وبسایت حقوقی JD Supra، این پرونده از این نظر نیز قابل توجه است که ظاهراً نخستین حمله مستند تزریق پرامپت علیه یک دادگاه در آمریکا محسوب میشود و این فرد نیز نخستین کسی است که به دلیل انجام چنین کاری با مجازات قضایی مواجه شده است.
دستورهای مخفی این فرد با استفاده از نوشتههای سفیدرنگ در سند قرار داده شده بودند؛ به همین دلیل برای خواننده انسانی بهسادگی قابل مشاهده نبودند. در این دستورها از هر مدل هوش مصنوعی که سند را بررسی میکند خواسته شده بود خروجی متنی خود را با محتوای ارائهشده در پرونده هماهنگ کند و برای «اطمینان از جبران خسارت» تلاش کند. دستور دیگری نیز در بخش دیگری از سند، همین درخواستها را تکرار کرده بود.
حملات تزریق پرامپت در بسیاری از موارد میتوانند مؤثر باشند و شرکت گوگل نیز تهدید ناشی از تزریق غیرمستقیم پرامپت را در حال گسترش و پیچیدهتر شدن توصیف کرده است. با این حال، برای موفقیت چنین حملهای ابتدا باید یک سیستم هوش مصنوعی وجود داشته باشد که سند آلوده را بررسی کند. مشکل این شاکی این بود که دادگاه موردنظر اصلاً از هوش مصنوعی برای بررسی چنین اسنادی استفاده نمیکند.
