مدل‌های هوش مصنوعی روزبه‌روز پیشرفته‌تر می‌شوند و می‌توانند وظایف مختلفی را از طرف کاربران انجام دهند؛ از خرید اینترنتی گرفته تا رزرو سفر و تعیین وقت ملاقات. البته این قابلیت‌ها دست‌کم در تئوری مطرح هستند. برخی از پیشرفته‌ترین مدل‌ها حتی در آزمایش‌های داخلی از کنترل خارج شده‌اند، از محیط‌های آفلاین فرار کرده‌اند و بدون مجوز به سامانه‌های متعلق به اشخاص ثالث دسترسی پیدا کرده‌اند.
بااین‌حال، مشخص شده است که مدل‌های هوش مصنوعی ضعیف‌تر نیز می‌توانند مشکلاتی ایجاد کنند.
به گزارش رسانه‌های محلی، اداره پلیس فیلادلفیا روز جمعه اعلام کرد که یک مدل هوش مصنوعی توسعه‌یافته توسط شرکت آنتروپیک، در جریان یک آزمایش داخلی، گزارشی نادرست درباره یک پرونده قتل حل‌نشده ارسال کرده است.
این گزارش در ۱۸ ژوئیه از طریق فرمی در وب‌سایت PhillyUnsolvedMurders.com، متعلق به اداره پلیس، ثبت شد. خوشبختانه، سامانه آن را به‌عنوان هرزنامه شناسایی کرد و گزارش هرگز به دست مأموران تحقیق نرسید.
شرکت آنتروپیک تا ۲۸ سپتامبر از این اتفاق مطلع نشد و در ۷ اکتبر موضوع را به اداره پلیس اطلاع داد. نمایندگان این شرکت و پلیس نیز روز بعد با یکدیگر دیدار کردند.
بااین‌حال، اداره پلیس از آنتروپیک به دلیل شناسایی نکردن این اتفاق در زمان مناسب انتقاد کرد و از شرکت خواست تدابیر حفاظتی خود را تقویت کند.
