شناسایی قاتل به کمک الگوریتم

 در جدیدترین نمونه از «ما دقیقاً همان چیزی را ساختیم که در رمان علمی‌تخیلی کلاسیک گفته شده نسازید»، روزنامه گاردین گزارش داده که دولت بریتانیا در حال توسعه یک الگوریتم پیش‌بینی است که هدفش شناسایی افرادی است که احتمال دارد در آینده مرتکب قتل شوند. چه چیزی ممکن است اشتباه پیش برود، مگر نه؟

بر اساس این گزارش که از طریق درخواست‌های دسترسی به اطلاعات توسط سازمان شفافیت‌طلب Statewatch به دست آمده، وزارت دادگستری بریتانیا مأمور طراحی سیستمی برای پروفایل‌سازی شده که بتواند افرادی را که به نظر می‌رسد توانایی ارتکاب جرائم خشن و جدی را دارند، قبل از انجام جرم شناسایی کند. این پروژه که ابتدا پروژه پیش‌بینی قتل (Homicide Prediction Project) نام داشت و بعدها برای کاهش وجهه دیستوپیایی‌اش به اشتراک‌گذاری داده‌ها برای بهبود ارزیابی ریسک (Sharing Data to Improve Risk Assessment) تغییر نام داد، داده‌های بین ۱۰۰هزار تا ۵۰۰هزار نفر را برای ساخت مدل‌هایی جمع‌آوری کرده که به دنبال پیش‌بینی خطر قتل هستند.

این پروژه شامل داده‌هایی از وزارت دادگستری، وزارت کشور، پلیس منچستر بزرگ، و پلیس متروپولیتن لندن است. این داده‌ها صرفاً شامل افراد دارای سابقه کیفری نیستند، بلکه شامل مظنونانی که محکوم نشده‌اند، قربانیان، شاهدان، و افراد ناپدیدشده نیز می‌شوند. همچنین اطلاعاتی در مورد سلامت روان، اعتیاد، خودزنی، خودکشی، آسیب‌پذیری و ناتوانی جسمی-روانی افراد در این داده‌ها لحاظ شده—نشانگرهایی که وزارت دادگستری آن‌ها را دارای «قدرت پیش‌بینی قابل توجه» دانسته است. گاردین گزارش داده که مقامات دولتی استفاده از داده‌های قربانیان یا افراد آسیب‌پذیر را رد کرده و اصرار دارند که فقط از اطلاعات افرادی استفاده شده که دست‌کم یک محکومیت کیفری داشته‌اند.

به هر حال، وقتی دولت یک سیستم نظارتی بر پایه پیش‌فرض‌های آماری طراحی می‌کند که ممکن است سرنوشت انسان‌ها را بر اساس احتمال وقوع جرم رقم بزند، واقعاً چه چیز ممکن است اشتباه پیش برود؟