اوایل ماه اوت، متیو گرین، استاد رمزنگاری، در شبکه اجتماعی ایکس رشتهپستی بحثبرانگیز منتشر کرد که در میان جامعه امنیت سایبری بهسرعت مورد توجه قرار گرفت. او همچنین مطلب مفصلتری در وبلاگ خود منتشر کرد.
گرین که سالهاست بحث استفاده دولتها از ابزارهای هکری برای مقابله با جرایم و همچنین ضرورت استفاده از رمزنگاری قدرتمند برای حفظ حریم خصوصی افراد عادی را دنبال میکند، یک احتمال قابلتأمل را مطرح کرده است: اگر هوش مصنوعی آنقدر تعداد باگهای نرمافزاری را کاهش دهد که نیروهای پلیس و سازمانهای اطلاعاتی دیگر نتوانند بهصورت قانونی از این آسیبپذیریها برای هک مجرمان استفاده کنند، چه اتفاقی خواهد افتاد؟
گرین نوشته است که نگران است هوش مصنوعی باعث شود نرمافزارها بیش از حد امن شوند. به گفته او، اگر شرکتها بتوانند حجم بیسابقهای از آسیبپذیریهای امنیتی را شناسایی و برطرف کنند، ممکن است دولت آمریکا دیگر به آسیبپذیریهای لازم برای هک اهدافی که باید تحت نظر داشته باشد، دسترسی نداشته باشد.
نیروهای پلیس و سازمانهای امنیتی سالهاست استدلال میکنند که رمزنگاری، شناسایی مجرمان و تروریستها را دشوار کرده است. مفهوم «تاریک شدن» یا Going Dark در سال ۲۰۱۴ بیشتر مطرح شد؛ زمانی که جیمز کومی، رئیس وقت FBI، هشدار داد رمزنگاری میتواند توانایی مقامات برای شنود مکالمات یا دسترسی به اطلاعات موجود روی دستگاهها را محدود کند.
 |
| متیو گرین |
در همان دوره، اپلیکیشنهایی مانند Signal، WhatsApp و iMessage استفاده گسترده از رمزنگاری سرتاسری را آغاز کردند و شنود سنتی تماسها و پیامهای متنی را تقریباً غیرممکن کردند. شرکتهایی مانند اپل نیز رمزنگاری اطلاعات ذخیرهشده روی دستگاههای خود را بهصورت پیشفرض فعال کردند که نفوذ به آیفونهای محافظتشده با رمز عبور یا PIN قدرتمند را دشوارتر کرد.
با این حال، از آن زمان تاکنون مقامات همچنان توانستهاند مجرمان را شناسایی و دستگیر کنند و حتی در برخی موارد با هک کردن دستگاههای آنها به اطلاعات مورد نیاز دست پیدا کنند. در عین حال، افراد عادی نیز به لطف رمزنگاری توانستهاند از سطح مناسبی از حریم خصوصی برخوردار باشند.
گرین معتقد است بخشی از دلیل این وضعیت، وجود نوعی «آتشبس ناآرام» میان دولتها و صنعت فناوری بوده است. دولتها بهجای اینکه از شرکتها بخواهند در دستگاهها درِ پشتی ایجاد کنند تا امکان دسترسی مقامات به اطلاعات فراهم شود، بودجه زیادی را برای خرید ابزارهای هک و جاسوسافزار اختصاص دادهاند؛ ابزارهایی که میتوانند امنیت دستگاهها و کاربرانشان را دور بزنند.
از نظر گرین، هوش مصنوعی میتواند این وضعیت را برهم بزند. طبق وعدههای شرکتهای فعال در این حوزه و برخی دادههای اولیه، مدلهای زبانی بزرگ در حال تبدیل شدن به ابزارهایی سریعتر و قدرتمندتر برای شناسایی گسترده آسیبپذیریهای امنیتی هستند.
در نتیجه، ممکن است شرکتها در آینده بتوانند نرمافزارها و سیستمهایی تولید کنند که تعداد بسیار کمتری باگ امنیتی داشته باشند و در برابر حملات نیز مقاومتر باشند.
گرین معتقد است پیامد نهایی چنین شرایطی میتواند این باشد که دولتها دوباره از شرکتها درخواست ایجاد «درِ پشتی» در محصولات و دستگاهها کنند؛ اقدامی که در نهایت میتواند امنیت دستگاههای همه کاربران را از همان ابتدا کاهش دهد.
برای بررسی دیدگاه گرین، با چندین نفر از کارشناسان حوزه حریم خصوصی و امنیت سایبری و همچنین هکرهایی که در زمینه توسعه ابزارهای هک برای دولتها تجربه دارند، گفتوگو شده است. برخی با نظر گرین موافق هستند، برخی مخالفاند و عدهای نیز معتقدند هر دو طرف این بحث میتوانند درست باشند.
لونا تانگ، پژوهشگری که پیشتر در دو شرکت مطرح فعال در زمینه شناسایی باگها و توسعه اکسپلویت برای کمک به دولتها در نفوذ به سیستمها کار کرده است، با نظر گرین موافق است. او میگوید در حال حاضر با نوعی «تب طلای باگها» مواجه هستیم، اما این وضعیت موقتی است و بهزودی پیدا کردن آسیبپذیریهای جدید دوباره دشوار خواهد شد.
یک پژوهشگر دیگر که بیش از ۱۰ سال در شرکتهای فعال در حوزه امنیت تهاجمی فعالیت داشته، نیز میگوید نگران است هوش مصنوعی در نهایت پژوهشگران امنیتی انسانی را بیاستفاده کند. به گفته او، اگر پیدا کردن باگها برای انسانها بسیار دشوارتر شود، در نهایت نیروهای دفاعی در حوزه امنیت سایبری دست بالاتر را نسبت به متخصصان امنیت تهاجمی خواهند داشت. این فرد برای اینکه بتواند آزادانهتر درباره موضوع صحبت کند، نخواست نامش منتشر شود.
پائولو استانیو، مدیر فناوری شرکت Crowdfense، میگوید: «واضح است که هیچ دولتی امکان نظارت را کنار نخواهد گذاشت.» این شرکت در زمینه شناسایی، خرید و فروش آسیبپذیریهای ناشناخته امنیتی، که به آنها «زیرو-دی» گفته میشود، فعالیت دارد و این آسیبپذیریها را در اختیار دولتها قرار میدهد.
استانیو توضیح میدهد که روش فعلی، یعنی اینکه دولتها برای نفوذ به دستگاهها مجبور باشند از آسیبپذیریهای امنیتی استفاده کنند، «دموکراتیکترین سیستمی است که در اختیار داریم». با این حال، او معتقد است اگر پیدا کردن باگهای امنیتی بیش از حد دشوار شود، این وضعیت موجود ممکن است دیگر دوام نیاورد.
