با قدرتمندتر شدن مدلهای هوش مصنوعی، امکان سوءاستفاده از این مدلها نیز افزایش یافته است. به همین دلیل، درخواستها برای ایجاد سازوکارهای امنیتی که بتوانند از چنین سوءاستفادههایی جلوگیری کنند، بیشتر شده است. شرکتهای هوش مصنوعی اکنون باید تعادل حساسی برقرار کنند؛ از یک سو باید به حریم خصوصی مشتریان سازمانی خود احترام بگذارند و از سوی دیگر، نحوه استفاده از خدماتشان را برای شناسایی مشکلات احتمالی زیر نظر داشته باشند.
به نظر میرسد OpenAI با استفاده از این فرصت قصد دارد از رقیب خود، Anthropic، پیشی بگیرد. این شرکت بهتازگی یک روش امنیتی جدید و مبتنی بر حفظ حریم خصوصی برای نظارت بر سوءاستفادهها معرفی کرده است. OpenAI در حال ارائه آزمایشی سرویس جدیدی به نام «پردازش خصوصی ایمنی» یا Private Safety Processing برای برخی مشتریان منتخب است. این سیستم بهصورت خودکار استفاده از مدلها را برای شناسایی سوءاستفادههای احتمالی بررسی میکند، در حالی که هیچیک از دادههای مشتری را ذخیره نمیکند.
این سیستم OpenAI تفاوت زیادی با سیاست جدید نگهداری دادههای Anthropic دارد. این سیاست که باعث نگرانی برخی مشتریان شده، به شرکت اجازه میدهد دادههای کاربران، شامل تمام جلسات و مکالمات آنها، را در مورد «مدلهای تحت پوشش» به مدت ۳۰ روز نگهداری کند. طبق اعلام Anthropic، این مدلها شامل تمام مدلهای کلاس Mythos و همچنین مدلهای آینده با قابلیتهای مشابه هستند.
این سیاست که در ماه ژوئیه اعلام شد، با هدف افزایش ایمنی طراحی شده است تا Anthropic بتواند دادهها را بررسی و موارد احتمالی سوءاستفاده یا رفتار نامناسب را شناسایی کند. با این حال، برخی شرکتها که با حجم زیادی از اطلاعات حساس سروکار دارند، بهشدت نسبت به این موضوع ابراز نگرانی کردهاند؛ زیرا نمیخواهند این اطلاعات توسط شرکت هوش مصنوعی نگهداری یا بررسی شود.
OpenAI نیز مانند بسیاری از شرکتهای دیگر حوزه هوش مصنوعی، پیش از این با استفاده از سیاستی به نام «عدم نگهداری داده» یا Zero Data Retention، سطحی از حریم خصوصی را برای مشتریان خود فراهم کرده است. در این روش، ابزارهای موجود در API شرکت OpenAI هر جلسه را برای شناسایی سوءاستفاده احتمالی بررسی میکنند. به این ترتیب، اطلاعات مشتریان در شرکت نگهداری نمیشود، اما امکان شناسایی فعالیتهای مخرب بدون نیاز به بررسی انسانی وجود دارد. البته Anthropic نیز در بیشتر موارد از سیاست عدم نگهداری داده پیروی میکند، اما مدلهای «تحت پوشش»، مانند Fable، از این قاعده مستثنی هستند.
