در میان همه بحثهایی که درباره پیامدهای احتمالی هوش مصنوعی مطرح است، یکی از نگرانیها بیش از همه در میان فعالان و حامیان این فناوری در سیلیکونولی مورد توجه قرار گرفته است. این نگرانی به شرکتهای بزرگ توسعهدهنده مدلهای اختصاصی هوش مصنوعی مربوط میشود که برخی معتقدند ممکن است مانند «اسب تروا» عمل کنند.
منتقدان میگویند هرچه استارتاپها و شرکتها بیشتر از مدلهای هوش مصنوعی شرکتهایی مانند اوپنایآی و آنتروپیک استفاده کنند، این شرکتها به حجم بیشتری از اطلاعات حساس و محرمانه کسبوکارهای مشتریان خود دسترسی پیدا میکنند. به باور آنها، توسعهدهندگان این مدلها ممکن است از این اطلاعات برای منافع خود استفاده کرده و در نهایت به رقیب مشتریانشان تبدیل شوند.
این هشدار از سوی افراد مختلفی، از جمله جیسون کالاکانیس، سرمایهگذار خطرپذیر، و الکس کارپ، مدیرعامل پالانتیر، مطرح شده است.
ساتیا نادلا، مدیرعامل مایکروسافت، در مطلبی که روز یکشنبه منتشر کرد، به جمع افرادی پیوست که درباره خطرات استفاده از مدلهای هوش مصنوعی اختصاصی هشدار میدهند. او معتقد است کاربران هوش مصنوعی، یا به تعبیر خودش «خریداران»، در واقع دو بار هزینه میپردازند؛ یک بار با پرداخت پول برای استفاده از مدلها و بار دیگر با واگذاری ناخواسته اطلاعات ارزشمند و محرمانه خود.
نادلا نوشت: «شما عملاً دو بار برای هوش مصنوعی هزینه میکنید؛ یک بار با پول و بار دیگر با چیزی ارزشمندتر، یعنی دانشی که باید برای مفید بودن این هوش در اختیار آن قرار دهید. هرچه بخواهید مدل عملکرد بهتری داشته باشد، باید اطلاعات بیشتری به آن بدهید.»
او هشدار داد که شرکتها در عمل در حال آموزش دادن مدلهای هوش مصنوعی درباره جزئیات و ویژگیهای خاص کسبوکار خود هستند.
به گفته نادلا، مدلهای هوش مصنوعی از دادههایی مانند درخواستهای کاربران، ابزارهایی که عاملهای هوش مصنوعی از آنها استفاده میکنند و بهویژه اصلاحاتی که کاربران هنگام اشتباه بودن پاسخها انجام میدهند، یاد میگیرند. او تأکید کرد که هر اصلاح، بخشی از دانش و تجربه سازمانی را به این مدلها منتقل میکند.
نادلا افزود این نوع دانش، همان اطلاعاتی است که هیچ رقیبی نمیتواند بهسادگی آن را خریداری کند، اما شرکتها عملاً خودشان آن را در اختیار توسعهدهندگان مدلهای هوش مصنوعی قرار میدهند.
