برت لوِنسون در سال ۲۰۱۹ شرکت Apple را ترک کرد تا مسئولیت بخش یکپارچگی کسبوکار در Facebook را بر عهده بگیرد؛ زمانی که این شبکه اجتماعی درگیر پیامدهای رسوایی Cambridge Analytica scandal بود. او در ابتدا فکر میکرد میتواند مشکل نظارت بر محتوا را با فناوری بهتر حل کند.
اما خیلی زود فهمید که مشکل عمیقتر از فناوری است. به گفته او، ناظران انسانی باید یک سند ۴۰ صفحهای را که با ترجمه ماشینی به زبانشان برگردانده شده بود حفظ میکردند. سپس برای هر محتوای گزارششده فقط حدود ۳۰ ثانیه وقت داشتند تا تصمیم بگیرند آیا آن محتوا قوانین را نقض کرده یا نه و چه اقدامی باید انجام شود، مانند حذف محتوا، مسدود کردن کاربر یا محدود کردن انتشار آن. این تصمیمهای سریع فقط کمی بیشتر از ۵۰ درصد دقت داشتند.
او گفته است که این وضعیت شبیه انداختن سکه بود و حتی زمانی که تصمیم درست گرفته میشد، اغلب چند روز بعد از وقوع آسیب بود.
این نوع رویکرد کند و واکنشی در دنیایی که بازیگران مخرب سریع و دارای منابع مالی قوی هستند، پایدار نیست. با گسترش چتباتهای هوش مصنوعی، این مشکل شدیدتر شده و شکست در نظارت بر محتوا باعث بروز حوادث مهمی شده است، مانند ارائه راهنمای خودآزاری به نوجوانان توسط چتباتها یا عبور تصاویر تولیدشده با هوش مصنوعی از فیلترهای ایمنی.
ناامیدی لوِنسون باعث شد ایده «سیاست بهعنوان کد» شکل بگیرد؛ روشی برای تبدیل اسناد ثابت سیاستگذاری به منطق اجرایی و قابلبهروزرسانی که بهطور مستقیم با اجرای قوانین مرتبط است. همین ایده به تأسیس شرکت Moonbounce منجر شد؛ شرکتی که طبق گزارش TechCrunch، روز جمعه اعلام کرد ۱۲ میلیون دلار سرمایه جذب کرده است. این سرمایهگذاری با هدایت مشترک Amplify Partners و StepStone Group انجام شده است.
مونباونس با شرکتها همکاری میکند تا یک لایه ایمنی اضافی در هر جایی که محتوا تولید میشود، چه توسط کاربران و چه توسط هوش مصنوعی، فراهم کند. این شرکت یک مدل زبانی بزرگ اختصاصی آموزش داده که میتواند اسناد سیاستی مشتری را بررسی کند، محتوا را در لحظه ارزیابی کند، در کمتر از ۳۰۰ میلیثانیه پاسخ بدهد و اقدام لازم را انجام دهد. بسته به نیاز مشتری، این اقدام میتواند شامل کاهش سرعت انتشار محتوا تا زمان بررسی انسانی یا مسدود کردن فوری محتوای پرریسک باشد.
در حال حاضر، مونباونس در سه حوزه اصلی فعالیت میکند: پلتفرمهایی که با محتوای تولیدشده توسط کاربران سروکار دارند مانند اپلیکیشنهای دوستیابی، شرکتهای هوش مصنوعی که کاراکترها یا همراههای مجازی میسازند، و تولیدکنندگان تصاویر مبتنی بر هوش مصنوعی.
