با قدرتمندتر شدن عاملهای هوش مصنوعی، شرکتهایی که بهسرعت در حال بهکارگیری آنها در نرمافزارها، فرایندهای کاری و محصولات خود هستند، با چالش جدیدی روبهرو شدهاند: اطمینان از اینکه این عاملها در محیطهای مختلف دقیقاً همان کاری را انجام دهند که برای آن طراحی شدهاند.
Microsoft برای حل این مشکل یک استاندارد متنباز جدید به نام Agent Control Specification (ACS) معرفی کرده است. هدف این استاندارد فراهم کردن روشی یکپارچهتر و دقیقتر برای کنترل اقداماتی است که عاملهای هوش مصنوعی مجاز به انجام آن هستند.
این مشخصات به تیمهای توسعه، امنیت و انطباق مقررات اجازه میدهد سیاستهای اختصاصی خود را برای عاملهای هوش مصنوعی تعریف کنند. این قوانین مشخص میکنند عامل چه کارهایی میتواند انجام دهد، از انجام چه اقداماتی منع شده است، در چه شرایطی باید تأیید انسانی دریافت کند و چه اطلاعاتی باید برای بررسیهای بعدی ثبت شود. این فایلهای سیاستی در چندین نقطه کنترلی هنگام انجام وظایف توسط عامل بررسی میشوند تا اطمینان حاصل شود که از چارچوبهای تعیینشده خارج نمیشود.
معرفی این استاندارد در شرایطی انجام شده است که توسعهدهندگان تاکنون روشهای مختلفی را برای کنترل رفتار و دسترسی هوش مصنوعی بهصورت موقت و پراکنده به کار گرفتهاند. این موضوع بهویژه پس از افزایش گزارشها درباره اختلال در گردشکارهای مبتنی بر هوش مصنوعی، سوءاستفاده از ابزارها یا اقدامهای ناخواستهای که به زنجیرهای از خطاها منجر میشوند، اهمیت بیشتری پیدا کرده است.
در حال حاضر توسعهدهندگان معمولاً دستورالعملهای لازم را در قالب system prompt تعریف میکنند، کنترلهای سفارشی را در کد برنامه قرار میدهند یا از طبقهبندها برای شناسایی ورودیها و خروجیهای مشکلساز استفاده میکنند. اگرچه این روشها کارآمد هستند، اما اغلب باعث ایجاد مجموعهای پراکنده از کنترلها میشوند که حسابرسی آنها دشوار است و استفاده مجدد از آنها در چارچوبها، رابطها و سیستمهای مختلف نیز بهسادگی امکانپذیر نیست.
ACS با هدف یکپارچهسازی این کنترلها در قالب یک لایه مشترک حاکمیتی طراحی شده است. Microsoft اعلام کرده که این استاندارد میتواند در چندین مرحله از فرایند کاری عامل هوش مصنوعی بررسی کند که آیا عامل به محدودیتها و قوانین تعیینشده پایبند است یا خیر؛ از جمله پیش از دریافت ورودی، قبل از فراخوانی یک ابزار، پس از دریافت نتیجه از ابزار و پیش از ارسال پاسخ نهایی به کاربر. یک سیاست میتواند انجام یک اقدام را مجاز اعلام کند، آن را مسدود کند، اطلاعات حساس را حذف یا پنهان کند یا حتی تأیید یک انسان را برای ادامه کار الزامی بداند.
توسعهدهندگان همچنین میتوانند از طبقهبندهای ورودی و خروجی برای دستهبندی اطلاعات، پیشبینی نتایج یا تعیین نحوه پاسخدهی عامل استفاده کنند. علاوه بر این، امکان بهکارگیری مدلهای زبانی بزرگ همراه با promptهای اختصاصی وجود دارد تا نقش «داور» را در اجرای سیاستها ایفا کنند. همچنین میتوان منطقهای کنترلی مختلفی را برای بررسی فراخوانی ابزارها، انتخاب ابزار مناسب، صحت ورودیها، نحوه استفاده از خروجیها و پاسخهای تولیدشده تعریف کرد.
از آنجا که این سیاستها میتوانند در قالب فایلهای واحد نوشته شوند، امکان بستهبندی آنها همراه با عاملهای هوش مصنوعی وجود دارد. به این ترتیب، یک سیاست امنیتی میتواند هنگام انتقال عامل میان چارچوبها و محیطهای مختلف نیز همراه آن باقی بماند و بهصورت یکپارچه اجرا شود.
ACS بهصورت یک SDK عرضه شده و از افزونههایی برای LangChain، OpenAI Agents SDK، Anthropic Agents SDK، AutoGen، CrewAI، Semantic Kernel، Microsoft.Extensions.AI، ابزارهای MCP و سایر پلتفرمها پشتیبانی میکند.
