اوپنایآی روز پنجشنبه از Astra، جدیدترین مدل هوش مصنوعی خود، رونمایی کرد و مدعی شد که این مدل قدرتمندترین و توانمندترین مدل این شرکت تاکنون است.
اوپنایآی میگوید Astra «مرزهای جدیدی در استفاده از کامپیوتر و مرورگر» ایجاد میکند و میتواند وظایف مختلف را با سرعت، دقت و ایمنی بیسابقه انجام دهد.
این مدل از روز پنجشنبه در اختیار مشتریان اوپنایآی قرار گرفته که از برنامه امنیت سایبری Daybreak استفاده میکنند. طی هفته آینده نیز Astra برای کاربران طرحهای پولی، از جمله حسابهای Pro، Plus، Enterprise و Business و همچنین از طریق API در دسترس قرار خواهد گرفت.
گرگ براکمن، رئیس اوپنایآی، روز پنجشنبه در گفتوگو با خبرنگاران گفت Astra «هوشمندترین و همچنین، که بسیار مهم است، همراستاترین مدل» این شرکت تاکنون است. او افزود این مدل حاصل سالها تحقیق و سرمایهگذاریهای بزرگ اوپنایآی است که هر پیشرفت، زمینهساز پیشرفت بعدی شده و در نهایت تغییر قابلتوجهی در نوع کارهایی ایجاد میکند که افراد میتوانند به هوش مصنوعی واگذار کنند.
تواناییهای Astra در حوزه امنیت سایبری توجه زیادی را به خود جلب کرده است. اوپنایآی اوایل این هفته در مطلبی وبلاگی درباره قابلیتهای جدید این مدل و تدابیر امنیتی جدیدی که برای ایمنتر کردن استفاده از آن در نظر گرفته شده، توضیح داده بود. این شرکت روز پنجشنبه اعلام کرد Astra را با مجموعهای از معیارهای مختلف امنیتی آزمایش کرده تا تواناییهای آن را ارزیابی کند. به گفته اوپنایآی، توانایی Astra در شناسایی و توسعه اکسپلویتهای روز-صفر میتواند به متخصصان امنیتی کمک کند آسیبپذیریها را سریعتر پیدا و برطرف کنند.
تمرکز اوپنایآی بر «همراستایی» مدل، یعنی توانایی هوش مصنوعی برای انجام کاری که کاربر میخواهد یا به نفع اوست، نمیتواند بیارتباط با رخنه امنیتی اخیر در Hugging Face به نظر برسد. در آن اتفاق، یکی از عاملهای هوش مصنوعی اوپنایآی از محیط آزمایشی ایزوله خود خارج شد و به چند شرکت حمله سایبری کرد؛ نمونهای بسیار واضح از عملکرد ناهماهنگ یک مدل هوش مصنوعی.
اوپنایآی همچنین روی تواناییهای برنامهنویسی Astra تأکید کرده و مدعی شده که این مدل «بهترین مدل موجود برای مهندسی نرمافزار تا امروز» است. این شرکت برای اثبات این ادعا، نتایج چندین آزمون معیار مرتبط با امنیت سایبری را منتشر کرده است. نتایج این آزمایشها نشان میدهد Astra در برخی فعالیتها، از جمله پیدا کردن باگها، اجرای دستورات ترمینال و پاسخ دادن به پرسشهای مربوط به کدبیسها، عملکرد بهتری نسبت به سایر مدلهای موجود، از جمله مدل Sol خود اوپنایآی و Fable از شرکت Anthropic، داشته است.
Astra همچنین ممکن است بحثبرانگیزترین مدل هوش مصنوعی اوپنایآی تا امروز باشد؛ دلیل آن استفاده از یک روش خاص برای استدلال به نام «بازگشت مبهم» یا Opaque Recurrence است. این روش میتواند یکی از فرایندهای مهم نظارت بر مدلها به نام «زنجیره استدلال» (Chain of Thought) را پنهان کند. زنجیره استدلال به پژوهشگران اجازه میدهد بررسی کنند که یک مدل هوش مصنوعی چگونه و چرا به تصمیم خاصی رسیده است.
اوپنایآی اهمیت استفاده Astra از این روش را کماهمیت جلوه داده است. جاکوب پاچوکی، دانشمند ارشد اوپنایآی، نیز در این نشست به نظر میرسید بخشی از این ابهام را نتیجه طبیعی پیشرفت مدلهای هوش مصنوعی میداند. او گفت نظارت بر فرایند استدلال یک مدل، یکی از بخشهای مهم کنترل و نظارت بر آن است، اما «با افزایش توانایی مدلها، امکان نظارت بر آنها نیز دشوارتر میشود.»
پاچوکی در ادامه گفت یکی از دلایل احتمالی این مسئله این است که «مدلهای توانمندتر میتوانند وظایف دشوارتر را با استفاده از تعداد کمتری توکن زبانی انجام دهند» یا حتی «بدون استفاده از توکنهای زبانی» این کار را انجام دهند. به گفته او، این موضوع در نهایت توانایی پژوهشگران برای نظارت بر نحوه انجام برخی وظایف توسط مدل را کاهش میدهد.
