انویدیا برای مهار عامل‌های هوش مصنوعی پلتفرم ایمنی Open Agent Safety را معرفی کرد
انویدیا در ۲۸ سپتامبر ۲۰۲۶ از NVIDIA Open Agent Safety Platform رونمایی کرد؛ مجموعه‌ای برای کنترل اجرای عامل‌های هوش مصنوعی از مرحله آزمایش تا استقرار. این خبر برای تیم‌هایی مهم است که از عامل‌های AI در توسعه نرم‌افزار و اتوماسیون استفاده می‌کنند.
انویدیا چه چیزی معرفی کرده است؟
این پلتفرم دو بخش اصلی دارد: OpenShell به‌عنوان runtime امن و متن‌باز، و Sentry به‌عنوان watchdog در لایه سخت‌افزار. طبق اعلام رسمی NVIDIA، OpenShell مرز اجرای عامل را تعریف می‌کند و Sentry رفتار آن را مستقل زیر نظر می‌گیرد.
OpenShell چگونه دسترسی را محدود می‌کند؟
OpenShell عامل را در sandbox اجرا می‌کند و دسترسی به فایل، پردازش، شبکه و اعتبارنامه‌ها را به policy محدود می‌سازد. این رویکرد کنترل را در محیط اجرا قرار می‌دهد، نه فقط در prompt.
- اجرای ایزوله و بدون دسترسی پیش‌فرض به شبکه
- ثبت و ممیزی درخواست‌های عامل
- اعطای دسترسی بر اساس سیاست
- بررسی رسمی سیاست‌ها پیش از تغییر
نظارت بر مجوزها و لاگ‌های عامل هوش مصنوعی در محیط اجرای امن.
Sentry چه نقشی دارد؟
Sentry یک لایه نظارت خارج از مسیر عادی عامل است و طبق توضیح انویدیا می‌تواند رفتار مشکوک را تشخیص داده و عامل خارج‌شده از محدوده را قرنطینه کند.
اهمیت خبر برای توسعه وب‌اپلیکیشن
با افزایش agentهای کدنویس، عامل ممکن است به مخزن، متغیرهای محیطی یا داده مشتری دسترسی داشته باشد. معماری امن باید محدوده اختیار، تأیید انسانی، لاگ و سناریوی توقف را مشخص کند. خدمات توسعه وب‌اپلیکیشن آکسیورا می‌تواند این ملاحظات را در طراحی محصول‌های سفارشی لحاظ کند.
آیا OpenShell به تنهایی امنیت را حل می‌کند؟
خیر. runtime امن جایگزین threat modeling، مدیریت رازها، تست نفوذ و بازبینی انسانی نیست. راهنمای OWASP Top 10 برای شناخت ریسک‌های رایج وب همچنان مرجع مفیدی است.
جمع‌بندی
خبر انویدیا نشان می‌دهد امنیت عامل‌های هوش مصنوعی به سمت کنترل‌های چندلایه و خارج از مدل حرکت می‌کند؛ نتیجه امن از ترکیب ابزار، معماری درست و تخصص تیم به دست می‌آید.
پرسش‌های متداول
OpenShell برای چه تیم‌هایی کاربرد دارد؟
برای تیم‌هایی که عامل‌های هوش مصنوعی را در توسعه، عملیات یا تحلیل داده اجرا می‌کنند و به کنترل دسترسی و ممیزی نیاز دارند.
آیا OpenShell فقط با مدل‌های انویدیا کار می‌کند؟
پروژه متن‌باز برای گسترش به پلتفرم‌های محاسباتی دیگر نیز طراحی شده است؛ جزئیات سازگاری باید در مستندات نسخه بررسی شود.