انویدیا برای مقابله با یکی از نگرانی‌های تازه دنیای هوش مصنوعی، ائتلافی با حضور بیش از ۱۰۰ شرکت ایجاد کرده است. هدف این ائتلاف، جلوگیری از رفتارهای خارج از کنترل عامل‌های هوش مصنوعی است و در میان نام‌های حاضر، یک غایب بزرگ به نام OpenAI دیده می‌شود. این شرکت خود در ماه‌های اخیر با نمونه‌هایی از رفتار غیرمنتظره عامل‌های هوش مصنوعی مواجه شده است.
پلتفرم جدید انویدیا
انویدیا پلتفرم جدیدی به نام Open Agent Safety Platform راه‌اندازی کرده که ابزارهای لازم برای نظارت و مهار عامل‌های هوش مصنوعی را در اختیار صنعت قرار می‌دهد. شرکت‌هایی مانند آمازون، گوگل و اپل نیز تاکنون به این طرح نپیوسته‌اند، اما غیبت OpenAI بیشتر مورد توجه قرار گرفته است. این توجه به‌ویژه به دلیل حضور Anthropic، رقیب مستقیم OpenAI، به‌عنوان یکی از حامیان پروژه، اهمیت بیشتری پیدا کرده است.
بیشتر بخوانید: موفقیت‌های درخشان نمایندگان ایران در المپیاد مهارت جهانی ۲۰۲۶
همکاری OpenAI با انویدیا
با وجود غیبت در ائتلاف، OpenAI اعلام کرده که از تلاش انویدیا حمایت می‌کند و در توسعه یکی از اجزای اصلی آن به نام OpenShell همکاری دارد. OpenShell یک نرم‌افزار متن‌باز است که محیطی ایزوله برای عامل‌های هوش مصنوعی ایجاد می‌کند تا نتوانند از محدوده تعیین‌شده خارج شوند. این فناوری می‌تواند عامل‌هایی را شناسایی و متوقف کند که به‌صورت غیرمجاز با یکدیگر ارتباط برقرار می‌کنند.
اهمیت این فناوری در شرایطی بیشتر مشخص می‌شود که بدانیم عامل‌های هوش مصنوعی ممکن است در برخی مواقع برخلاف دستورهای تعیین‌شده عمل کنند. حادثه‌ای که در آن گروهی از عامل‌های OpenAI در حمله به Hugging Face با نوشتن پیام در یک مخزن کد هماهنگ شدند، نمایانگر این خطر است.
با این حال، پلتفرم انویدیا کاملاً متن‌باز نیست و بخش سخت‌افزاری آن به فناوری اختصاصی Nvidia Sentry متکی است. این وابستگی به سخت‌افزار انویدیا می‌تواند یکی از دلایلی باشد که برخی شرکت‌ها، از جمله OpenAI، از حمایت رسمی از کل پروژه خودداری کرده‌اند.
در عوض، OpenAI در حال توسعه مسیر مستقلی با ائتلاف امنیت سایبری خود به نام Defense Factory است و ابزارهای اختصاصی برای امنیت هوش مصنوعی و خدمات مرتبط به کسب‌وکارها را ایجاد می‌کند. به این ترتیب، اگرچه OpenAI با تلاش انویدیا برای ایمن‌تر کردن عامل‌های هوش مصنوعی همکاری می‌کند، اما به نظر می‌رسد قصد ندارد رهبری این حوزه را کاملاً به انویدیا واگذار کند.
بیشتر بخوانید: شراکت نظامی ریشی سوناک و جو بایدن در حوزه هوش مصنوعی · پاپ لئون چهاردهم درباره از دست رفتن انسانیت در عصر هوش مصنوعی هشدار داد
