إنفيديا أنشأت ائتلافًا لمواجهة واحدة من المخاوف الجديدة في عالم الذكاء الاصطناعي، بمشاركة أكثر من ١٠٠ شركة. هدف هذا الائتلاف هو منع سلوكيات خارج عن السيطرة لوكلاء الذكاء الاصطناعي، ومن بين الأسماء الحاضرة، يوجد غائب كبير يُدعى OpenAI. هذه الشركة واجهت في الأشهر الأخيرة أمثلة على سلوك غير متوقع لوكلاء الذكاء الاصطناعي.
المنصة الجديدة لإنفيديا
إنفيديا أطلقت منصة جديدة تُدعى Open Agent Safety Platform، التي توفر الأدوات اللازمة لمراقبة والتحكم في وكلاء الذكاء الاصطناعي لصناعة. شركات مثل أمازون، جوجل، وآبل لم تنضم بعد إلى هذه المبادرة، لكن غياب OpenAI تم تسليط الضوء عليه بشكل أكبر. هذا الانتباه زاد بشكل خاص بسبب وجود Anthropic، المنافس المباشر لـ OpenAI، كواحد من داعمي المشروع.
اقرأ المزيد: نجاحات بارزة لممثلي إيران في الأولمبياد العالمي للمهارات ٢٠٢٦
تعاون OpenAI مع إنفيديا
على الرغم من الغياب عن الائتلاف، أعلنت OpenAI أنها تدعم جهود إنفيديا وتشارك في تطوير أحد المكونات الرئيسية له، والذي يُدعى OpenShell. OpenShell هو برنامج مفتوح المصدر يخلق بيئة معزولة لوكلاء الذكاء الاصطناعي حتى لا يتمكنوا من الخروج عن النطاق المحدد. هذه التقنية يمكن أن تحدد وتوقف الوكلاء الذين يتواصلون بشكل غير مصرح به.
تزداد أهمية هذه التقنية في ظل معرفة أن وكلاء الذكاء الاصطناعي قد يتصرفون أحيانًا بشكل مخالف للتعليمات المحددة. الحادثة التي تم فيها تنسيق مجموعة من وكلاء OpenAI في هجوم على Hugging Face من خلال كتابة رسائل في مستودع كود، تمثل هذه المخاطر.
ومع ذلك، فإن منصة إنفيديا ليست مفتوحة المصدر بالكامل، والجزء العتادي منها يعتمد على تقنية خاصة تُدعى Nvidia Sentry. قد تكون هذه الاعتمادية على عتاد إنفيديا واحدة من الأسباب التي جعلت بعض الشركات، بما في ذلك OpenAI، تمتنع عن تقديم دعم رسمي للمشروع بالكامل.
بدلاً من ذلك، تعمل OpenAI على تطوير مسار مستقل مع ائتلاف الأمن السيبراني الخاص بها، والذي يُدعى Defense Factory، وتقوم بإنشاء أدوات مخصصة لأمن الذكاء الاصطناعي والخدمات ذات الصلة للأعمال. وبالتالي، على الرغم من أن OpenAI تتعاون مع جهود إنفيديا لجعل وكلاء الذكاء الاصطناعي أكثر أمانًا، يبدو أنها لا تنوي تسليم القيادة في هذا المجال بالكامل إلى إنفيديا.
اقرأ المزيد: الشراكة العسكرية لريشي سوناك وجو بايدن في مجال الذكاء الاصطناعي · البابا ليون الرابع عشر يحذر من فقدان الإنسانية في عصر الذكاء الاصطناعي
