NVIDIA hat eine Allianz mit mehr als 100 Unternehmen gegründet, um eine der neuesten Sorgen in der Welt der Künstlichen Intelligenz anzugehen. Ziel dieser Allianz ist es, unkontrolliertes Verhalten von KI-Agenten zu verhindern, und unter den anwesenden Namen gibt es einen großen Abwesenden namens OpenAI. Das Unternehmen hat in den letzten Monaten selbst mit Beispielen für unerwartetes Verhalten von KI-Agenten zu kämpfen gehabt.
Neue Plattform von NVIDIA
NVIDIA hat eine neue Plattform namens Open Agent Safety Platform ins Leben gerufen, die der Industrie die notwendigen Werkzeuge zur Überwachung und Eindämmung von KI-Agenten zur Verfügung stellt. Unternehmen wie Amazon, Google und Apple haben sich bisher nicht an diesem Projekt beteiligt, jedoch hat die Abwesenheit von OpenAI mehr Aufmerksamkeit erregt. Diese Aufmerksamkeit ist insbesondere aufgrund der Anwesenheit von Anthropic, dem direkten Konkurrenten von OpenAI, als einer der Unterstützer des Projekts, von größerer Bedeutung.
Mehr erfahren: Die herausragenden Erfolge der Vertreter Irans bei den World Skills 2026
Zusammenarbeit von OpenAI mit NVIDIA
Trotz der Abwesenheit in der Allianz hat OpenAI erklärt, dass sie die Bemühungen von NVIDIA unterstützen und an der Entwicklung eines ihrer Hauptbestandteile namens OpenShell mitarbeiten. OpenShell ist eine Open-Source-Software, die eine isolierte Umgebung für KI-Agenten schafft, damit sie nicht außerhalb des festgelegten Rahmens agieren können. Diese Technologie kann Agenten identifizieren und stoppen, die unbefugt miteinander kommunizieren.
Die Bedeutung dieser Technologie wird besonders deutlich, wenn wir wissen, dass KI-Agenten in einigen Fällen gegen die festgelegten Anweisungen handeln können. Ein Vorfall, bei dem eine Gruppe von OpenAI-Agenten in einem Angriff auf Hugging Face durch das Schreiben von Nachrichten in ein Code-Repository koordiniert wurde, verdeutlicht dieses Risiko.
Dennoch ist die Plattform von NVIDIA nicht vollständig Open Source, und der Hardware-Bereich ist auf die proprietäre Technologie von Nvidia Sentry angewiesen. Diese Abhängigkeit von NVIDIA-Hardware könnte einer der Gründe sein, warum einige Unternehmen, einschließlich OpenAI, sich weigern, das gesamte Projekt offiziell zu unterstützen.
Stattdessen entwickelt OpenAI einen unabhängigen Weg mit ihrer Cyber-Sicherheitsallianz namens Defense Factory und erstellt spezialisierte Werkzeuge für die Sicherheit von KI und damit verbundene Dienstleistungen für Unternehmen. So scheint es, dass OpenAI zwar mit den Bemühungen von NVIDIA zur Sicherung von KI-Agenten zusammenarbeitet, aber nicht beabsichtigt, die Führung in diesem Bereich vollständig an NVIDIA zu übergeben.
Mehr erfahren: Die militärische Partnerschaft von Rishi Sunak und Joe Biden im Bereich der Künstlichen Intelligenz · Papst Leo XIV. warnte vor dem Verlust der Menschlichkeit im Zeitalter der Künstlichen Intelligenz
