NVIDIA hat die NVIDIA Open Agent Safety Platform am 28. September 2026 vorgestellt, um KI-Agenten sicher zu halten, während sie immer selbstständiger arbeiten. Die Plattform nutzt Software- und Hardwarekontrollen, um einzuschränken, was Agenten tun und worauf sie zugreifen können. Das ist wichtig, denn KI-Agenten können weit mehr als nur Antworten geben.
Ein Coding-Agent kann zum Beispiel mit Quellcode, Dateien und Tools arbeiten, ohne dass ein Mensch jede Aktion freigeben muss. Das schafft neue Risiken. Wenn ein Chatbot einen Fehler macht, gibt er meist nur eine falsche Antwort.
Macht dagegen ein autonomer Agent einen Fehler, kann er eine Datei verändern oder andere Aktionen ausführen. NVIDIA setzt deshalb darauf, Sicherheitskontrollen rund um den Agenten aufzubauen, statt einfach darauf zu vertrauen, dass er seine Regeln einhält. Softwaregrenzen steuern den Zugriff, und eine Hardwareüberwachung sorgt für zusätzliche Sicherheit außerhalb der Agentenumgebung.
Was ist die NVIDIA Open Agent Safety Platform?
Die Open Agent Safety Platform von NVIDIA ist eine offene Plattform und Referenzarchitektur, die Unternehmen helfen soll, KI-Agenten mit stärkeren Sicherheitskontrollen einzusetzen.
Statt einem Agenten weitreichenden Zugriff zu geben und darauf zu vertrauen, dass er Anweisungen befolgt, können Unternehmen festlegen, welche Ressourcen er nutzen darf. Diese Kontrollen können Dateien, Netzwerke, Zugangsdaten, APIs, Tools und andere Systemressourcen umfassen.
Die Plattform vereint zwei zentrale Technologien:
- NVIDIA OpenShell: eine Open-Source-Laufzeitumgebung, die einen kontrollierten Raum für KI-Agenten schafft.
- NVIDIA Sentry: eine separate Überwachungs- und Durchsetzungsebene, die auf NVIDIA BlueField-4 DPUs läuft.
Zusammen ziehen diese Komponenten Grenzen um einen KI-Agenten und die Systeme, mit denen er interagieren kann.
Warum ist die Sicherheit von KI-Agenten wichtig?
Ein typischer Chatbot erzeugt vor allem Text oder andere Inhalte als Antwort auf einen Prompt. Ein KI-Agent kann auf Grundlage seiner Anweisungen Aktionen ausführen.
Ein Agent für Softwareentwicklung kann zum Beispiel Dateien bearbeiten, Abhängigkeiten installieren, auf ein Repository zugreifen oder mit externen Diensten kommunizieren. Ein Unternehmensagent kann mit Firmendaten oder Geschäftsanwendungen interagieren.
Diese zusätzlichen Fähigkeiten machen Berechtigungen wichtiger. Je mehr Systeme ein Agent erreichen kann, desto größer ist die mögliche Wirkung einer unerwünschten Aktion.
NVIDIA verweist auf Sicherheitsforschung und Vorfälle mit Agenten, die Kontrollen auf Anwendungsebene umgehen konnten. Die Plattform begegnet dem, indem sie bestimmte Einschränkungen außerhalb der eigenen Softwareumgebung des Agenten durchsetzt.
Die Idee ist einfach: Ein KI-Agent sollte nicht selbst entscheiden, ob er seine eigenen Sicherheitskontrollen umgehen darf.

Wie funktioniert NVIDIA OpenShell?
NVIDIA OpenShell bietet eine kontrollierte Laufzeitumgebung für KI-Agenten. Der Agent arbeitet in dieser Umgebung, während Richtlinien festlegen, auf welche Ressourcen er zugreifen darf.
Der Zugriff kann zunächst eingeschränkt und nur dann erweitert werden, wenn eine bestimmte Aufgabe es erfordert. Das ist ein kontrollierteres Berechtigungsmodell, als einem Agenten von Anfang an uneingeschränkten Zugriff zu geben.
OpenShell kann den Zugriff auf Bereiche wie diese steuern:
- Dateien und Systemressourcen
- Netzwerkverbindungen
- Zugangsdaten
- APIs und externe Dienste
- KI-Inferenzanfragen
- Tools und Aktionen des Agenten
Das System kann außerdem Berechtigungsentscheidungen protokollieren, also welche Anfragen erlaubt oder abgelehnt wurden. So erhalten Unternehmen einen Prüfpfad für die Aktivitäten ihrer Agenten.
Laut NVIDIA ist OpenShell für verschiedene Einsatzumgebungen gedacht, darunter Cloud, hybride Umgebungen, lokale Rechenzentren und vom Netz getrennte Systeme.
Eine weitere Funktion ist der Policy Prover, der mit formalen Methoden prüft, ob Sicherheitsrichtlinien innerhalb festgelegter Grenzen bleiben.
OpenShell soll außerdem mit verschiedenen KI-Modellen und Agenten-Frameworks funktionieren. NVIDIA beschreibt es als modell- und harnessunabhängig: Es liefert die Sicherheitsebene und ist selbst kein Agenten-Framework.
Was ist NVIDIA Sentry?
NVIDIA Sentry bietet eine zusätzliche Sicherheitsebene außerhalb der Laufzeitumgebung des Agenten.
Es läuft auf NVIDIA BlueField-4 DPUs und überwacht die Aktivität des Agenten unabhängig von der Softwareumgebung, in der er ausgeführt wird.
Laut NVIDIA kann Sentry Aktivitäten erkennen, die eine freigegebene Sicherheitsgrenze überschreiten, und den Agenten bei Bedarf in Quarantäne setzen oder stoppen, wobei die Durchsetzung innerhalb von Millisekunden erfolgen soll.
Diese Trennung ist wichtig. Existieren Sicherheitskontrollen nur innerhalb der Agentenumgebung, könnte ein Agent mit unerwartetem Verhalten sie unter Umständen beeinflussen. Eine unabhängige Überwachungsebene gibt Unternehmen einen weiteren Punkt, an dem sie Einschränkungen durchsetzen können.
Sentry kann zudem Anfragen und Antworten überwachen, Identitäten prüfen, Telemetrie erfassen und Richtlinien für Daten, Tools, APIs und Dienste anwenden.
NVIDIA OpenShell und Sentry im Vergleich
Die beiden Technologien haben unterschiedliche Aufgaben, sind aber auf Zusammenarbeit ausgelegt.
| Komponente | Hauptaufgabe |
| OpenShell | Stellt die kontrollierte Laufzeitumgebung bereit und verwaltet Berechtigungen |
| Sentry | Überwacht Aktivitäten unabhängig und setzt Sicherheitsrichtlinien durch |
| Zusammen | Verbinden softwarebasierte Kontrollen mit Durchsetzung auf Hardwareebene |
Kurz gesagt: OpenShell kontrolliert die Umgebung, in der der Agent arbeitet, und Sentry sorgt für eine zusätzliche, unabhängige Aufsicht.
Wer arbeitet mit der NVIDIA Agent Safety Platform?
Laut NVIDIA arbeiten mehr als 100 Organisationen mit Technologien der Open Agent Safety Platform.
Zu den von NVIDIA genannten Unternehmen gehören Anthropic, Microsoft, Salesforce, SAP, ServiceNow, CrowdStrike, Palo Alto Networks, Hugging Face, Scale AI, Palantir und Perplexity.
Auch mehrere Robotikunternehmen, darunter Figure, Gecko Robotics und Skild AI, nutzen OpenShell für autonome Systeme.
Das Interesse ist nachvollziehbar, denn KI-Agenten gehen über Chat-Oberflächen hinaus und erobern Bereiche wie Softwareentwicklung, Unternehmensanwendungen, Cybersicherheit, Infrastruktur, Finanzdienstleistungen und Robotik.
Ist die NVIDIA Open Agent Safety Platform Open Source?
Die gesamte Plattform sollte nicht als ein einziges Open-Source-Produkt betrachtet werden. NVIDIA OpenShell ist Open Source, während die übergreifende Open Agent Safety Platform als offene Softwareplattform und Referenzsystem präsentiert wird.
NVIDIA stellt OpenShell über seine Entwicklerressourcen und auf GitHub bereit.
Die Technologie soll in manchen Umgebungen auch über NVIDIAs eigene Hardware hinaus funktionieren. Laut NVIDIA lässt sich OpenShell auf Plattformen anderer Anbieter erweitern, darunter Arm und Intel.
Was bedeutet NVIDIAs Plattform für KI-Agenten?
Die NVIDIA Open Agent Safety Platform zeigt, wie sich der Blick von Unternehmen auf die Sicherheit von KI-Agenten verändert.
Je unabhängiger Agenten werden, desto weniger reicht es, nur ihre Ausgaben zu kontrollieren. Unternehmen müssen auch berücksichtigen, worauf ein Agent zugreifen kann, welche Tools er nutzen darf, welche Aktionen er ausführen kann und welche Systeme er erreicht.
NVIDIAs Ansatz kombiniert Isolierung zur Laufzeit, Berechtigungsrichtlinien, Aktivitätsüberwachung und hardwarebasierte Durchsetzung. Diese Maßnahmen beseitigen nicht jedes Risiko autonomer KI, können aber zusätzliche Barrieren zwischen einem Agenten und den Systemen schaffen, die er nutzen darf.
Für Unternehmen, die Agenten über längere Zeit laufen lassen oder ihnen Zugriff auf sensible Systeme geben, dürfte diese Art von mehrschichtiger Sicherheit immer wichtiger werden.
Fazit
Die NVIDIA Open Agent Safety Platform setzt auf einen mehrschichtigen Ansatz zur Absicherung autonomer KI. OpenShell bietet Agenten eine kontrollierte Umgebung, während Sentry unabhängige Überwachung und Durchsetzung ergänzt. Je komplexere Aufgaben KI-Agenten übernehmen, desto mehr helfen solche Kontrollen Unternehmen dabei, klarere Grenzen dafür zu ziehen, worauf Agenten zugreifen und was sie tun dürfen.

Sapna Ghodasara ist die Gründerin von Guide of AI Tool. Dort schreibt sie ausführliche Testberichte über KI-Tools für Marketer, Creator und Unternehmen. Ihre Tests konzentrieren sich auf das, was vor dem Kauf eines Tools zählt: echte Anwendungsfälle, ehrliche Vor- und Nachteile, Preise und wie gut es in den Arbeitsalltag passt.
Sapna ist Mitgründerin von SEOMagicLab. Die Verbindung aus technischer Ausbildung und täglicher Marketingarbeit erlaubt ihr, KI-Tools aus zwei Blickwinkeln zu beurteilen: wie gut die Technologie tatsächlich funktioniert und ob sie den Menschen, die sie nutzen, echten Mehrwert bringt.


