Am 22. Juni hat NVIDIA Halos für Robotik vorgestellt, nach eigener Darstellung den ersten standardisierten Full-Stack-Sicherheitsstack für Roboter und Physical AI. Vom Silizium bis zur Software, zertifiziert und produktionsreif. Agility Robotics, deren Digit-Humanoid bei Amazon, GXO, Schaeffler und Toyota in Kanada läuft, ist die erste Firma, die das System einbaut.
Der Zeitpunkt ist bemerkenswert. Vor genau zwei Wochen habe ich über die Studie geschrieben, in der Forscher einen Roboter mit einem als Drehbuch verpackten Textbefehl dazu gebracht haben, seine Sicherheitssperren zu ignorieren. Der Kernbefund war, dass sich niemand darauf verlassen darf, dass die KI ihr eigener Torwächter ist. Es braucht Sicherheitsebenen, die unabhängig von den Entscheidungen des Modells funktionieren. Halos ist, zumindest dem Anspruch nach, genau so eine Ebene.
Was Halos konkret ist
NVIDIA verkauft Halos nicht als einzelnes Produkt, sondern als Stack aus mehreren Schichten. Bei Agility besteht die Integration aus zwei Teilen. NVIDIA IGX Thor liefert die industrietaugliche Recheneinheit mit eingebauten Sicherheitsfunktionen, also die Hardware-Ebene. Halos Core steuert die Software-Ebene für sicherheitsrelevante Betriebsfunktionen. Beides zusammen fließt in Agilitys eigenes System zur sicheren Menschenerkennung ein.
Der interessante Teil ist die Zertifizierung. NVIDIA und Agility wollen ein hauseigenes Inspection Lab nutzen, um Digits sicherheitsrelevante Software, KI-Komponenten und Cyberschutz gegen Normen wie IEC 61508, ISO 13849 und ISO/IEC TR 5469 zu prüfen, bevor eine unabhängige Drittzertifizierung folgt. Für alle, die in Deutschland mit Maschinensicherheit zu tun haben, sind das keine exotischen Kürzel. Das sind die Normen, an denen sich entscheidet, ob eine Maschine überhaupt in die Nähe von Menschen darf.
Das ist die eigentliche Nachricht. NVIDIA verkauft nicht nur Chips und Modelle, sondern versucht, den Sicherheits- und Zertifizierungspfad zu standardisieren. Das Argument der 18.600 Ingenieurjahre aus der Entwicklung autonomer Fahrzeuge ist Marketing, aber es hat einen wahren Kern. Beim autonomen Fahren hat die Branche gelernt, dass Sicherheit nicht als Feature obendrauf kommt, sondern von Anfang an in die Architektur gehört. Genau diese Lehre auf Humanoide zu übertragen, ist vernünftig.
Warum es nur die halbe Antwort ist
Und hier kommt die Einschränkung, die in keiner Pressemitteilung steht. Halos löst die funktionale Sicherheit. Es sorgt dafür, dass der Roboterarm nicht in ein menschliches Gesicht fährt, dass eine sichere Menschenerkennung greift, dass eine unabhängige Schicht physisch begrenzt, was die Maschine tun kann. Das ist genau die Empfehlung aus der Oxford-nahen Studie, unabhängige Sicherheitsebenen und Sperrzonen um Menschen.
Was Halos nicht löst, ist das semantische Problem. Die Studie hat nicht gezeigt, dass Roboter aus Versehen gefährlich werden. Sie hat gezeigt, dass man sie mit einer erfundenen Geschichte dazu überreden kann, absichtlich etwas Gefährliches zu tun. Das ist ein anderer Fehlertyp. Eine funktionale Sicherheitsebene, die verhindert, dass ein Arm zu nah an ein Gesicht kommt, ist wertvoll. Aber sie beantwortet nicht die Frage, was passiert, wenn das Sprachmodell durch einen geschickten Prompt dazu gebracht wird, eine an sich erlaubte Bewegung zu einem schädlichen Zweck einzusetzen.
Man kann sich das an einem einfachen Bild klarmachen. Halos ist der Türsteher, der aufpasst, dass niemand die Treppe runterfällt. Das Jailbreak-Problem ist der Gast, der den Türsteher mit einer glaubhaften Lüge überredet, ihn in einen Bereich zu lassen, in den er nicht gehört. Beide Probleme sind real, und Halos adressiert bisher nur das erste.
Das ist keine Kritik an NVIDIA. Funktionale Sicherheit ist das Problem, das man zuerst lösen muss, weil es die unmittelbare körperliche Gefahr betrifft. Aber wer die Halos-Ankündigung liest und denkt, das Sicherheitsproblem der Humanoiden sei damit erledigt, liegt falsch. Die Hälfte, die mit der Zuverlässigkeit der Mechanik zu tun hat, ist auf einem guten Weg. Die Hälfte, die mit der Manipulierbarkeit der KI zu tun hat, ist offen.
Was das für den deutschen Markt heißt
Hier ist Halos konkret relevant, und zwar auf eine Art, die den anderen Ankündigungen fehlt. Der ganze deutsche und europäische Vertrieb von Robotern hängt an der CE-Kennzeichnung, und die CE-Kennzeichnung hängt an genau den Normen, die NVIDIA hier adressiert. Ein Humanoid ohne nachweisbare funktionale Sicherheit nach IEC 61508 und ISO 13849 darf in Europa nicht in die Nähe von Arbeitnehmern. Das ist keine Formalie, das ist die Eintrittskarte.
Wenn NVIDIA einen standardisierten, zertifizierbaren Sicherheitspfad anbietet, senkt das die Hürde für jeden Hersteller, der nach Europa will. Ein Startup muss dann nicht die gesamte Sicherheitsarchitektur von null bauen, sondern kann auf einem geprüften Stack aufsetzen. Das beschleunigt den Weg in europäische Fabriken erheblich. Für die Schaeffler-Werke, in denen Digit ohnehin schon läuft, ist das eine direkte Verbesserung.
Gleichzeitig entsteht damit eine neue Abhängigkeit. Wer seinen Sicherheitsstack von NVIDIA bezieht, bindet sich noch enger an ein Unternehmen, das ohnehin Chips, Modelle und Referenzplattformen liefert. Die GR00T-Referenzplattform läuft auf NVIDIA, die Foundation-Modelle laufen auf NVIDIA, und jetzt kommt die Sicherheitszertifizierung dazu. NVIDIA baut sich Schicht für Schicht in eine Position, in der die gesamte Branche auf ihrer Infrastruktur steht. Das ist gut für die Geschwindigkeit und schlecht für die Verhandlungsmacht aller anderen.
Quelle
