RobotAIGeek

Die Norm zur Robotersicherheit mit genau einem Verfasser

Der neue „Model Hardware Standard“ von Anthropic wird als Sicherheitsspezifikation für KI-gesteuerte Roboter vermarktet, wird jedoch als geschlossenes System eingeführt, das von einem einzigen Unternehmen kontrolliert wird, während die Ausarbeitung des tatsächlichen Standards für funktionale Sicherheit in der Branche fünfzehn Jahre in Anspruch nahm und von einem Ausschuss unter Beteiligung verschiedener Interessengruppen vorgenommen wurde.

martti
4 Min. LesezeitPosted: 29. Aug. 2026
Die Norm zur Robotersicherheit mit genau einem Verfasser

Die Ankündigung vom Donnerstag aus San Francisco las sich auf den ersten Blick wie ein technisches Update. Anthropic veröffentlichte den „Model Hardware Standard“, eine Spezifikation, die es einem KI-Agenten ermöglicht, die Fähigkeiten und Sicherheitsgrenzen einer Maschine aus einer einzigen Datei statt über eine maßgeschneiderte Integration auszulesen, und bezeichnete dies als Forschungsvorschau, die sechzehn Partnern aus pharmazeutischen Labors, Universitäten und der Industrieroboterherstellung offensteht. In den Medienberichten wurde dies als logischer nächster Schritt nach dem „Model Context Protocol“ dargestellt, dem Software-Tool-Standard, den Anthropic im Jahr 2024 auf den Markt gebracht hatte. Diese Darstellung lässt jedoch die eigentlich interessantere Geschichte außer Acht.

Der „Model Hardware Standard“ ist nicht in erster Linie ein technisches Dokument. Er ist ein Versuch, durch Produktentscheidungen statt durch Ausschüsse festzulegen, welche Befehle ein KI-Agent einem Roboterarm in der Nähe einer menschlichen Hand erteilen darf. Diese Unterscheidung ist von größerer Bedeutung, als das Demomaterial vermuten lässt, denn solange es für Industrieroboter Sicherheitsvorschriften gibt, wurden diese Vorschriften von genau niemandem verfasst, der gleichzeitig den Roboter verkauft.

Betrachten Sie das Dokument, neben dem der MHS still und leise steht: ISO 10218, die zentrale Norm für funktionale Sicherheit von Industrierobotern, durchlief im Januar 2025 ihre erste größere Überarbeitung seit rund fünfzehn Jahren: Der Umfang wuchs von insgesamt 122 Seiten in beiden Teilen auf 318 Seiten an, wobei die zuvor separate Sicherheitsspezifikation für kollaborative Roboter integriert und erstmals Anforderungen an die Cybersicherheit hinzugefügt wurden. Dieser Prozess wurde vom Technischen Ausschuss 299 der ISO durchgeführt, einem Gremium aus Herstellern, Integratoren, Versicherern und Aufsichtsbehörden, die sich nicht von vornherein einig sind und anderthalb Jahrzehnte an Praxiserfahrungen miteinander in Einklang bringen mussten, bevor sie ihre Zustimmung erteilten. Niemand an diesem Tisch vertreibt eine einzige Roboter-Marke. Anthropics Antwort auf dieselbe Art von Frage – nämlich, welche Aufgaben eine Maschine von einem KI-System sicher übertragen bekommen darf – wurde in Form eines Blogbeitrags des Unternehmens und einer geschlossenen Partnerliste veröffentlicht, wobei das Unternehmen klar zum Ausdruck brachte, dass es gemeinsam mit diesen Partnern „Sicherheitsbewertungen und bewährte Verfahren“ erarbeitet, bevor die Spezifikation als Open Source veröffentlicht wird, nicht

neben einem Leitungsgremium, das es überstimmen könnte.
Fünfzehn Jahre im Vergleich zu einem Blogbeitrag

Anthropic hat dieses Szenario bereits einmal durchgespielt, und der Vergleich ist gerade deshalb aufschlussreich, weil das MCP die positive Variante dieser Geschichte darstellt. Das Model Context Protocol wurde im November 2024 vom ersten Tag an als Open-Source-Projekt gestartet. Innerhalb von sechs Monaten waren Microsoft und GitHub dem Lenkungsausschuss beigetreten, und OpenAI sowie Google hatten ihre eigene Unterstützung dafür bereitgestellt – nichts davon hätte Anthropic erzwingen können; all dies geschah, weil der Code und die Governance von Anfang an öffentlich waren. Das ist der Mechanismus, der das MCP von einer für ein einzelnes Labor praktischen Lösung zu einer gemeinsamen Infrastruktur machte: Wettbewerber konnten genau sehen, was sie übernahmen, und konnten schließlich mitentscheiden, wie es sich weiterentwickelte.

MHS überspringt diesen Schritt, zumindest vorerst. Es startet als geschlossene Lösung, getestet von einer Partnerliste, die Anthropic selbst ausgewählt hat, wobei die Open-Source-Veröffentlichung auf einen unbestimmten Zeitpunkt verschoben wird, nachdem die Vorschau die Sicherheitsbewertungen generiert hat, die dies vermutlich rechtfertigen werden. Eine Spezifikation, die derzeit nur ihr Autor ändern kann, ist noch keine Infrastruktur. Es handelt sich um ein Produkt, dem eine Infrastruktur-Geschichte beigefügt ist, und der Unterschied ist nicht rein theoretisch: Eine Infrastruktur überdauert einen Kurswechsel ihres Schöpfers; eine Anbieterspezifikation hingegen nicht.

Eine Partnerliste, die gekauft wurde, bevor die Regeln existierten

Nichts davon macht die sechzehn Partner naiv. Genentech erprobt den Standard an einem Protein-Konzentrationsassay, für den andernfalls ein spezialisierter Integrator erforderlich wäre, um einen Liquid-Handler, einen Roboterarm und einen Plattenleser miteinander zu vernetzen. Carnegie Mellon, die Baker- und Pinglay-Labore der University of Washington sowie der HHMI Janelia Research Campus testen ihn mit Laborhardware, die sie bereits besitzen. Auf der industriellen Seite testen Universal Robots und Doosan Robotics – zwei der Cobot-Hersteller, deren Arme bereits heute in Montage- und Qualitätssicherungslinien zum Einsatz kommen – die MHS-Unterstützung zusammen mit dem „Strands Robots“-Framework von Amazon Web Services und Hugging

Das Open-Source-Projekt „LeRobot“ von Face, das es ermöglicht, mit derselben Schnittstelle sowohl Roboterarme für Hobbyanwender als auch sechsstellige Laboranlagen gleichermaßen anzusteuern.

Diese Bandbreite – vom Mikroskop-Arbeitstisch an einer Universität bis hin zu Cobots, die zu Tausenden in Fabrikhallen ausgeliefert werden – ist die eigentliche Errungenschaft in diesem Zusammenhang. Eine einzige Spezifikation zu entwickeln, die beide Bereiche abdeckt, ohne dass eine Kategorie für die andere überdimensioniert ist, stellt ein echtes Designproblem dar – das hier gut gelöst wurde. Doch eine Koalition, die bereits vor der Einrichtung einer Governance-Struktur gebildet wurde, ist kein Normungsgremium. Es handelt sich um eine Beta-Gruppe, und dieser Unterschied wird in dem Moment deutlich, in dem ein Partner mit einer Entscheidung von Anthropic bezüglich der Spezifikation nicht einverstanden ist und feststellt, dass keine Abstimmung stattfinden kann.

Ein Sicherheitsstandard, den derzeit nur ein einziges Unternehmen ändern kann, ist eine Produktentscheidung, die sich als Standard tarnt.

Das Unternehmen, das seine eigene Sandbox bewertet

Der Zeitpunkt verschärft die Vertrauensfrage, anstatt sie zu lösen. Einen Monat vor der MHS-Vorschau dokumentierten Sicherheitsforscher öffentlich einen Sandbox-Ausbruch in „Claude Cowork“, dem Software-Agent-Produkt von Anthropic, der es einer lokal ausgeführten Sitzung ermöglichte, aus ihrer virtuellen Maschine auszubrechen und auf das Dateisystem des Host-Macs zuzugreifen – einschließlich SSH-Schlüsseln und Cloud-Zugangsdaten – auf Rechnern, auf denen das Tool lokal ausgeführt wurde. Anthropics eigene Reaktion bestand darin, die Ausführung in der Cloud künftig zur Standardeinstellung zu machen, anstatt den lokalen Ausbruchspfad direkt zu patchen, wodurch Nutzer, die sich für die lokale Ausführung entscheiden, ihre eigene Konfiguration selbst absichern müssen.

Da dieser Vorfall bereits vor MHS stattfand und ein anderes Produkt betraf, ist er kein Beweis dafür, dass der Hardware-Standard an sich unsicher ist. Sie ist ein Hinweis auf etwas Eingrenztes und dennoch Relevantes: Ein Unternehmen, dessen jüngste Bemühungen um eine angrenzende Sandbox-Lösung gegenüber entschlossenen Forschern gescheitert sind, fordert nun Labore und Fabriken auf, dem internen Urteil desselben Unternehmens darüber zu vertrauen, welche Befehle ein KI-Agent einem Roboterarm sicher erteilen darf – und zwar noch bevor eine externe Stelle dieses Urteil überprüft hat. „Wir werden während der Vorschau zusätzliche Sicherheitsbewertungen einführen“ ist eine vernünftige

Forschungsansatz. Diese Aussage ist weitaus weniger aussagekräftig als eine Zertifizierung der funktionalen Sicherheit, und Käufer sollten das eine nicht als Ersatz für das andere betrachten.
Was sich dadurch für einen Käufer tatsächlich ändert

Nichts davon spricht gegen das Testen von MHS. Für einen Betrieb, der bereits Anlagen von Universal Robots oder Doosan Robotics einsetzt, lohnt es sich, ein Integrationsformat, das wochenlange Spezialverkabelungsarbeiten in eine Aufgabe verwandelt, die ein Linienleiter erledigen kann, in einer Zelle mit geringem Risiko zu erproben – unabhängig davon, wer die Spezifikation festlegt –, da das damit angegangene Problem der Integrationskosten heute real und kostspielig ist. Was sich ändert, ist die Frage, was dieser Pilotversuch nachweisen soll. Er zeigt, ob MHS Integrationsaufwand einspart. Es zeigt jedoch nicht, dass eine durch eine MHS-Datei beschriebene Maschine die Anforderungen erfüllt, die die Europäische Union ab dem 20. Januar 2027 durchsetzen wird, wenn ihre Maschinenrichtlinie erstmals KI-gesteuerte Sicherheitsfunktionen in die Konformitätsbewertung durch Dritte einbezieht, anstatt die Selbstdeklaration des Herstellers zu akzeptieren.

Diese Frist ist entscheidend, nicht das Startdatum der Vorschau. Sie wird den Vergleich erzwingen, den diese Kolumne derzeit anstellt: ob eine intern von einem KI-Labor erstellte Sicherheitsdatei, die innerhalb eines in Monaten gemessenen Zeitraums der Vorschau erstellt wurde, eine Regulierungsbehörde zufriedenstellt, die darauf ausgelegt ist, den mehrjährigen, mehrere Interessengruppen umfassenden Prozess zu erwarten, aus dem die Norm ISO 10218:2025 hervorgegangen ist. Aus der Perspektive einer Robotik-Datenplattform, die täglich damit beschäftigt ist, die Ankündigungen der Anbieter mit dem abzugleichen, was die Taxonomie tatsächlich verifizieren kann, ist der entscheidende Indikator nicht, ob MHS übernommen wird. Hersteller von Cobots werden nützliche Integrationsformate übernehmen, unabhängig davon, wer sie verfasst hat. Das entscheidende Indiz ist vielmehr, ob Anthropic die Kontrolle abgibt, wie es MCP letztendlich getan hat, und externe Ingenieure in den Ausschuss aufnimmt, der über die zukünftige Ausgestaltung der Spezifikation entscheidet. Solange dies nicht geschieht, vertraut jede Einrichtung, die einen nach MHS beschriebenen Roboter einsetzt, auf das Sicherheitsurteil eines einzigen Anbieters hinsichtlich Hardware, die dieser Anbieter weder herstellt, noch verkauft, noch versichert.

Titelbild: Die Cobot-Familie der UR-Serie von Universal Robots, mit freundlicher Genehmigung

von Universal Robots.

Haftungsausschluss: Dieser Artikel dient ausschließlich allgemeinen Informationszwecken und stellt keine Anlage-, Rechts- oder Beschaffungsberatung dar. Leser sollten die Angaben anhand von Primärquellen überprüfen, bevor sie geschäftliche Entscheidungen treffen.

RoboticsPhysicalAIAIPolicyRobotSafetyStandardsManufacturingGovernance