Sicherheitsarchitektur für KI-gesteuerte Roboterarme in der Produktion
Fraunhofer IKS und Hitachi entwickelten eine 'AI Safety Envelope'-Architektur, die per Reinforcement Learning trainierte Roboterarme in der Fertigung sicher abschottet.
Vertiefung
Für einen per Reinforcement Learning trainierten Roboterarm, der Werkstücke bewegt und Kollisionen mit Mitarbeitenden vermeiden soll, entwickelten Fraunhofer IKS und Hitachi zwischen August 2024 und März 2025 eine dreistufige Schutzarchitektur (self-protecting, self-monitoring, self-checking). In rund 10.000 simulierten Testszenarien mit der Robotik-Simulationssoftware Webots verbesserten die Schutzmaßnahmen messbar die Sicherheitsraten des KI-gesteuerten Systems, bei einem akzeptablen Trade-off zur Produktivität. Hitachi bringt den realen Anwendungsfall aus der Fertigung ein und nutzt die Ergebnisse zur Absicherung KI-basierter Produktionssysteme in anderen sicherheitskritischen Bereichen.