Themenfeld Künstliche Intelligenz in der Automatisierung

Inhaltliche Einordnung

Künstliche Intelligenz (KI) prägt zunehmend die industrielle Wertschöpfungskette und eröffnet neue Potenziale in der Automatisierungstechnik. Das Einsatzspektrum reicht von der Konzeption der Produktionskette über die Fertigung von Maschinen bis hin zur kontinuierlichen Inspektion komplexer Anlagen. Der Hauptantrieb für diese Entwicklung ist der Wunsch nach steigender Effizienz und hoher Anlagenauslastung. Beispielsweise sollen Produktionsfehler frühzeitig erkannt werden und ungeplante Stillstandzeiten von Anlagen reduziert werden.

KI in der Maschinensicherheit

Die rasante Entwicklung von KI sorgt auch im Bereich der Maschinensicherheit für grundlegende Neuerungen. Im Vergleich zu klassischen Schutzkonzepten ermöglicht KI eine semantische Erfassung und Interpretation der Umgebung. Dadurch lassen sich Arbeitsunfälle verhindern, die durch konventionelle Schutzmaßnahmen bisher nicht abgedeckt werden konnten. KI-gestützte Systeme sind beispielsweise in der Lage, in Gefahrenzonen zwischen Personen und Objekten zu unterscheiden oder unzulässige Quittierungen zu erkennen.

Bewertung von KI-Systemen

Mit dem Leistungsvermögen und der Komplexität der Aufgaben wachsen jedoch auch die Herausforderungen bei der sicherheitstechnischen Bewertung. Um anspruchsvolle Aufgaben zu bewältigen, werden unüberschaubar große Mengen an Daten für das Training benötigt, die verfälschte oder diskriminierende Merkmale enthalten können. Zudem weisen hochkomplexe KI-Systeme meist einen sogenannten "Blackbox"-Charakter auf, da sich aus ihnen keine klaren, deterministischen Regeln ableiten lassen. Aufgrund dieses probabilistischen Charakters können KI-Systeme daher in unvorhergesehenen Situationen auch unerwartete Entscheidungen treffen.

Aus diesen Gründen lassen sich etablierte Normen und klassische Bewertungsmaßstäbe für Sicherheit, Robustheit und Zuverlässigkeit nur stark eingeschränkt auf KI-Systeme übertragen. Um KI dennoch in sicherheitskritischen Anwendungen einzusetzen, müssen neue Bewertungsmethoden erarbeitet werden, die Transparenz, Nachvollziehbarkeit und menschliche Aufsicht über den gesamten Lebenszyklus des Systems hinweg in den Fokus stellen. In der DGUV Test Information 5 werden allgemeine Grundsätze für eine solche Bewertung beschrieben. Entscheidend ist dabei stets die vollständige Integration des KI-Systems in das Gesamtsystem, von der Sensorik über die Steuerung bis zur Mensch-Maschine-Schnittstelle und dem konkreten Arbeitsumfeld.

Wichtige Regelungen und Normen

Auch der rechtliche und normative Rahmen entwickelt sich zügig weiter. Auf europäischer Ebene setzt die KI-Verordnung 2024/1689 einen zentralen Rechtsrahmen, der einem risikobasierten Ansatz folgt und klare rechtliche Anforderungen für "Hochrisiko-KI-Systeme" stellt. Ergänzend dazu gilt ab dem 20. Januar 2027 die EU-Maschinenverordnung 2023/1230 für KI-Systeme mit sogenanntem "selbstentwickelndem Verhalten", wenn diese sicherheitsrelevante Funktionen übernehmen. Für die technische Umsetzung greifen weiterhin die Grundsätze der funktionalen Sicherheit nach DIN EN IEC 61508 und DIN EN ISO 13849. Zusätzliche Leitlinien zur Behandlung KI-spezifischer Eigenschaften liefert der ISO/IEC TR 5469, während im Normungsprojekt ISO/IEC TS 22440 weitere konkrete Anforderungen an Sicherheitsfunktionen erarbeitet werden.

Schwerpunkthemen

Das Themenfeld bringt sich aktiv in diese Entwicklungen ein und setzt folgende Schwerpunkte:

• Integration sicherheitsrelevanter KI-Systeme in Maschinen und Anlagen
• Auslegung der EU-KI-Verordnung und Schnittstellen zur EU-Maschinenverordnung
• Abgrenzung von KI-gestützten Assistenzsystemen zu eigenständigen Sicherheitsfunktionen
• Umsetzung der Anforderungen der ISO/IEC TS 22440 für KI in Sicherheitsfunktionen
• Durchführung und Begleitung von Forschungsprojekten zur Bewertung sicherheitsrelevanter KI-Systeme
• Aktive Mitarbeit an nationalen und internationalen Normen und Standards