Vertrauenswürdige künstliche Intelligenz (Trustworthy Artificial Intelligence)

Gestaltung sicherer Systeme und Anwendungen der künstlichen Intelligenz

Verfahren der künstlichen Intelligenz (KI) kommen hauptsächlich zur Lösung hochkomplexer Aufgaben zum Einsatz, wie beispielsweise zum Verarbeiten natürlicher Sprache oder zur Klassifikation von Objekten in Bildern. Durch sie lassen sich nicht nur wesentlich höhere Automatisierungsgrade erreichen, sondern auch gänzlich neue Anwendungsfelder erschließen.

Der Begriff künstliche Intelligenz wird heute hauptsächlich im Kontext des maschinellen Lernens verwendet, wie beispielsweise in Neuronalen Netzen, Entscheidungsbäumen oder Support Vector Machines, schließt aber auch eine Vielzahl anderer Anwendungen wie Expertensysteme oder Wissensgraphen ein.

Eine gemeinsame Eigenschaft all dieser Verfahren ist die Fähigkeit, Probleme zu lösen, indem sie Konzepte nachbilden, die allgemein mit intelligentem Verhalten verbunden sind. Durch den Einsatz künstlicher Intelligenz können somit Konzepte wie lernen, planen, wahrnehmen, kommunizieren und kooperieren auf technische Systeme übertragen werden. Diese Fähigkeiten ermöglichen vollkommen neue intelligente Systeme und Anwendungen, daher sieht man künstliche Intelligenz oft als die Schlüsseltechnologie der Zukunft an.

Auf künstlicher Intelligenz basierende Schutz- und Steuereinrichtungen ermöglichen bereits heute nicht nur vollautomatisierte Fahrzeuge oder Roboter, sondern auch die Vermeidung von Unfällen durch Assistenzsysteme, die Gefahrensituationen erkennen.

Der Einsatz von Systemen, insbesondere von Maschinen, die auf Verfahren der KI basieren, verändert jedoch auch die physische und psychische Belastung von Beschäftigten. Um auszuschließen, dass vom Einsatz dieser Technologie neue Gefährdungen ausgehen oder um diese zu vermindern, ist eine vertrauenswürdige KI (engl.: Trustworthy Artificial Intelligence) erforderlich.

Der Begriff der Vertrauenswürdigkeit geht dabei weit über den der Sicherheit hinaus und schließt auch folgende grundlegenden Eigenschaften mit ein:

  • Zuverlässigkeit
    Das System oder die Anwendung muss unter allen zu erwartenden Umgebungsbedingungen die korrekte Funktion aufrechterhalten.
  • Robustheit
    Das System oder die Anwendung darf unter dem Einfluss von Bias (externen und internen Störungen und Verzerrungen) oder Systemfehlern nicht seine Funktionsfähigkeit verlieren oder in einen gefährlichen Zustand übergehen.
  • Widerstandsfähigkeit
    Das System oder die Anwendung muss gegen Angriffe von außen geschützt sein.
  • Transparenz
    Die Handlungen und Ergebnisse des Systems oder der Anwendung müssen transparent, verständlich und nachvollziehbar sein.
  • Vorhersehbarkeit
    Die Handlungen intelligenter Systeme, die mit Menschen interagieren oder kooperieren, müssen vorhersehbar sein.
  • Datensicherheit
    Die Daten sowie Privatsphäre aller Akteure müssen in jeder Lebenszyklusphase geschützt sein.
  • Sicherheit gegenüber Missbrauch und Fehlanwendungen
    Das System oder die Anwendung müssen vor vorhersehbarem Missbrauch oder einer Fehlanwendung durch Bedienpersonen geschützt werden.

Die rasante Entwicklung moderner Verfahren der künstlichen Intelligenz, allen voran des Deep Learnings, bringen es jedoch mit sich, dass noch weitgehend offen ist, wie genau diese Eigenschaften in einem vertrauenswürdigen KI-System realisiert werden können.

Das Institut für Arbeitsschutz der Deutschen Gesetzlichen Unfallversicherung (IFA) arbeitet daher an Konzepten, um nicht nur die Sicherheit und Gesundheit bei der Arbeit beim Einsatz solcher Technologien zu erhalten, sondern auch durch deren Einsatz zu fördern.

Hierzu finden unter anderem folgende Aktivitäten statt:

  • Forschung an Konzepten vertrauenswürdiger KI
  • Beratung zur Entwicklung sicherer KI-Systeme und Anwendungen
  • Beratung zur Entwicklung KI-basierter Assistenzsysteme
  • Mitarbeit an nationalen und internationalen Normen und Standards

Ansprechpartner

Dr. André Steimers

Fachbereich 5: Unfallprävention: Digitalisierung - Technologien

Tel: +49 30 13001-3539
Fax: +49 30 13001-38001


Dipl.-Ing. Thomas Bömer

Fachbereich 5: Unfallprävention: Digitalisierung - Technologien

Tel: +49 30 13001-3530
Fax: +49 30 13001-38001