DIE LAGE DER IT-SICHERHEIT IN DEUTSCHLAND 2020 | ZIELGRUPPENSPEZIFISCHE ERKENNTNISSE UND LÖSUNGEN Bsp. Angriff Für Angriffe auf die Gesichtsbiometrie können u. a. Mützenaufnäher oder Brillengestelle mit speziellen Mustern präpariert werden, um zu einer gezielten Falschklassifikation der Person zu führen (in Abb. 6 wird Person A mit manipulierter Brille als Person B erkannt; in den realen Daten der Abb. 7 wird Person 3 mittels Brillenangriff zu fast 80 % als Person 1 und nur zu <5 % als Person 3 erkannt). Die zurzeit dominant eingesetzten DNNs lassen sich aufgrund inhärenter Eigenschaften sehr schwer interpretieren, d. h. ihre Entscheidungen lassen sich in der Regel nicht nachvollziehen. Hieraus folgt, dass die oben genannten Angriffe nur sehr schwer erkannt werden können und es neuer Ansätze zur verbesserten Interpretierbarkeit von KI-Systemen bedarf. Die verschiedenen Aspekte von Angriffen und Verteidigungsmaßnahmen werden momentan im Rahmen von wissenschaftlichen Arbeiten in Kooperationen mit führenden nationalen Wahrscheinlichkeit Top5 Konfidenz PERSON 5 20% PERSON 4 40% PERSON 3 60% PERSON 2 80% PERSON 1 Neben einer hohen Performanz und Robustheit besitzen KI-Systeme im Vergleich zu klassischen IT-Systemen qualitativ neue Verwundbarkeiten mit potenziell ernsten Implikationen für die IT-Sicherheit. Einerseits können Angreifer Trainingsdaten manipulieren (Abb. 6 links oben), was z. B. zum Eintrainieren von schwer detektierbaren Hintertüren in das KI-System führen kann. Andererseits können Angreifer Referenzdaten manipulieren, z. B. durch das Verschmelzen mehrerer Gesichter zu einem Ausweisfoto (Gesichts-Morphing, vgl. rotes Gesichtsbild im Kasten Referenzdaten in Abb. 6). Außerdem können Angreifer die aktuellen Sensordaten während des Betriebs durch die Präsentation von Artefakten, z. B. im Rahmen von adversarialen Angriffen (Abb. 6 mitte oben) oder sogenannten Deep Fakes, manipulieren. Bei adversarialen Angriffen werden Sensordaten vom Angreifer so modifiziert, dass dies einerseits Menschen i. d. R. nicht als Angriff auffällt (bei Bildern z. B. ein leichtes Rauschmuster oder ein Aufkleber mit einem bunten Muster im Bild), andererseits aber das KI-System eine andere Entscheidung trifft, als ursprünglich vom Entwickler beabsichtigt. Hierbei werden KI-spezifische Verwundbarkeiten ausgenutzt. Bei Deep Fakes werden Sensordaten so manipuliert, dass in erster Linie Menschen und optional auch KI-Systeme. Zur Generierung dieser Artefakte werden oftmals wiederum KI-Systeme eingesetzt. PERSON 3 in einer z. T. komplexen Prozesskette trainiert, getestet und in den Betrieb überführt. Hohe Genauigkeit und Robustheit von KI-Systemen erfordern vor dem Betrieb Trainings und Tests mit einer großen Menge an geeigneten Trainings- und Testdaten, eine hohe Rechenleistung und eine hinreichende Erfahrung der Entwickler. Eine entsprechende Untersuchungsplattform für die Schwachstellenanalyse biometrischer KI-Systeme wurde im letzten Berichtszeitraum im BSI etabliert. 0% Abbildung 7 W  ahrscheinlichkeit Top 5 Konfidenz, Quelle: GettyImages ©Morsa Images, BSI Forschungseinrichtungen im BSI untersucht. Die neuen Verwundbarkeiten von KI-Systemen und die Möglichkeiten zu deren Evaluation wurden systematisch in einem wissenschaftlichen Überblicksartikel des BSI aufgearbeitet (vgl. Kapitel Künstliche Intelligenz, Seite 74). 2.2 Wirtschaft / Kritische Infrastrukturen Die deutsche Wirtschaft hängt in hohem Maße von einer funktionierenden IT ab. In besonderer Weise gilt dies für Betreiber Kritischer Infrastrukturen (KRITIS). Daher prüft das BSI fortwährend, ob und inwieweit ein ausreichender Schutz gewährleistet ist, und schafft zugleich die Voraussetzungen für eine Weiterentwicklung der entsprechenden Infrastrukturen. Mit der Freigabe für den Rollout intelligenter Messsysteme wurde so beispielsweise ein wichtiger Schritt für die Digitalisierung der Energiewende unternommen und gleichzeitig ein Beitrag geleistet, die Netze besser vor Cyber-Angriffen zu schützen. Auch beim Ausbau der 5G-Netze oder der Verbreitung intelligenter Fahrsysteme wirkt das BSI im Zusammenspiel mit den jeweiligen Herstellern und Betreibern auf ein angemessenes Sicherheitsniveau hin. Über die Allianz für Cyber-Sicherheit treibt das BSI gemeinsam mit Partnern zusätzlich auch den Austausch mit der Wirtschaft zu und den Aufbau von IT-Sicherheits-Know-how voran. 51

Select target paragraph3

Connect to a paragraph
Connect to an entity
Disable highlights
Add to table of contents