DIE LAGE DER IT-SICHERHEIT IN DEUTSCHLAND 2020 | ZIELGRUPPENSPEZIFISCHE ERKENNTNISSE UND LÖSUNGEN
Bsp. Angriff
Für Angriffe auf die Gesichtsbiometrie können u. a. Mützenaufnäher oder Brillengestelle mit speziellen Mustern
präpariert werden, um zu einer gezielten Falschklassifikation der Person zu führen (in Abb. 6 wird Person A mit
manipulierter Brille als Person B erkannt; in den realen
Daten der Abb. 7 wird Person 3 mittels Brillenangriff
zu fast 80 % als Person 1 und nur zu <5 % als Person 3
erkannt). Die zurzeit dominant eingesetzten DNNs lassen
sich aufgrund inhärenter Eigenschaften sehr schwer interpretieren, d. h. ihre Entscheidungen lassen sich in der
Regel nicht nachvollziehen. Hieraus folgt, dass die oben
genannten Angriffe nur sehr schwer erkannt werden
können und es neuer Ansätze zur verbesserten Interpretierbarkeit von KI-Systemen bedarf. Die verschiedenen
Aspekte von Angriffen und Verteidigungsmaßnahmen
werden momentan im Rahmen von wissenschaftlichen
Arbeiten in Kooperationen mit führenden nationalen
Wahrscheinlichkeit
Top5 Konfidenz
PERSON 5
20%
PERSON 4
40%
PERSON 3
60%
PERSON 2
80%
PERSON 1
Neben einer hohen Performanz und Robustheit besitzen
KI-Systeme im Vergleich zu klassischen IT-Systemen
qualitativ neue Verwundbarkeiten mit potenziell ernsten
Implikationen für die IT-Sicherheit. Einerseits können
Angreifer Trainingsdaten manipulieren (Abb. 6 links
oben), was z. B. zum Eintrainieren von schwer detektierbaren Hintertüren in das KI-System führen kann.
Andererseits können Angreifer Referenzdaten manipulieren, z. B. durch das Verschmelzen mehrerer Gesichter
zu einem Ausweisfoto (Gesichts-Morphing, vgl. rotes Gesichtsbild im Kasten Referenzdaten in Abb. 6). Außerdem
können Angreifer die aktuellen Sensordaten während
des Betriebs durch die Präsentation von Artefakten, z. B.
im Rahmen von adversarialen Angriffen (Abb. 6 mitte
oben) oder sogenannten Deep Fakes, manipulieren.
Bei adversarialen Angriffen werden Sensordaten vom
Angreifer so modifiziert, dass dies einerseits Menschen
i. d. R. nicht als Angriff auffällt (bei Bildern z. B. ein
leichtes Rauschmuster oder ein Aufkleber mit einem
bunten Muster im Bild), andererseits aber das KI-System
eine andere Entscheidung trifft, als ursprünglich vom
Entwickler beabsichtigt. Hierbei werden KI-spezifische
Verwundbarkeiten ausgenutzt. Bei Deep Fakes werden
Sensordaten so manipuliert, dass in erster Linie Menschen und optional auch KI-Systeme. Zur Generierung
dieser Artefakte werden oftmals wiederum KI-Systeme
eingesetzt.
PERSON 3
in einer z. T. komplexen Prozesskette trainiert, getestet
und in den Betrieb überführt. Hohe Genauigkeit und
Robustheit von KI-Systemen erfordern vor dem Betrieb
Trainings und Tests mit einer großen Menge an geeigneten Trainings- und Testdaten, eine hohe Rechenleistung und eine hinreichende Erfahrung der Entwickler.
Eine entsprechende Untersuchungsplattform für die
Schwachstellenanalyse biometrischer KI-Systeme wurde
im letzten Berichtszeitraum im BSI etabliert.
0%
Abbildung 7 W
ahrscheinlichkeit Top 5 Konfidenz,
Quelle: GettyImages ©Morsa Images, BSI
Forschungseinrichtungen im BSI untersucht. Die neuen
Verwundbarkeiten von KI-Systemen und die Möglichkeiten zu deren Evaluation wurden systematisch in
einem wissenschaftlichen Überblicksartikel des BSI
aufgearbeitet (vgl. Kapitel Künstliche Intelligenz, Seite 74).
2.2
Wirtschaft / Kritische
Infrastrukturen
Die deutsche Wirtschaft hängt in hohem Maße von einer
funktionierenden IT ab. In besonderer Weise gilt dies
für Betreiber Kritischer Infrastrukturen (KRITIS). Daher
prüft das BSI fortwährend, ob und inwieweit ein ausreichender Schutz gewährleistet ist, und schafft zugleich
die Voraussetzungen für eine Weiterentwicklung der
entsprechenden Infrastrukturen. Mit der Freigabe für
den Rollout intelligenter Messsysteme wurde so beispielsweise ein wichtiger Schritt für die Digitalisierung der
Energiewende unternommen und gleichzeitig ein Beitrag
geleistet, die Netze besser vor Cyber-Angriffen zu schützen. Auch beim Ausbau der 5G-Netze oder der Verbreitung
intelligenter Fahrsysteme wirkt das BSI im Zusammenspiel mit den jeweiligen Herstellern und Betreibern auf ein
angemessenes Sicherheitsniveau hin. Über die Allianz für
Cyber-Sicherheit treibt das BSI gemeinsam mit Partnern
zusätzlich auch den Austausch mit der Wirtschaft zu und
den Aufbau von IT-Sicherheits-Know-how voran.
51
Select target paragraph3
Connect to a paragraph
Connect to an entity
Disable highlights
Add to table of contents