DIE LAGE DER IT-SICHERHEIT IN DEUTSCHLAND 2020 | ZIELGRUPPENSPEZIFISCHE ERKENNTNISSE UND LÖSUNGEN
und Gesellschaft bewertet werden. Im Vergleich zu
klassischen IT-Systemen existieren bei KI-Systemen
neuartige Angriffsvektoren: Durch eine Manipulation
von Trainings- oder Eingabedaten können die Systeme
oft gezielt zu falschen Entscheidungen verleitet werden. Bereits geringfügige Änderungen, die schwierig
zu detektieren und für Menschen möglicherweise
nicht unmittelbar erkennbar sind, können gravierende
Auswirkungen haben. Ein weiteres Beispiel ist, dass die
Ausgaben von KI-Systemen unter bestimmten Umständen Rückschlüsse auf möglicherweise vertrauliche
Trainingsdaten zulassen.
Im Berichtszeitraum betreute das BSI mehrere Abschlussarbeiten und Praktika, die sich mit Angriffen
auf KI-Systeme und möglichen Verteidigungsstrategien
auseinandersetzen, und veröffentlichte einen wissenschaftlichen Übersichtsartikel (vgl. Quellenverzeichnis37:
http://arxiv.org) über die Angreifbarkeit und Absicherung von ausgewählten KI-Modellen.
Neben der Analyse von Sicherheitseigenschaften ist
deren Nachweisbarkeit im Rahmen von Prüfverfahren
entscheidend. Das BSI arbeitete im Berichtszeitraum
mit verschiedenen Partnern an der Entwicklung von
Prüfkriterien und Prüfmethoden für KI-Anwendungen
in unterschiedlichen Domänen, insbesondere im Bereich
Automotive und Cloud-Services.
Diese Aktivitäten werden zukünftig erweitert und in einem größeren Rahmen zusammengeführt: Das Deutsche
Institut für Normung (DIN) erarbeitet, im Auftrag mehrerer Bundesministerien, eine Roadmap für Normen und
Standards im Bereich der KI, die in den sicherheitstechnischen Aspekten wesentlich durch das BSI mitgestaltet
wird. Insbesondere arbeitet das BSI federführend an
einem Konzept zur Umsetzung dieser Roadmap mit.
Das Konzept sieht vor, in einem breit angelegten nationalen Programm und unter Einbeziehung von relevanten
Stakeholdern in den nächsten Jahren Prüfstandards für
eine Vielzahl von KI-Anwendungsdomänen zu entwickeln, zu erproben und einzuführen.
Begleitend dazu war das BSI im Berichtszeitraum in
weiteren relevanten Arbeitsgruppen vertreten, u. a. bei
der Plattform Lernende Systeme (vgl. Quellenverzeichnis38:
www.plattform-lernende-systeme.de) und der ETSI
Industry Specification Group Securing Artificial Intelligence (vgl. Quellenverzeichnis39: www.etsi.org) und
beteiligte sich an der Erstellung von Publikationen
(vgl. Quellenverzeichnis40: www.plattform-lernendesysteme.de) im Rahmen dieser Arbeitsgruppen.
Medienmanipulation mittels KI
KI-gestützte Methoden werden zunehmend zur Medienmanipulation eingesetzt: Während Fälschungen von
Medien ohne den Einsatz von KI i. d. R. auf statische
Inhalte (Bilder und Texte) beschränkt sind und einen
hohen finanziellen und zeitlichen Aufwand erfordern,
ermöglicht der Einsatz von KI als Angriffswerkzeug
unter bestimmten Voraussetzungen die täuschend echte
Manipulation von dynamischen Medieninhalten, u. a.
von Gesichtern und Stimmen in Video- und Audiostreams. Die verschiedenen Verfahren werden dabei
landläufig als Deep Fakes bezeichnet. Angreifer können diese Verfahren nutzen, um z. B. bei biometrischen
Authentifizierungsverfahren in Videokonferenzen oder
in über Soziale Medien geteilten Mediendateien, falsche
Identitäten vorzutäuschen. Das BSI betreute im Berichtszeitraum in diesem Themenfeld Masterarbeiten, die
sich u. a. mit der Detektion von solchen Manipulationen
beschäftigten.
Einsatz von KI in der Kryptografie
Im Berichtszeitraum befasste sich das BSI weiterhin
mit dem Einsatz von KI-Methoden in der Kryptografie:
Im Fokus der Untersuchungen standen die mathematische Kryptoanalyse (vgl. Quellenverzeichnis41:
www.link.springer.com) und die Seitenkanalangriffe
(vgl. Quellenverzeichnis42: https://eprint.iacr.org). Ein
wichtiger Aspekt der Untersuchungen war der Vergleich
von KI-basierten mit konventionellen Angriffen, der in
den betrachteten Szenarien eine leichte Überlegenheit
von KI-basierten Ansätzen zeigte. Die erzielten Ergebnisse werden in Evaluierungsverfahren bei der Zertifizierung und Zulassung von Produkten verwendet, um
kryptografische Algorithmen und deren Implementierungen zu beurteilen.
2.5.2 Kryptografie
Die Sicherheit unserer digitalen Infrastruktur beruht
wesentlich auf kryptografischen Verfahren. Konkret
verschlüsselt man in der digitalen Kommunikation
Nachrichten mit einem kryptografischen Schlüssel, der
vorher üblicherweise mit einem Public-Key-Verfahren
vereinbart wurde. Dabei stützt sich die Sicherheit der
Schlüsselvereinbarung auf die angenommene Schwierigkeit bestimmter mathematischer Probleme. Beispielsweise basiert die Sicherheit des gängigen RSA-Verfahrens, das zum Verschlüsseln aber auch zum Signieren
verwendet wird, auf der Tatsache, dass es im Allgemeinen schwierig ist, große Zahlen in ihre Primfaktoren zu
zerlegen.
75
Select target paragraph3
Connect to a paragraph
Connect to an entity
Disable highlights
Add to table of contents