DIE LAGE DER IT-SICHERHEIT IN DEUTSCHLAND 2020 | ZIELGRUPPENSPEZIFISCHE ERKENNTNISSE UND LÖSUNGEN und Gesellschaft bewertet werden. Im Vergleich zu klassischen IT-Systemen existieren bei KI-Systemen neuartige Angriffsvektoren: Durch eine Manipulation von Trainings- oder Eingabedaten können die Systeme oft gezielt zu falschen Entscheidungen verleitet werden. Bereits geringfügige Änderungen, die schwierig zu detektieren und für Menschen möglicherweise nicht unmittelbar erkennbar sind, können gravierende Auswirkungen haben. Ein weiteres Beispiel ist, dass die Ausgaben von KI-Systemen unter bestimmten Umständen Rückschlüsse auf möglicherweise vertrauliche Trainingsdaten zulassen. Im Berichtszeitraum betreute das BSI mehrere Abschlussarbeiten und Praktika, die sich mit Angriffen auf KI-Systeme und möglichen Verteidigungsstrategien auseinandersetzen, und veröffentlichte einen wissenschaftlichen Übersichtsartikel (vgl. Quellenverzeichnis37: http://arxiv.org) über die Angreifbarkeit und Absicherung von ausgewählten KI-Modellen. Neben der Analyse von Sicherheitseigenschaften ist deren Nachweisbarkeit im Rahmen von Prüfverfahren entscheidend. Das BSI arbeitete im Berichtszeitraum mit verschiedenen Partnern an der Entwicklung von Prüfkriterien und Prüfmethoden für KI-Anwendungen in unterschiedlichen Domänen, insbesondere im Bereich Automotive und Cloud-Services. Diese Aktivitäten werden zukünftig erweitert und in einem größeren Rahmen zusammengeführt: Das Deutsche Institut für Normung (DIN) erarbeitet, im Auftrag mehrerer Bundesministerien, eine Roadmap für Normen und Standards im Bereich der KI, die in den sicherheitstechnischen Aspekten wesentlich durch das BSI mitgestaltet wird. Insbesondere arbeitet das BSI federführend an einem Konzept zur Umsetzung dieser Roadmap mit. Das Konzept sieht vor, in einem breit angelegten nationalen Programm und unter Einbeziehung von relevanten Stakeholdern in den nächsten Jahren Prüfstandards für eine Vielzahl von KI-Anwendungsdomänen zu entwickeln, zu erproben und einzuführen. Begleitend dazu war das BSI im Berichtszeitraum in weiteren relevanten Arbeitsgruppen vertreten, u. a. bei der Plattform Lernende Systeme (vgl. Quellenverzeichnis38: www.plattform-lernende-systeme.de) und der ETSI Industry Specification Group Securing Artificial Intelligence (vgl. Quellenverzeichnis39: www.etsi.org) und beteiligte sich an der Erstellung von Publikationen (vgl. Quellenverzeichnis40: www.plattform-lernendesysteme.de) im Rahmen dieser Arbeitsgruppen. Medienmanipulation mittels KI KI-gestützte Methoden werden zunehmend zur Medienmanipulation eingesetzt: Während Fälschungen von Medien ohne den Einsatz von KI i. d. R. auf statische Inhalte (Bilder und Texte) beschränkt sind und einen hohen finanziellen und zeitlichen Aufwand erfordern, ermöglicht der Einsatz von KI als Angriffswerkzeug unter bestimmten Voraussetzungen die täuschend echte Manipulation von dynamischen Medieninhalten, u. a. von Gesichtern und Stimmen in Video- und Audiostreams. Die verschiedenen Verfahren werden dabei landläufig als Deep Fakes bezeichnet. Angreifer können diese Verfahren nutzen, um z. B. bei biometrischen Authentifizierungsverfahren in Videokonferenzen oder in über Soziale Medien geteilten Mediendateien, falsche Identitäten vorzutäuschen. Das BSI betreute im Berichtszeitraum in diesem Themenfeld Masterarbeiten, die sich u. a. mit der Detektion von solchen Manipulationen beschäftigten. Einsatz von KI in der Kryptografie Im Berichtszeitraum befasste sich das BSI weiterhin mit dem Einsatz von KI-Methoden in der Kryptografie: Im Fokus der Untersuchungen standen die mathematische Kryptoanalyse (vgl. Quellenverzeichnis41: www.link.springer.com) und die Seitenkanalangriffe (vgl. Quellenverzeichnis42: https://eprint.iacr.org). Ein wichtiger Aspekt der Untersuchungen war der Vergleich von KI-basierten mit konventionellen Angriffen, der in den betrachteten Szenarien eine leichte Überlegenheit von KI-basierten Ansätzen zeigte. Die erzielten Ergebnisse werden in Evaluierungsverfahren bei der Zertifizierung und Zulassung von Produkten verwendet, um kryptografische Algorithmen und deren Implementierungen zu beurteilen. 2.5.2 Kryptografie Die Sicherheit unserer digitalen Infrastruktur beruht wesentlich auf kryptografischen Verfahren. Konkret verschlüsselt man in der digitalen Kommunikation Nachrichten mit einem kryptografischen Schlüssel, der vorher üblicherweise mit einem Public-Key-Verfahren vereinbart wurde. Dabei stützt sich die Sicherheit der Schlüsselvereinbarung auf die angenommene Schwierigkeit bestimmter mathematischer Probleme. Beispielsweise basiert die Sicherheit des gängigen RSA-Verfahrens, das zum Verschlüsseln aber auch zum Signieren verwendet wird, auf der Tatsache, dass es im Allgemeinen schwierig ist, große Zahlen in ihre Primfaktoren zu zerlegen. 75

Select target paragraph3

Connect to a paragraph
Connect to an entity
Disable highlights
Add to table of contents