8.1.10 IT-Sicherheit durch KI und IT-Sicherheit für KI gewährleisten
Warum ist das Ziel relevant?
KI ist eine der zentralen Schlüsseltechnologien des
21. Jahrhunderts und Treiber für die fortschreitende
Digitalisierung von Produkten, Dienstleistungen und
Prozessen. Bereits heute beeinflusst KI sicher
heitskritische Prozesse und Entscheidungen, zum
Beispiel im Kontext von Biometrie, Gesundheitswe
sen oder Mobilität.
Für Cybersicherheit ergeben sich durch den zuneh
menden Einsatz von KI neue Chancen, aber auch Ri
siken: Mithilfe von KI-Systemen können Sicherheits
lücken identifiziert oder Angriffe zeitnah erkannt
und abgewehrt werden. Bestehende Instrumente zur
Verteidigung gegenüber Cyberangriffen können effi
zienter gestaltet und neue Instrumente entwickelt
werden.
Gleichzeitig führt der verstärkte Einsatz KI-basierter
Systeme für die Automatisierung von Prozessen und
Entscheidungen zu neuen Sicherheitsbedrohungen,
die von etablierten IT-Sicherheitsstandards bisher
nicht abgedeckt werden.
Wo stehen wir?
KI-Strategie für Deutschland
KI birgt als Schlüsseltechnologie großes
Potenzial für Wirtschaftswachstum
und Produktivitätszuwächse. Um die
ses Potenzial zum Wohle der Menschen
und der Umwelt verantwortungsvoll,
sicher und gemeinwohlorientiert zu
fördern und zu nutzen, hat die Bundes
regierung mit der „Strategie Künstliche
Intelligenz“ (KI-Strategie) einen Hand
lungsrahmen entwickelt und weitrei
chende Maßnahmen beschlossen.
Mit der 2018 verabschiedeten und 2020
fortgeschriebenen Strategie hat die
Bundesregierung ihr Engagement für
die Zukunftstechnologie KI weiter ge
stärkt: Bis 2025 werden die Investitio
nen des Bundes für KI aus Mitteln des
Konjunktur- beziehungsweise Zu
kunftspaketes von drei auf fünf Milliar
den Euro erhöht.
Die Strategie ist abrufbar unter
KI-basierte Systeme werden zunehmend genutzt und
https://www.ki-strategie-deutschkommen in verschiedensten Szenarien zum Einsatz.
land.de/home.html.
Bislang fehlen einheitliche Kriterien, Methoden und
Werkzeuge zur Bewertung von KI-Systemen. Mit dem derzeit auf europäischer Ebene verhandel
ten Verordnungsentwurf AI Act27 der Kommission werden jedoch Regulierungsanforderungen
mit entsprechenden Prüfkriterien entwickelt, die dann auch in Deutschland umgesetzt werden
müssen. Die Bundesregierung fördert verschiedene Maßnahmen in Forschung und Wirtschaft im
Bereich KI. Sie bringt ihre Expertise in nationale und internationale Standardisierungsprozesse ein
und gestaltet damit aktiv Normen und Standards.
Was wollen wir erreichen?
KI-Systeme erreichen ein von ihrem jeweiligen Einsatzzweck abhängiges, möglichst hohes IT-Si
cherheitsniveau und werden gleichzeitig zur Gewährleistung eines hohen IT-Sicherheitsniveaus
27
Abrufbar unter: https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX%3A52021PC0206
50
Select target paragraph3
Connect to a paragraph
Connect to an entity
Disable highlights
Add to table of contents