eingesetzt (IT-Sicherheit für KI und IT-Sicherheit durch KI). Die Einsatzmöglichkeiten von KI-Sys
temen zum Schutz von (staatlichen) IT-Systemen werden hierfür fortlaufend geprüft.
Der Regulierungsrahmen von IT-Sicherheitsanforderungen schließt die Sicherheit von KI-Syste
men mit ein. Für KI-Systeme gibt es klar definierte IT-Sicherheitsanforderungen, welche die Be
sonderheiten der Systeme berücksichtigen. Die Sicherheitseigenschaften von KI-basierten Syste
men können durch effektive und effiziente Prüfkriterien und -methoden evaluiert werden. Diese
berücksichtigen insbesondere auch neuartige Angriffstechniken, die die spezifischen Eigenschaf
ten von KI-Systemen ausnutzen. Dies gilt es insbesondere auch im europäischen AI Act zu berück
sichtigen, damit dort hohe IT-Sicherheitsstandards gesetzt werden für KI-Anwendungen, deren
Risiko als hoch bewertet wird.
IT-Sicherheit ist ein Grundbaustein, der bei der Entwicklung von KI-Systemen berücksichtigt wird
(Security-by-Design). Diese erfüllen ein von ihrem jeweiligen Einsatzzweck abhängiges IT-Sicher
heits-Niveau.
Neben dem Schutz KI-basierter Systeme (IT-Sicherheit für KI) werden KI-basierte Systeme auch
für bessere Analyse- und Darstellungsformate sowie bessere Schutzmaßnahmen genutzt (IT-Si
cherheit durch KI). Insbesondere werden diese bei der Erkennung von Angriffen auf Netzwerke
oder durch die Sicherheitsbehörden im Rahmen der Strafverfolgung eingesetzt. Dabei ist zu be
achten, dass es insbesondere in Bezug auf Hasskriminalität immer einer Beurteilung des Kontextes
bedarf, die KI nicht leisten kann.
In einem gemeinsamen Prozess mit Partnern aus Forschung, Wirtschaft und Verwaltung entwi
ckelt die Bundesregierung die technologischen Grundlagen zur Bewertung solcher Systeme und
überführt sie in die Praxis. Dabei setzt sich die Bundesregierung für die Durchsetzung europäischer
Werte in KI-Produkten und KI-Dienstleistungen weltweit ein.
Welche Wirkung erwarten wir?
Durch die Gewährleistung einer nachweisbaren Sicherheit von KI wird ein wichtiger Grundstein
für die Akzeptanz und den Erfolg dieser für die Digitalisierung essenziellen Schlüsseltechnologie
gelegt. Nur so können die Chancen der Technologie für Staat, Wirtschaft und Gesellschaft ausge
schöpft werden. Zudem wird so das Vertrauen der Benutzerinnen und Benutzer in KI-basierte Sys
teme aufgebaut und aufrechterhalten.
Gleichzeitig wird die Sicherheit von Staat, Wirtschaft und Gesellschaft durch den Einsatz von KI
für IT-Sicherheitsanwendungen sowie durch die bessere Absicherung von KI-Systemen erhöht.
Im Ergebnis werden auch die nationale und die europäische Wirtschaft gefördert und damit die
Digitale Souveränität in einem globalen KI-Markt gestärkt.
Woran lassen wir uns messen?
Die Bundesregierung wird die Erreichung des Ziels anhand folgender Kriterien überprüfen:
•
Die Anzahl und Qualität wissenschaftlicher Publikationen, die sich mit KI-spezifischen
Angriffsvektoren und entsprechenden Gegenmaßnahmen und deren Einsatz in relevan
ten Anwendungsbereichen auseinandersetzen, ist signifikant gestiegen.
51
Select target paragraph3
Connect to a paragraph
Connect to an entity
Disable highlights
Add to table of contents