eingesetzt (IT-Sicherheit für KI und IT-Sicherheit durch KI). Die Einsatzmöglichkeiten von KI-Sys­ temen zum Schutz von (staatlichen) IT-Systemen werden hierfür fortlaufend geprüft. Der Regulierungsrahmen von IT-Sicherheitsanforderungen schließt die Sicherheit von KI-Syste­ men mit ein. Für KI-Systeme gibt es klar definierte IT-Sicherheitsanforderungen, welche die Be­ sonderheiten der Systeme berücksichtigen. Die Sicherheitseigenschaften von KI-basierten Syste­ men können durch effektive und effiziente Prüfkriterien und -methoden evaluiert werden. Diese berücksichtigen insbesondere auch neuartige Angriffstechniken, die die spezifischen Eigenschaf­ ten von KI-Systemen ausnutzen. Dies gilt es insbesondere auch im europäischen AI Act zu berück­ sichtigen, damit dort hohe IT-Sicherheitsstandards gesetzt werden für KI-Anwendungen, deren Risiko als hoch bewertet wird. IT-Sicherheit ist ein Grundbaustein, der bei der Entwicklung von KI-Systemen berücksichtigt wird (Security-by-Design). Diese erfüllen ein von ihrem jeweiligen Einsatzzweck abhängiges IT-Sicher­ heits-Niveau. Neben dem Schutz KI-basierter Systeme (IT-Sicherheit für KI) werden KI-basierte Systeme auch für bessere Analyse- und Darstellungsformate sowie bessere Schutzmaßnahmen genutzt (IT-Si­ cherheit durch KI). Insbesondere werden diese bei der Erkennung von Angriffen auf Netzwerke oder durch die Sicherheitsbehörden im Rahmen der Strafverfolgung eingesetzt. Dabei ist zu be­ achten, dass es insbesondere in Bezug auf Hasskriminalität immer einer Beurteilung des Kontextes bedarf, die KI nicht leisten kann. In einem gemeinsamen Prozess mit Partnern aus Forschung, Wirtschaft und Verwaltung entwi­ ckelt die Bundesregierung die technologischen Grundlagen zur Bewertung solcher Systeme und überführt sie in die Praxis. Dabei setzt sich die Bundesregierung für die Durchsetzung europäischer Werte in KI-Produkten und KI-Dienstleistungen weltweit ein. Welche Wirkung erwarten wir? Durch die Gewährleistung einer nachweisbaren Sicherheit von KI wird ein wichtiger Grundstein für die Akzeptanz und den Erfolg dieser für die Digitalisierung essenziellen Schlüsseltechnologie gelegt. Nur so können die Chancen der Technologie für Staat, Wirtschaft und Gesellschaft ausge­ schöpft werden. Zudem wird so das Vertrauen der Benutzerinnen und Benutzer in KI-basierte Sys­ teme aufgebaut und aufrechterhalten. Gleichzeitig wird die Sicherheit von Staat, Wirtschaft und Gesellschaft durch den Einsatz von KI für IT-Sicherheitsanwendungen sowie durch die bessere Absicherung von KI-Systemen erhöht. Im Ergebnis werden auch die nationale und die europäische Wirtschaft gefördert und damit die Digitale Souveränität in einem globalen KI-Markt gestärkt. Woran lassen wir uns messen? Die Bundesregierung wird die Erreichung des Ziels anhand folgender Kriterien überprüfen: • Die Anzahl und Qualität wissenschaftlicher Publikationen, die sich mit KI-spezifischen Angriffsvektoren und entsprechenden Gegenmaßnahmen und deren Einsatz in relevan­ ten Anwendungsbereichen auseinandersetzen, ist signifikant gestiegen. 51

Select target paragraph3

Connect to a paragraph
Connect to an entity
Disable highlights
Add to table of contents