Motivation

Methoden der generativen Künstlichen Intelligenz (KI) durchdringen mittlerweile nahezu alle Lebensbereiche. Diese Art von KI nutzt komplexe Modelle der Datenverarbeitung und Mustererkennung, um neue Inhalte zu erstellen. Die fortschreitende Entwicklung der dafür eingesetzten neuronalen Netze mit hunderten Milliarden von Parametern bietet ungeahnte Chancen, birgt aber auch große Risiken, insbesondere für die Cybersicherheit. Beispielweise wird generative KI zunehmend von Kriminellen eingesetzt, um Schadsoftware zu erzeugen, die herkömmliche Sicherheitsmechanismen umgeht. Diese Schadsoftware kann unter anderem gegen nationale Infrastrukturen und Institutionen eingesetzt werden, die die Lebensadern demokratischer Gesellschafen bilden. Daher besteht Handlungsbedarf, um die bestehenden und zukünftigen Risiken sowie mögliche Gegenmaßnahmen auf dem Gebiet der generativen KI besser einzuschätzen. Mit diesem Wissen kann die Forschung und Entwicklung dann gezielt auf die größten Herausforderungen im Bereich KI und IT-Sicherheit ausgerichtet werden.

Ziele und Vorgehen

Das Vorhaben „Chancen und Risiken generativer Künstlicher Intelligenz in der Cybersicherheit“ (AIgenCY) zielt darauf ab, die Methoden generativer KI in Bezug auf neuartige Angriffsmöglichkeiten im Cyberraum zu erforschen. Zugleich sollen geeignete Maßnahmen entwickelt werden, die das Erkennen und Abwehren von derartigen Cyberangriffen verbessern. Hierfür entwickeln die Forschenden ein Experimentierlabor zur systematischen Evaluierung von generativen KI-Methoden im Bereich der IT-Sicherheit. So sollen relevante Chancen und Risiken der angewendeten KI-Methoden identifiziert werden. Das Experimentierlabor soll später zu einem Reallabor ausgebaut werden, in dem Daten und Modelle von ausgewählten Partnern analysiert werden können. Die Chancen und Risiken sollen in verschiedenen Feldern identifiziert werden, die sich vom Erkennen von Bedrohungen über deren Abwehr bis hin zum Erstellen von Inhalten erstrecken.

Innovationen und Perspektiven

Die Forschung zu generativer KI in der IT-Sicherheit steht am Anfang. Das Vorhaben AIgenCY ist somit ein Pionierprojekt der Erforschung von Chancen und Risiken generativer KI-Methoden in Bezug auf neuartige Angriffsmöglichkeiten. Daher bietet das Projekt die Chance, neues Wissen im Bereich der generativen KI aufzubauen und so den Standort Deutschland als Wissenschafts- und Industriestandort zu stärken. Darüber hinaus werden die Projektergebnisse zum Schutz von Deutschlands IT-Infrastrukturen beitragen und somit helfen, KI-gestützte Cyberkriminalität wirksam zu bekämpfen.