Künstliche Intelligenz für IT-Sicherheit  – F&E-Förderung mit bis zu 50% Zuschuss

Im Rahmen des Forschungsrahmenprogramms der Bundesregierung zur IT-Sicherheit „Selbstbestimmt und sicher in der digitalen Welt 2015 bis 2020“, fördert das Bundesministerium für Bildung und Forschung (BMBF) Forschungsprojekte im Bereich der Künstlichen Intelligenz (KI) für IT-Sicherheit. Die fortschreitende Entwicklung im Bereich der KI birgt ein großes Potenzial zur Verbesserung der IT-Sicherheit. Deutschland besitzt sowohl bei der Forschung zu KI als auch zu IT-Sicherheit große Kompetenzen. Es gilt nun, die Zusammenarbeit dieser beiden Bereiche enger zu verzahnen um Innovationen zu befördern und gegenseitige Synergien zu nutzen.

1. Zuwendungszweck

Mit der fortschreitenden Digitalisierung bieten die immer komplexeren IT-Systeme eine Vielzahl von Angriffsflächen. Die Zahl der auf die Systeme durchgeführten Attacken ist riesig und die Angriffsmethoden verändern sich fortwährend. Erkennung und Abwehr dieser Angriffe stellen die Betreiber der Systeme vor immer größere Herausforderungen: Abwehrstrategien für komplexe Systemlandschafen sind oft sehr speziell und müssen auf sich schnell verändernde Angriffe angepasst werden. Außerdem besteht die Notwendigkeit, Angriffe in Echtzeit zu erkennen, um rechtzeitig auf sie zu reagieren. Der Einsatz maschineller Lernverfahren und Künstlicher Intelligenz (KI) kann dazu dienen, dass vernetzte IT-Systeme sich in Zukunft eigenständig auf neue Bedrohungen einstellen. Der Einsatz von Verfahren, die auf KI basieren, ist jedoch sehr anspruchsvoll. So ist mit der Inbetriebnahme solcher Systeme oftmals ein hoher zeitlicher Aufwand verbunden. Auch ist stets zu klären, ob und inwieweit der Mensch in den Erkennungs- und Abwehrprozess eingreifen kann bzw. soll.

Das Bundesministerium für Bildung und Forschung (BMBF) beabsichtigt daher die anwendungsorientierte F&E von IT-Sicherheitstechnologien und -verfahren auf Basis KI zu fördern. Ziel ist es, die Forschung im Bereich der KI und der IT-Sicherheit stärker miteinander zu verbinden, um Deutschland als Standort innovativer IT-Sicherheitslösungen zu stärken. Zudem wird mit der Förderung beabsichtigt, die Zusammenarbeit von Unternehmen und Forschungseinrichtungen im universitären und außeruniversitären Bereich zu intensivieren und besonders die Partizipation kleiner und mittlerer Unternehmen (KMU) an wissenschaftlichen Ergebnissen zu unterstützen. Endanwendern, wie Sicherheitsbehörden oder Unternehmen der betrieblichen Wirtschaft, kommt eine wichtige Rolle beim Transfer und der anwendungsorientierten Ausgestaltung der Forschungsergebnisse und ihrer zukünftigen Nutzung zu. Auf diese Weise soll die Förderung auch einen wichtigen Beitrag zur technologischen Souveränität Deutschlands im Bereich der IT-Sicherheit leisten.

2. Gegenstand der Förderung

Gegenstand der Förderung ist die Erforschung und Entwicklung neuer IT-Sicherheitslösungen basierend auf Verfahren der KI. Die Lösungen und Verfahren sollen so gestaltet werden, dass sie möglichst intuitiv benutzbar sind und in verschiedenen Anwendungskontexten Einsatz finden können.

a) KI-gestützte IT-Sicherheitslösungen bei begrenzten Ressourcen

Betriebe müssen ihre Informations-, Kommunikations- und Produktionssysteme bestmöglich vor Cyberangriffen sichern, um der Gefahr möglicher wirtschaftlicher Schäden und Reputationsverluste entgegenzutreten sowie um sicherheitsrelevante Zertifizierungsanforderungen zu erfüllen und gesetzliche Vorschriften einzuhalten. Dies stellt besonders KMU aufgrund ihrer begrenzten Ressourcen für IT-Sicherheit häufig vor große Herausforderungen.

Ein wichtiger Bestandteil der Absicherung der IT-Infrastruktur ist die Analyse des Netzwerkverkehrs durch Systeme zur Angriffserkennung und -abwehr, sogenannter Intrusion-Detection- bzw. Intrusion-Prevention-Systeme. Jedoch fehlt es häufig an IT-Sicherheitsexpertise, die für die Konfiguration und den Einsatz solch komplexer Systeme notwendig ist. Der Erfolg lernbasierter Systeme hängt zudem in erheblichem Maße von der Menge und Qualität der zur Verfügung stehenden Trainingsdaten ab. Bei einzelnen Anwendern stehen diese häufig nicht in ausreichendem Umfang zur Verfügung und können zudem auch nicht von anderen Unternehmen bezogen werden. Gefördert werden deshalb Vorhaben zu folgenden Forschungsaspekten:

  • IT-Sicherheitslösungen mit einfach zu handhabenden KI-Komponenten, damit auch bei geringer Kenntnis der Verfahren seitens des Anwenders gute Erfolge beim Einsatz der Lösungen erzielt werden.
  • Selbstlernende Sicherheitssysteme, die auf Basis kleinerer Datenmengen, wie sie in der Praxis von KMU vorhanden sind, gute Angriffserkennungsraten liefern.
  • Lösungen, die unter Gewährleistung des Datenschutzes und ohne Preisgabe sicherheitsrelevanter Informationen eine unternehmensübergreifende Nutzung von Lern- und Trainingsdaten ermöglichen.

b) KI-gestützte IT-Sicherheitslösungen für Netzwerksicherheit

Viele Angriffe sind an den Kommunikationsknotenpunkten im Internet erkennbar, über die sowohl Steuerungs- und Kontrollbefehle des Angreifenden als auch Daten des Angegriffenen übertragen werden. Für eine aussagekräftige Analyse reicht jedoch oft die Betrachtung eines einzelnen Knotens nicht aus. Stattdessen ist eine koordinierte Untersuchung vieler verteilter Knoten erforderlich. Zugleich steigert die rasante Vernetzung durch das Internet der Dinge die Diversität der miteinander kommunizierenden Geräte. Beispiele sind industrielle Anlagen, vernetzte autonom fahrende Fahrzeuge oder intelligente persönliche Assistenten, die alle sehr unterschiedliche Kommunikationsprotokolle verwenden. Benötigt werden deshalb Verfahren der KI, die diese heterogenen Quellen auswerten können, um sich anbahnende Bedrohungen rechtzeitig zu erkennen. Gegenstand der Förderung ist deshalb die F&E neuer innovativer IT-Sicherheitslösungen,

  • die in der Lage sind, aus heterogenen, verteilt vorliegenden Datenmengen, Aussagen zur Bedrohungslage abzuleiten,
  • die unter Berücksichtigung menschlicher Eingriffsmöglichkeiten (teil-)automatisierte Entscheidungen bezüglich notwendiger Verteidigungsmaßnahmen treffen,
  • die bevorstehenden Angriffe möglichst genau vorhersagen können.

c) Weiterentwicklung KI-gestützter IT-Sicherheitslösungen

Neben der Auswertung von Kommunikationsdaten gibt es weitere Möglichkeiten, Cyberangriffe zu erkennen und zu verhindern. Eine besteht in der Bewertung der Sicherheitsqualität von Soft- und Hardware mittels selbstlernender Systeme, beispielsweise durch intelligentes automatisiertes Testen. Verfahren des maschinellen Lernens sind jedoch im Allgemeinen nicht transparent hinsichtlich der tatsächlich gelernten Merkmale. Aufgrund dessen ist die Zuverlässigkeit und Qualität der beim Training erlernten Sicherheitsmodelle nur schwer einzuschätzen. Auch die Sicherstellung der Verfügbarkeit der teilweise sensiblen Daten zum Trainieren der Modelle ist mit großen Herausforderungen verbunden. Durch einen koordinierten Ansatz bei der Nutzung IT-sicherheitsrelevanter Trainingsdaten können dabei Synergieeffekte entstehen und genutzt werden. Auch wird an einigen Stellen bereits versucht, synthetische Daten zum Training der Systeme zu verwenden. Ziel der Förderung im Rahmen dieser Richtlinie ist unter anderem:

  • Die Entwicklung transparenter Sicherheitstechnologien unter Verwendung neuer KI-Verfahren. Diese sind anhand eines Demonstrators zu zeigen und zu evaluieren.
  • Eine verbesserte Erkennung von Angriffen auf lernsystembasierte IT-Sicherheitslösungen. Diese soll an praxisnahen Beispielen gezeigt und evaluiert werden.
  • Neue Ansätze zur Erzeugung synthetischer Trainingsdaten zur Verbesserung der Entscheidungsqualität selbstlernender IT-Sicherheitssysteme. Diese sind in der Anwendung zu demonstrieren und zu evaluieren.

Datenschutz, das Recht auf informationelle Selbstbestimmung, der Schutz der Privatsphäre und weitere rechtliche Bestimmungen sind – soweit relevant – zu berücksichtigen, insbesondere in Hinblick auf die Verwertbarkeit der Lösungen. Querschnittsthemen, wie Normung, Standardisierung und vorbereitende Arbeiten zur Zertifizierung, sollten, soweit erforderlich, in den Vorhaben berücksichtigt werden.

Im Rahmen der Förderbekanntmachung werden vorzugsweise interdisziplinäre Verbünde, in begründeten Ausnahmefällen auch Einzelvorhaben gefördert. Verbünde sollen vorhandene Expertise im Bereich der KI und der IT-Sicherheit miteinander verbinden. Der Praxisbezug der Projekte und die Verwertbarkeit der Ergebnisse sind durch eine angemessene Beteiligung von Anwendern, wie beispielsweise Unternehmen, Sicherheitsbehörden oder Betreiber Kritischer Infrastrukturen, in der Verbundstruktur sicherzustellen. Die skizzierten Lösungen müssen deutlich über den aktuellen Stand der Wissenschaft und Technik hinausgehen. Die Machbarkeit der Lösungen ist vorzugsweise in einem Demonstrator nachzuweisen.

3. Zuwendungsempfänger

Antragsberechtigt sind staatliche und nicht staatliche Hochschulen, außeruniversitäre Forschungseinrichtungen, Verbände und Vereine sowie sonstige Organisationen mit F&E-Interesse sowie Unternehmen der gewerblichen Wirtschaft. Zum Zeitpunkt der Auszahlung einer gewährten Zuwendung wird das Vorhandensein einer Betriebsstätte oder Niederlassung (Unternehmen) bzw. einer sonstigen Einrichtung, die der Tätigkeit des Zuwendungsempfängers dient (Hochschule, Forschungseinrichtung, Verbände und Vereine sowie sonstige Organisationen mit F&E-Interesse) in Deutschland verlangt. Die Beteiligung von Start-ups, KMU sowie mittelständischen Unternehmen wird ausdrücklich erwünscht und bei der Projektbegutachtung positiv berücksichtigt.

Die nationalen Vorgaben für mittelständische Unternehmen im Sinne dieser Förderrichtlinie sind Unternehmen, die einschließlich verbundener oder Partnerunternehmen zum Zeitpunkt der Antragstellung eine Größe von 1.000 Mitarbeitern und einen Jahresumsatz von 100 Millionen Euro nicht überschreiten.

4. Art und Umfang, Höhe der Zuwendung

Die Zuwendungen werden im Wege der Projektförderung als nichtrückzahlbarer Zuschuss gewährt. Bemessungsgrundlage für Zuwendungen an Unternehmen der gewerblichen Wirtschaft und für Vorhaben von Forschungseinrichtungen, die in den Bereich der wirtschaftlichen Tätigkeiten fallen, sind die zuwendungsfähigen projektbezogenen Kosten. In der Regel können diese – je nach Anwendungsnähe des Vorhabens – unter Berücksichtigung der beihilferechtlichen Vorgaben bis zu 50 % anteilfinanziert werden. Nach BMBF-Grundsätzen wird eine angemessene Eigenbeteiligung – grundsätzlich mindestens 50 % der entstehenden zuwendungsfähigen Kosten – vorausgesetzt.