Foundation Models wie ChatGPT oder Claude erzeugen Texte, Bilder oder Code – auf Knopfdruck. Ihre Möglichkeiten sind beeindruckend, ihre Fehlerquote ist es auch. Für Behörden, die in sicherheitsrelevanten Bereichen auf solche Modelle setzen wollen, reicht technischer Spieltrieb nicht. Es geht um Verlässlichkeit, Transparenz und Robustheit. Was passiert, wenn ein Soldat auf Basis einer KI-Zusammenfassung handelt – und diese falsch ist?
Genau hier setzt das neue Forschungsprogramm HEGEMON der Cyberagentur an. Am 4. Juni wurde die Ausschreibung veröffentlicht. Gesucht werden Forschungseinrichtungen, Universitäten, Unternehmen und Startups, die generative KI-Modelle für sicherheitskritische Aufgaben evaluieren und weiterentwickeln wollen. Der Name des Programms ist nicht zufällig gewählt: „Hegemon“ kommt aus dem Altgriechischen und bezeichnete den Anführer eines Bundes – oft mit militärischer oder politischer Führungsrolle. HEGEMON will die Kontrolle über den Einsatz von KI in sensiblen Bereichen zurückgewinnen.
Im Zentrum des Programms steht die Entwicklung von Prüfverfahren und Modellen, die dem Ernstfall standhalten. Ziel ist es, Foundation Models systematisch zu testen: Wie zuverlässig sind sie, wenn es nicht um Marketingtexte geht, sondern um Entscheidungen mit Risiko? Die Cyberagentur sieht darin eine strategische Lücke – besonders in Europa. Die dominierenden Modelle stammen aus den USA oder China. Ihre Trainingsdaten und Funktionsweise sind kaum öffentlich einsehbar. Für staatliche Stellen, die Verantwortung tragen, ist das unzureichend.
HEGEMON soll das ändern. In einem Forschungswettbewerb treten die teilnehmenden Teams gegeneinander an. Bewertet werden nicht nur die Ergebnisse, sondern auch die Methoden. Im Fokus stehen drei Szenarien aus dem Geoinformationswesen:
- Zusammenfassungen länderspezifischer Inhalte: Die KI soll aus langen, komplexen Texten nachvollziehbare Kurzdarstellungen generieren – unter Berücksichtigung sicherheitsrelevanter Aspekte.
- Umwandlung von Satellitendaten: Hier geht es um die Transformation von Fernerkundungsbildern in präzise, maschinenlesbare Vektordaten.
- Kartendialoge: Ein Chatbot, der auf Kartenbasis gezielte Informationen liefern kann – etwa medizinische Einrichtungen mit exakten Koordinaten.
Zur Umsetzung nutzt die Cyberagentur ein Instrument namens PCP – die vorkommerzielle Auftragsvergabe. Es erlaubt es, riskante, aber förderwürdige Entwicklungen außerhalb starrer Vergaberichtlinien zu finanzieren. Die Rechte an den entwickelten Lösungen bleiben bei den Beteiligten – ein Anreiz, der auch kleine Akteure ins Spiel bringt.
Dr. Daniel Gille, KI-Leiter der Cyberagentur, betont den experimentellen Charakter des Projekts: „Wir verlassen die üblichen Bewertungsschemata. Es geht um praktische Tauglichkeit – nicht nur um technisches Können.“ Im Unterschied zu bestehenden Benchmarks wie MMLU oder LAMBADA, die vor allem auf Englisch und in standardisierten Domänen arbeiten, verlangt HEGEMON domänenspezifische Lösungen auf hohem Sicherheitsniveau – auch in deutscher Sprache.
Die Ausschreibung läuft bis zum 31. Juli 2025 um 10 Uhr. Danach folgen Auswahl, Prototyping und mehrere Evaluationsphasen. Die besten Ansätze werden weiter gefördert. Geplant ist ein Forschungszeitraum von drei Jahren.
Mit HEGEMON soll Europa nicht nur Nutzer fremder Technologien bleiben, sondern selbst Standards setzen. Wer am Ende als „Hegemon“ unter den KI-Systemen hervorgeht, entscheidet sich nicht im Labor, sondern im Vergleich – Modell gegen Modell, Anwendung gegen Anwendung. Die Zeit der bloßen Demo-Videos ist vorbei.
Weitere Informationen: https://www.cyberagentur.de/programme/hegemon
