Prüfanforderungen für LLM-basierte agentische künstliche Intelligenz

Katalog von Prüfkriterien für die Sicherheit und Vertrauenswürdigkeit von KI mit Reinforcement Learning

Bonn · Offen · Frist 05.10.2026

Das Bundesamt für Sicherheit in der Informationstechnik in Bonn beschafft die Entwicklung eines Anforderungskatalogs zur Bewertung der Sicherheit und Vertrauenswürdigkeit von Anwendungen mit Reinforcement Learning, also lernenden KI-Systemen durch Rückmeldungen und Belohnungen. Der Katalog soll verschiedene Verfahren einschließlich ihrer Nutzung in generativen KI-Modellen abdecken, durch Erklärungen und Umsetzungshinweise ergänzt werden und als Grundlage für Selbsteinschätzung und Prüfungen dienen; außerdem soll er mit der SdT-Bibliothek des BSI kompatibel sein und als ergänzendes Modul zu BSI A5 gestaltet werden. Die Laufzeit beträgt 450 Tage, die Angebotsfrist endet am 5. Oktober 2026 um 12:00 Uhr; der Leistungsort liegt in der Region Bonn.

Studie und Konzept: Künstliche Intelligenz im Secure Software Development Life Cycle

Bonn · Offen · Frist 24.09.2026

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) in Bonn beauftragt die Erstellung einer umfassenden Studie zum Einsatz von Künstlicher Intelligenz (KI) und großen Sprachmodellen im Secure Software Development Life Cycle (SSDLC). Das Projekt umfasst die Analyse des aktuellen Stands der Technik, die Erarbeitung von Best Practices, die Überprüfung und Aktualisierung von Bewertungskriterien für die Common Criteria Zertifizierung sowie die Entwicklung einer Referenzarchitektur für die Integration von KI-Tools in die Open CoDE Plattform. Die Bearbeitungsdauer beträgt 240 Tage mit Abgabefrist zum 24. September 2026.

Forschungsprogramm zu KI-basierten Betriebssystemen und adaptiver Systemsteuerung

Offen

Die Agentur für Innovation in der Cybersicherheit GmbH plant ein Forschungsprogramm zu Betriebssystemen, in denen Künstliche Intelligenz (KI) als zentrale Steuerungseinheit Systemressourcen wie Prozessor, Arbeitsspeicher und Sicherheit verwaltet. Untersucht werden unter anderem Architektur, KI-basierte Kernmechanismen sowie Sicherheits- und Stabilitätsanforderungen für verschiedene Plattformen wie Desktop, Rechenzentrum und Edge-Geräte. Am 2. September 2026 findet von 9:00 bis 12:00 Uhr mitteleuropäischer Sommerzeit ein virtuelles Partnering-Event in Deutschland statt; die Anmeldung ist bis zum 26. August 2026 möglich.

Aufarbeitung von künstlicher Intelligenz und maschinellem Lernen in medizinischen Strahlenanwendungen

Offen · Frist 13.10.2026

Das Bundesamt für Strahlenschutz (BfS) beauftragt ein Forschungsvorhaben zur Untersuchung des Stands von Wissenschaft und Technik bei künstlicher Intelligenz (KI) und maschinellem Lernen in medizinischen Strahlenanwendungen. Dabei sollen aktuelle Einsatzmöglichkeiten, Entwicklungen, Risiken und ethische Herausforderungen sowie die rechtlichen und normativen Vorgaben in Deutschland und der Europäischen Union aufgearbeitet und mit der Regulierung anderer Länder verglichen werden. Der Auftrag ist der Region Bonn zugeordnet; die Frist endet am 13. Oktober 2026 um 07:00 Uhr UTC.

Forschungsprojekt zu KI-Methoden für die Seitenkanalanalyse kryptografischer Implementierungen

Bonn · Offen · Frist 21.09.2026

Das Bundesamt für Sicherheit in der Informationstechnik in Bonn beschafft ein Forschungs- und Entwicklungsprojekt zu Methoden der künstlichen Intelligenz für die Seitenkanalanalyse kryptografischer Implementierungen, also zur Untersuchung unbeabsichtigter physischer Signale wie Stromverbrauch oder elektromagnetischer Abstrahlung. Im Mittelpunkt stehen Post-Quanten-Kryptoverfahren sowie symmetrische Verfahren wie AES auf Mikrocontrollern und programmierbaren Logikbausteinen (FPGA); vorgesehen sind unter anderem eine Messumgebung, Datensätze, Software, Berichte und ein praxisorientierter Leitfaden. Der Auftrag hat eine Laufzeit von 720 Tagen und betrifft die Region Bonn; Angebote können bis zum 21. September 2026 um 12:00 Uhr eingereicht werden.

Technische Umsetzung einer Software-Stückliste für Künstliche-Intelligenz-Systeme

Bonn · Offen · Frist 28.09.2026

Das Bundesamt für Sicherheit in der Informationstechnik mit Sitz in Bonn beschafft die technische Umsetzung einer Software Bill of Materials (SBOM), also einer Stückliste mit Informationen zu Softwarekomponenten und deren Abhängigkeiten, für Künstliche-Intelligenz-Systeme. Grundlage ist das im G7-Rahmen veröffentlichte Konzept „SBOM for AI – Minimum Elements“; die SBOM soll automatisiert erstellt, in einem geeigneten Format ausgegeben und anschließend Interessenträgern zur Verfügung gestellt werden. Die Leistung ist der Region Bonn zugeordnet und hat eine Laufzeit von 540 Tagen; die Frist endet am 28. September 2026 um 12:00 Uhr UTC.

Erprobung eines KI-Systems zur Erkennung und Abwehr von Phishing-E-Mails

Offen · Frist 28.09.2026

Das Bundesamt für Sicherheit in der Informationstechnik beabsichtigt, ein System zur Erkennung und Abwehr von Phishing-E-Mails zu erproben. Dabei soll geprüft werden, ob ein auf einem Large Language Model (LLM), also einem großen Sprachmodell, basierendes System die Zustellung solcher E-Mails zusätzlich zu bestehenden Sicherheitsprotokollen verringern kann. Die Ausschreibung ist dem NUTS-Gebiet DEA22 zugeordnet; die Angebotsfrist endet am 28. September 2026 um 12:00 Uhr UTC.

Forschungsauftrag zu digitalen und KI-Lösungen für inklusive Beschäftigung

Bonn · Offen · Frist 30.09.2026

Das Bundesministerium für Arbeit und Soziales mit Sitz in Bonn vergibt einen Forschungsauftrag zur Frage, wie Kleine und mittlere Unternehmen (KMU) Beschäftigte mit altersbedingten, kognitiven oder psychischen Beeinträchtigungen mithilfe digitaler Technologien und Künstlicher Intelligenz (KI) unterstützen können. Untersucht werden Bedarfe und geeignete Lösungen; außerdem sollen Umsetzungsstrategien, Informationsangebote und Unterstützungsinstrumente entwickelt, getestet und verbreitet werden. Der Leistungszeitraum ist 2027 bis 2028, die europaweite Ausschreibung erfolgt als Wettbewerb­licher Dialog mit vorgeschaltetem Teilnahmewettbewerb; die Frist endet am 30. September 2026.

Online-Schulung zur Erstellung von KI-Agenten, KI-Assistenten und KI-Chatbots

Offen · Frist 20.10.2026

Das Bundesamt für das Personalmanagement der Bundeswehr beschafft eine eintägige Online-Schulung zur Erstellung und Anwendung von KI-Agenten, KI-Assistenten und KI-Chatbots. Inhalte sind unter anderem professionelles Prompting, die Entwicklung eigener Anwendungen sowie erste autonome Agenten, Sprach-Bots und bildgestützte Assistenten. Vorgesehen sind bis zu zwei Abrufe pro Jahr im Rahmenvertrag über zwei Jahre bis zum 31. Dezember 2028, mit einer Verlängerungsoption um ein Jahr; jede Maßnahme umfasst acht Unterrichtseinheiten.

Entwicklung intelligenter Metaoberflächen für sichere militärische Kommunikation und Aufklärung

Halle (Saale) · Offen · Frist 28.10.2026

Die Agentur für Innovation in der Cybersicherheit GmbH (Cyberagentur) in Halle (Saale) sucht Forschungs- und Entwicklungsleistungen für eine adaptiv steuerbare Sende- und Empfangstechnologie auf Basis intelligenter Metaoberflächen. Die Technologie soll über Relaisstationen eine hochverfügbare, breitbandige und sichere militärische Kommunikation sowie aktive und passive Fernaufklärung mit hoher Richtwirkung ermöglichen und in bestehende und künftige Funkanwendungen integrierbar sein. Die Teilnahmefrist endet am 28. Oktober 2026 um 09:00 Uhr koordinierter Weltzeit (UTC).

Software für generative KI zur juristischen Recherche, Dokumentenanalyse und Vertragserstellung

Frankfurt am Main · Offen · Frist 08.10.2026

Die KfW Bankengruppe beschafft eine spezialisierte Software für generative künstliche Intelligenz, die juristische Recherche, Analyse, Vertragsprüfung sowie die Erstellung und Überarbeitung von Rechtsdokumenten unterstützt. Die Lösung soll mit Rechtsquellen, KfW-Dokumenten und internen Wissensdatenbanken arbeiten und wird einschließlich Einführung, zusätzlicher Leistungen nach Bedarf und Beendigungsunterstützung als Software as a Service (SaaS), also als bereitgestellte und betriebene Software, angeboten. Der Auftrag hat eine Laufzeit von 730 Tagen und betrifft die KfW in Frankfurt am Main; Teilnahmeanträge oder Angebote sind bis zum 8. Oktober 2026 um 9:00 Uhr einzureichen.

Forschungsprogramm zur robusten Interaktion robotischer Systeme in heterogenen Schwärmen

Halle (Saale) · Offen · Frist 06.10.2026

Die Agentur für Innovation in der Cybersicherheit sucht Forschungspartner für das Programm IRiS zur Entwicklung robuster, selbstorganisierender Roboterschwärme. Das Projekt ist in zwei Forschungsbereiche unterteilt: Raumdeutung und Roboter-Roboter-Interaktion sowie Mensch-Schwarm-Interaktion. Die Laufzeit beträgt 1080 Tage.

Leitfaden und Tool zur Abwehr mikroarchitektureller Angriffe auf Cloud-Anwendungen

Bonn · Offen · Frist 14.10.2026

Das Bundesamt für Sicherheit in der Informationstechnik in Bonn beauftragt die Entwicklung eines englischsprachigen Leitfadens und eines Tools zum Schutz insbesondere von Cloud-Anwendungen vor mikroarchitekturellen Angriffen wie Spectre und Meltdown. Die Ergebnisse sollen öffentliche Verwaltung, Industrie und Sicherheitsforschung unterstützen; das Tool soll Schwachstellen automatisiert erkennen und geeignete Gegenmaßnahmen auf Anwendungsebene unterstützen. Die Vertragslaufzeit beträgt 360 Tage, der Leistungsort ist der Raum Bonn (NUTS-Region DEA22), und die Angebotsfrist endet am 14. Oktober 2026 um 12:00 Uhr.

Studie zur Wirksamkeit von Verbraucherinformationen und zum Einfluss künstlicher Intelligenz

Offen · Frist 05.10.2026

Die Bundesanstalt für Landwirtschaft und Ernährung beauftragt eine Studie zur Wirksamkeit von Verbraucherinformationen und zum Einfluss künstlicher Intelligenz (KI) auf dieses Instrument. Der Auftrag ist dem Raum Düsseldorf zugeordnet; Angebote müssen bis zum 5. Oktober 2026 um 10:00 Uhr eingereicht werden.

Projektträger-Unterstützung für Forschungssicherheit und sicherheitsrelevante Forschung

Berlin · Offen · Frist 14.10.2026

Das Bundesministerium für Forschung, Technologie und Raumfahrt in Berlin sucht Unterstützung bei der Umsetzung von Maßnahmen zur Stärkung der Forschungssicherheit und sicherheitsrelevanter Forschung in Deutschland. Der Auftrag umfasst die Unterstützung von Vergabeverfahren und Projektförderungen sowie die fachliche und administrative Bearbeitung verwandter Themen wie Wirtschaftssicherheit und hybride Bedrohungen im nationalen, europäischen und internationalen Kontext. Angebote können bis zum 14. Oktober 2026, 10:00 Uhr, eingereicht werden.

Entwicklung eines KI-Verfahrens zur Dosisrekonstruktion und Interpolation radiologischer Messdaten

Offen · Frist 20.10.2026

Das Bundesamt für Strahlenschutz beauftragt ein Forschungsvorhaben zur Verbesserung von Dosisabschätzungen bei radiologischen Notfällen, insbesondere beim Durchzug einer radioaktiven Wolke. In zwei Schritten soll ein Verfahren auf Basis Künstlicher Intelligenz entwickelt werden, das räumlich-zeitliche Muster in radiologischen Ortsdosisleistungs-Messdaten erkennt und anschließend zusätzliche Umweltparameter sowie physikalische Prozesse berücksichtigt. Die Entwicklung und Erprobung erfolgt anhand simulierter Trainingsdaten; die Ausschreibung ist der Region Köln zugeordnet, die Frist endet am 20. Oktober 2026.

Studie zur Cybersicherheit eingebetteter Betriebssysteme in software-definierten Fahrzeugen

Bonn · Offen · Frist 05.10.2026

Das Bundesamt für Sicherheit in der Informationstechnik in Bonn beschafft eine Studie zur Cybersicherheit eingebetteter Betriebssysteme und Virtualisierungsumgebungen in software-definierten Fahrzeugen. Untersucht werden unter anderem eingesetzte Systeme, Hardwareplattformen, Zugriffsmöglichkeiten auf Steuergeräte, einschlägige Standards und zukünftige Entwicklungen sowie Anforderungen für Typgenehmigung und Marktüberwachung; praktische Analysen sollen einen Prüfkatalog verifizieren. Die Leistung ist der Region Bonn (NUTS-Code DEA22) zugeordnet und hat eine Laufzeit von 390 Tagen; die Angebotsfrist endet am 5. Oktober 2026 um 12:00 Uhr.