Projekt 464 TP 1: Sicherheit von KI-Systemen: Grundlagen – Teilprojekt 1: Adversarial Deep Learning Referenznummer der Bekanntmachung: P 464 TP 1
Bekanntmachung vergebener Aufträge
Ergebnisse des Vergabeverfahrens
Dienstleistungen
Abschnitt I: Öffentlicher Auftraggeber
Postanschrift:[gelöscht]
Ort: Bonn
NUTS-Code: DEA22 Bonn, Kreisfreie Stadt
Postleitzahl: 53133
Land: Deutschland
E-Mail: [removed]
Internet-Adresse(n):
Hauptadresse: https://www.bsi.bund.de
Abschnitt II: Gegenstand
Projekt 464 TP 1: Sicherheit von KI-Systemen: Grundlagen – Teilprojekt 1: Adversarial Deep Learning
Der Auftragsgegenstand ist die Erstellung einer Studie, in welcher die Sicherheitseigenschaften von konnektionistischen KI-Modellen (Neuronale künstliche Intelligenz) untersucht werden. In der Studie soll ein Überblick über den aktuellen Stand der Technik und Forschung für folgende Teilbereiche ausgearbeitet werden:
1. Techniken welche darauf abzielen die Funktion von Deep Learning-Systemen ganz oder teilweise einzuschränken oder zu missbrauchen (z. B. Adversarial Examples / Evasion Attacks, Data Poisoning),
2. Techniken die – über das gewünschte Maß hinaus – Informationen aus konnektionistischen KI-Systemen extrahieren (z. B. Model Extraction),
3. Verteidigungsmaßnahmen gegen Methoden aus 1. & 2. (z.B. Adversarial Training, Adversarial Examples Detection, Backdoor Detection),
4. Methoden, welche die Robustheit von Deep Learning-Modellen zertifizieren oder verifizieren (z.B. Certification of Model Robustness),
5. 1-4 soweit anwendbar mindestens in den Domänen Objekt Detektion, Image Segmentation, Natural Language Processing, Netzwerk/Malware und Speech Analysis.
Konkrete Inhalte der Studie sollen sein:
Erfassung, Kategorisierung und Zusammenfassung der Forschung zum oben genannten Themenkomplex
— Es sollen relevante Angriffsvektoren und Gegenmaßnahmen kategorisiert und hinsichtlich ihrer Wirksamkeit untersucht bzw. bewertet werden,
— Es soll erfasst werden, welche konkreten ungelösten Probleme derzeit in der KI-Sicherheit existieren. Insbesondere sollen Restrisiken, die derzeit nicht hinreichend mitigiert werden können, identifiziert und bewertet werden,
— In ausgewählten Bereichen soll eine tiefgehende Untersuchung stattfinden. Die Schwerpunkte werden unten aufgeführt.
Die Ergebnisse sollen geeignet sein, um
— darauf basierend eine technische Richtlinie zum aktuellen Stand der Sicherheit in der KI zu erstellen (zumindest für die Schwerpunktbereiche),
— Kriterien zu definieren, die im Rahmen von Zertifizierungen oder Testierungen verwendet werden können,
— Best-Practices abzuleiten.
Beim Auftragnehmer
s. Punkt II.1.4).
AP 3 „Detail-Analyse“ ist eine optionale Leistung. Diese muss vom Bieter angeboten werden, der Auftraggeber verzichtet jedoch ggf. generell auf deren Beauftragung.
Die Beauftragung von AP3 kann bis spätestens 2 Wochen nach Abnahme von AP 2 erfolgen.
Abschnitt IV: Verfahren
Abschnitt V: Auftragsvergabe
Projekt 464 TP 1: Sicherheit von KI-Systemen: Grundlagen – Teilprojekt 1: Adversarial Deep Learning
Postanschrift:[gelöscht]
Ort: München
NUTS-Code: DE212 München, Kreisfreie Stadt
Postleitzahl: 80686
Land: Deutschland
Abschnitt VI: Weitere Angaben
Postanschrift:[gelöscht]
Ort: Bonn
Postleitzahl: 53123
Land: Deutschland
E-Mail: [removed]
Telefon: [removed]
Fax: [removed]
Internet-Adresse: http://www.bundeskartellamt.de
Unternehmen haben Anspruch darauf, dass das BSI die Bestimmungen über das Vergabeverfahren einhält, vgl. § 97 Abs. 6 Gesetz gegen Wettbewerbsbeschränkungen (GWB). Rechte aus § 97 Abs. 6 GWB sowie sonstige Ansprüche gegen das BSI, die auf die Vornahme oder das Unterlassen einer Handlung in einem Vergabeverfahren gerichtet sind, können nur vor den Vergabekammern und dem Beschwerdegericht geltend gemacht werden, § 156 Abs. 2 GWB. Die Vergabekammer leitet ein Nachprüfungsverfahren nur auf Antrag ein, § 160 Abs. 1 GWB.
Es wird darüber belehrt, dass ein solcher Nachprüfungsantrag gemäß § 160 Abs. 3 Satz 1 GWB unzulässig ist, soweit:
1) der Antragsteller den geltend gemachten Verstoß gegen Vergabevorschriften vor Einreichen des Nachprüfungsantrags erkannt und gegenüber dem BSI nicht innerhalb einer Frist von 10 Kalendertagen gerügt hat; der Ablauf der Frist nach § 134 Absatz 2 GWB bleibt unberührt,
2) Verstöße gegen Vergabevorschriften, die aufgrund der Bekanntmachung erkennbar sind, nicht spätestens bis zum Ablauf der in der Bekanntmachung benannten Frist zur Bewerbung oder zur Angebotsabgabe gegenüber dem BSI gerügt werden,
3) Verstöße gegen Vergabevorschriften, die erst in den Vergabeunterlagen erkennbar sind, nicht spätestens bis zum Ablauf der Frist zur Bewerbung oder zur Angebotsabgabe gegenüber dem BSI gerügt werden,
4) mehr als 15 Kalendertage nach Eingang der Mitteilung des BSI, einer Rüge nicht abhelfen zu wollen, vergangen sind.
Die o. g. 4 Unzulässigkeitsgründe gelten gemäß § 160 Abs. 3 Satz 2 GWB nicht bei einem Antrag auf Feststellung der Unwirksamkeit des Vertrags nach § 135 Abs. 1 Nr. 2 GWB. § 134 Abs. 1 Satz 2 GWB bleibt unberührt.