1.1.
Beschaffer
Offizielle Bezeichnung: Land Baden-Württemberg, vertreten durch Präsidium Technik, Logistik, Service der Polizei
Rechtsform des Erwerbers: Von einer regionalen Gebietskörperschaft kontrollierte Einrichtung des öffentlichen Rechts
Tätigkeit des öffentlichen Auftraggebers: Öffentliche Ordnung und Sicherheit
2.1.
Verfahren
Titel: Beschaffung von einem GPU-Server für das Trainieren und Nachtrainieren von KI-Modellen; Projekt Total-CBC BW
Beschreibung: Beschaffung von einem GPU-Server für das Trainieren und Nachtrainieren von KI-Modellen; Projekt Total-CBC BW
Kennung des Verfahrens: 3acf56cb-42a3-412b-9140-f15c495b6b71
Interne Kennung: 1977_2025_TCBC_BW
Verfahrensart: Offenes Verfahren
Das Verfahren wird beschleunigt: nein
2.1.1.
Zweck
Art des Auftrags: Lieferungen
Haupteinstufung (cpv): 48820000 Server
2.1.2.
Erfüllungsort
Postanschrift: Nauheimer Straße 99-101
Stadt: Stuttgart
Postleitzahl: 70372
Land, Gliederung (NUTS): Stuttgart, Stadtkreis (DE111)
Land: Deutschland
2.1.4.
Allgemeine Informationen
Zusätzliche Informationen: #Bekanntmachungs-ID: CXP4Y9PMRP2#
Rechtsgrundlage:
Richtlinie 2014/24/EU
vgv -
2.1.6.
Ausschlussgründe
Quellen der Ausschlussgründe: Auftragsunterlagen
5.1.
Los: LOT-0001
Titel: Beschaffung von einem GPU-Server für das Trainieren und Nachtrainieren von KI-Modellen; Projekt Total-CBC BW
Beschreibung: Im Rahmen dieser Ausschreibung wird ein GPU-Server zum Trainieren und Nachtrainieren von KI-Modellen, dem für den Betrieb benötigten Zubehör für den Server (Stromkabel, Rackmontage, Material, etc) und der Montage des Servers in den Räumlichkeiten des Auftraggebers ausgeschrieben. Die Umsetzung erfolgt unter Einhaltung aller datenschutzrechtlichen Vorgaben (insbesondere EU-DSGVO) sowie unter Berücksichtigung ethischer Anforderungen an Fairness und Transparenz bei KI-Systemen.
Interne Kennung: 1977_2025_TCBC_BW
5.1.1.
Zweck
Art des Auftrags: Lieferungen
Haupteinstufung (cpv): 48820000 Server
5.1.2.
Erfüllungsort
Postanschrift: Nauheimer Straße 99-101
Stadt: Stuttgart
Postleitzahl: 70372
Land, Gliederung (NUTS): Stuttgart, Stadtkreis (DE111)
Land: Deutschland
5.1.3.
Geschätzte Dauer
Andere Laufzeit: Unbekannt
5.1.6.
Allgemeine Informationen
Vorbehaltene Teilnahme:
Teilnahme ist nicht vorbehalten.
Auftragsvergabeprojekt ganz oder teilweise aus EU-Mitteln finanziert
Die Beschaffung fällt unter das Übereinkommen über das öffentliche Beschaffungswesen: nein
Diese Auftragsvergabe ist auch für kleine und mittlere Unternehmen (KMU) geeignet: nein
5.1.7.
Strategische Auftragsvergabe
Ziel der strategischen Auftragsvergabe: Keine strategische Beschaffung
5.1.9.
Eignungskriterien
Quellen der Auswahlkriterien: Bekanntmachung
Kriterium: Eintragung in das Handelsregister
Beschreibung: Aktueller (zum Zeitpunkt des Ablaufs der Bewerbungsfrist nicht älter als 6 Monate) Nachweis über eine gültige Eintragung in das Berufs- oder Handelsregister oder ein Gewerbenachweis, falls es sich nicht um eine Kapitalunternehmensform handelt, soweit nach den jeweiligen Bestimmungen des Mitgliedsstaates am Sitz oder Wohn-sitz des Bewerbers Entsprechendes verpflichtend vorgesehen ist. Für die Mitgliedstaaten der Europäischen Union sind die jeweiligen Berufs- oder Handelsregister und die Bescheinigungen oder Erklärungen über die Berufsausübung in Anhang XI der Richtlinie 2014/24/EU des Europäischen Parlaments und des Rates vom 26. Februar 2014 über die öffentliche Auftragsvergabe und zur Aufhebung der Richtlinie 2004/18/EG (ABl. L 94 vom 28.03.2014, S. 65) aufgeführt.
Kriterium: Maßnahmen zur Sicherstellung der Qualität
Beschreibung: Eigenerklärung, dass keine Ausschlussgründe nach §§ 123, 124 GWB vorliegen. Etwaige Maßnahmen des Bewerbers zu einer Selbstreinigung nach § 125 GWB sind als gesonderte Erklärung einzureichen und Eigenerklärungen zu Artikel 5k der Verordnung EU) Nr. 833/2014 vom 08.04.2022 (EU-Sanktionspaket gegen Russland), zum Nichterscheinen auf der Consolidated Financial Sanctions List und zum Nichterscheinen auf Terrorlisten der Europäischen Union.
Kriterium: Durchschnittlicher Jahresumsatz
Beschreibung: Eigenerklärung zum Umsatz des Bewerbers (EUR, netto) aufgeteilt für die letzten 2 abgeschlossenen Geschäftsjahre. Der durchschnittliche Jahresumsatz muss mindestens 200.000 EUR betragen. Bei Zuschlagserteilung ist ein Nachweis darüber zu erbringen.
Kriterium: Finanzkennzahlen
Beschreibung: Der Bewerber muss positives Eigenkapital über die letzten beiden Jahre (2023, 2024) nachweisen können (Vorlage Jahresabschluss, Geschäftsbericht oder GuV). Sofern der Bieter aus einem anderen Mitgliedsstaat der EU stammt, werden auch entsprechende Nachweise auf dem gleichen Niveau aus den anderen Mitgliedsstaa-ten akzeptiert. Im Falle, dass der Abschluss 2024 noch nicht erstellt wurde, so ist ein Nachweis über die Jahre 2022, 2023 zu erbringen. Es wird ausdrücklich darauf hingewiesen, dass nur die genannten Nachweise beachtet werden. Eine Einreichung von Bilanzen oder anderen Nachweisen wird im Verfahren nicht beachtet. Falschangaben führen zum Ausschluss aus dem Vergabeverfahren.
Kriterium: Maßnahmen zur Sicherstellung der Qualität
Beschreibung: 1) Eigenerklärung, dass keine Ausschlussgründe nach § 21 des AEntG, § 98c des AufenthG, § 19 des MiLoG, § 21 des SchwarzarbG und § 22 LkSG vorliegen. 2) Verpflichtungserklärung, dass die Vorgaben des Tariftreue- und Mindestlohngesetz für öffentliche Aufträge in Baden-Württemberg (Landestariftreue- und Mindestlohngesetz - LTMG) eingehalten werden.
Kriterium: Referenzen zu bestimmten Lieferungen
Beschreibung: Es sind mindestens drei Referenzen vorzulegen, die eine vergleichbare Leistung zum Gegenstand haben. Berücksichtigt werden ausschließlich Referenzen, die in den letzten sechs Jahren erbracht wurden. Entscheidend für die Berechnung dieses Zeitraums ist das Datum der Angebotsfrist. Darüber hinaus werden nur Referenzen berücksichtigt, die mindestens ein Auftragsvolumen von EUR 50.000 aufweisen.
5.1.10.
Zuschlagskriterien
Kriterium:
Art: Preis
Bezeichnung: Preis-Leistungs-Verhältnis
Beschreibung: Siehe auch: B_01_Verfahrenshinweise Bewertungsmatrix zur Ermittlung der Leistungspunkte und Preispunkte Legende F8_PF Bedeutung: FP8 (Floating Point - 8-bit) Leistung ohne Sparsity in Petaflops HBM Bedeutung: High Bandwith Memory HBM_BW Bedeutung: High Bandwith Memory - Bandwith Knoten (oder auch Node) Bedeutung: Anzahl der physischen Server in einem Cluster KPI: Key Perfomance Indicator norm_cost (Preispunkte P) Bedeutung: Normierungsfunktion für die Kostenkennzahlen. Je niedriger der Wert, desto besser. Das günstigste Angebot bekommt 100 Punkte. Alle teureren Angebote bekommen proportional weniger Punkte. norm_pos (Leistungspunkte L) Bedeutung: Normierungsfunktion für die Leistungs- und Kapazitätskennzahlen. Je größer, desto besser. Das leistungsstärkste Angebot bekommt 100 Punkte. Leistungsschwächere Angebote werden linear nach unten skaliert. Annahmen und Mindestanforderungen Der Server wird luftgekühlt. Angebote mit einer Wasserkühlung können nicht beachtet werden. Es handelt sich bei den verbauten CPU um Intel CPU Es wird mindestens ein CPU Dual-Socket verwendet Die Gesamtanzahl der CPU Kerne ist 112 Es werden mindestens Intel Xeon Platinum 8000er Serie ab der 4. Gen verbaut Die Mindest-GPU Anzahl beträgt 8 Stück. Es gelten die Annahmen unter 1.bb) welche erfüllts ein müssen. Andere als die unter 1bb) genannten Grafikkarten werden im Vergabeverfahren nicht beachtet. Es wird mindestens doppelt so viel RAM verbaut wie im Gesamtsystem VRAM (GPU-Speicher) vorhanden ist. Beim verbauten RAM handelt es mindestens um DDR5 RAM Es ist sind mindestens 2x 1,92TB NVME SSDs als Boot Platten verbaut Es sind mindestens 8x 3,84 TB NVME SSDs als Datenplatten verbaut Die maximale Leistung in KW darf 14,5kW nicht übersteigen Der Server hat ein 19" Rackformat (maximale Tiefe 998mm) Die Serversysteme orientieren sich an dem "Support for NVIDIA HGX/SXM" Standard. Grafikkarten als AIC (Add in Card) für einen regulären PCIE-Slot werden in dem Vergabeverfahren nicht beachtet. Netzwerk Spezifikationen (Mindestanforderungen): H100/H200 basiertes System: 4x OSFP ports serving 8x single-port NVIDIA ConnectX-7 VPI Up to 400Gb/s InfiniBand/Ethernet 2x dual-port QSFP112 NVIDIA ConnectX-7 VPI Up to 400Gb/s InfiniBand/Ethernet 10Gb/s onboard NIC with RJ45 100Gb/s Ethernet NIC Host baseboard management controller (BMC) with RJ45 B100/B200 basiertes System 4 x OSFP-Ports für 8 x NVIDIA ConnectX-7 VPI-Adapter mit einem Port Bis zu 400 Gb/s NVIDIA InfiniBand/Ethernet 2 x QSFP112 NVIDIA BlueField-3-DPU mit zwei Anschlüssen Bis zu 400 Gb/s NVIDIA InfiniBand/Ethernet Integrierte Netzwerkkarte (NIC) mit 10 Gb/s und RJ45 100-Gb/s-Ethernet-Netzwerkkarte mit zwei Anschlüssen Host Baseboard Management Controller (BMC) mit RJ45 GPU Spezifikationen (Mindestanforderungen): Nvidia H100 F8_PF: 2.0 HBM_GB: 80 HBM_BW_TBs: 3.35 Nvidia H200 F8_PF: 2.0 HBM_GB: 141 HBM_BW_TBs: 4.8 Nvidia B100: F8_PF: 5.0 HBM_GB: 192 HBM_BW_TBs: 8.0 Nvidia B200: F8_PF: 5.0 HBM_GB: 180 HBM_BW_TBs: 8.0 Annahme Auslastung: 70% (dient der Berechnung) Gewichtung der einzelnen Parameter GPU intern: Rechenleistung (compute): 50% Bandbreite: 30% Kapazität: 20% Gesamtsystem: GPU: 68% CPU: 10% RAM: 12% Speicher: 7% Garantie: 3% Variableninitialisierung F8_PF_proGPU = F8_PF HBM_GB_proGPU = HBM_GB HBM_BW_TBs_proGPU = HBM_BW_TBs Knoten_FP8_PF = F8_PF_proGPU ? GPUs_pro_Knoten Knoten_BW_TBs = HBM_BW_TBs_proGPU ? GPUs_pro_Knoten Knoten_HBM_TB = (HBM_GB_proGPU ? GPUs_pro_Knoten) / 1024 Pkt_compute = norm_cost(EUR_pro_PF8) Pkt_bandbreite = norm_cost(EUR_pro_TBs) Pkt_kapazitaet = norm_cost(EUR_pro_TBHBM) Pkt_CPU_Sockel = norm_pos(CPU_Sockel) Pkt_CPU_Kerne = norm_pos(CPU_Kerne_gesamt) Pkt_RAM_Kapa = norm_pos(RAM_TB) Pkt_RAM_Speed = norm_pos(RAM_Geschwindigkeit_MTps) Daten_TB_total = Daten_NVMe_TB_pro_Laufwerk ? Daten_NVMe_Anzahl Boot_TB_total = Boot_NVMe_TB_pro_Laufwerk ? Boot_NVMe_Anzahl Pkt_Storage_Data = norm_pos(Daten_TB_total) Pkt_Storage_Boot = norm_pos(Boot_TB_total) Pkt_Garantie = norm_pos(Garantie_Jahre) Pkt_Lieferzeit = norm_cost(Lieferzeit_Wochen) Berechnung der Kosten KPIs EUR_(pro_PF8 )=(Knotenpreis_EUR)/((Knoten_FP8_PF ? auslastung)) EUR_(pro_TBs )=(Knotenpreis_EUR)/(Knoten_BW_TBs) EUR_(pro_TBHBM )=(Knotenpreis_EUR)/(Knoten_HBM_TB) Normierungsformeln (Minimum 0 Punkte, Maximum 100 Punkte) ????????_????????(??) = 100 ? ??????(??) / ?? ????????_??????(??) = 100 ? ?? / ??????(??) Berechnungsformeln GPU-, CPU-, RAM-, Speicher-, Garantiescore ??????????_??????_???????????? = 0,5 ? ??????_?????????????? + 0,3 ? ??????_???????????????????? + 0,2 ? ??????_???????????????????? ??????????_?????? = 0,2 ? ??????_??????_???????????? + 0,8 ? ??????_??????_?????????? ??????????_?????? = 0,85 ? ??????_??????_???????? + 0,15 ? ??????_??????_?????????? Score_Storage = 0,85 ? Pkt_Storage_Data + 0,15 ? Pkt_Storage_Boot Berechnungsformel Gesamtscore TotalScore = 0,68 ? Score_GPU_intern + 0,10 ? Score_CPU + 0,12 ? Score_RAM + 0,07 ? Score_Storage + 0,03 ? Pkt_Garantie
Beschreibung der anzuwendenden Methode, wenn die Gewichtung nicht durch Kriterien ausgedrückt werden kann: Berechnungsformel Gesamtscore: TotalScore = 0,68 x Score_GPU_intern + 0,10 x Score_CPU + 0,12 x Score_RAM + 0,07 x Score_Storage + 0,03 x Pkt_Garantie Die Bestandteile der Gesamtpunktzahl ergeben sich aus der in den Verfahrenshinweisen veröffentlichten Bewertungsmatrix.
5.1.11.
Auftragsunterlagen
Sprachen, in denen die Auftragsunterlagen offiziell verfügbar sind: Deutsch
Frist für die Anforderung zusätzlicher Informationen: 19/12/2025 23:59:59 (UTC+01:00) Mitteleuropäische Zeit, Westeuropäische Sommerzeit
Ad-hoc-Kommunikationskanal:
5.1.12.
Bedingungen für die Auftragsvergabe
Bedingungen für die Einreichung:
Elektronische Einreichung: Erforderlich
Sprachen, in denen Angebote oder Teilnahmeanträge eingereicht werden können: Deutsch
Elektronischer Katalog: Nicht zulässig
Varianten: Nicht zulässig
Die Bieter können mehrere Angebote einreichen: Nicht zulässig
Frist für den Eingang der Angebote: 08/01/2026 11:00:00 (UTC+01:00) Mitteleuropäische Zeit, Westeuropäische Sommerzeit
Frist, bis zu der das Angebot gültig sein muss: 94 Tage
Informationen, die nach Ablauf der Einreichungsfrist ergänzt werden können:
Nach Ermessen des Käufers können alle fehlenden Bieterunterlagen nach Fristablauf nachgereicht werden.
Zusätzliche Informationen: Der öffentliche Auftraggeber behält sich gemäß den Unterlagen zur Eignung vor, Nachweise und Unterlagen, sowie die Originale bestimmter Erklärungen nachträglich innerhalb einer angemessenen Frist von den Bietern, deren Angebote in die nähere Auswahl kommen, nachzufordern. Die Nachforderung erfolgt über die E-Vergabe-Plattform unter angemessener Fristsetzung durch den öffentlichen Auftraggeber. Werden die Unterlagen innerhalb dieser Frist nicht eingereicht, kann das Angebot vom Verfahren ausgeschlossen werden.
Informationen über die öffentliche Angebotsöffnung:
Eröffnungsdatum: 08/01/2026 11:00:00 (UTC+01:00) Mitteleuropäische Zeit, Westeuropäische Sommerzeit
Auftragsbedingungen:
Die Auftragsausführung muss im Rahmen von Programmen für geschützte Beschäftigungsverhältnisse erfolgen: Nein
Elektronische Rechnungsstellung: Zulässig
Aufträge werden elektronisch erteilt: nein
Zahlungen werden elektronisch geleistet: nein
5.1.15.
Techniken
Rahmenvereinbarung:
Keine Rahmenvereinbarung
Informationen über das dynamische Beschaffungssystem:
Kein dynamisches Beschaffungssystem
Elektronische Auktion: nein
5.1.16.
Weitere Informationen, Schlichtung und Nachprüfung
Überprüfungsstelle: Vergabekammer Baden-Württemberg im Regierungspräsidium Karlsruhe
Informationen über die Überprüfungsfristen: Gemäß § 160 Abs. 3 Satz 1 des Gesetzes gegen Wettbewerbsbeschränkungen (GWB) ist ein Nachprüfungsantrag unzulässig, soweit - der Antragsteller den geltend gemachten Verstoß gegen Vergabevorschriften vor Ein-reichen des Nachprüfungsantrags erkannt und gegenüber dem Auftraggeber nicht innerhalb einer Frist von zehn Kalendertagen gerügt hat; der Ablauf der Frist nach § 134 Abs. 2 GWB bleibt unberührt, - Verstöße gegen Vergabevorschriften, die aufgrund der Bekanntmachung erkennbar sind, nicht spätestens bis zum Ablauf der in der Bekanntmachung benannten Frist zur Bewerbung oder zur Angebotsabgabe gegenüber dem Auftraggeber gerügt werden, - Verstöße gegen Vergabevorschriften, die erst in den Vergabeunterlagen erkennbar sind, nicht spätestens bis zum Ablauf der Frist zur Bewerbung oder zur Angebotsabgabe gegenüber dem Auftraggeber gerügt werden, - mehr als 15 Kalendertage nach Eingang der Mitteilung des Auftraggebers, einer Rüge nicht abhelfen zu wollen, vergangen sind. Satz 1 gilt nicht bei einem Antrag auf Feststellung der Unwirksamkeit des Vertrags nach § 135 Abs. 1 Nr. 2 GWB. § 134 Abs. 1 Satz 2 GWB bleibt unberührt. Gemäß § 134 Abs. 1 GWB haben öffentliche Auftraggeber die Bieter, deren Angebote nicht berücksichtigt werden sollen, über den Namen des Unternehmens, dessen Angebot angenommen werden soll, über die Gründe der vorgesehenen Nichtberücksichtigung ihres Angebots und über den frühesten Zeitpunkt des Vertragsschlusses unverzüglich in Textform zu informieren. Dies gilt auch für Bewerber, denen keine Information über die Ablehnung ihrer Bewerbung zur Verfügung gestellt wurde, bevor die Mitteilung über die Zuschlagsentscheidung an die betroffenen Bieter ergangen ist. Gemäß § 134 Abs. 2 GWB darf ein Vertrag erst zehn (10) Kalendertage nach Absendung (per Telefax, E-Mail oder elektronisch über das E-Vergabe-Portal) der Information nach 134 Abs. 1 GWB geschlossen werden. Die Frist beginnt am Tag nach der Absendung der Information durch den Auftraggeber; auf den Tag des Zugangs beim betroffenen Bieter und Bewerber kommt es nicht an. Gemäß § 135 Abs. 2 Satz 1 GWB kann die Unwirksamkeit nach § 135 Abs. 1 GWB nur festgestellt werden, wenn sie im Nachprüfungsverfahren innerhalb von 30 Kalendertagen nach der Information der betroffenen Bieter und Bewerber durch den öffentlichen Auftraggeber über den Abschluss des Vertrags, jedoch nicht später als sechs Monate nach Vertragsschluss geltend gemacht worden ist. Hat der Auftraggeber die Auftragsvergabe im Amtsblatt der Europäischen Union bekannt gemacht, endet die Frist zur Geltendmachung der Unwirksamkeit 30 Kalendertage nach Veröffentlichung der Bekanntmachung der Auftragsvergabe im Amtsblatt der Europäischen Union.
Organisation, die zusätzliche Informationen über das Vergabeverfahren bereitstellt: Land Baden-Württemberg, vertreten durch Präsidium Technik, Logistik, Service der Polizei
Organisation, die Teilnahmeanträge entgegennimmt: Land Baden-Württemberg, vertreten durch Präsidium Technik, Logistik, Service der Polizei
8.1.
ORG-0001
Offizielle Bezeichnung: Land Baden-Württemberg, vertreten durch Präsidium Technik, Logistik, Service der Polizei
Registrierungsnummer: DE308463027
Postanschrift: Nauheimer Straße 101
Stadt: Stuttgart
Postleitzahl: 70372
Land, Gliederung (NUTS): Stuttgart, Stadtkreis (DE111)
Land: Deutschland
Telefon: 07112528907729
Rollen dieser Organisation:
Beschaffer
Organisation, die zusätzliche Informationen über das Vergabeverfahren bereitstellt
Organisation, die Teilnahmeanträge entgegennimmt
8.1.
ORG-0002
Offizielle Bezeichnung: Vergabekammer Baden-Württemberg im Regierungspräsidium Karlsruhe
Registrierungsnummer: DE811469974
Postanschrift: Durchlacher Allee 100
Stadt: Karlsruhe
Postleitzahl: 76137
Land, Gliederung (NUTS): Karlsruhe, Stadtkreis (DE122)
Land: Deutschland
Rollen dieser Organisation:
Überprüfungsstelle
8.1.
ORG-0003
Offizielle Bezeichnung: Datenservice Öffentlicher Einkauf (in Verantwortung des Beschaffungsamts des BMI)
Registrierungsnummer: 0204:994-DOEVD-83
Stadt: Bonn
Postleitzahl: 53119
Land, Gliederung (NUTS): Bonn, Kreisfreie Stadt (DEA22)
Land: Deutschland
Telefon: +49228996100
Rollen dieser Organisation:
TED eSender
Kennung/Fassung der Bekanntmachung: a208cb45-30c2-4515-8b4c-b11f66cb15bb - 01
Formulartyp: Wettbewerb
Art der Bekanntmachung: Auftrags- oder Konzessionsbekanntmachung – Standardregelung
Unterart der Bekanntmachung: 16
Datum der Übermittlung der Bekanntmachung: 27/11/2025 17:28:58 (UTC+01:00) Mitteleuropäische Zeit, Westeuropäische Sommerzeit
Sprachen, in denen diese Bekanntmachung offiziell verfügbar ist: Deutsch
Veröffentlichungsnummer der Bekanntmachung: 796489-2025
ABl. S – Nummer der Ausgabe: 231/2025
Datum der Veröffentlichung: 01/12/2025