KI-Ethik im Einkauf

KI-Ethik im Einkauf umfasst die Grundsätze, Prozesse und Kontrollen, mit denen Unternehmen sicherstellen, dass künstliche Intelligenz in Sourcing, Lieferantenbewertung, Vertragsanalyse und Spend-Analytik fair, transparent, nachvollziehbar und diskriminierungsfrei eingesetzt wird. Ziel ist die Vermeidung systematischer Benachteiligung einzelner Lieferanten, die Erklärbarkeit automatisierter Entscheidungen gegenüber Auditoren und Mitbestimmungsgremien und die Einhaltung verbindlicher Regulatorik wie des EU AI Act. Damit unterscheidet sich der Bereich von rein technischer ML-Performance: gute Modellgenauigkeit ohne Fairness-Prüfung reicht regulatorisch und reputationsseitig nicht aus.

Detaillierte Erklärung

Den Rahmen setzt seit 2024 die Verordnung (EU) 2024/1689 — der EU AI Act — mit einem risikobasierten Ansatz in vier Stufen: unzulässig, hoch, begrenzt, minimal. Hochrisiko-Systeme nach Anhang III umfassen unter anderem KI in Beschäftigung und Personalauswahl; auch automatisierte Lieferantenfreigabe-Systeme können je nach Ausgestaltung darunter fallen. Pflichten für Hochrisiko-Systeme sind Risikomanagement, Daten-Governance, technische Dokumentation, Logging, menschliche Aufsicht, Genauigkeit und Robustheit sowie Konformitätsbewertung. Strafen reichen bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes. Anwendungsbeginn schrittweise: Verbotsregelungen seit 2. Februar 2025, Pflichten für General-Purpose-AI-Modelle seit 2. August 2025, Hochrisiko-Pflichten ab 2. August 2026, vollständige Geltung am 2. August 2027. Methodisch ergänzen ISO/IEC 42001:2023 (KI-Managementsystem), ISO/IEC 23894:2023 (KI-Risikomanagement) und die IEEE-7000-Reihe (Standards for Ethical Considerations in System Design) den Compliance-Rahmen. Drei zentrale ethische Risiken im Einkauf sind erstens Bias durch unausgewogene Trainingsdaten — etwa wenn ein Lieferanten-Scoring-Modell auf 8 Jahren Bestellhistorie mit 78 Prozent europäischen Lieferanten trainiert wurde und Lieferanten aus Schwellenländern systematisch niedriger einstuft. Zweitens Intransparenz durch nicht erklärbare Black-Box-Modelle, die im Beschwerdefall keine Begründung liefern können. Drittens Datenschutz und Mitbestimmung: das Bundesarbeitsgericht stellte mit Beschluss vom 14. November 2023 (1 ABR 9/23) klar, dass KI-Systeme mit Personenbezug regelmäßig der Mitbestimmung des Betriebsrats nach §87 Abs. 1 Nr. 6 BetrVG unterliegen. Praxisleitfäden geben das Fraunhofer IAIS mit dem KI-Prüfkatalog von 2021, der Bundesverband Künstliche Intelligenz (KI-Bundesverband) sowie die OECD-AI-Principles von 2019 und die UNESCO-Empfehlung zur Ethik der KI (2021).

Praxisbeispiel (konkretes Einkaufsszenario)

Ein DAX-Automobilzulieferer mit 8.400 Beschäftigten in Deutschland und 1,8 Milliarden Euro Beschaffungsvolumen führt 2026 ein KI-gestütztes Lieferanten-Scoring-System ein, das 1.240 strategische Lieferanten nach Risiko, Performance und ESG bewertet. Vorab durchläuft das System einen 4-stufigen Ethik-Audit. Datenanalyse zeigt: das initiale Modell weist gegenüber Lieferanten aus Indien und der Türkei ein um 12 bis 18 Prozentpunkte niedrigeres Score-Mittel aus, obwohl die tatsächliche Performance vergleichbar ist — Ursache ist eine Übergewichtung von Onsite-Audit-Frequenzen. Korrektur durch Re-Sampling, Feature-Reweighting und Hinzunahme von Audit-äquivalenten Drittnachweisen wie Sedex-SMETA-Berichten reduziert die Score-Diskrepanz auf unter 3 Prozentpunkte. Begleitend werden eine Betriebsvereinbarung mit dem Konzernbetriebsrat verhandelt, eine technische Dokumentation nach EU AI Act Annex IV erstellt (148 Seiten), ein menschlicher Vier-Augen-Freigabeprozess für Score-Werte unter 65 implementiert und ein Beschwerdekanal für Lieferanten eingerichtet. Investition: 380.000 Euro für Audit, Bias-Korrektur und Dokumentation, 0,8 Vollzeitstelle KI-Ethik-Officer. 2026 nutzen 47 Lieferanten den Beschwerdekanal; in 11 Fällen werden Score-Werte nach manueller Prüfung korrigiert.

Typische Fehler & Verhandlungskontext

Erster Fehler: KI-Scoring ohne Bias-Audit produktiv setzen. Selbst bei sauberen Trainingsdaten entstehen durch Korrelationsketten indirekte Diskriminierungsmuster, die nur statistische Tests wie Disparate Impact Ratio oder Equal Opportunity Difference aufdecken. Zweitens wird der Betriebsrat zu spät einbezogen — eine Implementierung ohne Mitbestimmung kann nach §87 BetrVG zur Untersagung führen, mit Reimplementierungskosten im sechsstelligen Bereich. Drittens fehlt ein Lieferanten-Beschwerdekanal mit dokumentierter Bearbeitungszeit; ohne diesen Kanal ist ein Hochrisiko-System nicht EU-AI-Act-konform. Verhandlungskontext: Bei Verträgen mit KI-Anbietern gehören Klauseln zu Bias-Testing, regelmäßiger Modell-Validierung mindestens jährlich, Audit-Rechten und vertraglicher Übernahme von Konformitätsdokumentations-Pflichten zwingend in den Vertrag. Auch eine Haftungsregelung für etwaige Bußgelder unter dem EU AI Act sollte verhandelt werden — Standard-AGB von Anbietern schließen das in der Regel aus.

Verwandte Begriffe

KI-Ethik im Einkauf grenzt an [[kuenstliche-intelligenz-einkauf]], [[generative-ki-einkauf]] und [[ml-spend-classification]] und betrifft Anwendungen wie [[anomalie-erkennung-einkauf]], [[predictive-maintenance-einkauf]], [[algorithmic-sourcing]] sowie [[llm-procurement]]; flankierende Regelwerke sind [[data-governance-einkauf]], [[datenschutzaudit]] und [[compliance-officer-einkauf]].