2026-06-29 • 10 Min. Lesezeit

Die technischen Vorgaben des EU-KI-Gesetzes verstehen

Ein tiefer Einblick in prompt-basiertes Testing, erklärbare KI-Entscheidungen und die regulatorisch geforderten Daten-Governance-Prozesse für Hochrisiko-Modelle.

Technische Klassifizierung von KI-Systemen

Unter dem in Kraft getretenen EU-KI-Gesetz (AI Act) müssen Unternehmen generative Modelle auditieren. Modelle, die im Finanzbereich eingesetzt werden – etwa bei der Kreditbewertung –, gelten als Hochrisiko-Systeme. Sie erfordern vor der Inbetriebnahme Prüfungen zur Vermeidung von Bias und zur Absicherung der Erklärbarkeit von Ausgaben.

Für Entwickler bedeutet dies, dass Prompts, Kontextdaten und Trainingsdaten lückenlos protokolliert werden müssen. Generative Modelle sollten strikt von Datenzugriffsschichten getrennt und durch deterministische Guardrails geschützt werden, um Prompt-Injections zu verhindern.

Vermeidung von Bias und Gewährleistung von Transparenz

Die Erkennung von Vorurteilen (Bias) in Trainingsdaten darf nicht vernachlässigt werden. CI/CD-Pipelines sollten automatisierte Tests auf Prompt-Sensitivität beinhalten. Zudem müssen Ausgaben über RAG-Architekturen (Retrieval-Augmented Generation) direkt auf verifizierte Quelldokumente zurückführbar sein.

Die technische Compliance mit dem EU-KI-Gesetz ist letztlich eine Engineering-Disziplin, kein juristischer Nachgedanke. Erklärbarkeit und Bias-Kontrollen von Anfang an in die Pipeline einzubauen ist weit günstiger als sie unter Audit-Druck nachzurüsten.