EU AI Act Startups: Die praxisnahe Compliance-Checkliste für 2026

Warum die KI-Verordnung 2026 für Startups operativ relevant ist

Für viele Teams ist die KI-Verordnung 2026 kein abstraktes EU-Thema mehr. KI-Funktionen, generative Features und AI Agents landen zunehmend direkt in Produkten, SaaS-Workflows und internen Prozessen. Damit stellt sich die Frage nicht mehr theoretisch, sondern ganz praktisch: Bin ich überhaupt betroffen, welche AI Act Compliance-Pflichten gelten für mein Setup und was muss ich vor dem Launch konkret vorbereiten?

Der AI Act betrifft nicht nur große Konzerne. Auch Startups können als Anbieter oder Betreiber betroffen sein, insbesondere wenn ihre Systeme in der EU genutzt werden oder Entscheidungen mit echter Wirkung auf Menschen unterstützen. Die offizielle EU-FAQ macht das klar: Betroffen sein können sowohl Anbieter als auch Betreiber, und relevant sind Risikoklassen, Rollen sowie konkrete Pflichten wie Informationspflichten, menschliche Aufsicht und Incident-Reaktion.

Beim Zeitbezug lohnt sich Genauigkeit: Die politische Einigung vom 7. Mai 2026 verschiebt die vollen Anforderungen für viele Hochrisiko-KI-Systeme auf den 2. Dezember 2027, für in Produkte integrierte Systeme sogar auf den 2. August 2028. Das bedeutet: Nicht jede Pflicht greift sofort im gleichen Moment. Trotzdem ist jetzt die richtige Zeit zum Vorbereiten. Wer Rollen, Risiken und Dokumentation erst kurz vor Go-live klärt, muss Compliance später teuer ins Produkt nachrüsten.

Schritt 1: Prüfen, ob euer Feature überhaupt als KI-System zählt

Nicht jede Automatisierung fällt automatisch unter den AI Act. Einfache regelbasierte Software ist nicht dasselbe wie ein KI-System im Sinne des Gesetzes. Prüft deshalb zunächst, ob euer System aus Daten oder Modellen lernt, Vorhersagen, Empfehlungen oder Inhalte erzeugt, sein Verhalten anpasst oder adaptive Schlussfolgerungen trifft. Wenn ja, ist AI-Act-Relevanz wahrscheinlicher.

Die Abgrenzung ist konkret: Wenn ein System nur feste Regeln nach dem Muster „wenn X, dann Y” ohne modellbasiertes Schlussfolgern nutzt, handelt es sich eher um klassische Software. Wenn dagegen ein Modell Wahrscheinlichkeiten, Rankings, Texte, Bilder oder Entscheidungen unterstützt, ist die KI-Einordnung relevant. Die EU-Kommission hat dazu Leitlinien zur Definition eines KI-Systems veröffentlicht, die genau diese Abgrenzung erleichtern. Diese Vorprüfung verhindert, dass Teams entweder unnötig überregulieren oder echte Risiken übersehen.

Schritt 2: Welche Rolle hat euer Startup im AI Act?

Bevor ihr in Detailpflichten einsteigt, müsst ihr eure eigene Rolle kennen. Davon hängt ab, welche Anforderungen konkret für euch gelten.

Rolle 1: KI nur intern nutzen

Ihr nutzt KI für interne Aufgaben wie Sales-Automation, Meeting-Zusammenfassungen, Codehilfe oder interne Recherche, ohne das KI-System selbst als Produkt an Kund:innen bereitzustellen. Auch interne Nutzung ist nicht automatisch pflichtenfrei: Governance, KI-Kompetenz, Datenschutz und kontrollierte Nutzung bleiben relevant.

Rolle 2: KI in ein SaaS-Produkt integrieren

Ein bestehendes Produkt nutzt ein eingebettetes Modell oder eine API für Texte, Empfehlungen, Klassifikation, Support oder Automatisierung. Hier werden Anbieterprüfung, Produktdokumentation, Nutzerhinweise und Risikoeinordnung zentral.

Rolle 3: AI-Agent-Produkt anbieten

Das Produkt liefert nicht nur Antworten, sondern führt Schritte aus, greift auf Tools zu, erstellt Folgeaktionen oder steuert Prozesse teilweise autonom. Bei AI Agents Compliance sind Kontrollpunkte, Freigaben, Logging und Eingriffsrechte wichtiger als bei einem reinen Chat-Feature.

Rolle 4: Eigenes Modell oder GPAI-Modell bereitstellen

GPAI Modelle sind allgemeine Basismodelle, die für viele unterschiedliche Zwecke eingesetzt werden können. Wer ein eigenes Modell anbietet, stark modifiziert oder in Verkehr bringt, kann zusätzliche Pflichten als GPAI-Anbieter haben. Die EU-FAQ zu GPAI erklärt genau, wann ein Modell „in Verkehr gebracht” wird, wann reine interne Nutzung anders zu bewerten ist und wann Fine-Tuning oder Modifikation dazu führen kann, dass ein Unternehmen selbst zum Anbieter wird.

Schritt 3: Die einfache Risikomatrix für Gründer:innen

Diese Risikomatrix ist eine vereinfachte Produktlogik und kein Ersatz für juristische Prüfung. Sie hilft euch aber, eine erste Orientierung zu gewinnen, bevor ihr in die Details geht.

Verbotene Nutzung

Manche Anwendungen sind nicht nur riskant, sondern unzulässig. Die Kommissionsleitlinien nennen konkrete Beispiele: schädliche Manipulation, Social Scoring, bestimmte Formen prädiktiver Polizeiarbeit, ungezieltes Face-Scraping, Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen sowie bestimmte biometrische Echtzeit-Fernidentifizierung. Die Takeaway-Regel ist klar: Wenn ein Feature in Richtung Überwachung, verdeckte Beeinflussung oder biometrisch besonders sensibler Eingriffe geht, nicht „später prüfen”, sondern früh stoppen und extern bewerten lassen.

High-Risk AI

High-Risk AI umfasst Systeme in besonders sensiblen Einsatzbereichen oder mit erheblicher Wirkung auf Rechte, Zugangschancen oder Sicherheit. Für Startups relevante Muster sind Beschäftigung und Recruiting, Kreditwürdigkeit und Scoring, medizinische Kontexte, kritische Infrastruktur, Bildung, Migration oder andere Kontexte mit starken Auswirkungen auf Menschen. Hier können strengere Anforderungen wie Qualitätsmanagement, technische Dokumentation, menschliche Aufsicht, Konformitätsbewertung und teils Registrierung relevant werden.

KI Transparenzpflichten

Viele typische Startup-Features sind nicht hochriskant, lösen aber klare KI Transparenzpflichten aus. Es gibt vier praxistaugliche Fälle: Hinweis bei Interaktion mit KI statt Mensch, Kennzeichnung KI-generierter oder manipulierter Inhalte, Information bei Emotionserkennung oder biometrischer Kategorisierung sowie Offenlegung bei Deepfakes oder bestimmten KI-generierten Inhalten im öffentlichen Interesse. Konkrete Umsetzungsansätze sind deutliche UI-Hinweise, Metadaten und Watermarks, Systemprotokolle und dokumentierte Prozesse zur Kennzeichnung.

Interne Nutzung mit Governance

Auch wenn ein internes Tool nicht direkt unter dieselben Produktpflichten fällt wie ein Kundenprodukt, bleibt Governance nötig, vor allem bei Datenzugriff, Output-Risiken und Mitarbeiterschulungen. KI-Kompetenz bedeutet hier: Teams sollen die eingesetzten Systeme, ihre Rolle, die Risiken und sinnvolle Nutzungsgrenzen verstehen. Reine Tool-Freigabe ohne Schulung reicht nicht.

Typische Beispiele: Wo euer Use Case in der Matrix landet

Dieselbe Grundtechnologie wird je nach Use Case anders bewertet. Nicht das Modell allein entscheidet, sondern Zweck, Kontext, Daten und Wirkung.

• HR-Matching: Sobald ein System Bewerber:innen sortiert, vorbewertet oder Personalentscheidungen unterstützt, steigt das Risiko deutlich. Hier früh in Richtung High-Risk AI denken und externe Prüfung einplanen.
• Kredit- oder Scoring-Tool: Systeme, die Bonität, Risiko oder Zugänge zu Finanzleistungen beeinflussen, gehören zu den klassischen sensiblen Fällen. Keine „leichte Feature-Erweiterung”, sondern hoher Prüfbedarf.
• Medizinische Triage: Wenn ein Modell Symptome priorisiert, Behandlungsdringlichkeit vorschlägt oder klinische Entscheidungen vorbereitet, ist der Kontext hochsensibel und regulatorisch anspruchsvoll.
• Kundenservice-Chatbot: Häufig kein High-Risk-Fall, aber oft klare KI Transparenzpflichten. Zusätzlich wichtig sind Fallbacks, Qualitätskontrolle, Halluzinationsgrenzen und Eskalation an Menschen.
• Internes Sales-Automation-Tool: Meist primär ein Governance-, Datenschutz- und KI-Kompetenzthema. Relevant wird es stärker, wenn das Tool personenbezogene Daten verarbeitet, automatisierte Entscheidungen vorbereitet oder direkt nach außen kommuniziert.

Diese AI Act Compliance-Pflichten werden vor dem Launch praktisch relevant

Hier sind die KI Startup Pflichten, die ihr vor dem Launch konkret angehen solltet.

Technische Dokumentation

Dokumentiert konkret, was dokumentiert werden soll: Zweck des Systems, Zielgruppe, eingesetzte Modelle oder Anbieter, Input- und Output-Typen, bekannte Grenzen, Fehlerrisiken, Sicherheitsmaßnahmen und Verantwortliche im Team. Das ist keine juristische Schönwetterdoku, sondern ein Arbeitsdokument für Produkt, Ops und Prüfung.

Nutzerhinweise und KI Transparenzpflichten

Nutzer:innen müssen erfahren, dass sie mit KI interagieren, wo Ergebnisse unzuverlässig sein können und wann menschliche Prüfung nötig ist. Praktische UI-Beispiele: Label „KI-gestützt”, kurzer Hinweis vor dem ersten Einsatz, sichtbarer Eskalationsweg zu menschlichem Support.

Human Oversight

Menschliche Aufsicht bedeutet konkret: eine echte Eingriffsmöglichkeit, einen Review-Prozess und klare Verantwortlichkeit, nicht nur theoretische Überwachung. Für Startups heißt das: Wer darf Freigaben erteilen, wann wird der Agent gestoppt, wann muss ein Mensch entscheiden statt das System?

Daten- und Qualitätsmanagement

Datenquellen, Eignung, Relevanz, Verzerrungsrisiken, Aktualität und Testabdeckung sollten nachvollziehbar sein. Wenn Trainings- oder Evaluationsdaten unklar sind, steigt das Compliance- und Produktqualitätsrisiko gleichzeitig.

Prompt- und Output-Risiken testen

Vor dem Launch müsst ihr testen: Halluzinationen, schädliche Empfehlungen, Bias, Prompt Injection, unautorisierte Aktionen, fehlerhafte Tool-Nutzung und riskante Folgeketten bei Agents. Das ist keine optionale Qualitätsmaßnahme, sondern Teil eurer Compliance-Vorbereitung.

Incident-Prozess

Ein Startup braucht eine minimale Reaktionsroutine für Beschwerden, schädliche Outputs, sicherheitsrelevante Vorfälle, fehlerhafte Automatisierung und Abschaltung oder Rollback. Wer diesen Prozess erst nach dem ersten Vorfall aufbaut, verliert wertvolle Zeit.

Sonderfall GPAI Modelle: Was Modellanbieter zusätzlich beachten müssen

GPAI Modelle sind über viele Zwecke hinweg nutzbar und haben deshalb eigene Pflichten, die über reine App-Integration hinausgehen. Die Kernpflichten für Anbieter sind knapp, aber konkret: technische Dokumentation, Urheberrechtsrichtlinie und öffentliche Zusammenfassung der Trainingsinhalte. Bei systemischem Risiko kommen zusätzliche Anforderungen hinzu: Risikobewertung und -minderung, Incident Reporting, Meldung an die Kommission und Cybersicherheit.

Der Praxisbezug gilt auch für Startups, die kein eigenes Foundation Model bauen: Ihr solltet vom Modellanbieter ausreichende Dokumentation, Nutzungsgrenzen und Copyright-Informationen anfordern. Außerdem wichtig: Starkes Fine-Tuning oder substanzielle Modifikation kann dazu führen, dass ein Unternehmen regulatorisch nicht mehr nur Nutzer, sondern selbst Anbieter eines neuen Modells wird.

AI Agents Compliance: Warum agentische Systeme extra Aufmerksamkeit brauchen

AI Agents sind Systeme, die nicht nur Inhalte erzeugen, sondern mit Tools interagieren, Aufgabenketten ausführen, externe Systeme ansteuern oder eigenständig Folgeaktionen starten. Das macht AI Agents Compliance oft anspruchsvoller als bei einem Chatbot: Das Risiko entsteht nicht nur durch einen falschen Text, sondern durch reale Aktionen in CRM, E-Mail, Ticketing, HR, Finance oder anderen Produktivsystemen.

Für euren Prüfkatalog bei agentischen Systemen gilt:

• Welche Systeme darf der Agent lesen oder schreiben?
• Darf er nur Vorschläge machen oder selbst Aktionen auslösen?
• Gibt es Transaktionsgrenzen, Freigabeschwellen und Rollenrechte?
• Werden Prompts, Tool-Aufrufe, Entscheidungen und Outputs geloggt?
• Gibt es einen Kill Switch und klare Eskalation an Menschen?
• Sind Außenkommunikation und sensible Entscheidungen gesperrt oder freigabepflichtig?

Bei Agenten ist Human Oversight meist operativ auszugestalten, nicht nur dokumentarisch. Ein Kontrollmechanismus auf dem Papier reicht nicht, wenn der Agent tatsächlich eigenständig handelt.

Die Pre-Launch-Checkliste für KI-Startups in 8 Schritten

Das ist der direkt nutzbare Kern dieses Artikels. Geht diese acht Schritte vor eurem nächsten KI-Launch durch.

• Schritt 1: Use Case in einem Satz beschreiben. Wer nutzt das System, zu welchem Zweck, mit welcher Wirkung auf Menschen oder Prozesse?
• Schritt 2: Rolle klären. Seid ihr interner Nutzer, Integrator, AI-Agent-Anbieter oder Anbieter eigener GPAI Modelle?
• Schritt 3: Risikostufe grob einordnen. Verbotene Nutzung ausschließen, High-Risk AI prüfen, Transparenzpflichten identifizieren, bei interner Nutzung Governance definieren.
• Schritt 4: Datenflüsse dokumentieren. Welche Daten gehen in Prompts, APIs, Logs, Tools, Modelle und Ausgaben? Wo entstehen personenbezogene oder sensible Daten?
• Schritt 5: Anbieter und Modell prüfen. Modellkarte, Sicherheitsdokumentation, Nutzungsbedingungen, Copyright-Infos, bekannte Grenzen und Logging-Möglichkeiten sammeln.
• Schritt 6: Prompt- und Output-Risiken testen. Testfälle für Falschinformationen, sensible Daten, Missbrauch, Bias, unerlaubte Aktionen und Edge Cases definieren.
• Schritt 7: Human Oversight und Incident-Prozess festlegen. Wer prüft, wer stoppt, wer dokumentiert, wer reagiert bei Beschwerden oder Vorfällen?
• Schritt 8: Externe Prüfung einplanen, wenn nötig. Bei High-Risk-Nähe, Gesundheits-, HR-, Finanz- oder komplexen Agentenfällen Datenschutz- und Rechtsberatung vor Launch einbinden.

Als praktische Ressource stellt die EU den AI Act Service Desk bereit, inklusive Compliance Checker und weiterer Orientierungshilfen unter ai-act-service-desk.ec.europa.eu.

Was Gründer:innen nicht verwechseln sollten

AI Act Compliance ist nicht dasselbe wie DSGVO-Compliance. Die BfDI (Bundesbeauftragte für den Datenschutz und die Informationsfreiheit) betont, dass die KI-Verordnung bestehende Gesetze wie die DSGVO ergänzt, sie aber nicht ersetzt. Geringe AI-Act-Pflichten bedeuten also nicht, dass ein System datenschutzrechtlich unkritisch ist.

Besonders relevant bei LLMs und Agenten: Prompts und Outputs können personenbezogene Daten enthalten. Dazu kommen Risiken wie Extraktion memorisierter Daten, Auskunftsansprüche und Löschfragen. Das ist relevant, sobald echte Kundendaten, Mitarbeiterdaten oder sensible Inhalte in Modelle fließen. Wer das erst nach dem Launch bemerkt, hat ein doppeltes Problem: AI-Act-seitig und datenschutzrechtlich.

Zur Abgrenzung weiterer Gründungsthemen als klare Orientierung: KI-Geschäftsmodelle beantworten die Markt- und Positionierungsfrage. Vibe Coding beantwortet die schnelle Umsetzungsfrage. Dieser Artikel beantwortet die Governance-, Risiko- und Launch-Frage.

Noch ein wichtiger Warnhinweis: Ein API-Anbieter nimmt euch nicht automatisch jede Verantwortung ab. Wer ein Produkt anbietet, muss trotzdem die eigene Nutzung, Transparenz und Produktkontrolle organisieren.

Wann externe Rechts- oder Datenschutzberatung sinnvoll wird

Es gibt konkrete Trigger, bei denen externe Unterstützung vor dem Launch sinnvoll ist, nicht als allgemeine Warnung, sondern als klare Entscheidungshilfe:

• Möglicher High-Risk AI-Kontext
• HR-, Kredit-, Gesundheits- oder Scoring-Anwendungen
• Biometrische oder emotionserkennende Funktionen
• Agenten mit Schreibzugriff, Zahlungsbezug oder Außenwirkung
• Unklare Datenherkunft oder personenbezogene Trainings- und Evaluationsdaten
• Eigenes Modell oder stark modifiziertes GPAI-Modell

Für einfache Transparenz- oder interne Governance-Fragen kann ein Startup intern viel vorbereiten. Sobald Grundrechte, sensible Daten oder automatisierte Entscheidungen betroffen sind, sollte vor dem Launch professionelle Prüfung eingeplant werden. Dieser Artikel ist keine Rechtsberatung und ersetzt keine individuelle rechtliche oder datenschutzrechtliche Einschätzung.

Fazit: Das operative Fazit für 2026

Für EU AI Act Startups ist 2026 vor allem ein Jahr der frühen Einordnung und sauberen Vorbereitung, nicht der Panik. Die meisten Hochrisikopflichten greifen vollständig erst 2027 oder 2028, aber die Grundlagen lassen sich jetzt legen, ohne Produkt und Roadmap aus dem Takt zu bringen.

Wer jetzt Rolle, Risikostufe, Dokumentation, Nutzertransparenz und menschliche Aufsicht sauber aufsetzt, spart später teure Produkt-Retrofits. Der Ablauf ist konkret: Vor dem nächsten KI-Launch erst den Use Case beschreiben, dann die Risikomatrix anwenden, danach Dokumentation und Tests aufsetzen.

Nach diesem Artikel wisst ihr, ob euer Produkt eher unter Transparenz-, Dokumentations- oder mögliche Hochrisiko-Pflichten fällt, welche Rolle ihr im AI Act spielt und wann externe Unterstützung wirklich nötig ist. Das reicht für einen strukturierten Start in die Compliance-Vorbereitung.

Pro-Tipp: Nutzt den offiziellen AI Act Service Desk der EU-Kommission für einen ersten Compliance-Check. Das Tool hilft euch, euren Use Case schnell einzuordnen und gezielt weiterzuarbeiten, bevor ihr teure externe Beratungsstunden bucht.

FAQ: EU AI Act Startups

Bin ich als Startup überhaupt vom EU AI Act betroffen?

Ja, wenn euer System in der EU genutzt wird und als KI-System im Sinne des AI Act gilt. Das betrifft sowohl Anbieter (die ein KI-System entwickeln und bereitstellen) als auch Betreiber (die ein KI-System im beruflichen Kontext einsetzen). Einfache regelbasierte Software ohne modellbasiertes Schlussfolgern fällt in der Regel nicht darunter.

Was ist der Unterschied zwischen Anbieter und Betreiber im AI Act?

Als Anbieter stellt ihr ein KI-System bereit oder entwickelt es. Als Betreiber nutzt ihr ein bestehendes KI-System in eurem Produkt oder euren Prozessen. Beide Rollen haben eigene Pflichten, die sich teilweise überschneiden. Viele Startups sind beides gleichzeitig.

Wann gilt mein KI-Feature als High-Risk AI?

High-Risk AI liegt typischerweise vor, wenn das System in sensiblen Bereichen mit erheblicher Wirkung auf Menschen eingesetzt wird, zum Beispiel bei Recruiting, Kreditvergabe, Gesundheitsversorgung, Bildung oder kritischer Infrastruktur. Nicht das Modell allein entscheidet, sondern der konkrete Einsatzzweck und Kontext.

Was sind die wichtigsten Transparenzpflichten für Startups?

Vier Fälle sind besonders relevant: Nutzer:innen müssen wissen, dass sie mit KI interagieren, KI-generierte Inhalte müssen gekennzeichnet sein, bei Emotionserkennung oder biometrischer Kategorisierung muss informiert werden und bei Deepfakes oder KI-generierten Inhalten im öffentlichen Interesse muss offengelegt werden. Konkret bedeutet das: UI-Labels, Metadaten, Watermarks und dokumentierte Prozesse.

Was bedeutet KI-Kompetenz im AI Act für mein Team?

Laut AI Act müssen Unternehmen ein ausreichendes Maß an KI-Kompetenz sicherstellen. Das bedeutet nicht nur Handbücher ablegen, sondern: verwendete Systeme verstehen, die eigene Rolle klären, Risiken kennen und Schulungen passend zu den konkreten Use Cases aufsetzen. Das gilt auch bei interner Nutzung ohne direktes Kundenprodukt.