Ist mein Chatbot hochriskant?

Kurze Antwort: mit ziemlicher Sicherheit nicht hochriskant - aber Sie haben Pflichten, die genau jetzt durchsetzbar sind, was nicht die Antwort ist, die die meisten Chatbot-Teams erwarten, und auch nicht die, die ihnen im Juni gesagt wurde.

Die Verwirrung ist verständlich. "Hochriskant" klingt nach einer Beschreibung dafür, wie viel Schaden etwas anrichten könnte, also fühlt sich ein Chatbot mit Zugriff auf Kundendaten so an, als müsste er dazugehören. So ist der Begriff nicht gemeint. Hochriskant ist eine definierte Einstufung mit einer konkreten Liste dahinter, und die meisten Chatbots liegen außerhalb davon - während sie mitten in einem anderen Pflichtensatz landen, über den niemand berichtet hat.

Wann ein Chatbot doch hochriskant ist

Ihr Chatbot ist nur dann hochriskant, wenn er unter Anhang III fällt. Für dialogorientierte Systeme heißt das realistischerweise eines der folgenden Felder:

Achten Sie darauf, was diese Felder gemeinsam haben. Jedes trifft oder beeinflusst wesentlich eine Entscheidung über eine bestimmte Person, die deren Zugang zu Arbeit, Geld, Bildung, Freiheit oder Aufenthalt betrifft. Das ist der eigentliche Test hinter der Liste.

Ein Support-Chatbot, der Fragen zu Ihrem Produkt beantwortet, tut nichts davon. Ein Vertriebs-Chatbot, der Leads qualifiziert, ebenfalls nicht - ein Unternehmen zu qualifizieren heißt nicht, über eine Person zu entscheiden. Ein interner Chatbot, der Ihre Dokumentation durchsucht, auch nicht.

Und selbst dann: Artikel 6(3) prüfen

In einem Bereich aus Anhang III zu liegen macht ein System nicht automatisch hochriskant. Artikel 6(3) sieht eine Ausnahme vor, wenn das System eine eng begrenzte Verfahrensaufgabe erfüllt, das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit verbessert, Entscheidungsmuster erkennt, ohne die menschliche Bewertung zu ersetzen, oder vorbereitende Arbeit leistet - und kein Profiling natürlicher Personen betreibt.

Bei Chatbots ist es meist die Profiling-Bedingung, die den Fall entscheidet, und sie ist absolut. Ein Chatbot, der strukturierte Informationen von Bewerberinnen und Bewerbern einsammelt und sie unverändert an eine Recruiterin weitergibt, leistet möglicherweise vorbereitende Arbeit. Einer, der irgendetwas über die Person ableitet - Eignung, Stimmung, voraussichtliche Leistung -, betreibt Profiling, und die Ausnahme schließt sich. Der vollständige Test zu 6(3).

Was Sie mit hoher Wahrscheinlichkeit sind: begrenztes Risiko

Die meisten Chatbots landen bei begrenztem Risiko, wo die gesamte Pflicht in der Transparenz nach Artikel 50 besteht - und das ist der Teil, auf den es ankommt, denn er ist seit dem 2. August 2026 durchsetzbar.

50(1) - den Menschen sagen, dass sie mit einer KI sprechen

Systeme, die für die unmittelbare Interaktion mit natürlichen Personen bestimmt sind, müssen so gestaltet sein, dass diese Personen darüber informiert werden, dass sie mit einem KI-System interagieren, es sei denn, das ist für eine angemessen informierte Person unter den Umständen offensichtlich.

Drei Dinge, die dabei schiefgehen:

• "Offensichtlich" ist keine sichere Wette. Moderne Assistenten sind überzeugend, sie bekommen menschliche Namen, und sie eröffnen mit menschlich klingenden Begrüßungen. Wenn Sie Ihrem einen Vornamen und ein Foto gegeben haben, haben Sie aktiv gegen die Offensichtlichkeit gearbeitet.
• Die Datenschutzerklärung zählt nicht. Die Offenlegung muss die Person bei oder vor der Interaktion erreichen und nicht in einem Dokument liegen, das sie nie öffnen wird.
• Sie muss die Übergabe überstehen. Wenn Ihr Bot an einen Menschen eskaliert oder ein Mensch stillschweigend übernimmt, sollte die Nutzerin erkennen können, mit wem von beiden sie spricht.

50(2) und 50(4) - synthetische Inhalte

Wenn Ihr Produkt Inhalte erzeugt, greifen zwei weitere Bestimmungen, und es lohnt sich, genau zu sein, wer was schuldet:

• 50(2) verlangt von Anbietern generativer Systeme, synthetische Ausgaben in einem maschinenlesbaren Format als künstlich erzeugt zu kennzeichnen. Diese Pflicht liegt beim Anbieter des generativen Systems. Wenn Sie das Modell eines anderen über eine API aufrufen, ist das dessen Pflicht, nicht Ihre.
• 50(4) betrifft Betreiber. Deepfakes - Bild-, Audio- oder Videoinhalte, die echten Personen, Orten oder Ereignissen ähneln - müssen offengelegt werden. Auch KI-erzeugter Text, der zur Unterrichtung der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht wird, muss offengelegt werden, es sei denn, er wurde einer menschlichen Prüfung unterzogen und eine natürliche oder juristische Person trägt die redaktionelle Verantwortung für seine Veröffentlichung.

Diese Ausnahme ist für die meisten Unternehmen die praxisrelevante. Wenn ein Mensch liest, was Sie veröffentlichen, bevor es hinausgeht, und dafür die Verantwortung übernimmt, greift die Offenlegungspflicht nicht. Veröffentlichen Sie ungeprüften generierten Text, greift sie.

Artikel 4 - KI-Kompetenz, die für alle gilt

Anbieter und Betreiber müssen ein ausreichendes Maß an KI-Kompetenz beim Personal sicherstellen, das mit dem System umgeht, unter Berücksichtigung von dessen technischen Kenntnissen und des Verwendungskontexts. Durchsetzbar seit dem 2. August 2026.

Für ein kleines Team ist das wirklich ein halber Tag: was das System tut, wo es scheitert, wie man eine schlechte Ausgabe erkennt, an wen man eskaliert. Protokollieren Sie es und heben Sie die Teilnehmerliste auf. Der Nachweis ist die Compliance - es gibt nichts einzureichen und niemanden zu benachrichtigen, aber auf Nachfrage ist "wir haben das an diesem Datum gemacht und hier ist, wer dabei war" die vollständige Antwort.

Und was ist mit den Daten, die der Chatbot sieht?

Ein häufiges Durcheinander. Wenn Ihr Chatbot personenbezogene Daten verarbeitet, ist das DSGVO, nicht KI-Verordnung. Die beiden überschneiden sich, stellen aber verschiedene Fragen: Die DSGVO fragt, ob Sie diese Daten verarbeiten dürfen und auf welcher Grundlage; die KI-Verordnung fragt, was für ein System das ist und welche Pflichten daran hängen.

Die eine zu beantworten beantwortet die andere nicht. "Wir sind DSGVO-konform, also passt das schon" gehört zu den häufigsten Irrtümern in diesem Feld, und er ist in beide Richtungen falsch - eine Prüfung der Rechtsgrundlage sagt nichts über Artikel 50, und eine Einstufung nach der KI-Verordnung sagt nichts über Ihre Rechtsgrundlage.

Fünf Minuten, und Sie wissen, wo Sie stehen

1. Trifft oder beeinflusst Ihr Chatbot wesentlich eine Entscheidung über eine bestimmte Person in Bezug auf Beschäftigung, Bildung, Kredit, wesentliche Dienste, Strafverfolgung, Migration oder Justiz? Nein → nicht hochriskant.
2. Wenn ja: Betreibt er Profiling von Personen? Nein, und seine Aufgabe ist eng begrenzt oder vorbereitend → möglicherweise nach 6(3) ausgenommen, aber dokumentieren Sie es.
3. Wird der Nutzerin beim ersten Kontakt sichtbar gesagt, dass es eine KI ist? Nein → diese Woche beheben. Geltende Pflicht.
4. Erzeugt er Inhalte, die Sie ungeprüft veröffentlichen? Ja → kennzeichnen, oder eine Prüfung einführen und die redaktionelle Verantwortung übernehmen.
5. Haben Sie eine Schulung zur KI-Kompetenz durchgeführt und dokumentiert? Nein → ein halber Tag, protokollieren.

Die meisten Unternehmen, die diese Liste durchgehen, stellen fest, dass sie begrenztes Risiko haben, mit einer echten Lücke: der Offenlegung. Sie kostet einen Nachmittag, sie ist seit August durchsetzbar, und sie ist das mit Abstand am häufigsten Liegengebliebene.