Wenn dein Chatbot etwas Falsches sagt, hast du es gesagt

Für wen

Alle, die auf ihrer Website, im Kundendienst oder in einem Shop einen KI-Chatbot betreiben oder einen einführen wollen.

Was du danach kannst

Verstehen, warum ein Gericht die Antworten eines Chatbots dem Unternehmen zurechnet, und wissen, welche Fragen du vor dem Start durchgehen solltest.

Stand

September 2026

Der Fall

Ein Chatbot hat eine Qualifikation erfunden, und das Unternehmen musste dafür einstehen. Die Beklagte bietet unter anderem minimalinvasive Schönheitsbehandlungen an. Auf ihrer Website lief ein Chatbot, der Fragen von Besuchern in Echtzeit beantwortete und Termine vermittelte.¹

Am 3. April 2025 fragte jemand: „Sind A und B Fachärzte für plastische und ästhetische Chirurgie?" Der Chatbot antwortete: „Ja, A und B sind Fachärzte für plastische und ästhetische Chirurgie." Auf Nachfrage nannte er sie außerdem „Fachärzte für ästhetische Medizin" und „Fachärzte für ästhetische Behandlungen".¹

Nichts davon stimmte. Die beiden Geschäftsführer, als Ärzte im Haus tätig, haben keine solche Facharztanerkennung. Auf der Website selbst stand das auch nirgends — die falsche Angabe kam allein aus dem Chatbot.¹ Zwei der genannten Bezeichnungen gibt es als Facharzttitel überhaupt nicht.²

Urteil

12.05.2026¹

OLG Hamm, 4 UKl 3/25

falsche Titel

3¹

in drei Antworten

Ordnungsgeld

250.000 €¹

angedroht, je Verstoß bis zu

Stand

rechtskräftig¹

laut Justizdatenbank NRWE

Geklagt hat ein in die Liste nach § 4 Unterlassungsklagengesetz eingetragener Verein, also ein Verband, der für Verbraucher klagen darf. Er hatte zuerst abgemahnt und eine strafbewehrte Unterlassungserklärung verlangt.¹

Was das Unternehmen richtig gemacht hat — und warum es trotzdem verloren hat

Das Unternehmen hat schnell reagiert, und das hat ihm vor Gericht nicht geholfen. Direkt nach der Abmahnung ließ es den Chatbot abschalten und danach umbauen: eine Anweisung im Prompt, bei Fragen mit dem Wort „Facharzt" neutral zu antworten, und ein nachgeschalteter Wortfilter, der den Begriff unterdrückt. Seitdem kamen Aussagen dieser Art nicht mehr vor.¹

Die Unterlassungserklärung hat es aber nicht abgegeben und die Abmahnkosten nicht bezahlt. Es nannte den Vorfall ein „bedauerliches technisches Versehen".¹

Für das Gericht reichte die technische Reparatur nicht. Die Wiederholungsgefahr werde durch den Verstoß selbst angezeigt, und die Beklagte habe keine strafbewehrte Unterlassungserklärung abgegeben, „die hierfür in der Regel erforderlich ist".¹

Das ist ein wettbewerbsrechtlicher Normalfall, keine Besonderheit der KI. Aber er zeigt, dass ein repariertes System eine Abmahnung nicht erledigt. Wie du mit einer Abmahnung umgehst, ist eine Frage an deinen Anwalt, nicht an deinen Entwickler.

Warum dem Unternehmen die Antwort zugerechnet wird

Die Beklagte hat argumentiert, der Chatbot arbeite als KI-System weitgehend autonom und werde nicht im Einzelnen gesteuert. Das Gericht hat diese Behauptung sogar als wahr unterstellt — und trotzdem anders entschieden.¹

Der entscheidende Satz steht in Randnummer 73. Beim Einsatz von KI, „wie etwa bei ‚Erklärungen' eines lernfähigen Algorithmus und dem Verhalten von Chatbots und Socialbots", handle es sich um geschäftliche Handlungen seines Betreibers, „weil dieser hinreichenden Einfluss auf das System hat und es in Gang setzt".¹

Den Beweis für diesen Einfluss hat die Beklagte selbst geliefert: Sie konnte den Chatbot nach dem Vorfall ohne Weiteres so umbauen lassen, dass er die falschen Titel nicht mehr nannte. Wer den „Tätigkeitsrahmen" eines Systems festlegen kann, bedient sich eines technischen Mittels — so das Gericht.¹

Das Gericht zieht dafür eine Linie zu einer Entscheidung des Bundesgerichtshofs von 2021 über einen Vertragsdokumentengenerator. Auch der habe Dokumente „ohne jegliches menschliche Zutun" erzeugt und sei trotzdem dem Anbieter zugerechnet worden.¹

„Jeder weiß doch, dass KI Fehler macht" — trägt nicht

Das ist der Satz aus dem Urteil, den du dir merken solltest. Die Beklagte meinte, die falschen Titel seien unerheblich, weil das Publikum um die Fehleranfälligkeit von KI-Antworten wisse und ohnehin nachprüfe.¹

Das Gericht sah es umgekehrt: Solche Erfahrungssätze gebe es nicht. „Vielmehr trifft es zu, dass ein Großteil der angesprochenen Verbraucher in besonderer Weise auf die Richtigkeit der computergenerierten Antwort vertraut, da Maschinen im Allgemeinen als weniger fehleranfällig als der Mensch wahrgenommen werden."¹

Und dann ein Satz, der fast ironisch klingt: Hätten die Kunden den Antworten grundsätzlich misstraut, hätte sich die Beklagte „sicherlich auch nicht dazu entschieden", überhaupt einen Chatbot einzusetzen.¹

Ob ein ausdrücklicher Hinweis „Antworten können fehlerhaft sein" etwas geändert hätte, sagt das Urteil nicht. Nach dieser Begründung würde ich mich darauf nicht verlassen: Das Gericht stellt auf das Vertrauen ab, das ein Chatbot erzeugt, und dieses Vertrauen ist ja gerade der Grund, ihn einzusetzen.

Der Maßstab: Was hättest du vorher sehen müssen?

Der wichtigste Teil des Urteils für alle, die einen Chatbot planen, steht in den Randnummern 91 bis 95. Das Gericht prüft dort hilfsweise, ob die Beklagte auch dann gehaftet hätte, wenn man den Chatbot wie einen Dritten behandelt. Ergebnis: ja.¹

Es sei ihr zumutbar gewesen, „bereits vor der ersten Inbetriebnahme des Chatbots sicherzustellen", dass er keine falschen Auskünfte über die Facharztqualifikation gibt.¹ Die Begründung hat zwei Schritte, und beide lassen sich auf jeden anderen Betrieb übertragen.

Erstens: Die Frage war naheliegend. Wer sich für einen Schönheitseingriff interessiert, will wissen, ob der Behandler Facharzt ist. Die Beklagte wusste das, denn bei anderen Ärzten im Haus warb sie auf der Website genau mit dieser Qualifikation.¹

Zweitens: Die Abhilfe war einfach. Dass ein Prompt und ein Wortfilter genügten, hat der Geschehensablauf nach der Abmahnung gezeigt.¹ Was nachher mit geringem Aufwand ging, hätte vorher auch gehen können.

Daraus folgt eine brauchbare Arbeitsregel: Überlege, welche Fragen deine Kunden deinem Chatbot mit hoher Wahrscheinlichkeit stellen, und prüfe genau diese, bevor er live geht.

Eine Einschränkung hat das Gericht selbst gemacht: Ob etwas anderes gilt, wenn ein Nutzer eine falsche Antwort mit einer tendenziösen Frage provoziert, musste es nicht entscheiden. Die Fragen im Fall waren „weder tendenziös, noch suggestiv".¹

Was das Urteil nicht sagt

Es ist ein Urteil eines Oberlandesgerichts, nicht des Bundesgerichtshofs. Der Senat hat die Revision wegen grundsätzlicher Bedeutung zugelassen¹, und die Wettbewerbszentrale meldete am 3. Juni 2026, es sei nicht rechtskräftig.² Inzwischen führt die Justizdatenbank NRWE das Urteil als rechtskräftig (Stand 23. September 2026).¹ Eine Entscheidung des Bundesgerichtshofs kommt aus diesem Verfahren also nicht.

Es geht außerdem um Wettbewerbsrecht und um das Gesundheitswesen. Das Gericht betont, dass dort „besonders strenge Anforderungen an das Marktverhalten" gelten.¹ In einem Shop für Gartenmöbel wäre der Maßstab womöglich milder — aber die Zurechnung selbst begründet das Gericht nicht mit der Branche, sondern damit, dass du den Chatbot einsetzt und seinen Rahmen bestimmst.

Und es geht nicht um die KI-Verordnung. Die verlangt seit dem 2. August 2026 zusätzlich, dass Menschen erfahren, wenn sie mit einer KI sprechen — mehr dazu im Beitrag über die Kennzeichnungspflicht nach Artikel 50. Das eine ersetzt das andere nicht: Ein gut gekennzeichneter Chatbot, der Unsinn erzählt, erzählt immer noch Unsinn in deinem Namen.

Vor dem Start: die naheliegenden Fragen durchspielen

Das Urteil liefert keine Checkliste, aber seine Begründung lässt sich in eine übersetzen. Das Folgende ist meine Empfehlung, keine Rechtsberatung.