Art. 50 KI-VO adressiert die Transparenz beim Einsatz bestimmter KI-Systeme und richtet sich – anders als die umfangreichen Compliance-Anforderungen für Hochrisiko-KI – vor allem an solche KI-Anwendungen, die im direkten Kundenkontakt oder bei der Erstellung synthetischer Inhalte zum Einsatz kommen. Erfasst werden im Wesentlichen fünf Konstellationen:
- Interagierende KI (Art. 50 Abs. 1): Anbieter müssen KI-Systeme, die unmittelbar mit natürlichen Personen interagieren, so gestalten, dass die betroffene Person weiß, dass sie es mit einer KI zu tun hat – es sei denn, dies ist aus den Umständen offensichtlich.
- Generative KI (Art. 50 Abs. 2): Von GenAI-Systemen erzeugte synthetische Audio-, Bild-, Video- oder Textinhalte müssen durch die Anbieter in maschinenlesbarer Form als künstlich erzeugt oder manipuliert gekennzeichnet werden (sog. Watermarking).
- Emotionserkennung und biometrische Kategorisierung (Art. 50 Abs. 3):Betreiber müssen betroffene natürliche Personen über den Einsatz informieren.
- Deepfakes (Art. 50 Abs. 4 UAbs. 1): Betreiber müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.
- KI-generierte Texte zu Angelegenheiten öffentlichen Interesses (Art. 50 Abs. 4 UAbs. 2): Betreiber müssen die KI-Herkunft offenlegen, sofern nicht eine redaktionelle Kontrolle und Verantwortungstragung besteht.
Die o.g. Informationen sind klar, eindeutig und spätestens bei der ersten Interaktion bzw. beim ersten Einsatz bereitzustellen und müssen barrierefrei zugänglich sein. Verstöße gegen Art. 50 KI-VO können nach Art. 99 Abs. 4 KI-VO mit Bußgeldern von bis zu 15 Mio. EUR oder 3 % des weltweiten Jahresumsatzes geahndet werden.
Auswirkungen auf den KI-Einsatz von Versicherungsunternehmen
Versicherungsunternehmen sind in aller Regel als Betreiber im Sinne der KI-VO einzuordnen, sofern sie KI-Systeme nicht ausschließlich für sich selbst entwickeln oder entwickeln lassen. Damit trifft sie nur ein Teil der Transparenzpflichten unmittelbar. Im Folgenden geben wir hierfür einige Beispiele:
- Chatbots und RoboAdvisor: Im Kundenservice, im Vertrieb und in der Schadenbearbeitung eingesetzte Chatbots und Voicebots müssen den Kunden unmissverständlich darüber informieren, dass er mit einer KI kommuniziert. KI kann die persönliche Beratung insbesondere durch „RoboAdvisor" namentlich für Standardfragen erleichtern – zukünftig ist dabei eine entsprechende KI-Kennzeichnung zwingend, etwa durch eine Begrüßungsansage oder ein deutliches User Interface Element. Diese Pflicht haben Versicherungsunternehmen selbst jedoch nur umzusetzen, wenn sie im Einzelfall als Anbieter gelten oder es sich um einen – grundsätzlich zulässigen – DeepFake (z.B. der Avatar des Versicherer-CEO als Berater) handelt.
- Generative Kundenkorrespondenz: Werden Anschreiben, Ablehnungsbescheide oder Schadenmitteilungen mittels GenAI erzeugt, ist auf Anbieterseite eine maschinenlesbare Kennzeichnung sicherzustellen. Die Betreiber-Offenlegungspflicht nach Abs. 4 greift im gewöhnlichen individuellen Kundenkontakt zwar meist nicht, sofern kein Deepfake und kein Text zu Angelegenheiten öffentlichen Interesses vorliegt – die praktischen Anforderungen an eine saubere Prozessdokumentation bleiben dennoch bestehen.
- Emotionserkennung und biometrische Kategorisierung: Voice-Analytics-Systeme im Callcenter zur Stimmungserkennung oder Sprecheridentifikation lösen eine gesonderte Informationspflicht gegenüber Kunden und Mitarbeitern aus. Zu beachten ist zudem, dass Emotionserkennung am Arbeitsplatz nach Art. 5 KI-VO grundsätzlich verboten ist. Zudem können auch datenschutzrechtliche Bestimmungen der Stimmanalyse bereits im Weg stehen.
Praktische Umsetzung: Möglicher Anpassungsbedarf besteht insbesondere ggf. bei Chatbot-Frontends, Voicebot-Ansagen, Templates für automatisierte Korrespondenz, AVB-Informationsblättern sowie internen Leitlinien. Sinnvoll ist eine enge Verzahnung mit den ohnehin bestehenden Informationspflichten aus Art. 13, 14 DSGVO und dem Verbot (mit Erlaubnisvorbehalt) ausschließlich automatisierter Einzelfallentscheidungen nach Art. 22 DSGVO. Zudem sind die allgemeinen Beratungs- und Informationspflichten des Vermittlers bzw. Versicherers beim KI-Einsatz weiterhin einzuhalten.
Risiken für Versicherungsnehmer bei Verstoß gegen die Transparenzpflichten
Auch wenn die KI-VO in erster Linie einen produktsicherheitsrechtlichen Ansatz verfolgt und keine eigenständigen zivilrechtlichen Anspruchsgrundlagen begründet, kann sie den Sorgfaltsmaßstab im Rahmen zivilrechtlicher Verkehrspflichten prägen. Für gewerbliche bzw. freiberufliche Versicherungsnehmer, die KI einsetzen (etwa Industriebetriebe, Kliniken, Kanzleien oder Vermittler), ergeben sich hieraus mehrere haftungs- und deckungsrechtliche Fallstricke:
- Vorsatzausschluss in der Haftpflichtversicherung: In der Haftpflichtversicherung sind vorsätzliche Pflichtverletzungen regelmäßig ausgeschlossen. Teils bezieht sich der Ausschluss auch auf wissentliche Pflichtverletzungen. Wer etwa als Kanzlei KI-generierte Schriftsätze ohne Kennzeichnung veröffentlicht und dabei billigend in Kauf nimmt, dass Transparenzpflichten verletzt werden und hieraus Schäden resultieren, riskiert den Deckungsschutz der Vermögensschadenhaftpflichtversicherung.
- D&O-Versicherung: Vorstand und Geschäftsleitung haften nach § 93 AktG bzw. § 43 GmbHG gegenüber der Gesellschaft für Compliance-Verstöße. Bußgelder nach Art. 99 KI-VO können erheblich sein; die Frage der D&O-Deckung und der Regressierbarkeit von Bußgeldern bleibt umstritten.
Weitere Rechtsfolgen: Zu denken ist ferner an deliktische Ansprüche nach § 823 Abs. 2 BGB (Art. 50 KI-VO als potenzielles Schutzgesetz – str.), lauterkeitsrechtliche Ansprüche wegen Irreführung nach § 5 UWG sowie die Anfechtbarkeit von Willenserklärungen wegen arglistiger Täuschung nach § 123 BGB, wenn der KI-Einsatz gezielt verschleiert wird. Für Versicherungsvermittler (und entsprechend andere Gewerbetreibende) kann ein Verstoß zudem die für die Erlaubnis nach § 34d GewO erforderliche Zuverlässigkeit gefährden.
Fazit und Ausblick
Mit dem 02.08.2026 ist die KI-VO für den Versicherungsalltag spürbarer geworden: Anders als die verschobenen Hochrisiko-Anforderungen (Geltung nach dem Trilogergebnis nunmehr erst ab dem 02.12.2027) müssen die Transparenzpflichten des Art. 50 KI-VO ab sofort in allen Sparten umgesetzt sein. Versicherungsunternehmen sollten ihre KI-basierten Kundenschnittstellen, Templates und Prozesse inventarisieren, technisch nachschärfen und die Einhaltung der Transparenzanforderungen dokumentieren. Die Aufsicht hierüber führt die BaFin als Marktüberwachungsbehörde nach der KI-VO.
Und noch ein Hinweis: BLD veröffentlicht gemeinsam mit den Versicherungsforen Leipzig zu diesem und weiteren regulatorischen Themen im Zusammenhang mit dem KI-Einsatz durch Versicherungsunternehmen ein Handbuch, welches die wichtigsten rechtlichen Fragen behandelt, praktische Lösungsansätze und Beispiele bietet, sowie anhand von Checklisten die Umsetzung von KI-Compliance im Unternehmen erleichtert. Das Handbuch kann ab September 2026 als Einzeldokument oder als Lizenz für das gesamte Unternehmen unter https://www.versicherungsforen.net/recht-compliance/handbuch-ki-regulatorik-fuer-versicherungen-praxis-leitfaden erworben werden. Zusätzlich bieten BLD und die Versicherungsforen Leipzig Schulungen und Beratung in diesem Zusammenhang an.
