Der Einsatz von Generativer KI im Versicherungssektor birgt neben Chancen auch Herausforderungen, die Unternehmen proaktiv angehen müssen. Pegasystems, The Enterprise Transformation Company, identifiziert sieben zentrale Aspekte.
Datenschutz im KI-Zeitalter: Herausforderungen für Versicherungen
Das Training von KI-Modellen erfordert große Datenmengen, was bei der Verarbeitung von Kundendaten und Schadensmeldungen datenschutzrechtliche Fragen aufwirft. Versicherungen müssen die DSGVO einhalten, Daten anonymisieren oder eine Rechtsgrundlage gemäß Artikel 6 DSGVO schaffen und Informationspflichten beachten.
Urheberrechtsrisiken bei KI-Anwendungen in der Versicherungswirtschaft
Da große Sprachmodelle oft mit urheberrechtlich geschützten Inhalten trainiert werden, drohen Abmahnungen für GenAI-Anwendungen. Dies betrifft besonders Unternehmen, die Modelle weiterentwickeln.
EU AI Act: Regulatorische Hürden für KI-Systeme in Versicherungen
Der EU AI Act bringt zusätzliche regulatorische Vorgaben, insbesondere für KI-Systeme in der Lebens- und Krankenversicherung, die als „Hochrisiko-KI-Systeme“ gelten. Die Einhaltung der Auflagen ist entscheidend, um Geldbußen und Reputationsschäden zu vermeiden.
Cybersecurity in der Versicherungsbranche: Schutz vor KI-gestützten Cyberangriffen
Versicherungen müssen GenAI in ihre Sicherheitskonzepte integrieren, um Datenschutzverletzungen und Manipulationen zu verhindern. Zudem verändert GenAI das Versicherungsgeschäft, da Cyberkriminelle die Technologie zur Verfeinerung von Angriffen nutzen.
Erklärbarkeit von KI-Entscheidungen: Transparenz als Compliance-Faktor für Versicherer
Die Black-Box-Natur großer Sprachmodelle kann zu Compliance-Risiken führen, da der EU AI Act Transparenz fordert. Unfaire Entscheidungen können zu Akzeptanzproblemen bei Kunden führen.
Akzeptanz von KI in der Belegschaft: Mitarbeiter in Veränderungsprozesse einbeziehen
Neue Technologien stoßen oft auf Widerstand in der Belegschaft. Versicherungen sollten Mitarbeiter frühzeitig in KI-Pläne einbeziehen und Ängste durch Aufklärung abbauen.
Modellgrenzen und Datenqualität: Verzerrungen und Halluzinationen vermeiden
KI-Modelle bilden nur einen Teil der Realität ab und können bei ungewohnten Daten fehlerhafte Antworten liefern. Unternehmen müssen Mechanismen implementieren, um fehlerhafte Ausgaben zu verhindern und auf eine ausgewogene Datenbasis achten.
Elischa Göttmann, Principal Solutions Consultant bei Pegasystems, betont: „Versicherungsunternehmen können es sich kaum leisten, auf Generative KI zu verzichten – allein schon, um dem Fachkräftemangel entgegenzuwirken und effizienter zu werden.“ Er rät jedoch zu Governance-Prozessen, um Risiken zu minimieren.