Versicherte und ihre Sorgen vor der Künstlichen Intelligenz


Abgesehen von der aktuellen Ausnahmesituation „Pandemie“ bestimmen nicht erst seit heute weitere wesentliche Einflussfaktoren unser Gesundheitssystem: Diese lassen sich auf politisch-regulativen, auf wirtschaftlichen, auf sozio-demografischen und schließlich auf technologischen Gebieten verorten.

Systeme mit künstlicher Intelligenz steigern die Effizienz und damit auch die Profitabilität von Versicherungsgesellschaften. Techniken wie Machine Learning ermöglichen die automatisierte Bearbeitung von Routineanfragen und Schadensregulierung. Auch unterstützen sie Marketing und Produktmanagement bei der Entwicklung neuer Produkte und tragen zum besseren Verständnis von Kundinnen und Kunden bei.

Jedoch beunruhigt die KI die deutschen Verbraucher, wie eine Befragung aus dem vergangenen Jahr ergab.

Das Daten-Paradox der Kundinnen und Kunden

Die im Auftrag des „Verbraucherzentrale Bundesverbands“ (vzbv) im vergangenen Jahr durchgeführte Befragung zeichnet ein ähnlich paradoxes Bild, wie es auch in anderen Branchen sichtbar wurde.

Auf der einen Seite teilen viele Menschen völlig bedenkenlos persönliche Informationen mit Unbekannten, beispielsweise in sozialen Netzen wie Facebook. Sie tun dies, obwohl inzwischen weithin bekannt ist, dass diese Daten zur Erstellung von Profilen und für Werbung genutzt werden – und im schlimmsten Fall auch Kriminellen genügend Material an die Hand geben, um bei Phishing-Versuchen erfolgreicher zu sein.

Auf der anderen Seite bestehen Bedenken hinsichtlich der (automatisierten) Auswertung von Daten. Regelmäßig wünscht sich die Kundschaft in Befragungen etwa vom Handel mehr Personalisierungsoptionen und eine persönliche Ansprache. Aber wie Forrester Research im Jahr 2019 herausgefunden hat, existiert hier eine imaginäre Grenze zwischen dem, was die Kundinnen und Kunden als nützlich empfinden, und Maßnahmen, die ihnen unheimlich („creepy“) sind.

KI wird kritisch gesehen:

Längst nicht alles, was KI-Systeme technisch ermöglichen, dürfen Versicherungsgesellschaften umsetzen. Denn das aktuelle Datenschutzrecht, die strengen Regularien des Versicherungswesens und letztlich die sich ständig erweiternde Rechtsprechung setzen hier enge Grenzen.

Offenbar genügt das den Konsumentinnen und Konsumenten aber nicht. 75 Prozent der vom vzbv Befragten zeigen sich besorgt über automatisierte Entscheidungen innerhalb von Unternehmen.

Dabei haben die Studienteilnehmer diese Prozesse nicht generell verdammt, sondern sehen die Systeme dann kritisch, wenn ihnen unklar ist, welche Daten und Prinzipien eingesetzt werden. Ohne diese Informationen erscheinen die Algorithmen als „Blackbox“, deren Einsatz Sorgen bereitet.

Angesichts der Ängste verwundert es nicht, dass nur 18 Prozent der Befragten mehr Chancen als Risiken beim Einsatz von automatisierten Systemen sehen, wenn Algorithmen Entscheidungen treffen bzw. die Entscheidungsfindung beeinflussen.

„Die diffuse Angst vor einer sich verselbständigenden Maschine ist in der europäischen Versicherungswirtschaft unbegründet,“ verdeutlicht Karsten Schmitt, Leiter Business Development bei adesso insurance solutions. „KI, die beispielsweise in der Schadensabwicklung eingesetzt wird, übernimmt automatisiert Tätigkeiten, die zuvor Mitarbeitende geleistet haben. Dabei gelten selbstverständlich die gleichen Gesetze zum Schutz persönlicher Daten wie bei der händischen Bearbeitung. Kein Versicherer wird das Risiko eingehen, gegen die Verpflichtung zum Schutz personenbezogener Daten zu verstoßen. Dafür sind die Folgen hinsichtlich Strafen und Reputationsverlust zu groß.“

Transparenz und Vorteile gegen Bedenken

Die Maximalforderung des vzbv und der Befragten lautet, dass der Staat die Möglichkeit erhalten solle, solche Algorithmen zu prüfen, um die Einhaltung der Rechtsvorschriften zu gewährleisten.

Doch abseits der nach wie vor laufenden Diskussionen um Ethik in der KI oder einer staatlichen Aufsicht bei der Entwicklung könnten einfache Maßnahmen für ein besseres Image automatisierter KI sorgen.

Da es den Betroffenen offenbar an Vertrauen in die Technologie mangelt, erscheint es zielführend, das Thema KI auf zwei Ebenen anzugehen:

Einerseits gilt es, die Vorteile von KI deutlicher zu kommunizieren. Der Einsatz eines Chatbots bietet mehr zeitliche Flexibilität für die Versicherten. Sie gelangen beispielsweise schneller an die gewünschten Informationen. Automatisierte KI-Lösungen können den Regulierungsprozess beschleunigen, der Schaden wird rascher kompensiert, was im Interesse der Betroffenen sein dürfte. Mithilfe von Systemen für die Betrugserkennung sparen alle Versicherten Geld. Eine gute Zusammenfassung von Einsatzgebieten von KI in Versicherungen geben Kolleg:Innen unserer Muttergesellschaft adesso SE in einem Interview auf it-zoom.de.

Auf der zweiten Ebene sollte mehr Transparenz über den Einsatz der Technologien geschaffen werden. Um etwa das Beispiel des Chatbots aufzugreifen: Es muss deutlich kommuniziert werden, wann ein Kontakt mit einem maschinellen System statt mit einem Menschen besteht. Bei Infobroschüren und Hinweisen sollten sich die Versicherungsunternehmen nicht allein auf Datenschutzhinweise und AGB bzw. Vertragsbedingungen zurückziehen, sondern direkt kommunizieren, welche Daten automatisiert für eine Entscheidungsfindung herangezogen werden. Erklärungen in einfacher Sprache könnten sich als wirksamer Hebel erweisen.

Es liegt in der Natur der Sache, dass die Transparenz dort ihre Grenzen findet, wo sie einen Wettbewerbsvorteil gefährdet. Die Bedeutung der KI ist indes zu groß, um sie zu verstecken, weil sie beispielweise Komplexitäten abbauen und den Service kundenorientierter machen kann. Vorteile, von denen die Versicherten profitieren, wodurch Misstrauen und Ängste abgebaut werden können. Karl-Heinz Streibich, Präsident der Deutschen Akademie der Technikwissenschaften schreibt in einem Gastbeitrag für die Wirtschaftswoche dazu passend: „Deshalb gilt es KI verständlich zu machen und den Dialog mit der Öffentlichkeit zu fördern. Letztendlich sind es sichere und ethisch unbedenkliche KI-Systeme, denen die Menschen vertrauen.“

Warum sich Versicherungsunternehmen für den Einsatz von KI entscheiden und wie das erfolgreich geschieht, erfahren Sie in unserem kostenlosen Whitepaper.

 

Sie haben Interesse an Produkten von adesso insurance solutions?

Hier finden Sie eine Übersicht aller Software-Lösungen für alle Versicherungssparten – für Bestandsführung, Leistungsmanagement, Schadenbearbeitung, Produktmodellierung oder zur allgemeinen Digitalisierung.

Zur Produktseite