Lloyd’s of London: Versicherung soll Schäden durch KI-Halluzinationen abdecken ◆ heise online
Anzeige
Moderne IT-Infrastruktur Themenspecial ChromeOS
Anzeige
close notice
This article is also available in English.
It was translated with technical assistance and editorially reviewed before publication.
Don’t show this again.
Am Versicherungsmarkt Lloyd’s of London können sich Unternehmen nun gegen die Kosten von fehlerhafter KI-Technik absichern lassen. Das berichtet die Financial Times und erklärt, dass davon etwa Rechnungen abgedeckt werden, die anfallen, wenn eine Firma von einem Kunden verklagt wird, der wegen eines unzureichenden KI-generierten Texts Schäden erlitten hat. Die Versicherer, die sich an dem Programm beteiligen, würden dann etwa Schadenersatz und Anwaltskosten übernehmen, die von einer KI verursacht werden. Das Produkt könnte demnach mehr Unternehmen davon überzeugen, KI-Technik einzuführen. Zwar würden Kosten durch KI-Fehler bereits teilweise mit übernommen, aber bisher immer nur geringe Maximalsummen.
Anzeige
Nicht jeder Fehler wird abgedeckt
Als Beispiele für unzureichend funktionierende KI, die für Unternehmen zum Problem wurden, verweist die britische Zeitung unter anderem auf einen Chatbot des Paketzustellers DPD, der die eigene Firma übelst beschimpft und als “ das schlechteste Lieferunternehmen der Welt” bezeichnet hat. Bei der kanadischen Fluggesellschaft Air Canada hatte ein Chatbot falsche Informationen generiert, woraufhin die Airline dem Betroffenen den zu viel bezahlten Teil der Kosten eines Flugtickets erstatten musste. Genau diese Kosten würden von der neuen Versicherungspolice übernommen, zitiert die Financial Times das kanadische Start-up Armilla, das sie entwickelt hat.
Ein Fehler eines KI-Textgenerators allein würde aber nicht dafür reichen, dass die dadurch entstandenen Kosten übernommen werden, erklärt die Zeitung weiter. Stattdessen sei es nötig, dass der verantwortliche Versicherungskonzern zu dem Schluss kommt, dass die KI-Technik schlechter funktioniert hat, als erwartet. Das heißt, die Versicherung könnte einspringen, wenn ein Chatbot nur noch in 85 Prozent aller Fälle richtige Antworten gibt, nachdem es anfangs 95 Prozent waren. Dafür muss das eingesetzte KI-Modell vorher geprüft werden. Gleichzeitig heißt das, dass die Versicherung nicht alle finanziellen Schäden durch eine sogenannte Halluzination abdeckt. Modelle, die zu fehlerhaft sind, könnten damit nicht abgedeckt werden.
( mho)
Anzeige
Anzeige
Newsletter heise-Bot
heise-Bot Push Nachrichten
Push
Push-NachrichtenDunkles SchemaBetriebssystemeinstellung übernehmenHelles Schema
heise+ entdecken – ab 2,99 € pro WocheJetzt heise+ entdecken – ab 2,99 € pro Woche
Über 90.000 Leser vertrauen bereits darauf – wählen Sie jetzt Ihr passendes Paket!
Mit heise+ lesen Sie alle Inhalte auf heise online. Zusätzlich zu unseren Magazin-Inhalten erhalten Sie damit weitere exklusive Tests, Ratgeber und Hintergründe.Mit heise+ lesen Sie alle Inhalte auf heise online. Zusätzlich zu unseren Magazin-Inhalten erhalten Sie damit weitere exklusive Tests, Ratgeber und Hintergründe.
×
×
Notice Message App
X
Welcome to heise online
We and our up to 185 partners use cookies and tracking technologies. Some cookies and data processing are technically necessary, others help us to improve our offer and operate it economically.
The processing purposes are storing or accessing information on an end device; personalised advertising and content, measuring advertising performance and the performance of content, target group research and developing and improving offers; displaying external content (e.g. YouTube videos, podcasts, Twitter, quizzes), recommendations of own products and content, A/B testing, push notifications/communication, technically necessary cookies (security, login, forum).
By clicking the „Agree“ button, you consent to the processing of the data stored on your device or terminal equipment, such as personal identifiers or IP addresses, for these processing purposes in accordance with Section 25 (1) TDDDG (Telecommunications Digital Services Data Protection Act) and Art. 6 (1) (a) GDPR. In addition, you consent to providers in the USA also processing your data in accordance with Art. 49 (1) GDPR. In this case, it is possible that the transmitted data will be processed by local authorities.
You can consent to or reject individual data processing operations under Settings. You can edit or revoke your consent at any time via the „Cookies & Tracking“ link at the bottom of each page. Further details can be found in our privacy policy.
With our Pur subscription you can use heise.de without tracking, external banner and video advertising for €4.95 / month. Subscribers to our magazines or heise+ only pay €1.95 per month. You can find information on data processing in the Pur subscription in our privacy policy and in the FAQ.
Agree
Agree
Settings
