Künstliche Intelligenz (KI) hält zunehmend Einzug in die Unternehmenswelt – von automatisierten Beratungsdiensten bis hin zu selbstlernenden Analysetools. Doch mit den neuen Möglichkeiten wachsen auch die Risiken.

Was ist bei KI-Einsatz zu beachten?

Fehlerhafte Entscheidungen durch KI – Wer haftet?

Verursacht eine KI einen Fehler, etwa durch fehlerhafte Empfehlungen oder Analysen, haftet in der Regel das Unternehmen selbst. Ein klassisches Beispiel:

• Eine KI-basierte Finanzberatungssoftware empfiehlt einem Kunden eine riskante Anlagestrategie, die zu hohen Verlusten führt. Hieraus entsteht ein Vermögensschaden – und genau dieser ist nicht automatisch über die Betriebshaftpflicht abgedeckt.

Reine Vermögensschäden absichern

Die klassische Betriebshaftpflicht-Versicherung deckt primär Personen- und Sachschäden ab. Reine finanzielle Schäden, wie sie bei KI-Fehlern häufig auftreten, erfordern oft eine separate Vermögensschadenhaftpflicht-Versicheurng. Auch hierzu ein Beispiel:

• Ein Unternehmen setzt eine KI-Software ein, die Preisprognosen für Rohstoffe erstellt. Aufgrund eines Algorithmusfehlers werden falsche Preisschwankungen vorhergesagt, was bei den Rohstoff-Händlern zu Fehlentscheidungen im Einkauf und erheblichen finanziellen Verlusten führt. Ohne Vermögensschadenhaftpflicht bleibt der Schaden unversichert.

Eigene KI-Entwicklung = Produkthaftung?

Unternehmen, die eigene KI-Tools entwickeln oder vertreiben, sollten unbedingt prüfen, ob eine erweiterte Produkthaftpflichtversicherung notwendig ist. Fehlerhafte Software, die bei Kunden Schäden verursacht, kann sonst schnell teuer werden. Ein Beispiel dazu könnte so aussehen:

Ein Softwareunternehmen entwickelt eine KI, die Maschinenwartungen automatisch plant. Aufgrund eines Fehlers der Software wird eine Wartung verspätet durchgeführt – eine Maschine fällt aus und verursacht einen Produktionsausfall beim Kunden. Der Kunde verlangt Schadenersatz. Ohne Produkthaftpflicht drohen hier erhebliche finanzielle Belastungen.

Vertragliche Haftungsübernahmen beachten

Viele KI-Verträge enthalten spezifische Garantien und Haftungsversprechen. Diese vertraglich übernommenen Risiken sind häufig nicht automatisch versichert und sollten individuell abgesichert werden. Auch hierzu ein Beispiel :

• Ein Unternehmen garantiert in einem Vertrag, dass seine KI eine Erkennungsrate von 99 % bei Qualitätskontrollen erreicht. Wird dieses Ziel verfehlt, entstehen dem Kunden erhebliche Mehrkosten. Diese vertraglich zugesicherte Leistung ist ohne spezielle Deckung in der Regel nicht versichert.

Rechtlicher Hintergrund:

• BGB und Produkthaftungsgesetz greifen grundsätzlich auch bei KI-Schäden.
• DSGVO setzt strenge Regeln bei der Datenverarbeitung durch KI.
• NEU: Der EU AI Act (verabschiedet 2024) bringt schrittweise verbindliche Vorschriften für KI-Systeme – insbesondere für „hochriskante KI“ wie z. B. medizinische oder sicherheitskritische Anwendungen.
• Geplant: Eine EU-Haftungsrichtlinie für KI wird voraussichtlich 2025/26 kommen, die Geschädigten die Anspruchsdurchsetzung erleichtert.

Sprechen Sie uns an, um Ihre Absicherungen zukunftsgerecht aufzustellen.