Wer haftet, wenn KI sich irrt?
Der Einsatz von Künstlicher Intelligenz verändert wissensintensive Branchen nachhaltig. Automatisierte Systeme liefern rasch Analysen und Empfehlungen. Doch mit wachsender Abhängigkeit stellt sich eine zentrale Frage: Wer haftet, wenn KI fehlerhafte Resultate liefert und diese ungeprüft weitergegeben werden?
Die Antwort ist kurz und klar: Nach schweizerischem Recht bleibt die Verantwortung beim Menschen. KI ist ein Hilfsmittel, kein Rechtssubjekt. Beraterinnen und Berater handeln typischerweise im Rahmen eines Auftragsverhältnisses gemäss Art. 394 ff. OR und schulden eine sorgfältige und fachgerechte Leistung. Wer KI-Ergebnisse ungeprüft übernimmt, verletzt unter Umständen diese Sorgfaltspflicht. Eine Entlastung mit Verweis auf die Technologie ist rechtlich nicht vorgesehen.
Sorgfaltspflicht und Prüfmechanismen
Die Nutzung von KI erfordert strukturierte Prüfprozesse. Ergebnisse müssen plausibel, vollständig und aktuell sein. Je höher das Schadenspotenzial, desto strenger die Kontrollpflichten. Unternehmen sind gut beraten, klare Richtlinien für den KI-Einsatz zu definieren, Mitarbeitende zu schulen und den Einsatz nachvollziehbar zu dokumentieren.
Dokumentations- und Nachweispflichten
Unternehmen müssen darlegen können, welche Systeme verwendet wurden, auf welchen Daten die Ergebnisse basieren und welche Kontrollschritte vorgenommen wurden. Eine saubere Dokumentation dient nicht nur der internen Qualitätssicherung, sondern kann im Streitfall entscheidend sein, um nachzuweisen, dass die erforderliche Sorgfalt eingehaten wurde. Fehlende oder lückenhafte Nachweise erhöhen dagegen das Haftungsrisiko erheblich.
Datenschutz und Vertraulichkeit
Viele KI-Anwendungen verarbeiten grosse Mengen sensibler Daten. Werden personenbezogene oder vertrauliche Informationen eingegeben, sind die Vorgaben des Datenschutzrechts strikt einzuhalten. Besonders in Branchen mit Berufsgeheimnissen – etwa bei Anwältinnen, Ärzten oder Treuhändern – kann eine unkontrollierte Nutzung externer KI-Systeme problematisch sein. Unternehmen sollten deshalb prüfen, wo Daten gespeichert werden, wer Zugriff darauf hat und ob der Einsatz mit den geltenden Geheimhaltungs- und Datenschutzpflichten vereinbar ist.
Grenzen der Automatisierung
KI kann Arbeitsprozesse beschleunigen und unterstützen, ersetzt jedoch keine fachliche Beurteilung. Automatisierte Systeme arbeiten auf Basis statistischer Wahrscheinlichkeiten und können Fehleinschätzungen, sogenannte «Halluzinationen» , erzeugen. Gerade bei komplexen rechtlichen, medizinischen oder finanziellen Fragestellungen bleibt menschliches Fachwissen unverzichtbar. Die Verantwortung für die abschliessende Entscheidung darf daher nicht vollständig an ein technisches System delegiert werden.
«Irren ist (nicht nur) menschlich …»
