Trotz seiner allgegenwärtigen Verwendung ist der Begriff der KI (künstliche Intelligenz) noch immer mit etlichen Unklarheiten besetzt. So ist weder klar, was unter diesem Begriff eigentlich zusammengefasst wird, noch welche rechtlichen potenziellen Risiken mit der Verwendung derartiger Techniken einhergehen, beispielsweise in Bezug auf die Haftung.
Was, wenn durch den Einsatz von künstlicher Intelligenz ein Schaden entsteht? Stephan Kunitz vom Mittelstand-Digital Zentrum Chemnitz erklärt die Grundsätze der Haftung und wie diese auf KI-Systeme übertragen werden können.
Was macht KI aus und wie grenzt sie sich zu bisherigen Systemen ab?
Was genau unter KI verstanden wird, ist oft nicht eindeutig. Heute wird vor allem zwischen sogenannter „schwacher KI“ und „starker KI“ unterschieden. Starke KI kommt dabei dem näher, was wir gemeinhin mit „Intelligenz“ assoziieren, also Systeme, die den intellektuellen Fähigkeiten von Menschen entsprechen oder diese gar übertreffen.[1, S. 13] Solche Systeme existieren im Moment allerdings (noch) nicht.
„Schwache KI“ dagegen hat die Lösung konkreter (dennoch komplexer) Probleme zur Aufgabe und bietet sich an, um Lösungen in einem eingeschränkten Spektrum an Problemfällen zu automatisieren.
Derartige Lösungen erfolgen dann zumeist durch eine KI auf Basis des sogenannten Machine Learning, also das Training des Algorithmus auf Basis großer Datenmengen. In diesen erkennt das verwendete Programm selbstständig Muster und Gesetzmäßigkeiten, die es wiederum zur Optimierung seiner Algorithmen verwendet.[2, S. 336] Machine Learning ist dabei mit verschiedenen Techniken möglich. Die jedoch vielversprechendste ist das Machine Learning mittels sogenannter Deep Neural Networks. Diese neuronalen Netze verknüpfen dabei, nach Vorbild des menschlichen Gehirns, verschiedene Punkte auf verschiedenen Ebenen. Eine Eingabeebene nimmt die zu verarbeitenden Daten entgegen. Diese werden in Zwischenschichten verarbeitet und dann von einer Ausgabeschicht wiederum als Ergebnis der Berechnung wieder für den Nutzer dargestellt. Deep Neural Networks können dabei eine große „Tiefe“ von vielen verarbeitenden Schichten erreichen.
Mehr Informationen:
Anwendungsfälle und Potenziale der Optimierung scheinen nahezu unerschöpflich. So kann KI in der Form eines Chatbots Kunden beraten und Termine vereinbaren; in der Qualitätssicherung durch Abgleichen von Bildern Produktionsfehler erkennen, Prozesse optimieren oder persönliche Präferenzen auswerten.
Dabei kann jedoch das Verhalten der KI von außen nur schwer nachvollzogen werden, sodass man hier von einem „Black Box“ Effekt spricht.[3, S. 183] Daneben wirken derartige Systeme künstlicher Intelligenz oft stark mit anderen Systemen zusammen. Den prominentesten Einfluss haben die verwendeten Trainingsdaten, aber auch die Verknüpfung mit anderen KI-Systemen oder Datenquellen außerhalb der eigenen Kontrolle haben einen großen Einfluss auf das jeweilige Ergebnis. Durch dieses Wechselspiel an gegenseitigen Einflüssen entstehen einige haftungsrechtliche Risiken. Dabei dürften die Automatisierung, Vernetzung, Aufklärbarkeit, und die eingeschränkte Erklärbarkeit die relevantesten Anknüpfungspunkte haftungsrelevanter Sachverhalte bieten.[3, S. 184]
Grundsätze der Haftung
Das Haftungsrecht soll die Risikoverteilung im Geschäftsverkehr regulieren, Anreize zur Schöpfung neuer Produkte und Dienstleistungen setzen, aber auch zu deren ständiger Verbesserung und Sicherheit beitragen.
Daraus lässt sich ableiten, dass es verschiedene Perspektiven gibt, auf die Haftung im Zusammenhang mit Produkten oder Dienstleistungen zu blicken. Zunächst einmal die produktbezogene, die vor allem den Hersteller des entsprechenden Produktes interessiert. Daneben eine verkehrsbezogene Sichtweise, die für die Verwender der entsprechenden Produkte interessant ist.
Quelle: Andrea de Santis - Unsplash.comIm Nachfolgenden soll es vor allem um Letztere gehen. Dabei werden zunächst zwei große Bereiche des Zivilrechts relevant: das Vertrags- und das Deliktsrecht. Während im ersteren Haftungsfragen im Rahmen von Vertragsverhältnissen geregelt sind, widmet sich letzteres Haftungsfragen außerhalb von solchen, vornehmlich Haftungsfällen, die durch widerrechtliche Handlungen entstanden sind.
Vertragliche Haftung
Im Rahmen eines Vertragsverhältnisses kann ein Schadensersatzanspruch entstehen, wenn eine Pflicht aus dem Vertrag verletzt ist. Der Schadensersatzanspruchspflichtige haftet dann.
Die Pflichten bestimmen sich nach § 241 BGB. Dieser normiert in § 241 Abs. 1 BGB die direkte Pflicht aus dem Schuldverhältnis (z. B. einem Vertrag), wie zum Beispiel die Zahlung des Kaufpreises im Rahmen eines Kaufvertrags nach § 433 Abs. 2 BGB. Daneben stellt § 241 Abs. 2 BGB auch klar, dass sich noch weitere Pflichten aus dem Schuldverhältnis ergeben, so auch die Rücksichtnahmepflicht auf die Güter und Interessen des Vertragspartners. Diese Pflicht erstreckt sich dabei bereits auf die Zeit vor dem eigentlichen Vertragsschluss.[4] Rn. 55 ff.
Deliktische Haftung
Die deliktische Haftung (von lat. delinquere: ein Verbrechen begehen), also die Haftung, die sich aus der unerlaubten Handlung ergibt, folgt primär aus § 823 BGB. Eine für diese Norm relevante Handlung kann dabei auch in einem Unterlassen, also „Nichthandeln“ liegen, soweit eine Pflicht zur Handlung bestünde, beispielsweise wenn eine sog. Verkehrssicherungspflicht besteht.[5, S. 234] Rn. 615, [6] Rn. 29
Dem dreistufigen Aufbau der Normen nach, ist eine Pflicht zum Schadensersatz gegeben, wenn die Handlung zunächst tatbestandsmäßig ist, also die Handlung den Voraussetzungen der Norm entspricht, sowie rechtswidrig und schuldhaft erfolgt ist. Eine zwar tatbestandsmäßige Handlung kann also auch rechtmäßig, oder sogar rechtswidrig, aber schuldlos erfolgen, ohne den Haftungsfall auszulösen. Vgl. [5, S. 233] Rn. 613
Die Schadensersatzpflicht nach § 823 BGB erfordert im Detail eine Handlung, aufgrund derer ein Rechtsgut eines anderen verletzt ist. Dazu kommt, dass aufgrund dieser verletzenden Handlung dem anderen ein Schaden entstanden sein muss. Weiterhin muss die Handlung auch rechtswidrig sowie schuldhaft erfolgt sein. Die Rechtswidrigkeit ist dabei durch das Erfüllen des Tatbestandes bereits indiziert. Maßstab für das Verschulden ist derjenige des § 276 BGB, nachdem Vorsatz und Fahrlässigkeit zu vertreten sind. Dabei muss jedoch die Schuldfähigkeit des handelnden gegeben sein. Diese tritt nach § 828 Abs. 1 BGB mit Vollendung des siebten Lebensjahres ein, wobei sie bis zur Vollendung des 18. Lebensjahres nur eingeschränkt vorliegt.
Schadenersatz
Wenn ein Schadenersatzanspruch besteht, also ein Haftungsfall gegeben ist (egal ob deliktisch, vertraglich oder auf einer anderen Grundlage) hat das zur Folge, dass der Geschädigte als Anspruchsinhaber die „Wiedergutmachung der Verletzung“ verlangen kann (denn ein Anspruch ist das Recht, ein Tun oder Unterlassen von einem anderen verlangen zu können § 194 Abs. 1 BGB).
Dabei ist der Schädiger gemäß § 249 Abs. 1 BGB verpflichtet, den Umstand wiederherzustellen, der bestehen würde, wenn der zum Ersatz verpflichtende Umstand nicht eingetreten wäre. Da diese sogenannte Nauralrestitution jedoch häufiger unpraktikabel ist, kann auch der zur Wiederherstellung erforderliche Geldbetrag geleistet werden, § 249 Abs. 2 BGB. So zum Beispiel der bei einem Unfall entstandenen Knochenbruch, der von den meisten Unfallbeteiligten wohl besser nicht kuriert werden sollte, dessen Heilbehandlungskosten dann vom Schädiger zu tragen wären.
Die Schadensersatzleistung erschöpft sich also in der Wiederherstellung des ursprünglichen Zustandes und geht nicht darüber hinaus. Die „punitive damages“ des angelsächsischen Rechtsraumes sind dem deutschen Recht zumeist fremd. Bei diesem werden sehr hohe Schadensersatzsummen aufgerufen, die nicht nur den entstandenen Schaden begleichen, sondern auch der Bestrafung und Abschreckung dienen sollen.
Jedoch kann es neben dem materiellen Schadensersatz auch zu einem Anspruch auf immateriellen Schadensersatz kommen – beispielsweise bei Verletzung von Persönlichkeitsrechten. Zudem besteht auch die Möglichkeit, Schmerzensgeld zu erhalten, jedoch ebenfalls in geringerem Umfang als im angelsächsischen Rechtsraum.[5, S. 81] Rn. 209 ff.
Quelle: DragonImages - MotionArrayAnwendbarkeit der Grundsätze auf KI
Wie genau sind diese Grundsätze der Haftung nun auf die oben beschriebenen Algorithmensysteme der KI zu übertragen? Soweit es zu einem Schaden durch die eingesetzte KI kommt, ist wieder zu unterscheiden, ob es sich um ein Problem im Rahmen eines Vertragsverhältnisses oder eine deliktische Konstellation handelt.
Computererklärung
Für eine vertragliche Haftung müsste zunächst eine vertragliche Beziehung bestehen. Dazu müsste logischerweise ein Vertrag durch zwei korrespondierende Willenserklärungen geschlossen werden. Doch wie kann ein Computerprogramm – eine KI – ihren Willen erklären? Hier wird auf die Figur der Computererklärung bzw. der Automatenerklärung zurückgegriffen. Nach dieser ist es ja auch möglich, etwas von beispielsweise einem Getränkeautomaten zu erwerben, obwohl dieser ja auch keinen eigenen Willen entäußern kann. Jedoch wird auf den Willen des Betreibers abgestellt, der quasi generalistisch in die potenzielle Bedienung des Automaten einwilligt. So kann auch ein Vertrag mit dem Betreiber einer KI zustande kommen. Sollte aus diesem Vertragsverhältnis ein Schaden entstehen, so könnte dieser nach den bereits bewährten Regelungen des Bürgerlichen Gesetzbuches abgewickelt werden.
KI-Haftungs-Verordnungs-Entwurf
Neben die bisher bekannten und einschlägigen Abwicklungen von Schadensfällen nach den Regelungen des BGB soll künftig auch ein Haftungsrahmen für die zivilrechtliche Haftung beim Einsatz von KI auf Basis einer EU-Verordnung treten.[7]
Der Entwurf für diese Regelung sieht, wie auch schon der Entwurf des AI-Acts, einen risikobasierten Ansatz zur Einstufung von bestimmten Haftungsgruppen vor. Daneben stellt er primär auf die Betreiber von KI-Systemen ab und nimmt diese mit den Herstellern in eine gesamtschuldnerische Haftung, sodass es für den potenziell Geschädigten ein breites Feld an möglichen Anspruchsgegnern gibt. Zudem soll durch eine Versicherungspflicht für die Betreiber von KI-Systemen eine solvente Basis geschaffen werden, die in der Lage ist, mögliche Schäden auch auszugleichen.
Fazit
Mit zunehmendem Einsatz von Produkten künstlicher Intelligenz werden die damit verbundenen Fragen der jeweiligen Haftung immer relevanter. Mit den sehr anpassungsfähigen Vorschriften des BGB bleiben dabei grundsätzlich keine Probleme offen, diese sind auch durch ihr hohes Abstraktionslevel zukunftsfähig. Eine speziell auf KI-Haftungsfragen zugeschnittene EU-Verordnung ist dennoch zu begrüßen. Diese schafft unionsweit Rechtssicherheit und dürfte damit auch den Weg für eine Vorreiterrolle in diesem Technologiesektor ebnen.
Das Mittelstand-Digital Zentrum Chemnitz gehört, genau wie das Mittelstand-Digital Zentrum Ilmenau, zu Mittelstand-Digital. Mit dem Mittelstand-Digital Netzwerk unterstützt das Bundesministerium für Wirtschaft und Klimaschutz die Digitalisierung in kleinen und mittleren Unternehmen und dem Handwerk.
Quellen und weiterführende Informationen
- T. Gausling, „KI und DS-GVO im Spannungsverhältnis“, in Künstliche Intelligenz: Rechtsgrundlagen und Strategien in der Praxis, J. G. Ballestrem, U. Bär, T. Gausling, S. Hack, und S. von Oelffen, Hrsg. Wiesbaden: Springer Fachmedien, 2020, S. 11–53. doi: 10.1007/978-3-658-30506-2_2
- T. Gausling, „Künstliche Intelligenz im digitalen Marketing“, ZD, Nr. 8, S. 335–341, 2019.
- L. Mühlböck und J. Taupitz, „Haftung für Schäden durch KI in der Medizin“, AcP, Bd. 221, S. 179, Jan. 2021, doi: 10.1628/acp-2021-0007
- G. Bachmann, „Münchener Kommentar zum BGB“, MüKo BGB. 2022. Zugegriffen: 8. September 2022. [Online]. Verfügbar unter: https://beck-online.beck.de/Bcid/Y-400-W-MuekoBGB-G-BGB-P-241-GL-III-1-a
- D. Gesmann-Nuissl, Kompendium Wirtschaftsprivatrecht, 1. Aufl. Springer Berlin Heidelberg, 2022. Zugegriffen: 8. September 2022. [Online]. Verfügbar unter: https://link.springer.com/book/10.1007/978-3-662-62872-0
- A. Teichmann, „Jauernig Bürgerliches Gesetzbuch Kommentar“, Jauernig. 2021. Zugegriffen: 15. September 2022. [Online]. Verfügbar unter: https://beck-online.beck.de/Bcid/Y-400-W-JauKoBGB-G-BGB-P-823-GL-I-3
- P. Etzkorn, „Die Initiative des EU-Parlaments für eine EU-Verordnung zur zivilrechtlichen Haftung beim Einsatz von KI“, CR, S. 764–768, 2020.
Bildquellen
- Roboter: Andrea de Santis - Unsplash.com
- Programmcode: DragonImages - MotionArray
