Künstliche Intelligenz: Umfassende Beratung zu allen Einsatzgebieten
Der AI Act: Europas erste umfassende KI-Regulierung
Die Europäische Union hat mit dem AI Act einen regulatorischen Rahmen geschaffen, um den Einsatz von KI zu steuern und sicherzustellen, dass diese Technologie in Einklang mit europäischen Grundwerten genutzt wird. Der AI Act sieht eine risikobasierte Regulierung vor, die KI-Systeme in verschiedene Kategorien einteilt. Systeme mit „untragbarem Risiko“, wie beispielsweise KI zur Massenüberwachung oder zur manipulativen Beeinflussung von Menschen, sollen verboten werden. KI-Anwendungen mit „hohem Risiko“, etwa im Bereich der kritischen Infrastruktur oder biometrischen Identifikation, unterliegen strengen Transparenz- und Sicherheitsanforderungen. Für bestimmte KI-Systeme sind einzelne Verpflichtungen geregelt, beispielsweise Informations- und Kennzeichnungspflichten. Für einfachste Systeme bestehen keine speziellen Vorgaben außer dem Vorhandensein einer KI-Kompetenz durch die Anbieter und Betreiber. Diese Regulierung hat weitreichende Auswirkungen auf jedes Unternehmen, das KI intensiv nutzt.
Die Implementierung des AI Acts bedeutet für Unternehmen, dass sie prüfen müssen, ob ihre KI-gestützten Systeme als „hochriskant“ eingestuft werden und wie sie regulatorische Anforderungen umsetzen. Besonders herausfordernd ist dies, wenn KI in Entscheidungssystemen eingesetzt wird, die Menschen betreffen, etwa in der Kreditvergabe oder automatisierten Bewerbungsauswahl. Der AI Act bringt nicht nur neue Compliance-Anforderungen mit sich, sondern auch klare Vorgaben zu Transparenz, Erklärbarkeit und der Vermeidung von Diskriminierung durch KI. Unternehmen müssen den AI Act frühzeitig beachten, wenn ein KI-System eingesetzt werden soll. Der AI Act wird ab Februar 2025 phasenweise gültig.
Urheberrecht und KI: Wem gehört die Kreativität?
Mit der Entwicklung generativer KI-Systeme, die Texte, Bilder, Musik oder Code erzeugen können, stellt sich die Frage nach dem Urheberrecht neu. KI-Modelle werden auf riesigen Mengen urheberrechtlich geschützter Werke trainiert, ohne dass immer klar ist, ob und in welchem Umfang dies zulässig ist. Hier entstehen zwei große Rechtsfragen: Dürfen KI-Systeme geschützte Werke für ihr Training nutzen? Und wer hat die Rechte an den von KI erzeugten Inhalten?
Die Nutzung von urheberrechtlich geschützten Werken zum Training von KI-Modellen ist juristisch umstritten. In Europa wird diskutiert, ob es sich um eine zulässige Form der Nutzung innerhalb gesetzlicher Schrankenregelungen handelt oder ob Urheber und Rechteinhaber die Nutzung untersagen können oder zumindest eine Vergütung fordern können. In Deutschland und der EU bestehen z. B. Schrankenregelungen für das sogenannte Text- und Data-Mining (TDM), die es unter bestimmten Bedingungen erlauben, geschützte Werke automatisiert auszuwerten. Dennoch bleibt unklar, ob das Training von generativen KI-Systemen darunterfällt oder ob Rechteinhaber eine Vergütung verlangen können. Als Hauptargument gegen das Eingreifen wird angeführt, dass die Text- und Data-Mining-Regelung im UrhG vor der aktuellen „KI-Hochphase“ geschaffen wurde und KI gar nicht im Blick war. Erste Gerichtsentscheidungen deuten jedoch an, dass die TDM-Schrankenregelung bei KI eingreifen kann.
Auch bei den durch KI erzeugten Inhalten gibt es offene Fragen. Das Urheberrecht schützt grundsätzlich nur menschliche Schöpfungen. Das bedeutet, dass rein von KI generierte Inhalte nicht unter den traditionellen Urheberrechtsschutz fallen. Allerdings könnten KI-Nutzer oder -Betreiber Schutzrechte beanspruchen, wenn sie durch menschliche Steuerung (Prompting) oder Nachbearbeitung eine kreative Leistung erbringen. Diese ungeklärte Rechtslage wird in Zukunft viele Streitfälle mit sich bringen, insbesondere bei der Nutzung von KI-generierten Inhalten in kommerziellen Produkten. Gegenwärtig wird ein urheberrechtlicher Schutz des Prompt-Engineers – soweit ersichtlich – überwiegend mit dem Argument abgelehnt, dass der Prompt-Engineer keinen ausreichenden Einfluss auf das Ergebnis der KI habe. Als Beispiel wird angeführt, dass die Eingabe des derselbe Prompt zu stets unterschiedlichen Ergebnissen führe. Siehe hierzu auch unseren Beitrag der Prompt-Engineer einer KI als Urheber.
Datenschutzrechtliche Herausforderungen durch KI
KI-Technologien sind datengetrieben und analysieren große Mengen von Informationen – darunter oftmals personenbezogene Daten. Dadurch entstehen erhebliche Herausforderungen im Datenschutzrecht, insbesondere im Hinblick auf die Datenschutz-Grundverordnung (DSGVO). KI-Systeme, die personenbezogene Daten verarbeiten, müssen hohe Anforderungen an Transparenz, Zweckbindung und Datenminimierung erfüllen.
Die Gewinnung ausreichender Trainingsdaten ist oftmals ein Hauptproblem und kann entscheidend dafür sein, ob ein KI-Projekt erfolgreich verläuft. Frühzeitig ist z. B. zu klären, welche datenschutzrechtliche Rechtsgrundlage eingreift und wie diese mit welchen Folgen auszugestalten ist. Im medizinischen Bereich kann es z. B. auf Einwilligungen ankommen, die widerruflich sind. Andererseits bestehen neue Möglichkeiten der Sekundärdatennutzung z. B. über das Gesundheitsdatennutzungsgesetz (GDNG) und die elektronische Patientenakte. Es kann sich zudem das Ergebnis einstellen, dass das trainierte KI-Modell Personenbezug aufweist und damit selbst der DSGVO unterliegt. Dies muss frühzeitig erkannt werden. Ansonsten kann das unter erheblichem finanziellen Aufwand entstandene KI-Modell zu vernichten sein.
Ein weiteres Problem ist die Erklärbarkeit von KI-Entscheidungen. Die DSGVO schreibt vor, dass betroffene Personen das Recht haben, zu erfahren, auf welcher Grundlage bestimmte automatisierte Entscheidungen getroffen werden. KI-Modelle, insbesondere solche auf Basis neuronaler Netze, sind jedoch oft schwer verständlich, da sie auf komplexen statistischen Berechnungen beruhen. Dies kann zu Rechtsunsicherheit führen, wenn Unternehmen beispielsweise automatisierte Kreditentscheidungen oder Profiling-Systeme einsetzen. Entsprechende Probleme ergeben sich in weiter regulierten Marktsegmenten (etwa dem Medizinproduktebereich) in denen eine Risikobewertung erforderlich ist, die im Falle einer „Blackbox“-KI schwierig oder sogar unmöglich sein kann.
Ein weiteres Problem ist die Frage der Rechtsgrundlage für die Datenverarbeitung. Wenn KI-Systeme personenbezogene Daten analysieren, muss einer der in der DSGVO geregelten Erlaubnistatbestände greifen. Einwilligung als rechtliche Grundlage sind im Zusammenhang mit KI-Systemen wenig praktikabel. Alternativ kann das berechtigte Interesse des Unternehmens angeführt werden, doch dies muss gegen die Interessen der betroffenen Personen abgewogen werden.
Darüber hinaus stellt sich die Frage nach der Verarbeitung sensibler Daten. KI wird zunehmend im Gesundheitswesen, bei biometrischer Identifikation oder in der Analyse sozialer Verhaltensmuster eingesetzt. Hier gelten besonders strenge Datenschutzregeln, die den Einsatz solcher Technologien erheblich erschweren können. Erlaubnistatbestände wie eine Interessenabwägung aufgrund berechtigter Interessen scheiden dabei von vornherein aus. Unternehmen, die KI-basierte Systeme entwickeln oder nutzen, sollten daher frühzeitig datenschutzrechtliche Anforderungen in ihre Strategie integrieren, um Haftungsrisiken und Bußgelder zu vermeiden. Im Extremfall können – wie oben dargestellt – ein trainiertes KI-Modell und gewonnene Trainingsdaten sogar zu vernichten sein.
Text- und Data-Mining: Rechtliche Rahmenbedingungen der automatisierten Analyse
Text- und Data-Mining (TDM) ist eine Schlüsseltechnologie für die Entwicklung von KI. Sie ermöglicht die systematische Auswertung großer Datenmengen, um Muster, Trends oder neue Erkenntnisse zu gewinnen. In der EU wurde mit der DSM-Richtlinie ein Rahmen geschaffen, der bestimmte Formen des TDM explizit erlaubt, insbesondere für wissenschaftliche Forschung und private Zwecke. Unternehmen, die TDM für kommerzielle Anwendungen nutzen, müssen jedoch prüfen, ob ihnen die Rechte an den analysierten Daten zustehen, oder ob Urheber eine Vergütung fordern können.
Besonders relevant ist TDM im Bereich der KI-Entwicklung. Etwa große Sprachmodelle, die Chatbots oder Bildgeneratoren zugrunde liegen, basieren auf riesigen Datenmengen, die oftmals über TDM gewonnen werden. Wie oben bereits aufgezeigt ist jedoch juristisch bislang ungeklärt, ob die TDM-Regelungen aus der DSM-Richtlinie, die in Deutschland über § 44b UrhG und § 60d UhrG umgesetzt sind, überhaupt auf KI anzuwenden ist. Selbst wenn dies geklärt wäre, besteht ein Streit darüber wie die weiteren Regelungen der vorgenannten Normen auszulegen sind. So könne der Rechteinhaber das TDM verbieten. Dies muss jedoch maschinenlesbar geschehen, wobei streitig ist, ob hierzu ein bestimmten Format z. B. über die robots.txt-Datei verwendet werden muss, oder ob auch ein Verbot in den AGB einer Webseite genügt. Erst Gerichtsentscheidungen hierzu sind ergangen. Unternehmen müssen deshalb sorgfältig prüfen, ob ihr Einsatz von TDM im Einklang mit geltendem Recht steht und gegebenenfalls Lizenzen einholen.
Umfassende Beratung im Bereich Künstliche Intelligenz
Die zuvor behandelten Themen wie der AI Act, Urheberrecht, Datenschutz und Text- und Data-Mining sind zentrale Aspekte im Zusammenhang mit Künstlicher Intelligenz (KI). Doch die rechtlichen Fragestellungen im KI-Kontext sind weitaus vielfältiger. Weitere relevante Bereiche umfassen u. a.:
Haftungsrecht: Wer trägt die Verantwortung, wenn ein KI-System Fehlentscheidungen trifft oder Schäden verursacht?
Vertragsrecht: Welche Besonderheiten sind bei Verträgen über den Einsatz oder die Entwicklung von KI-Systemen zu beachten?
Schulungspflichten: Welche konkreten Anforderungen treffen Nutzer, Betreiber und Anbieter von KI?
Kennzeichnungspflichten: Wie ist der Einsatz von KI zu kennzeichnen und welche Informationen sind zu erteilen?
Arbeitsrecht: Wie wirkt sich der Einsatz von KI im Beschäftigtenkontext aus, und welche rechtlichen Rahmenbedingungen sind dabei zu berücksichtigen?
Ethik und Compliance: Wie können ethische Standards und interne Richtlinien beim Einsatz von KI gewährleistet werden?
Unsere Kanzlei ist auf diese vielfältigen rechtlichen Aspekte der Künstlichen Intelligenz spezialisiert. Wir bieten umfassende Beratung und Unterstützung bei der Implementierung von KI-Systemen, um sicherzustellen, dass Ihr Unternehmen nicht nur den aktuellen gesetzlichen Anforderungen entspricht, sondern auch den kommenden Rechtsrahmen abbildet. Ihr KI-System bleibt somit langfristig einsetzbar und Wettbewerbsvorteile entstehen. Vertrauen Sie auf unsere Expertise, um die Chancen der Künstlichen Intelligenz rechtssicher und erfolgreich zu nutzen.