Künstliche Intelligenz

Gesetzeslage, Möbelbranche, Urheberrecht

Künstliche Intelligenz (nachfolgend: KI) ist in aller Munde. Es gibt praktisch keine Branche, die es sich leisten kann, nicht über den Einsatz von KI nachzudenken. Dieser Beitrag soll Ihnen einen knappen Überblick über die aktuelle Gesetzeslage (I.), die Einsatzmöglichkeiten von KI in der Möbelbranche (II.) und urheberrechtliche Aspekte (III.) geben.

Die Europäische Kommission hat am 21.04.2021 einen Vorschlag für eine „Verordnung des Euro­päischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intel­ligenz (Gesetz über künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union“ (kurz: KI-VO) vorgelegt. Nach intensiver und kontroverser Diskussion im Rahmen der öffent­lichen Konsultationen legte der EU-Rat im November 2022 seinen Regulierungsvorschlag vor. Es dauerte sieben weitere Monate, bis sich das EU-Parlament auf eine gemeinsame Position verständigen konnte. Im Juni 2023 begann der sog. Trilog der europäischen Gesetzgebungsorgane. Nach wei­teren intensiven Verhandlungen einigten sich die gesetzgebenden Institutionen am 08.12.2023 politisch auf die zukünftigen Re­gelungsinhalte. Die Mitgliedsstaaten akzeptier­ten diese Einigung am 02.02.2024. Am 13.03.2024 wurde die KI-VO vom EU-Parlament und am 21.05.2024 von den Mitgliedsstaaten endgültig verabschiedet. Derzeit steht noch die Veröffentlichung im Amtsblatt der EU aus. Die KI-VO tritt am 20. Tag nach dieser Veröffentlichung in Kraft und sie ist – abgesehen von einigen Ausnahmen – 24 Monate nach ihrem Inkrafttreten uneingeschränkt anwendbar.

Die KI-VO ist das weltweit erste Gesetz zur Regulierung von KI. Es ist hoch komplex und ambi­tioniert. Die neuen Regeln zielen darauf ab, Grund­rechte, Demokratie und Rechtsstaatlichkeit sowie ökologische Nachhaltigkeit vor Hochrisiko-KI-Systemen zu schützen. Gleichzeitig sollen sie Innovationen ankurbeln und dafür sorgen, dass die EU in diesem Bereich eine Führungsrolle einnimmt. Die KI-VO folgt einem weitgehend risikobasierten Ansatz. KI-Technologien, darunter auch Generative KI, werden demnach in vier verschiedene Risikokategorien eingeteilt, die von „KI-Systeme mit inakzeptablem Risiko“ über „KI-Systeme mit hohem Risiko“ und „KI-Systeme mit Transparenzanforderungen“ bis zu „KI-Systeme mit keinem/niedrigem Risiko“ reichen. Daran werden verschiedene Verbote bzw. Compliance- und Informationspflichten gekoppelt.

Die KI-VO definiert den Begriff „KI-System“ als „ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsauf­nahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können.“ Hieran wurde kritisiert, dass diese Definition auch herkömmliche Software umfassen könne. Dieser Kritik begegnete der Gesetzgeber, indem er im Erwägungsgrund 12 ausdrücklich klarstellte, dass herkömmliche Software nicht von der KI-VO erfasst ist. KI unterscheide sich von her­kömmlicher Software durch ihre Fähigkeit, selbst zu lernen und aus dem Gelernten Schluss­folgerungen zu ziehen. Das Gesetz spricht von „ableiten“. Demgegenüber führe herkömmliche Software „nur“ eine Aufgabe auf der Grundlage von Menschen aufgestellter Regeln automatisch aus.

Die neuen Vorschriften verbieten bestimmte KI-Anwendungen, die die Rechte der Bürgerinnen und Bürger bedrohen. Dazu zählen unter anderem die biometrische Kategorisierung auf der Grundlage sensibler Merkmale und das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungskameras für Gesichtserkennungsdatenbanken. Ebenfalls verboten sind Emotionserkennungssysteme am Arbeitsplatz und in Schulen sowie das sog. Social Scoring, also das Bewerten von sozialem Verhalten mit KI. Auch vorausschauende Polizeiarbeit, die einzig auf der Profilerstellung oder der Bewertung von Merkmalen einer Person beruht, und der Einsatz von KI, um das Verhalten von Menschen zu beeinflussen oder ihre Schwächen auszunutzen, ist nach den neuen Regeln nicht erlaubt. Das gilt – von gesetzlich streng geregelten Ausnahmen abgesehen – grundsätzlich auch für die Strafverfolgungsbehörden.

Auch für andere Hochrisiko-KI-Systeme sind bestimmte Verpflichtungen vorgesehen, denn sie können eine erhebliche Gefahr für Gesundheit, Sicherheit, Grundrechte, die Umwelt, Demokratie und den Rechtsstaat darstellen. Als hochriskant werden unter anderem KI-Systeme eingestuft, die in den Bereichen kritische Infrastruktur sowie allgemeine und berufliche Bildung oder Beschäf­tigung eingesetzt werden. Auch KI-Systeme, die für grundlegende private und öffentliche Dienstleistungen – etwa im Gesundheits- oder Bankwesen –, in bestimmten Bereichen der Strafverfolgung sowie im Zusammenhang mit Migration und Grenzmanagement, Justiz und demokratischen Prozessen (zum Beispiel zur Beeinflussung von Wahlen) genutzt werden, gelten als hochriskant. Solche Systeme müssen Risiken bewerten und verringern, Nutzungsprotokolle führen, transparent und genau sein und von Menschen beaufsichtigt werden. Die Bevölkerung hat künftig das Recht, Beschwerden über KI-Systeme einzureichen und Entscheidungen erklärt zu bekommen, die auf der Grundlage hochriskanter KI-Systeme getroffen wurden und ihre Rechte beeinträchtigen.

KI-Systeme mit allgemeinem Verwendungszweck und die Modelle, auf denen sie beruhen, müssen schließlich bestimmte Transparenzanforderungen erfüllen, darunter die Einhaltung des EU-Datenschutz- und Urheberrechts und die Veröffentlichung detaillierter Zusammenfassungen der für das Training verwendeten Inhalte. Für die leistungsfähigeren Modelle, die systemische Risiken bergen könnten, gelten künftig zusätzliche Anforderungen – etwa müssen Modellbewertungen durchgeführt, systemische Risiken bewertet und gemindert und Vorfälle gemeldet werden. Darüber hinaus müssen künstlich erzeugte oder bearbeitete Bilder bzw. Audio- und Videoinhalte (sogenannte Deepfakes) in Zukunft eindeutig als solche gekennzeichnet werden.

Die KI-VO richtet sich an Anbieter, Betreiber, Einführer, Händler und Bevollmächtigte. Hauptadressaten sind zum einen die Anbieter, die die KI-VO als „eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringt oder das KI-System unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb nimmt, sei es entgeltlich oder unentgeltlich“ und zum anderen die Betreiber, die die KI-VO als „eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet, es sei denn, das KI-System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet“, definiert. Zum Kreis der Be­treiber gehören mithin insbesondere alle Unternehmer, die KI für ihre geschäftlichen Zwecke einsetzen, wie z.B. der (Möbel-)Einzelhändler.

Die KI-VO sieht ein dreistufiges Sanktionskonzept vor, das von Geldbußen bis hin zu Anordnungen zur Einstellung oder Änderung von KI-Systemen reicht. Je nach Schwere des Verstoßes können unterschiedliche Bußgelder verhängt werden. Der oberste Bußgeldrahmen endet bei 30 Millionen Euro oder 6 Prozent des weltweiten Jahresum­satzes (je nachdem, welcher Betrag höher ist). Dieses Bußgeld droht bei Verstößen gegen die Nutzung verbotener KI-Systeme oder wenn die Qualitätskriterien für Hochrisiko-KI-Systeme nicht erfüllt werden. Der mittlere Bußgeldrahmen geht bis zu 20 Millionen Euro oder 4 Prozent des weltweiten Jahresumsatzes (je nachdem, welcher Betrag höher ist). Dieser Bußgeldtatbestand gilt für Verstöße gegen andere Anforderungen und Pflichten der KI-Verordnung. Der niedrigste Bußgeldrahmen geht bis zu 10 Millionen Euro oder 2 Prozent des weltweiten Jahresumsatzes (falls letzterer Betrag höher ist). Diese Bußgelder drohen, wenn falsche, unvollständige oder irreführende Angaben gegenüber zuständigen Behörden gemacht werden. Von diesen Sanktionierungen unberührt bleiben diejenigen Anforderungen, die die Normadressaten nach anderen gesetzlichen Bestimmungen zu erfüllen haben. Die KI-VO stellt insofern keine abschließende Regulierung dieser Technologie dar, sondern fügt sich in den bereits bestehenden Rechts­rahmen ein, ohne diesen zu modifizieren oder zu verdrängen. Insbesondere aus der DSGVO, dem Data Act und dem Urheberrecht können sich zusätzliche Anforderungen für die Entwicklung und Nutzung von KI ergeben. Aufgrund der parallelen Anwendbarkeit dieser Bestimmungen kann es auch zu einer eine Kumulierung von Bußgeldern kommen.

KI bietet ohne jeden Zweifel Chancen, birgt aber auch Risiken. Wer es schafft, KI effektiv und im Einklang mit den gesetzlichen Anforderungen in seinem Unternehmen einzusetzen, kann Wettbewerbsvorteile erzielen. Wer die gesetzlichen Regelungen dagegen nicht einhält, muss mit erheblichen Bußgeldern rechnen. Aus diesem Grund ist es entscheidend, sich auf Basis der Vorgaben der KI-VO frühzeitig um die Implementierung der notwendigen Compliance-Management-Systeme zu kümmern.

Ich bin bei meinen Recherchen für diesen Beitrag nach Eingabe von „Einsatzmöglichkeiten von KI im Möbelhandel“ in den Edge-Browser von Microsoft u.a. auf einen organischen Treffer der Woodpecker Finch GmbH, Monheim, gestoßen. Dieser Treffer ist mit einem Artikel verlinkt, den die Autorin Verena Fink als verantwortliche Redakteurin der Woodpecker Finch GmbH unter dem Titel „So wird KI in der Möbelbranche eingesetzt“ als Gastbeitrag für die Zeitschrift „Möbel Fertigung“ verfasst hat. Die Autorin führt aus, dass ihr, wenn sie nach den Einsatzmöglichkeiten von KI in der Möbelbranche gefragt werde, zuerst die Fertigungsindustrie einfalle. Dieser Industriezweig biete viele Ansatzpunkte für eine KI-Optimierung. Das gelte vor allem für die Pro­duktentwicklung, die Automatisierung von Produktionsprozessen und die Optimierung der Lieferketten. Dies belegt sie anhand von fünf internationalen Beispielen für smarten KI-Einsatz entlang der Wertschöpfungskette. So erstelle das dänische Startup Cylindo beispielsweise realistische virtuelle Produktvisualisierungen für Möbel und Einrichtungsgegenstände mit KI und einer 3D-Visualisierungstechnologie. Nitori – einer der größten Händler für Möbel und Wohn­accessoires in Japan – verwende KI unter anderem, um Materialien und Konstruktionen zu analysieren, um damit die Qualität und Haltbarkeit seiner Möbel zu verbessern. LKKER, ein chinesisches Unter­nehmen, habe sich auf Supply Chain Management-Lösungen für die Möbelindustrie spezialisiert und nutze KI-Algorithmen, um die Lieferkette von Möbeln zu optimieren und die Effizienz in Produktion, Transport und Lagerhaltung zu verbessern. Truff & Needle aus den USA verspreche via KI-basierter Technologie, seine Kunden bei der Auswahl der richtigen Matratze zu unterstützen. Das Ziel seien personalisierte Lösungen für Kunden, um die Abschlussquote im Shop zu steigern und die Retourenquote zu senken. Das US-amerikanische Startup Modsy setze wiederum KI und 3D-Visualisierungen ein, um im direkten Endkundenkontakt die virtuelle Raumgestaltung ganz einfach zu machen.

Intel (https://www.intel.de/content/www/de/de/retail/solutions/ai-in-retail.html) wirbt z.B. mit folgenden Aussagen für den Einsatz von KI im Einzelhandel:

„Bei der digitalen Transformation im Einzelhandel geht es um mehr als nur die Vernetzung von Dingen. Es geht darum, Daten in Erkenntnisse zu verwandeln, die als Grundlage für Maß­nahmen dienen, welche wiederum für bessere Geschäftsergebnisse sorgen. KI im Einzelhandel – einschließlich maschinelles Lernen und Deep Learning – ist für die Gewinnung solcher Erkenntnisse von entscheidender Bedeutung. Für Einzelhändler entstehen dadurch herausragende Kundenerlebnisse, Chancen für Umsatzwachstum, schnelle Innovationen und intelligente Betriebsabläufe – all das hilft Ihnen dabei, sich von der Kon­kurrenz abzuheben. Viele Einzelhändler verwenden KI bereits in einigen Bereichen des Betriebs. Sie können KI zum Beispiel in CRM-Software verwenden, um Marketingaktivi­täten zu automatisieren, oder prädiktive Analysen ausführen, um zu erkennen, welche Kunden wahrscheinlich welche Produkte kaufen. Die Cloud unterstützt KI-Workloads, die das Speichern und Verarbeiten von Datenmengen aus verschie­denen Quellen voraussetzen. Einige Beispiele für Cloud-Workloads im Einzelhandel sind Bedarfsprognosen mit maschinellem Lernen sowie Online-Produktempfehlungen.“

Die IT-P GmbH äußerst sich in einem Blog-Beitrag zu dem Thema „Künstliche Intelligenz (KI) im Einzelhandel: Chancen und Herausforderungen“ (https://www.it-p.de/blog/ki-einzelhandel/) u.a. wie folgt:

„Künstliche Intelligenz ermöglicht ein personalisiertes Kundenerlebnis, indem große Datenmengen analysiert und das Kaufverhalten der Kunden in Echtzeit ausgewertet werden. Mithilfe von Algorithmen und maschinellem Lernen können Einzelhändler Produktempfehlungen geben, die genau auf die Bedürfnisse und Vor­lieben der Kunden zugeschnitten sind. Das steigert nicht nur das Einkaufserlebnis, sondern auch die Kundenzufriedenheit und -bindung.“

Als Instrumente hierfür werden u.a. angeführt: Chatbots im Kundenservice, die rund um die Uhr häufig gestellte Fragen beantworten; visuelle Sensoren und KI-basierte Kameras zum Zwecke der Analyse des Kaufverhalten der Kunden in der Filiale; Systeme, die das Kaufverhalten der Kunden analysieren und personalisierte Produkt­empfehlungen generieren; Systeme, durch die Preise in Echtzeit an die Nachfrage und andere Marktfaktoren angepasst werden, usw.

Der Schlüssel zum KI-basierten Erfolg im Einzel­handel liegt also offenbar im grenzenlosen Sammeln von personalisierten Kundendaten und dem Füttern von KI-Systemen mit diesen Daten, um Vorhersagen, Empfehlungen und Entscheidungshilfen zu erlangen. Soweit hierfür Kameras eingesetzt werden, dürften derartige KI-Systeme in die Kategorie „KI-Systeme mit nicht akzeptablem Risiko“, im Übrigen in die Kategorien „KI-Systeme mit hohem Risiko“ sowie „KI-Systeme mit Transparenzanforderungen“ fallen, so dass deren Einsatz teilweise verboten ist, auf jeden Fall aber die Implementierung eines den Anforderungen nach der KI-VO entsprechenden Compliance-Management-Systems voraussetzt.

Der im vorigen Abschnitt erwähnte Artikel der Autorin Verena Fink liefert quasi die „Steilvorlage“ für die wenigen urheberrechtlichen Aspekte, die ich noch ansprechen möchte. Betätigt man nämlich zu dem Suchbegriff „Einsatzmöglichkeiten von KI im Möbelhandel“, zu dem die Edge-Suchmaschine den „Woodpecker Finch-Treffer“ geliefert hat, den Microsoft Copilot – ein KI-System –, liefert dieses ein Ergebnis, das ganze Satzpassagen identisch bzw. in leicht bearbeiteter Form aus dem Artikel von Verena Fink übernimmt. Das wirft (aus Sicht der Autorin) die Frage nach einer Ur­heberrechtsverletzung auf, insbesondere unter dem Gesichtspunkt eines rechtswidrigen Eingriffs in ihr Vervielfältigungsrecht nach § 16 oder die Erstellung einer unfreien Bearbeitung nach § 23 UrhG. Dieselbe Frage kann sich stellen, wenn der Möbelhändler, der mit KI-basierten Visualisierungen arbeitet, seinem Kunden im Beratungsgespräch Bildmaterial präsentiert, an dem urheberrechtliche Leistungsschutzrechte bestehen.

Urheberrechtlich stellt sich die Situation – sehr kurz und sehr vereinfacht dargestellt – in der Regel wie folgt dar. KI-Systeme müssen trainiert, d.h. in einer Input-Phase mit einer Unmenge von Daten „gefüttert“ werden, wenn sie in der Output-Phase brauchbaren Ergebnisse liefern sollen. In der Input-Phase kommt es unweigerlich zu urheberrechtlich relevanten Kopiervorgängen, sei es in Bezug auf Texte, Bilder oder andere urheberrechtlich geschützte Werke oder Arbeitsergebnisse. In der urheberrechtlichen Literatur (Hofmann, Zehn Thesen zu Künstlicher Intelligenz (KI) und Urheberrecht, WRP 2024, 11 ff) wird dis­kutiert, ob diese Vorgänge durch die Schutzschranken der vorübergehenden Vervielfältigung des § 44 a UrhG oder des kommerziellen Text und Data Mining nach § 44 b UrhG gedeckt sein können, was jedoch aus verschiedenen Gründen, auf die in diesem Beitrag nicht näher eingegangen werden kann, in der Regel zu verneinen ist. Auszugehen ist also davon, dass der KI-Anbieter und der KI-Betreiber, der die Früchte der Urheberrechtsverletzungen des KI-Anbieters erntet, Urheberrechtsverletzungen begehen können, wegen derer sie auf Unterlassung, Auskunft, Schadensersatz usw. haften. Fraglich ist noch, ob sich daran etwas ändert, wenn die KI auf die verarbeitete Quelle verweist, wie etwa Microsoft Copilot mit dem Hinweis „Weitere Informationen“ in Verbindung mit einem Link auf den Artikel der Autorin Verena Fink in dem obigen Beispiel. Auch das wird aber zu verneinen sein.

Rechtsanwalt Stefan Michel
KLEINER Rechtsanwälte Part mbB –
Büro Stuttgart – www.kleiner-law.com

Bildquellen: Adobe Firefly