Die Herausforderung der Digitalisierung
Künstliche Intelligenz (KI) ist zu einem treibenden Faktor der digitalen Transformation geworden. Unternehmen, öffentliche Einrichtungen und Forschungsinstitute setzen zunehmend auf KI-gestützte Technologien, um Prozesse zu optimieren, Innovationen zu fördern und Wettbewerbsvorteile zu erzielen. Gleichzeitig stehen diese Entwicklungen in einem Spannungsfeld mit den Anforderungen des Datenschutzes und der geltenden Rechtsnormen, insbesondere der Datenschutz-Grundverordnung (DSGVO).
Datenschutzrechtliche Implikationen von KI
Der Einsatz von KI-Systemen erfordert in vielen Fällen die Verarbeitung großer Mengen personenbezogener Daten. Die Analyse und Auswertung solcher Daten birgt erhebliche Risiken für die informationelle Selbstbestimmung der betroffenen Personen. Besonders problematisch sind:
Handlungsbedarf und Lösungsansätze
Die rechtlichen Anforderungen an den Einsatz von KI sind dynamisch und komplex. Umso wichtiger ist es, dass Unternehmen und Einrichtungen proaktiv handeln und sich frühzeitig mit den datenschutzrechtlichen Aspekten von KI auseinandersetzen. Folgende Maßnahmen sind essenziell:
Aktuelle Entwicklungen und regulatorische Anforderungen im Bereich Künstliche Intelligenz
Dynamik der Regulierungslandschaft
Die rasante Entwicklung von Künstlicher Intelligenz (KI) bringt nicht nur innovative Lösungen hervor, sondern wirft auch komplexe rechtliche Fragen auf. Die Europäische Union und nationale Gesetzgeber arbeiten intensiv an Regulierungsansätzen, um den Einsatz von KI zu steuern und sicherzustellen, dass Grundrechte gewahrt bleiben. Dabei steht die Balance zwischen Innovationsförderung und Schutz der individuellen Rechte im Mittelpunkt.
Di KI-VO – Ein regulatorischer Meilenstein
Ein zentraler Bestandteil der aktuellen Regulierung ist der EU AI Act, der erstmals einen umfassenden rechtlichen Rahmen für den Einsatz von KI-Systemen schafft. Ziel ist es, die Risiken von KI-Technologien zu minimieren und gleichzeitig deren Potenzial für die Wirtschaft zu maximieren. Der Entwurf unterscheidet dabei zwischen verschiedenen Risikoklassen:
Datenschutz und KI – Eine enge Verzahnung
Die Datenschutz-Grundverordnung (DSGVO) bildet weiterhin das Fundament für die Verarbeitung personenbezogener Daten, auch im Zusammenhang mit KI. Unternehmen und Organisationen stehen vor der Herausforderung, die Vorgaben der DSGVO mit den neuen Anforderungen des EU AI Acts zu vereinen.
Besondere Schwerpunkte liegen dabei auf:
Fragen und Antworten
Was ist KI und was nicht? Gemäß der Definition in der Verordnung über Künstliche Intelligenz (KI-VO) wird Künstliche Intelligenz als eine besondere Form technischer Systeme beschrieben, die insbesondere durch ihre Autonomie und Selbstveränderungsfähigkeit gekennzeichnet sind und daher als schwer beherrschbar gelten. Jedoch lässt sich der Einsatz solcher Systeme verantwortungsvoll gestalten, wenn er mit der gebotenen Sorgfalt und Verantwortung erfolgt. Es muss jedoch ausdrücklich betont werden, dass Künstliche Intelligenz keine Verantwortung übernehmen kann und im rechtlichen Sinne auch keine Fehler im klassischen Sinne begehen kann. Die Zurechnung von Schuld oder Fehlverhalten liegt stets beim Menschen, der die Entscheidungen trifft und das System in einen bestimmten Kontext integriert. In vielen Fällen ist die Anwendung der KI-VO nicht relevant, da es sich nicht um Künstliche Intelligenz im Sinne der Verordnung handelt. Expertensysteme etwa, die lediglich Muster erkennen und abgleichen, sind nicht für eine autonome Entscheidungsfindung oder ein selbständiges Handeln konzipiert. Solche Systeme, die sich nicht eigenständig weiterentwickeln können, fallen nicht unter den Geltungsbereich der KI-VO.
Was ist der Unterschied zwischen KI-Modellen und Kl-Systemen? Künstliche Intelligenz-Modelle (KI-Modelle) stellen umfangreiche Datenpools dar, aus denen KI-Systeme Inhalte ableiten, sei es in Form von Texten, Tönen oder Bildern. Diese Modelle werden aus zahlreichen Quellen gespeist, über deren Auswahl und Herkunft die Anbieter der Modelle die Kontrolle ausüben. Die Anbieter von KI-Modellen erschaffen und trainieren Datenpools, die eine enorme Menge an Informationen enthalten, deren Herkunft und Selektion sowohl vielfältig als auch potenziell manipulierbar sind. Dabei kann die Herkunft der Daten – etwa aus den USA, Europa oder China oder Südamerika – die resultierenden Werte und Ergebnisse maßgeblich beeinflussen. KI-Systeme werden hingegen genutzt, um einen spezifischen Verwendungszweck zu erfüllen, beispielsweise der Text- oder Bilderstellung. Sie bauen auf dem KI-Modell auf, das vom Entwickler bzw. Hersteller des Systems – in der Terminologie der KI-VO als „Anbieter“ bezeichnet – vorgegeben wird. Der Anbieter legt somit den Verwendungszweck des KI-Systems fest.
Wie funktioniert KI? Künstliche Intelligenz (KI) basiert auf Computeranwendungen, die in der Lage sind, große Datenmengen zu verarbeiten, um für den Menschen verständliche Ergebnisse zu erzielen. Derzeit stehen insbesondere Anwendungen im Vordergrund, die wie ChatGPT Texte in natürlicher Sprache oder wie DALL-E Bilder generieren, welche menschlich erzeugten Inhalten in vielen Fällen kaum oder nur schwer erkennbar sind. Anders als der Mensch, der über visuelle Wahrnehmung und Kreativität verfügt, „sehen“ Maschinen jedoch nicht mit Augen und sind nicht „kreativ“ im humanen Sinne. Stattdessen kommen fortschrittliche statistische Verfahren zum Einsatz, um Muster in den Trainingsdaten zu identifizieren und die wahrscheinlichsten Wort- oder Bildkombinationen zu erzeugen. Was häufig als KI-„Kreativität“ bezeichnet wird, stellt in Wirklichkeit eine hoch entwickelte Form der Mustererkennung und -wiedergabe dar.
KI-Systeme „verstehen“ nicht im eigentlichen Sinne die Inhalte, die sie generieren; sie sind sich nicht bewusst, was sie sagen oder darstellen. Vielmehr wählen sie auf Grundlage bereits identifizierter Muster jene Wörter oder Bildelemente aus, die am wahrscheinlichsten miteinander kombiniert werden können. Es lässt sich dies mit dem Zusammenfügen eines Puzzles vergleichen, bei dem die Teile zwar zusammenpassen, das entstehende Bild jedoch keine Bedeutung für das System hat. Trotz der oft beeindruckend gut erscheinenden Ergebnisse fehlt es der KI an echtem Verständnis oder eigenen Gedanken, wie sie ein Mensch entwickeln würde. Sie kann lediglich das wiedergeben und kombinieren, was sie aus den Daten und dem menschlichen Input erlernt hat. Dennoch sind KI-Systeme in der Lage, Zusammenhänge in Datensätzen zu erkennen, die für einen einzelnen Menschen möglicherweise nicht unmittelbar erkennbar sind, da sie durch das Erlernen einer Vielzahl von Mustern tiefere Einsichten gewinnen.
Muss jeder Kl-Kompetenz nachweisen? Die Verordnung über Künstliche Intelligenz (KI-VO) verpflichtet jede Person, die ein KI-System wie ChatGPT außerhalb des privaten Rahmens nutzt, also betreibt, zur Vermittlung von KI-Kompetenz gemäß Artikel 4 der KI-VO. Diese Verpflichtung gilt nicht nur für Unternehmen und Behörden, sondern auch für jede natürliche Person, die ein KI-System wie ChatGPT nicht für private Zwecke einsetzt. Die Umsetzung dieser Pflicht muss bis Februar 2025 erfolgen. Im Rahmen dieser allgemeinen Pflicht müssen alle Anbieter und Betreiber von KI-Systemen, also praktisch alle, die Systeme wie ChatGPT in ihrem geschäftlichen Umfeld einsetzen, sicherstellen, dass ihrem Personal und anderen Personen, die KI-Systeme in ihrem Auftrag nutzen und betreiben, entsprechende KI-Kompetenz vermittelt wird. Diese Vermittlung muss mit größter Sorgfalt erfolgen und darf keinesfalls nachlässig gehandhabt werden.
Für wen gilt das Kl-Recht? Die Verordnung über Künstliche Intelligenz (KI-VO) erstreckt sich faktisch auf alle Akteure. Sie regelt die gesamte Wertschöpfungskette von KI-Systemen wie ChatGPT, angefangen bei deren Entwicklung bis hin zum Betrieb und der Nutzung. Hierbei werden auch für Betreiber spezifische Pflichten festgelegt. So gelten beispielsweise Schulen, die den Einsatz von KI für Schülerinnen und Schüler sowie Lehrerinnen und Lehrer zulassen, oder Unternehmen, die ihren Mitarbeitenden die Verwendung von KI ermöglichen, als Betreiber im Sinne der KI-VO. Ebenso unterfallen Beschäftigte, die KI ohne das Wissen oder die ausdrückliche Erlaubnis ihres Arbeitgebers einsetzen – etwa durch die Nutzung von Übersetzungssoftware – der Verordnung, da die Verwendung zu beruflichen Zwecken erfolgt. Auch sie sind dem neuen Recht als Betreiber unterworfen.
Denken oder imitieren? Warum KI kommunizieren kann. KI denkt nicht wie ein Mensch. Sie verarbeitet Daten und erkennt Muster, wodurch sie Texte generieren, Bilder analysieren oder Sprache verstehen kann. Die Illusion des Denkens entsteht durch komplexe Algorithmen, die menschliche Sprache imitieren. Doch am Ende bleibt KI ein Werkzeug – leistungsstark, aber ohne eigenes Bewusstsein.
Kontrolle bewahren – Mensch und Maschine im Einklang? Der Mensch bleibt stets in der Verantwortung. Klare Prozesse und Kontrollmechanismen sind notwendig, um sicherzustellen, dass KI als Werkzeug fungiert und keine eigenmächtigen Entscheidungen trifft.
KI im Berufsalltag – Wo hilft sie, wo nicht? KI kann repetitive Aufgaben übernehmen, Analysen beschleunigen und Entscheidungsprozesse unterstützen. Doch kreative, strategische und emotionale Aufgaben bleiben weiterhin dem Menschen vorbehalten. Der gezielte Einsatz von KI spart Zeit und Ressourcen – doch nur, wenn ihre Grenzen erkannt werden.
Datenschutz und KI im Einklang? Die Nutzung von KI ist eng mit datenschutzrechtlichen Fragen verbunden. Wer personenbezogene Daten verarbeitet, muss sicherstellen, dass die KI datenschutzkonform arbeitet. Dies umfasst sowohl die Einhaltung der DSGVO als auch spezifischer Vorgaben der KI-Verordnung (KI-VO). Ich unterstütze Sie dabei, Haftungsrisiken zu minimieren und Ihre Organisation auf die Zukunft vorzubereiten.
Was ist unter dem Begriff "KI-Kompetenzen" zu verstehen? Art. 3 Nr. 56 definiert als „KI-Kompetenz“ die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI‑Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.
Weitere Informationen folgen...