Künstliche Intelligenz und Datenschutz
Auf dem Gebiet der Künstlichen Intelligenz (KI) konnten insbesondere in den letzten Jahren beeindruckende Fortschritte verzeichnet werden, die vielfältige Einsatzmöglichkeiten und Chancen für innovative Produkte und Dienstleistungen bringen. Viele öffentliche und nicht öffentliche Stellen im Land Brandenburg planen den Einsatz von KI-Anwendungen bzw. nutzen diese bereits. Daraus ergeben sich auch zusätzliche Anforderungen an den Datenschutz.
Im Datenschutzrecht ist der Begriff der Künstlichen Intelligenz allerdings nicht definiert. In Artikel 3 Nummer 1 der am 1. August 2024 in Kraft getretenen Verordnung über künstliche Intelligenz (KI-Verordnung) wird Künstliche Intelligenz im Zusammenhang mit dem Begriff des KI-Systems definiert als „maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können“, kurz: Systeme des maschinellen Lernens.
Diese Seite verweist auf ausgewählte Dokumente und Positionen insbesondere der Datenschutzaufsichtsbehörden aus Deutschland und der EU.
KI im Land Brandenburg
Im Land Brandenburg wurde im Juni 2024 eine Landesstrategie Künstliche Intelligenz verabschiedet. Die Strategie enthält Ziele für den KI-Einsatz in Brandenburg bis zum Jahr 2030 sowie eine Vielzahl konkreter Einzelmaßnahmen.
Im Land Brandenburg wurde im Juni 2024 eine Landesstrategie Künstliche Intelligenz verabschiedet. Die Strategie enthält Ziele für den KI-Einsatz in Brandenburg bis zum Jahr 2030 sowie eine Vielzahl konkreter Einzelmaßnahmen.
Rechtsgrundlagen und Hinweise
Vorschriften für die Entwicklung und den Einsatz von KI-Anwendungen finden sich insbesondere in der Datenschutz-Grundverordnung (DS-GVO) und der KI-Verordnung.
Vorschriften für die Entwicklung und den Einsatz von KI-Anwendungen finden sich insbesondere in der Datenschutz-Grundverordnung (DS-GVO) und der KI-Verordnung.
Die Stiftung Datenschutz erörtert in der Reihe "Datenschutz am Mittag" konkrete Fragen zur Umsetzung des Datenschutzrechts. Zum Thema "KI und Datenschutz" wurden bereits folgende Vorträge gehalten:
Die Stiftung Datenschutz erörtert in der Reihe "Datenschutz am Mittag" konkrete Fragen zur Umsetzung des Datenschutzrechts. Zum Thema "KI und Datenschutz" wurden bereits folgende Vorträge gehalten:
Beim Einsatz von KI-Anwendungen von Anbietern ohne gesetzlichen Vertreter in der EU gemäß Artikel 27 DS-GVO oder aus einem Drittland ohne Angemessenheitsbeschluss gemäß Artikel 45 DS-GVO ist zu beachten, dass diese KI-Anwendungen den Anforderungen sowohl der Datenschutz-Grundverordnung als auch der KI-Verordnung wahrscheinlich nicht genügen. Für diesen Fall hat der Landesbeauftragte für den Datenschutz und die Informationsfreiheit Rheinland-Pfalz einige Empfehlungen notiert.
Beim Einsatz von KI-Anwendungen von Anbietern ohne gesetzlichen Vertreter in der EU gemäß Artikel 27 DS-GVO oder aus einem Drittland ohne Angemessenheitsbeschluss gemäß Artikel 45 DS-GVO ist zu beachten, dass diese KI-Anwendungen den Anforderungen sowohl der Datenschutz-Grundverordnung als auch der KI-Verordnung wahrscheinlich nicht genügen. Für diesen Fall hat der Landesbeauftragte für den Datenschutz und die Informationsfreiheit Rheinland-Pfalz einige Empfehlungen notiert.
Entwicklung und Einsatz von KI-Anwendungen
Beim Training und der Nutzung einer großen Zahl von KI-Systemen können personenbezogene Daten verarbeitet werden. In diesem Zusammenhang hat sich der Europäische Datenschutzausschuss (EDSA) in einer Stellungnahme nach Art. 64 Abs. 2 DS-GVO dazu geäußert, wann ein Personenbezug vorliegen kann, welche Rechtsgrundlage für die Entwicklung oder Nutzung von KI-Modellen verwendet werden kann und welche Folgen die Entwicklung eines KI-Modells unter Verwendung unrechtmäßig verarbeiteter personenbezogener Daten hat.
Beim Training und der Nutzung einer großen Zahl von KI-Systemen können personenbezogene Daten verarbeitet werden. In diesem Zusammenhang hat sich der Europäische Datenschutzausschuss (EDSA) in einer Stellungnahme nach Art. 64 Abs. 2 DS-GVO dazu geäußert, wann ein Personenbezug vorliegen kann, welche Rechtsgrundlage für die Entwicklung oder Nutzung von KI-Modellen verwendet werden kann und welche Folgen die Entwicklung eines KI-Modells unter Verwendung unrechtmäßig verarbeiteter personenbezogener Daten hat.
Der Einsatz generativer KI-Modelle bringt viele Chancen aber auch neue Sicherheitsrisiken mit sich. Entwickler, Betreiber und Anwender sollten daher vor der Nutzung dieser KI-Modelle eine Risikoanalyse durchführen und geeignete Sicherheitsmaßnahmen ergreifen.
Der Einsatz generativer KI-Modelle bringt viele Chancen aber auch neue Sicherheitsrisiken mit sich. Entwickler, Betreiber und Anwender sollten daher vor der Nutzung dieser KI-Modelle eine Risikoanalyse durchführen und geeignete Sicherheitsmaßnahmen ergreifen.
Ein im Auftrag der EU-Kommission entwickelter Verhaltenskodex zu KI-Modellen mit allgemeinem Verwendungszweck soll Anbietern entsprechender Modelle dabei helfen, die Verpflichtungen nach Artikel 53 und 55 der KI-Verordnung zu erfüllen:
Ein im Auftrag der EU-Kommission entwickelter Verhaltenskodex zu KI-Modellen mit allgemeinem Verwendungszweck soll Anbietern entsprechender Modelle dabei helfen, die Verpflichtungen nach Artikel 53 und 55 der KI-Verordnung zu erfüllen:
Bei der Auswahl und dem Einsatz von KI-Anwendungen sind daher datenschutzrechtliche Kriterien zu berücksichtigen. Nachfolgend sind einige hilfreiche Ausführungen dazu verlinkt:
Bei der Auswahl und dem Einsatz von KI-Anwendungen sind daher datenschutzrechtliche Kriterien zu berücksichtigen. Nachfolgend sind einige hilfreiche Ausführungen dazu verlinkt:
KI und Datenschutzaufsicht
Auf die Datenschutzaufsichtsbehörden kommen im Zusammenhang mit der KI-Verordnung erweiterte Aufgaben zu.
Auf die Datenschutzaufsichtsbehörden kommen im Zusammenhang mit der KI-Verordnung erweiterte Aufgaben zu.