Toolbar-Menü

Protokoll der 36. Konferenz der Informationsfreiheitsbeauftragten am 16. Oktober 2018 in Ulm

Ort: Rathaus der Stadt Ulm, Marktplatz 1, 89073 Ulm

Beginn: 16.10.2018, 11:00 Uhr

Ende: 16.10.2018, 16:00 Uhr

 

Teilnehmende:

Berlin: Frau Smoltczyk

Brandenburg: Frau Hartge

Bremen: Frau Dr. Sommer

Bund: Herr Heyn, Herr Gronenberg

Hamburg: Herr Prof. Dr. Caspar

Hessen: Frau Topp, Herr Dr. Piendl

Mecklenburg-Vorpommern: Frau Schäfer

Nordrhein-Westfalen: Frau Block

Rheinland-Pfalz: Herr Prof. Dr. Kugelmann, Herr Mack

Saarland: Frau Grethel

Sachsen-Anhalt: Herr Dr. von Bose

Schleswig-Holstein: Frau Hansen

Thüringen: Herr Fellmann

Baden-Württemberg: Herr Dr. Brink, Herr Dr. Jacobi, Frau Groß, Frau Grullini

Gastreferent: Herr Semsrott, Journalist und Projektleiter bei „Frag den Staat“

 

TOP 1:       Begrüßung, Genehmigung der Tagesordnung und Genehmigung der Veröffentlichung des Protokolls des AKIF

Herr Dr. Brink, Landesbeauftragter von Baden-Württemberg, begrüßt die Teilnehmerinnen und Teilnehmer und eröffnet die 36. Konferenz der Informationsfreiheitsbeauftragten in Deutschland (IFK). Die Sitzung ist öffentlich.

Die IFK genehmigt einstimmig sowohl die Tagesordnung als auch das Protokoll sowie die Veröffentlichung des Protokolls des 37. AKIF in der geänderten Fassung (Stand: 12. Oktober 2018).

 

TOP 2:       Entschließungsentwurf: „Soziale Teilhabe durch konsequente Veröffentlichung von Verwaltungsvorschriften“

Die Entschließung wird nach Diskussion und geringfügigen Änderungen einstimmig von der Konferenz verabschiedet (siehe Anlage 1).

 

TOP 3:       Entschließungsentwurf: „Datenschutz und Informationsfreiheit gleichermaßen umsetzen“

Brandenburg und Hamburg sprechen sich gegen den Entwurf aus, da dieser inhaltlich unscharf sei und wenig konkrete Handlungsvorgaben für die öffentlichen Stellen enthalte. Schleswig-Holstein, Rheinland-Pfalz, Mecklenburg-Vorpommern, Baden-Württemberg und Bremen stimmen dafür, den Entwurf zu verabschieden, u.U. auch im Sinn eines ersten Aufschlags, dem im nächsten Jahr eine weitere Stellungnahme der IFK mit mehr Details und praktischen Anwendungsbeispielen folgen kann. Brandenburg, Hamburg und Nordrhein-Westfalen sprechen sich gegen diesen Vorschlag aus. Sachsen-Anhalt möchte den Gesichtspunkt einer Änderung der Verwaltungskultur aufnehmen.

Nach Diskussion beschließt die Konferenz einstimmig, dass eine Ad-hoc-Arbeitsgruppe unter Vorsitz von Schleswig-Holstein und unter Mitwirkung von Rheinland-Pfalz, dem Bund und Baden-Württemberg den Entwurf präzisiert und ergänzt und er sodann im Umlaufverfahren abgestimmt wird. Alle Informationsfreiheitbeauftragten sind eingeladen, sich sowohl durch Textbeiträge im Vorfeld als auch im Rahmen des Arbeitsgruppentreffens zu beteiligen. Schleswig-Holstein wird in Kürze einen Termin für das Treffen in Hamburg vorschlagen.

 

TOP 4:       Positionspapier: „Transparenz der Verwaltung beim Einsatz von Algorithmen für gelebten Grundrechtsschutz unabdingbar“

Basierend auf den Ergebnissen und Empfehlungen des Workshops vom 06. September 2018 verfassten Schleswig-Holstein, Berlin und Bremen einen Entschließungsentwurf, der im Vorfeld der IFK zur Vorabstimmung übersandt wurde.

Für den Fall, dass für den Entwurf keine Entschließung zustande kommt, hatten die verfassenden Länder den Text bereits so formuliert, dass es sich nicht um ein Dokument der IFK, sondern um ein Positionspapier der unterstützenden Länder handelt, das von diesen nach eigener Entscheidung verwendet werden kann.

Nach ausführlicher Diskussion kommt keine Entschließung zustande. Die verfassenden Länder sowie der Bund und weitere Länder beschließen daher das als Anlage 2 beigefügte Positionspapier.

 

TOP 5:       Vortrag von Herrn Semsrott: Einblicke in die Arbeit des Informationsportals „Frag den Staat“ und das neue Projekt „OpenSchufa“

Herr Semsrott trägt der IFK vor. Im Anschluss diskutieren die Teilnehmerinnen und Teilnehmer mit ihm über seinen Vortrag.

 

TOP 6:            Meinungsaustausch zum Thema Gebühren für IF-Anträge

Baden-Württemberg führt in das Thema ein und berichtet, dass die Gebühreneinnahmen nach einer Umfrage eher gering sind und keine Aufwandskompensation sein können. Die Vertreter aus Bund und Ländern berichten von den jüngsten Entwicklungen zum Thema Gebührenfreiheit für Informationsfreiheits-Anträge. Baden-Württemberg deklariert Gebührenfreiheit als klares Ziel und weist darauf hin, dass nur bei einer steigenden Zahl von Anfragen aus der Bevölkerung die vom Gesetzgeber angestrebten Ziele der Informationsfreiheit (Partizipation und Kontrolle) erreicht werden könnten. Sachsen-Anhalt schließt sich der Zielsetzung der Gebührenfreiheit an und berichtet von der Novelle des IZG LSA, nach welcher eine Geringwertigkeitsgrenze von fünfzig Euro gilt, wofür die Kommunen vom Land entschädigt werden. Es wird außerdem darauf hingewiesen, dass die Nutzung von Open-Data-Registern kostenfrei sei, was auf Dauer die Anträge auf Informationsfreiheit überholen könne. Ablehnende Bescheide sollten nach Ansicht von Sachsen-Anhalt stets gebührenfrei sein. Des Weiteren müsse auf eine Vereinheitlichung mit Umwelt- und Verbraucherinformationsrecht hingearbeitet werden, die deutlich niedrigere Gebühren vorsehen. Rheinland-Pfalz erachtet Gebührenfreiheit für sinnvoll und verweist darauf, dass der Aufwand für die Erstellung von Gebührenbescheiden oft in keinem Verhältnis zur Gebühr stehe und lediglich bei aufwendigen Sachverhalten notwendig sei. Thüringen sieht den Weg hin zur Gebührenfreiheit durch Gebührendeckelung. In Nordrhein-Westfalen und weiteren Ländern ist die Ablehnung eines Antrags auf Informationsfreiheit bereits gebührenfrei.

 

TOP 7:       Berichte aus Bund und Ländern/ Berichte aus den Ländern ohne IFG/ Reaktionen auf Entschließungen der IFK

Der Bund und die Länder berichten über die gesetzlichen Änderungen der Informationsfreiheitsgesetze im Zuge der Anpassungen an die DS-GVO.

Hinsichtlich der Befugnisse der BfDI und der Kooperationsverpflichtungen der Bundesbehörden wird § 12 Abs. 3 IFG künftig (explizit) auf das „alte“, vor Inkrafttreten der DS-GVO und des neuen BDSG gültige BDSG, verweisen. Das Bundes-IFG verweist weiterhin auf das BDSG-alt. § 5 IFG als „Scharnier- und Harmonisierungsnorm“ an der Nahtstelle von Informationsfreiheit und Datenschutzrecht soll terminologisch angepasst werden.

Sachsen-Anhalt bittet den Bund, zu Erfahrungen mit dem neuen Ansprechpartner nach § 12a EGovG des Bundes (Bundesverwaltungsamt für Bundesbehörden im Bereich von Open Data) zu berichten.

Schleswig-Holstein weist darauf hin, dass das IZG-SH hinsichtlich der Aufgaben und Befugnisse nach wie vor auf das (angesichts des Inkrafttretens der DS-GVO nunmehr neugeregelte) Landesdatenschutzgesetz SH (LDSG) verweist. Da einerseits das LDSG mit der Neuregelung die sanktionsbewehrte Tätigkeit gegenüber der beratenden Tätigkeit hervorhebt, diese Ausrichtung andererseits jedoch nicht auf den IZG-SH-Bereich übertragbar ist, ist der im IZG-SH enthaltene Verweis nicht mehr sachgerecht und zu großen Teilen nicht mehr umsetzbar.

Im Saarland sind die sich bislang aus einem Verweis auf das bisherige SDSG ergebenden Aufgaben und Befugnisse der Informationsfreiheitsbeauftragten nunmehr unverändert in das Saarländische Informationsfreiheitsgesetz übernommen worden. Eine Anordnungsbefugnis der Informationsfreiheitsbeauftragten wurde nicht geschaffen. Das Saarland verweist außerdem auf ein Urteil des OVG Saarland vom 11. Juni 2018 (Az.: 2 A 452/17) zum Verhältnis zwischen Informationsfreiheits-Anspruch und spezialgesetzlicher Zugangsregelung innerhalb des Kommunalselbstverwaltungsgesetzes.

Hessen berichtet, dass die Zusammenarbeit mit und die Umsetzung durch die Landesministerien gut angelaufen sei. Durch die Herausnahme der Kommunen würden Informationsfreiheitsanträge oft nicht beantwortet werden, da das hessische IFG aufgrund fehlender Satzungen in vielen Kommunen nicht gültig sei. Dies stoße auf Kritik bei den Bürgerinnen und Bürger.

Thüringen berichtet, dass der Gesetzentwurf zum Thüringer Transparenzgesetz seit Ende August im Kabinett beraten wird und voraussichtlich zur Jahreswende 2018/2019 in den Landtag eingebracht werden soll.

In Nordrhein-Westfalen wurde das IFG NRW mittels Artikelgesetz angepasst.

Im Landtag von Sachsen-Anhalt wird derzeit über einen Gesetzentwurf zur Einführung eines Informationsregisters beraten. Der Informationsfreiheitsbeauftragte hat vorgeschlagen, hierzu seine Dienststelle sowie zivilgesellschaftliche Organisationen im Anhörungsverfahren zu beteiligen. Außerdem wurde die Landesregierung zur Vorlage einer E-Government-Strategie und eines Open Data- Aktionsplans nach Vorbild des Bundes aufgefordert.

Das Berliner IFG soll in ein Transparenzgesetz überführt werden, ein Gesetzentwurf wird für 2019 erwartet. Die Gutachten des Wissenschaftlichen Parlamentsdienstes werden mittlerweile auf der Internetseite des Berliner Abgeordnetenhauses veröffentlicht.

In Rheinland-Pfalz müssen die Gutachten des Wissenschaftlichen Dienstes nach einem Urteil des OVG ebenfalls herausgegeben werden. Anhängig ist außerdem ein Verfahren in der Frage, ob Gutachten aus abgeschlossenen strafrechtlichen Ermittlungsverfahren herausgegeben werden müssen. Positiv falle auf, dass immer mehr Kommunen in Rheinland-Pfalz selbst Anträge nach dem rheinland-pfälzischen Landestransparenzgesetz stellen.

Baden-Württemberg berichtet von der Vorstellung einer Studie zur Vergütungs-transparenz von Top-Managementmitgliedern öffentlicher Unternehmen, die von Prof. Dr. Ulf Papenfuß (Zeppelin Universität, Lehrstuhl für Public Management & Public Policy) erarbeitet wurde und gemeinsam mit Herrn Dr. Brink am 30. August 2018 im Rahmen einer Pressekonferenz präsentiert wurde (VERGÜTUNGSTRANSPARENZ-RANKING 2018, https://www.baden-wuerttemberg.datenschutz.de/wp-content/uploads/2018/08/Papenfuss-et-al_Verguetungstransparenz-Ranking_2018.pdf).

 

TOP 8:       Termine des 38. AKIF und der 37. IFK im Saarland

Auf Vorschlag des Saarlands legen die Teilnehmenden als Termin für den 38. AKIF den 7. und 8. Mai 2019 und für die 37. Konferenz der Informationsfreiheitsbeauftragten in Deutschland den 12. Juni 2019 in Saarbrücken fest.

 

TOP 9:       Verschiedenes

Der Bund regt erneut an, bei künftigen Konferenzen einen wissenschaftlichen Teil, z. B. in Form von Fachvorträgen, aufzunehmen und die so thematisch und zeitlich erweiterte IFK künftig in der Regel einmal im Jahr durchzuführen (neues Format für die IFK). Der Vorschlag wird von einzelnen Landesbeauftragten wie z. B. Saarland als Ausrichterin der IFK im kommenden Jahr unterstützt. Des Weiteren wird erneut nachgefragt, ob der jeweilige Vorsitz der IFK künftig die Koordination der Praxis-Berichtsbeiträge zum „Jahrbuch für Informationsfreiheit“ übernehmen könnte, was der aktuelle Vorsitz weiterhin ablehnt. Das 5. IFG-Symposium zur Informationsfreiheit im September 2018 wurde erfolgreich durchgeführt.

Das Saarland greift den Vorschlag des Bundes hinsichtlich eines geänderten Formats für die IFK auf und schlägt vor, bei nur einer Konferenz im Jahr den Beginn der Konferenz auf z. B. 9 Uhr vorzuverlegen, damit ausreichend Zeit für die Diskussion und den Austausch bleibe.

 

Anlage 1:

 

Entschließung der 36. Konferenz der Informationsfreiheitsbeauftragten in Deutschland am 16. Oktober 2018 in Ulm

 

Soziale Teilhabe braucht konsequente Veröffentlichung von Verwaltungsvorschriften!

Eine offene und transparente Verwaltungskultur ist eine Voraussetzung dafür, dass sich Bürgerinnen und Bürger und Staat auf Augenhöhe begegnen. Die Konferenz der Informationsfreiheitsbeauftragten in Deutschland fordert die Sozialleistungsträger auf, Verwaltungsvorschriften antragsunabhängig, zeitnah und benutzerfreundlich zu veröffentlichen, soweit sie dazu nicht bereits gesetzlich verpflichtet sind.[1]

Soziale Teilhabe aller Menschen in unserer Gesellschaft folgt aus dem im Grundgesetz verankerten Sozialstaatsprinzip. Ausdruck dieses Prinzips ist ein soziales Sicherungssystem, das durch Sozialleistungen auf Grundlage der Sozialgesetzbücher einen Grundstandard an sozialer Sicherheit gewährleisten soll. Nur informierte Bürgerinnen und Bürger können sie betreffende Entscheidungen von Sozialleistungsträgern verstehen, Ansprüche geltend machen, aber auch Pflichten wahrnehmen.

Alle Sozialleistungsträger bedienen sich Verwaltungsvorschriften, um innerhalb ihrer Behörde eine einheitliche Bearbeitungs- bzw. Entscheidungspraxis sicherzustellen. Verwaltungsvorschriften sind interne Weisungen, die regeln, wie Gesetze auszulegen und anzuwenden sind. Zwar binden Verwaltungsvorschriften unmittelbar nur die Verwaltung selbst; die auf ihrer Grundlage getroffenen Entscheidungen wirken aber nach außen. Verwaltungsvorschriften sind daher bekannt zu geben, damit „der Betroffene (…) sich des Inhalts der durch sie für ihn begründeten Rechte und Pflichten vergewissern[2] kann. So agieren in diesem Bereich etwa die Bundesagentur für Arbeit sowie die Deutsche Rentenversicherung, die aktuelle Weisungen veröffentlichen. Viele andere Sozialleistungsträger geben die Informationen hingegen allenfalls auf Antrag heraus.

Anlage 2

 

Im Rahmen der 36. Konferenz der Informationsfreiheitsbeauftragten in Deutschland haben die genannten Informationsfreiheitsbeauftragten nachfolgendes Positionspapier

 

„Transparenz der Verwaltung beim Einsatz von Algorithmen

für gelebten Grundrechtsschutz unabdingbar“

 

beschlossen: 

  • die Bundesbeauftragte für den Datenschutz und die Informationsfreiheit,
  • die Berliner Beauftragte für Datenschutz und Informationsfreiheit,
  • die Landesbeauftragte für Datenschutz und Informationsfreiheit der Freien Hansestadt Bremen,
  • der Landesbeauftragte für den Datenschutz und die Informationsfreiheit      Mecklenburg-Vorpommern,
  • der Landesbeauftragte für den Datenschutz und die Informationsfreiheit Rheinland-Pfalz,
  • der Landesbeauftragte für den Datenschutz und die Informationsfreiheit Sachsen-Anhalt,
  • die Landesbeauftragte für Datenschutz Schleswig-Holstein,
  • der Thüringer Landesbeauftragte für den Datenschutz und die Informationsfreiheit     
  • und der Landesbeauftragte für den Datenschutz und die Informationsfreiheit Baden-Württemberg.

 

Ulm, 16. Oktober 2018


 

Positionspapier

 

Transparenz der Verwaltung beim Einsatz von Algorithmen

für gelebten Grundrechtsschutz unabdingbar

 

Bereits heute werden Entscheidungen der öffentlichen Verwaltung durch automatisierte Datenverarbeitungsvorgänge unter Zuhilfenahme von Algorithmen und künstlicher Intelligenz (KI) nicht nur automatisiert vorbereitet, sondern teilweise sogar voll automatisiert getroffen.

Der Einsatz von Algorithmen und KI kann zwar Effizienzsteigerungen bewirken und Auswertungen großer Datenmengen erleichtern bzw. überhaupt erst ermöglichen. Die Verwaltung trägt jedoch eine hohe Verantwortung, den Einsatz von Algorithmen und KI-Verfahren insbesondere im Zusammenhang mit behördlicher Entscheidungsfindung rechtmäßig zu gestalten. Sie ist den Grundwerten unserer Verfassung in besonderer Weise verpflichtet. Nur wenn ihr Handeln unzweifelhaft unserer Rechtsordnung entspricht, wird sie das Vertrauen der Bürgerinnen und Bürger erhalten. Dies ist für das Funktionieren unseres Staates existentiell. Elementar sind in diesem Zusammenhang die Beachtung der Menschenwürde und des Diskriminierungsverbots. Vor diesem Hintergrund stellt es ein großes Problem dar, dass Algorithmen und KI derzeit meist völlig intransparent funktionieren. Mit welchen Kriterien und Wertvorstellungen sie „gefüttert“ werden und inwieweit die erzielten Ergebnisse dem Grundsatz der Gesetzmäßigkeit der Verwaltung entsprechen, ist für die Betroffenen in aller Regel nicht nachzuvollziehen. Die eingesetzten Algorithmen und KI-Verfahren müssen daher transparent gemacht werden, damit Bürgerinnen und Bürger, aber auch die Verwaltung selbst das Zustandekommen der Entscheidungen nachvollziehen können.

Neben automatisierten Entscheidungen, die Bürgerinnen und Bürger unmittelbar betreffen, müssen auch Entscheidungen der Verwaltung ohne Bezug zu konkreten Personen, etwa bei der Planung von Verkehrswegen oder bei fiskalischem Handeln, nachvollziehbar sein.

Je höher das Risiko und je einschneidender die möglicherweise nachteiligen Auswirkungen für die betroffenen Menschen sein können, desto strenger muss geprüft werden, ob Algorithmen oder KI-Verfahren überhaupt grundrechtskonform eingesetzt werden können, ob die Verfahren sich ordnungsgemäß durchführen lassen und welche Folgen entstehen können. Unabdingbar für eine solche Folgenabschätzung ist eine ausreichende Transparenz über die Algorithmen und Verfahren der künstlichen Intelligenz. Zudem müssen die errechneten Ergebnisse vorhersehbar und nachvollziehbar sein; gleichartige Eingaben müssen stets zu gleichartigen Ausgaben führen.

Nach den Grundsätzen der Informationsfreiheit und der Verwaltungstransparenz müssen die für die Verwaltung essentiellen Informationen über die von ihr eingesetzten Algorithmen sowie KI-Verfahren auch der Öffentlichkeit zur Verfügung gestellt werden.

Die unterstützenden Informationsfreiheitsbeauftragten fordern daher den Bundes- sowie die Landesgesetzgeber auf, öffentliche Stellen noch konsequenter als bislang zu einem transparenten, verantwortungsvollen Einsatz von Algorithmen und KI-Verfahren zu verpflichten. Es bietet sich an, entsprechende Transparenzvorschriften in den jeweiligen Informationsfreiheits- bzw. Transparenzgesetzen oder in den einschlägigen Fachgesetzen zu verankern. Ausnahmen sollten dabei auf ein Minimum beschränkt werden.

Im Einzelnen sind daher dringend folgenden Anforderungen umzusetzen: 

  • Öffentliche Stellen müssen vor dem Einsatz von Algorithmen und KI-Verfahren prüfen, inwieweit dieser Einsatz überhaupt grundrechtskonform möglich ist. Bestehen nach einer sorgfältigen Prüfung Zweifel, beispielsweise wenn ausreichende      Nachvollziehbarkeit, Überprüfbarkeit und Beherrschbarkeit nicht gegeben sind, muss auf den Einsatz verzichtet werden.

 

  • Öffentliche Stellen müssen für ausreichende Transparenz über die eingesetzten Algorithmen sorgen. Für einen beherrschbaren Einsatz der Technik müssen sie über aussagekräftige, umfassende und allgemein verständliche Informationen bezüglich der eigenen      Datenverarbeitungen verfügen. Dazu gehören vor allem
    • die Datenkategorien der Ein- und Ausgabedaten des Verfahrens,
    • die darin enthaltene Logik, insbesondere die verwendeten Berechnungsformeln einschließlich der Gewichtung der Eingabedaten, Informationen über das zugrundeliegende Fachwissen und die individuelle Konfiguration durch die Anwendenden und
    • die Tragweite der darauf basierenden Entscheidungen sowie die möglichen Auswirkungen der Verfahren.

Soweit dies rechtlich möglich ist, sollten diese Informationen veröffentlicht werden.

  • Um der Verwaltung die Erfüllung dieser Pflichten zu ermöglichen, müssen die Transparenzanforderungen schon bei der Programmierung beachtet werden („Transparency by Design“). Die berechneten Ausgabedaten müssen jeweils um die Information ergänzt werden, welche Eingabedaten oder Bewertungen besonders relevant für das Ergebnis waren. Insbesondere bei selbstlernenden Systemen muss eine Unterstützung durch entsprechende Auswertungswerkzeuge      vorgesehen sein.

  • Dokumentation und  Protokollierung der Abläufe sowie wesentlicher Parameter sind unerlässlich, um die Sicherheit und Vertrauenswürdigkeit des Verfahrens zu schützen und etwaige Manipulationen zuverlässig erkennen zu können. Der Einsatz muss durch geeignete technische und organisatorische Maßnahmen      manipulationssicher gestaltet und die getroffenen Maßnahmen müssen einer regelmäßigen Evaluierung und Qualitätskontrolle unterzogen werden. Um eine umfassende Überprüfbarkeit zu gewährleisten, sollten den jeweiligen öffentlichen Stellen auch der Quelltext und ggf. andere relevante Informationen über die Algorithmen bzw. KI-Verfahren zur Verfügung gestellt werden und diese möglichst veröffentlicht werden.

 

  • Die öffentlichen Stellen müssen ferner die jeweils erforderlichen risikoadäquaten Sicherheitsmaßnahmen treffen. Abhängig vom konkreten Anwendungsfall können hierzu insbesondere auch manuelle Kontrollen, einfache Widerspruchsmöglichkeiten oder Rückabwicklungen von Entscheidungen gehören.

 

  • Die Verarbeitung darf unter keinen Umständen eine diskriminierende Wirkung entfalten. Vor diesem Hintergrund sind hohe Anforderungen an Auswahl und Entwicklung von Algorithmen und KI-Verfahren zu stellen, beispielsweise bei der Auswahl von Trainingsdaten für selbstlernende Systeme oder für in solchen Systemen eingesetzte Bewertungsfunktionen.

 

  • Jedenfalls beim Vorliegen von hohen Risiken für Bürgerinnen und Bürger muss vor der Entscheidung über einen Einsatz von Algorithmen und KI-Verfahren eine Folgenabschätzung      durchgeführt werden. Bei wesentlichen Veränderungen, die insbesondere bei selbstlernenden Systemen kontinuierlich erfolgen, muss diese Folgenabschätzung regelmäßig erneut durchgeführt werden. Bei besonders  sensiblen Anwendungsbereichen sollte die Zulassung der Algorithmen und KI-Verfahren zudem erst nach Überprüfung und Abnahme durch eine Art „Algorithmen-TÜV“ möglich sein.

Sowohl der Gesetzgeber als auch die öffentlichen Stellen müssen vor dem Hintergrund der Grundrechtsbindung der Verwaltung dafür Sorge tragen, dass diese Maßstäbe für den öffentlichen Bereich verbindlich festgelegt und umgesetzt werden. Darüber hinaus ist der Gesetzgeber dazu angehalten, entsprechende Vorgaben auch für die Privatwirtschaft zu normieren.



[1] Gesetzliche Verpflichtungen bestehen derzeit in: Hamburg, Bremen, Rheinland-Pfalz, Schleswig-Holstein (ab 1.1.2020).

[2] Urteil des Bundesverwaltungsgerichts vom 25.11.2004, Az. 5 CN 1.03.

Ort: Rathaus der Stadt Ulm, Marktplatz 1, 89073 Ulm

Beginn: 16.10.2018, 11:00 Uhr

Ende: 16.10.2018, 16:00 Uhr

 

Teilnehmende:

Berlin: Frau Smoltczyk

Brandenburg: Frau Hartge

Bremen: Frau Dr. Sommer

Bund: Herr Heyn, Herr Gronenberg

Hamburg: Herr Prof. Dr. Caspar

Hessen: Frau Topp, Herr Dr. Piendl

Mecklenburg-Vorpommern: Frau Schäfer

Nordrhein-Westfalen: Frau Block

Rheinland-Pfalz: Herr Prof. Dr. Kugelmann, Herr Mack

Saarland: Frau Grethel

Sachsen-Anhalt: Herr Dr. von Bose

Schleswig-Holstein: Frau Hansen

Thüringen: Herr Fellmann

Baden-Württemberg: Herr Dr. Brink, Herr Dr. Jacobi, Frau Groß, Frau Grullini

Gastreferent: Herr Semsrott, Journalist und Projektleiter bei „Frag den Staat“

 

TOP 1:       Begrüßung, Genehmigung der Tagesordnung und Genehmigung der Veröffentlichung des Protokolls des AKIF

Herr Dr. Brink, Landesbeauftragter von Baden-Württemberg, begrüßt die Teilnehmerinnen und Teilnehmer und eröffnet die 36. Konferenz der Informationsfreiheitsbeauftragten in Deutschland (IFK). Die Sitzung ist öffentlich.

Die IFK genehmigt einstimmig sowohl die Tagesordnung als auch das Protokoll sowie die Veröffentlichung des Protokolls des 37. AKIF in der geänderten Fassung (Stand: 12. Oktober 2018).

 

TOP 2:       Entschließungsentwurf: „Soziale Teilhabe durch konsequente Veröffentlichung von Verwaltungsvorschriften“

Die Entschließung wird nach Diskussion und geringfügigen Änderungen einstimmig von der Konferenz verabschiedet (siehe Anlage 1).

 

TOP 3:       Entschließungsentwurf: „Datenschutz und Informationsfreiheit gleichermaßen umsetzen“

Brandenburg und Hamburg sprechen sich gegen den Entwurf aus, da dieser inhaltlich unscharf sei und wenig konkrete Handlungsvorgaben für die öffentlichen Stellen enthalte. Schleswig-Holstein, Rheinland-Pfalz, Mecklenburg-Vorpommern, Baden-Württemberg und Bremen stimmen dafür, den Entwurf zu verabschieden, u.U. auch im Sinn eines ersten Aufschlags, dem im nächsten Jahr eine weitere Stellungnahme der IFK mit mehr Details und praktischen Anwendungsbeispielen folgen kann. Brandenburg, Hamburg und Nordrhein-Westfalen sprechen sich gegen diesen Vorschlag aus. Sachsen-Anhalt möchte den Gesichtspunkt einer Änderung der Verwaltungskultur aufnehmen.

Nach Diskussion beschließt die Konferenz einstimmig, dass eine Ad-hoc-Arbeitsgruppe unter Vorsitz von Schleswig-Holstein und unter Mitwirkung von Rheinland-Pfalz, dem Bund und Baden-Württemberg den Entwurf präzisiert und ergänzt und er sodann im Umlaufverfahren abgestimmt wird. Alle Informationsfreiheitbeauftragten sind eingeladen, sich sowohl durch Textbeiträge im Vorfeld als auch im Rahmen des Arbeitsgruppentreffens zu beteiligen. Schleswig-Holstein wird in Kürze einen Termin für das Treffen in Hamburg vorschlagen.

 

TOP 4:       Positionspapier: „Transparenz der Verwaltung beim Einsatz von Algorithmen für gelebten Grundrechtsschutz unabdingbar“

Basierend auf den Ergebnissen und Empfehlungen des Workshops vom 06. September 2018 verfassten Schleswig-Holstein, Berlin und Bremen einen Entschließungsentwurf, der im Vorfeld der IFK zur Vorabstimmung übersandt wurde.

Für den Fall, dass für den Entwurf keine Entschließung zustande kommt, hatten die verfassenden Länder den Text bereits so formuliert, dass es sich nicht um ein Dokument der IFK, sondern um ein Positionspapier der unterstützenden Länder handelt, das von diesen nach eigener Entscheidung verwendet werden kann.

Nach ausführlicher Diskussion kommt keine Entschließung zustande. Die verfassenden Länder sowie der Bund und weitere Länder beschließen daher das als Anlage 2 beigefügte Positionspapier.

 

TOP 5:       Vortrag von Herrn Semsrott: Einblicke in die Arbeit des Informationsportals „Frag den Staat“ und das neue Projekt „OpenSchufa“

Herr Semsrott trägt der IFK vor. Im Anschluss diskutieren die Teilnehmerinnen und Teilnehmer mit ihm über seinen Vortrag.

 

TOP 6:            Meinungsaustausch zum Thema Gebühren für IF-Anträge

Baden-Württemberg führt in das Thema ein und berichtet, dass die Gebühreneinnahmen nach einer Umfrage eher gering sind und keine Aufwandskompensation sein können. Die Vertreter aus Bund und Ländern berichten von den jüngsten Entwicklungen zum Thema Gebührenfreiheit für Informationsfreiheits-Anträge. Baden-Württemberg deklariert Gebührenfreiheit als klares Ziel und weist darauf hin, dass nur bei einer steigenden Zahl von Anfragen aus der Bevölkerung die vom Gesetzgeber angestrebten Ziele der Informationsfreiheit (Partizipation und Kontrolle) erreicht werden könnten. Sachsen-Anhalt schließt sich der Zielsetzung der Gebührenfreiheit an und berichtet von der Novelle des IZG LSA, nach welcher eine Geringwertigkeitsgrenze von fünfzig Euro gilt, wofür die Kommunen vom Land entschädigt werden. Es wird außerdem darauf hingewiesen, dass die Nutzung von Open-Data-Registern kostenfrei sei, was auf Dauer die Anträge auf Informationsfreiheit überholen könne. Ablehnende Bescheide sollten nach Ansicht von Sachsen-Anhalt stets gebührenfrei sein. Des Weiteren müsse auf eine Vereinheitlichung mit Umwelt- und Verbraucherinformationsrecht hingearbeitet werden, die deutlich niedrigere Gebühren vorsehen. Rheinland-Pfalz erachtet Gebührenfreiheit für sinnvoll und verweist darauf, dass der Aufwand für die Erstellung von Gebührenbescheiden oft in keinem Verhältnis zur Gebühr stehe und lediglich bei aufwendigen Sachverhalten notwendig sei. Thüringen sieht den Weg hin zur Gebührenfreiheit durch Gebührendeckelung. In Nordrhein-Westfalen und weiteren Ländern ist die Ablehnung eines Antrags auf Informationsfreiheit bereits gebührenfrei.

 

TOP 7:       Berichte aus Bund und Ländern/ Berichte aus den Ländern ohne IFG/ Reaktionen auf Entschließungen der IFK

Der Bund und die Länder berichten über die gesetzlichen Änderungen der Informationsfreiheitsgesetze im Zuge der Anpassungen an die DS-GVO.

Hinsichtlich der Befugnisse der BfDI und der Kooperationsverpflichtungen der Bundesbehörden wird § 12 Abs. 3 IFG künftig (explizit) auf das „alte“, vor Inkrafttreten der DS-GVO und des neuen BDSG gültige BDSG, verweisen. Das Bundes-IFG verweist weiterhin auf das BDSG-alt. § 5 IFG als „Scharnier- und Harmonisierungsnorm“ an der Nahtstelle von Informationsfreiheit und Datenschutzrecht soll terminologisch angepasst werden.

Sachsen-Anhalt bittet den Bund, zu Erfahrungen mit dem neuen Ansprechpartner nach § 12a EGovG des Bundes (Bundesverwaltungsamt für Bundesbehörden im Bereich von Open Data) zu berichten.

Schleswig-Holstein weist darauf hin, dass das IZG-SH hinsichtlich der Aufgaben und Befugnisse nach wie vor auf das (angesichts des Inkrafttretens der DS-GVO nunmehr neugeregelte) Landesdatenschutzgesetz SH (LDSG) verweist. Da einerseits das LDSG mit der Neuregelung die sanktionsbewehrte Tätigkeit gegenüber der beratenden Tätigkeit hervorhebt, diese Ausrichtung andererseits jedoch nicht auf den IZG-SH-Bereich übertragbar ist, ist der im IZG-SH enthaltene Verweis nicht mehr sachgerecht und zu großen Teilen nicht mehr umsetzbar.

Im Saarland sind die sich bislang aus einem Verweis auf das bisherige SDSG ergebenden Aufgaben und Befugnisse der Informationsfreiheitsbeauftragten nunmehr unverändert in das Saarländische Informationsfreiheitsgesetz übernommen worden. Eine Anordnungsbefugnis der Informationsfreiheitsbeauftragten wurde nicht geschaffen. Das Saarland verweist außerdem auf ein Urteil des OVG Saarland vom 11. Juni 2018 (Az.: 2 A 452/17) zum Verhältnis zwischen Informationsfreiheits-Anspruch und spezialgesetzlicher Zugangsregelung innerhalb des Kommunalselbstverwaltungsgesetzes.

Hessen berichtet, dass die Zusammenarbeit mit und die Umsetzung durch die Landesministerien gut angelaufen sei. Durch die Herausnahme der Kommunen würden Informationsfreiheitsanträge oft nicht beantwortet werden, da das hessische IFG aufgrund fehlender Satzungen in vielen Kommunen nicht gültig sei. Dies stoße auf Kritik bei den Bürgerinnen und Bürger.

Thüringen berichtet, dass der Gesetzentwurf zum Thüringer Transparenzgesetz seit Ende August im Kabinett beraten wird und voraussichtlich zur Jahreswende 2018/2019 in den Landtag eingebracht werden soll.

In Nordrhein-Westfalen wurde das IFG NRW mittels Artikelgesetz angepasst.

Im Landtag von Sachsen-Anhalt wird derzeit über einen Gesetzentwurf zur Einführung eines Informationsregisters beraten. Der Informationsfreiheitsbeauftragte hat vorgeschlagen, hierzu seine Dienststelle sowie zivilgesellschaftliche Organisationen im Anhörungsverfahren zu beteiligen. Außerdem wurde die Landesregierung zur Vorlage einer E-Government-Strategie und eines Open Data- Aktionsplans nach Vorbild des Bundes aufgefordert.

Das Berliner IFG soll in ein Transparenzgesetz überführt werden, ein Gesetzentwurf wird für 2019 erwartet. Die Gutachten des Wissenschaftlichen Parlamentsdienstes werden mittlerweile auf der Internetseite des Berliner Abgeordnetenhauses veröffentlicht.

In Rheinland-Pfalz müssen die Gutachten des Wissenschaftlichen Dienstes nach einem Urteil des OVG ebenfalls herausgegeben werden. Anhängig ist außerdem ein Verfahren in der Frage, ob Gutachten aus abgeschlossenen strafrechtlichen Ermittlungsverfahren herausgegeben werden müssen. Positiv falle auf, dass immer mehr Kommunen in Rheinland-Pfalz selbst Anträge nach dem rheinland-pfälzischen Landestransparenzgesetz stellen.

Baden-Württemberg berichtet von der Vorstellung einer Studie zur Vergütungs-transparenz von Top-Managementmitgliedern öffentlicher Unternehmen, die von Prof. Dr. Ulf Papenfuß (Zeppelin Universität, Lehrstuhl für Public Management & Public Policy) erarbeitet wurde und gemeinsam mit Herrn Dr. Brink am 30. August 2018 im Rahmen einer Pressekonferenz präsentiert wurde (VERGÜTUNGSTRANSPARENZ-RANKING 2018, https://www.baden-wuerttemberg.datenschutz.de/wp-content/uploads/2018/08/Papenfuss-et-al_Verguetungstransparenz-Ranking_2018.pdf).

 

TOP 8:       Termine des 38. AKIF und der 37. IFK im Saarland

Auf Vorschlag des Saarlands legen die Teilnehmenden als Termin für den 38. AKIF den 7. und 8. Mai 2019 und für die 37. Konferenz der Informationsfreiheitsbeauftragten in Deutschland den 12. Juni 2019 in Saarbrücken fest.

 

TOP 9:       Verschiedenes

Der Bund regt erneut an, bei künftigen Konferenzen einen wissenschaftlichen Teil, z. B. in Form von Fachvorträgen, aufzunehmen und die so thematisch und zeitlich erweiterte IFK künftig in der Regel einmal im Jahr durchzuführen (neues Format für die IFK). Der Vorschlag wird von einzelnen Landesbeauftragten wie z. B. Saarland als Ausrichterin der IFK im kommenden Jahr unterstützt. Des Weiteren wird erneut nachgefragt, ob der jeweilige Vorsitz der IFK künftig die Koordination der Praxis-Berichtsbeiträge zum „Jahrbuch für Informationsfreiheit“ übernehmen könnte, was der aktuelle Vorsitz weiterhin ablehnt. Das 5. IFG-Symposium zur Informationsfreiheit im September 2018 wurde erfolgreich durchgeführt.

Das Saarland greift den Vorschlag des Bundes hinsichtlich eines geänderten Formats für die IFK auf und schlägt vor, bei nur einer Konferenz im Jahr den Beginn der Konferenz auf z. B. 9 Uhr vorzuverlegen, damit ausreichend Zeit für die Diskussion und den Austausch bleibe.

 

Anlage 1:

 

Entschließung der 36. Konferenz der Informationsfreiheitsbeauftragten in Deutschland am 16. Oktober 2018 in Ulm

 

Soziale Teilhabe braucht konsequente Veröffentlichung von Verwaltungsvorschriften!

Eine offene und transparente Verwaltungskultur ist eine Voraussetzung dafür, dass sich Bürgerinnen und Bürger und Staat auf Augenhöhe begegnen. Die Konferenz der Informationsfreiheitsbeauftragten in Deutschland fordert die Sozialleistungsträger auf, Verwaltungsvorschriften antragsunabhängig, zeitnah und benutzerfreundlich zu veröffentlichen, soweit sie dazu nicht bereits gesetzlich verpflichtet sind.[1]

Soziale Teilhabe aller Menschen in unserer Gesellschaft folgt aus dem im Grundgesetz verankerten Sozialstaatsprinzip. Ausdruck dieses Prinzips ist ein soziales Sicherungssystem, das durch Sozialleistungen auf Grundlage der Sozialgesetzbücher einen Grundstandard an sozialer Sicherheit gewährleisten soll. Nur informierte Bürgerinnen und Bürger können sie betreffende Entscheidungen von Sozialleistungsträgern verstehen, Ansprüche geltend machen, aber auch Pflichten wahrnehmen.

Alle Sozialleistungsträger bedienen sich Verwaltungsvorschriften, um innerhalb ihrer Behörde eine einheitliche Bearbeitungs- bzw. Entscheidungspraxis sicherzustellen. Verwaltungsvorschriften sind interne Weisungen, die regeln, wie Gesetze auszulegen und anzuwenden sind. Zwar binden Verwaltungsvorschriften unmittelbar nur die Verwaltung selbst; die auf ihrer Grundlage getroffenen Entscheidungen wirken aber nach außen. Verwaltungsvorschriften sind daher bekannt zu geben, damit „der Betroffene (…) sich des Inhalts der durch sie für ihn begründeten Rechte und Pflichten vergewissern[2] kann. So agieren in diesem Bereich etwa die Bundesagentur für Arbeit sowie die Deutsche Rentenversicherung, die aktuelle Weisungen veröffentlichen. Viele andere Sozialleistungsträger geben die Informationen hingegen allenfalls auf Antrag heraus.

Anlage 2

 

Im Rahmen der 36. Konferenz der Informationsfreiheitsbeauftragten in Deutschland haben die genannten Informationsfreiheitsbeauftragten nachfolgendes Positionspapier

 

„Transparenz der Verwaltung beim Einsatz von Algorithmen

für gelebten Grundrechtsschutz unabdingbar“

 

beschlossen: 

  • die Bundesbeauftragte für den Datenschutz und die Informationsfreiheit,
  • die Berliner Beauftragte für Datenschutz und Informationsfreiheit,
  • die Landesbeauftragte für Datenschutz und Informationsfreiheit der Freien Hansestadt Bremen,
  • der Landesbeauftragte für den Datenschutz und die Informationsfreiheit      Mecklenburg-Vorpommern,
  • der Landesbeauftragte für den Datenschutz und die Informationsfreiheit Rheinland-Pfalz,
  • der Landesbeauftragte für den Datenschutz und die Informationsfreiheit Sachsen-Anhalt,
  • die Landesbeauftragte für Datenschutz Schleswig-Holstein,
  • der Thüringer Landesbeauftragte für den Datenschutz und die Informationsfreiheit     
  • und der Landesbeauftragte für den Datenschutz und die Informationsfreiheit Baden-Württemberg.

 

Ulm, 16. Oktober 2018


 

Positionspapier

 

Transparenz der Verwaltung beim Einsatz von Algorithmen

für gelebten Grundrechtsschutz unabdingbar

 

Bereits heute werden Entscheidungen der öffentlichen Verwaltung durch automatisierte Datenverarbeitungsvorgänge unter Zuhilfenahme von Algorithmen und künstlicher Intelligenz (KI) nicht nur automatisiert vorbereitet, sondern teilweise sogar voll automatisiert getroffen.

Der Einsatz von Algorithmen und KI kann zwar Effizienzsteigerungen bewirken und Auswertungen großer Datenmengen erleichtern bzw. überhaupt erst ermöglichen. Die Verwaltung trägt jedoch eine hohe Verantwortung, den Einsatz von Algorithmen und KI-Verfahren insbesondere im Zusammenhang mit behördlicher Entscheidungsfindung rechtmäßig zu gestalten. Sie ist den Grundwerten unserer Verfassung in besonderer Weise verpflichtet. Nur wenn ihr Handeln unzweifelhaft unserer Rechtsordnung entspricht, wird sie das Vertrauen der Bürgerinnen und Bürger erhalten. Dies ist für das Funktionieren unseres Staates existentiell. Elementar sind in diesem Zusammenhang die Beachtung der Menschenwürde und des Diskriminierungsverbots. Vor diesem Hintergrund stellt es ein großes Problem dar, dass Algorithmen und KI derzeit meist völlig intransparent funktionieren. Mit welchen Kriterien und Wertvorstellungen sie „gefüttert“ werden und inwieweit die erzielten Ergebnisse dem Grundsatz der Gesetzmäßigkeit der Verwaltung entsprechen, ist für die Betroffenen in aller Regel nicht nachzuvollziehen. Die eingesetzten Algorithmen und KI-Verfahren müssen daher transparent gemacht werden, damit Bürgerinnen und Bürger, aber auch die Verwaltung selbst das Zustandekommen der Entscheidungen nachvollziehen können.

Neben automatisierten Entscheidungen, die Bürgerinnen und Bürger unmittelbar betreffen, müssen auch Entscheidungen der Verwaltung ohne Bezug zu konkreten Personen, etwa bei der Planung von Verkehrswegen oder bei fiskalischem Handeln, nachvollziehbar sein.

Je höher das Risiko und je einschneidender die möglicherweise nachteiligen Auswirkungen für die betroffenen Menschen sein können, desto strenger muss geprüft werden, ob Algorithmen oder KI-Verfahren überhaupt grundrechtskonform eingesetzt werden können, ob die Verfahren sich ordnungsgemäß durchführen lassen und welche Folgen entstehen können. Unabdingbar für eine solche Folgenabschätzung ist eine ausreichende Transparenz über die Algorithmen und Verfahren der künstlichen Intelligenz. Zudem müssen die errechneten Ergebnisse vorhersehbar und nachvollziehbar sein; gleichartige Eingaben müssen stets zu gleichartigen Ausgaben führen.

Nach den Grundsätzen der Informationsfreiheit und der Verwaltungstransparenz müssen die für die Verwaltung essentiellen Informationen über die von ihr eingesetzten Algorithmen sowie KI-Verfahren auch der Öffentlichkeit zur Verfügung gestellt werden.

Die unterstützenden Informationsfreiheitsbeauftragten fordern daher den Bundes- sowie die Landesgesetzgeber auf, öffentliche Stellen noch konsequenter als bislang zu einem transparenten, verantwortungsvollen Einsatz von Algorithmen und KI-Verfahren zu verpflichten. Es bietet sich an, entsprechende Transparenzvorschriften in den jeweiligen Informationsfreiheits- bzw. Transparenzgesetzen oder in den einschlägigen Fachgesetzen zu verankern. Ausnahmen sollten dabei auf ein Minimum beschränkt werden.

Im Einzelnen sind daher dringend folgenden Anforderungen umzusetzen: 

  • Öffentliche Stellen müssen vor dem Einsatz von Algorithmen und KI-Verfahren prüfen, inwieweit dieser Einsatz überhaupt grundrechtskonform möglich ist. Bestehen nach einer sorgfältigen Prüfung Zweifel, beispielsweise wenn ausreichende      Nachvollziehbarkeit, Überprüfbarkeit und Beherrschbarkeit nicht gegeben sind, muss auf den Einsatz verzichtet werden.

 

  • Öffentliche Stellen müssen für ausreichende Transparenz über die eingesetzten Algorithmen sorgen. Für einen beherrschbaren Einsatz der Technik müssen sie über aussagekräftige, umfassende und allgemein verständliche Informationen bezüglich der eigenen      Datenverarbeitungen verfügen. Dazu gehören vor allem
    • die Datenkategorien der Ein- und Ausgabedaten des Verfahrens,
    • die darin enthaltene Logik, insbesondere die verwendeten Berechnungsformeln einschließlich der Gewichtung der Eingabedaten, Informationen über das zugrundeliegende Fachwissen und die individuelle Konfiguration durch die Anwendenden und
    • die Tragweite der darauf basierenden Entscheidungen sowie die möglichen Auswirkungen der Verfahren.

Soweit dies rechtlich möglich ist, sollten diese Informationen veröffentlicht werden.

  • Um der Verwaltung die Erfüllung dieser Pflichten zu ermöglichen, müssen die Transparenzanforderungen schon bei der Programmierung beachtet werden („Transparency by Design“). Die berechneten Ausgabedaten müssen jeweils um die Information ergänzt werden, welche Eingabedaten oder Bewertungen besonders relevant für das Ergebnis waren. Insbesondere bei selbstlernenden Systemen muss eine Unterstützung durch entsprechende Auswertungswerkzeuge      vorgesehen sein.

  • Dokumentation und  Protokollierung der Abläufe sowie wesentlicher Parameter sind unerlässlich, um die Sicherheit und Vertrauenswürdigkeit des Verfahrens zu schützen und etwaige Manipulationen zuverlässig erkennen zu können. Der Einsatz muss durch geeignete technische und organisatorische Maßnahmen      manipulationssicher gestaltet und die getroffenen Maßnahmen müssen einer regelmäßigen Evaluierung und Qualitätskontrolle unterzogen werden. Um eine umfassende Überprüfbarkeit zu gewährleisten, sollten den jeweiligen öffentlichen Stellen auch der Quelltext und ggf. andere relevante Informationen über die Algorithmen bzw. KI-Verfahren zur Verfügung gestellt werden und diese möglichst veröffentlicht werden.

 

  • Die öffentlichen Stellen müssen ferner die jeweils erforderlichen risikoadäquaten Sicherheitsmaßnahmen treffen. Abhängig vom konkreten Anwendungsfall können hierzu insbesondere auch manuelle Kontrollen, einfache Widerspruchsmöglichkeiten oder Rückabwicklungen von Entscheidungen gehören.

 

  • Die Verarbeitung darf unter keinen Umständen eine diskriminierende Wirkung entfalten. Vor diesem Hintergrund sind hohe Anforderungen an Auswahl und Entwicklung von Algorithmen und KI-Verfahren zu stellen, beispielsweise bei der Auswahl von Trainingsdaten für selbstlernende Systeme oder für in solchen Systemen eingesetzte Bewertungsfunktionen.

 

  • Jedenfalls beim Vorliegen von hohen Risiken für Bürgerinnen und Bürger muss vor der Entscheidung über einen Einsatz von Algorithmen und KI-Verfahren eine Folgenabschätzung      durchgeführt werden. Bei wesentlichen Veränderungen, die insbesondere bei selbstlernenden Systemen kontinuierlich erfolgen, muss diese Folgenabschätzung regelmäßig erneut durchgeführt werden. Bei besonders  sensiblen Anwendungsbereichen sollte die Zulassung der Algorithmen und KI-Verfahren zudem erst nach Überprüfung und Abnahme durch eine Art „Algorithmen-TÜV“ möglich sein.

Sowohl der Gesetzgeber als auch die öffentlichen Stellen müssen vor dem Hintergrund der Grundrechtsbindung der Verwaltung dafür Sorge tragen, dass diese Maßstäbe für den öffentlichen Bereich verbindlich festgelegt und umgesetzt werden. Darüber hinaus ist der Gesetzgeber dazu angehalten, entsprechende Vorgaben auch für die Privatwirtschaft zu normieren.



[1] Gesetzliche Verpflichtungen bestehen derzeit in: Hamburg, Bremen, Rheinland-Pfalz, Schleswig-Holstein (ab 1.1.2020).

[2] Urteil des Bundesverwaltungsgerichts vom 25.11.2004, Az. 5 CN 1.03.