Algorithmen und künstliche Intelligenz in der Verwaltung

Chancen und Risiken, demokratische Legitimation und rechtsstaatliche Kontrolle

Einführung

Die Digitalisierung unserer Welt führt in Wirtschaft, Staat und Gesellschaft dazu, dass technische Systeme in Entscheidungsprozesse einbezogen werden oder sogar autonom entscheiden. Diese Entscheidungssysteme basieren auf Algorithmen, auf die sich zunehmend die Aufmerksamkeit der Öffentlichkeit richtet.

Werden Algorithmen und Systeme künstlicher Intelligenz (KI) in die Steuerungs- und Entscheidungsprozesse der öffentlichen Verwaltung einbezogen, wirft dies Fragen in Bezug auf die demokratische Legitimation ihres Einsatzes, den Grundrechtsschutz, das Rechtsstaatprinzip und den effektiven Rechtsschutz durch die Verwaltungsgerichte auf.

Die Veranstaltung am 12. Oktober 2018 sollte diese Fragen adressieren.

Es sollten die Wirkungen und der Nutzen von Algorithmen und künstlicher Intelligenz in der öffentlichen Verwaltung, die aus ihrer Einbindung erwachsenden Probleme für den Grundrechts- und Datenschutz, das Rechtsstaats- und Demokratieprinzip und die Verwaltungsgerichtsbarkeit identifiziert werden. Es sollten Lösungsansätze für diese Probleme entwickelt und diskutiert werden. Wir strebten hierbei einen interdisziplinären Austausch an der Schnittstelle von Technik und Recht an.

Wir haben uns auch im Namen der anderen Mitveranstalter gefreut, Sie am 12. Oktober 2018 im Großen Festsaal des Hamburger Rathauses anlässlich des Senatsempfanges begrüßen zu dürfen. Das gesamte Programm der Tagung können Sie der folgenden Übersicht entnehmen.

Friedrich-Joachim Mehmel

Friedrich-Joachim Mehmel

Präsident des Hamburgischen Oberverwaltungsgerichts und des Hamburgischen Verfassungsgerichts, Vorsitzender des Rechtsstandort Hamburg e.V.

Prof. Dr. Wolfgang Schulz

Prof. Dr. Wolfgang Schulz

Direktor des Hans-Bredow-Instituts, Lehrstuhl für Medienrecht, Öffentliches Recht und Rechtstheorie, Universität Hamburg

Thesen

9 Thesen zu Chancen und Risiken, demokratischer Legitimation und rechtsstaatlicher Kontrolle bei der Algorithmisierung der Verwaltung

  1. Das Potential für die Unterstützung von Verwaltungsentscheidungen durch auf algorithmischer Datenverarbeitung basierende Systeme ist groß. Hinter dem – missverständlichen – Begriff der „künstlichen Intelligenz“ verbergen sich Leistungssteigerungen der Systeme in Hinblick vor allem auf das Klassifizieren, Optimieren, das Entdecken von Anomalien und das Vorhersagen angeht. Das Verwaltungsverfahren kann effektiver und effizienter gestaltet werden.
  2. Bei der Entwicklung und Implementierung von technischen Systemen in der Verwaltung ist die Überprüfbarkeit auch durch Verwaltungsgerichte mitzudenken. Dies schließt den Einsatz von Systemen auf Basis maschinellen Lernens und neuronaler Netze nicht aus, stellt aber Anforderungen vor allem an Nachvollziehbarkeit, Erklärbarkeit, Inspizierbarkeit und Transparenz.
  3. Grundsätze der Rechtsstaatlichkeit, die Notwendigkeit demokratischer Legitimation und die durch Grundrechte gezogenen Grenzen sollten bereits bei der Gestaltung der Systeme beachtet werden („Rule of Law by Design“). Dies wird um so wichtiger, je autonomer die technischen Systeme agieren. Entsprechende Zertifizierungen könnten helfen, bei neuen Projekten auf gute Praktiken aufzubauen, die anderswo entwickelt wurden. Dazu gehört auch die Qualitätssicherung der Datensätze, die für maschinelles Lernen genutzt werden.
  4. Entscheidend für die rechtliche Beurteilung der Einbeziehung von Algorithmen ist das gesamte soziotechnische System. Dass – wie oft gefordert – letztlich ein Mensch entscheidet, verändert nur dann die Entscheidungsqualität, wenn er oder sie im Prozess tatsächlich eine eigenständige Entscheidung treffen kann. Die Einführung neuer Technologien sollte zudem aus (berufs-)ethischer Perspektive beständig reflektiert werden.
  5. Vor jedem Einsatz von Systemen, die Künstliche Intelligenz nutzen, sollte eine einsatzfeldspezifische Folgenabschätzung stattfinden, die veröffentlicht und später regelmäßig mit der tatsächlichen Entwicklung abgeglichen wird.
  6. Bei der Entwicklung von Systemen hat die Verwaltung als Nachfrager die Möglichkeit, den Alternativreichtum von am Markt verfügbaren Systemen zu erhöhen und so Pfadabhängigkeiten und Vermachtungen zu reduzieren. Dabei kann die Kooperation mit der Startup-Szene hilfreiche Impulse geben.
  7. Eine gerichtliche Entscheidung kann aus rechtlichen Gründen nicht von technischen Systemen selbständig getroffen werden. Der reflektierte, assistierende Einsatz von technischen Systemen kann aber eine Antwort auf die Zunahme der Komplexität richterlicher Tätigkeit bei erhöhtem Bedürfnis nach rascher Entscheidung sein.
  8. Die Einführung der Systeme in Verwaltung und Verwaltungsgerichtsbarkeit setzt entsprechendes Wissen voraus; dies betrifft auch den Gesetzgeber, der die Grundlagen für das Handeln schafft. Modellprojekte sollten daher Wissenspartnerschaften zwischen Verwaltung, Verwaltungsgerichtsbarkeit, Wissenschaft und Wirtschaft fördern. Das experimentelle Ausprobieren von neuen Regeln (bspw. durch „Sandboxing“) gehört dazu.
  9. Die Optimierung des Einsatzes technischer Systeme mit Blick auf die rechtlichen Anforderungen ist ein fortlaufender interdisziplinärer Prozess. Er setzt voraus, dass innerhalb der Einsatzfelder aber auch übergreifend gelernt werden kann. Wegen der Erfahrung mit der Zusammenarbeit über die Grenzen von Disziplinen und Theorie und Praxis hinweg bietet sich Hamburg als Plattform dafür an.

Downloads

Programm

Freitag, 12. Oktober 2018 | Rathaus Hamburg

Das Thema wurde zunächst in einem nicht-öffentlichen Teil am Vor- und Nachmittag im Kreis von Expertinnen und Experten beleuchtet.

Nach den Keynotes von Professor Dr. Martin Eifert (Humboldt-Universität zu Berlin) und Professor Dr. Christian Bauckhage (Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS) wurde das Thema in kleinen interdisziplinären Arbeitsgruppen vertieft.

In diesen wurden die Teilnehmerinnen und Teilnehmer gebeten, ein 3- bis 5-minütiges Inputreferat zu halten, das einen Denkimpuls zum Thema der Arbeitsgruppe lieferte.

Die Ergebnisse der Arbeitsgruppen wurden zunächst im Kreis der Workshopteilnehmerinnen und teilnehmer vorgestellt. Sie flossen in die anschließende, im Rahmen des um 16.45 Uhr beginnenden Senatsempfanges stattfindende Podiumsdiskussion ein und wurden diskutiert.

ab 10:00 Uhr
Ankunft und Registrierung
  • Staatsrat Jan Pörksen
    Leiter der Senatskanzlei
  • Prof. Dr. Wolfgang Schulz
    Direktor Hans-Bredow-Institut für Medienforschung, Lehrstuhl für Medienrecht und Öffentliches Recht einschließlich ihrer theoretischen Grundlagen an der Universität Hamburg
  • Friedrich-Joachim Mehmel
    Präsident des Hamburgischen Verfassungsgerichts und des Hamburgischen Oberverwaltungsgericht, Vorsitzender Rechtsstandort Hamburg e.V.

Redner

  • Prof. Dr. Martin Eifert
    Humboldt-Universität zu Berlin
  • Prof. Dr. Christian Bauckhage
    Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS

Downloads

Keynote herunterladen

Thesen

Thesen herunterladen

Teilnehmer

  • Prof. Dr. Christian Bauckhage
    Frauenhofer IAIS
  • Prof. Dr. Johannes Caspar
    Hamburgischer Beauftragter für den Datenschutz
  • Dr. Christian Ernst
    Bucerius Law School, Hamburg
  • Prof. Dr. Anna-Bettina Kaiser
    Humboldt-Universität zu Berlin, Rechtswissenschaften (unter Vorbehalt)
  • Resa Mohabbat Kar
    Fraunhofer FOKUS, Kompetenzzentrum Öffentliche IT
  • Prof. Dr. Stephan Meyer
    Technische Hochschule Wildau, Fachbereich Wirtschaft, Informatik und Recht
  • Paul Nemitz
    Principal Adviser European Commission Brussels, Mitglied der Datenethikkommission der Bundesregierung
  • Prof. Dr. Peter Parycek
    Donau-Universität Krems (Leitung Department für E-Governance in Wirtschaft und Verwaltung), Leitung Kompetenzzentrum Öffentliche IT am Fraunhofer FOKUS; Mitglied des Digitalrats der Bundesregierung
  • Prof. Dr. Judith Simon
    Universität Hamburg, Fachbereich Informatik, Philosophin, Mitglied der Datenethikkommission der Bundesregierung

Thesen

Thesen herunterladen

Teilnehmer

  • Matthias Frohn
    Geschäftsführer Bundesnotarkammer
  • Dr. Philipp Hammerich
    rightmart Rechtsanwaltsgesellschaft mbH
  • Dr. Philipp Kadelbach
    Höch Kadelbach Rechtsanwälte
  • Martin Raulf
    Dataport, Leiter Lösungen Finanzen, Jugend und Sozialwesen
  • Prof. Dr. Ingrid Schirmer
    Universität Hamburg, Informatik, Informationstechnikgestaltung
  • Dr. Jan Chr. Schumann
    Lehrbereich IV der Bundesfinanzakademie im Bundesministerium der Finanzen
  • Basanta Thapa
    Fraunhofer FOKUS, Kompetenzzentrum Öffentliche IT
  • Dr. Sebastian Thieme
    KPMG AG WPG
  • Prof. Dr. Jörn von Lucke
    Zeppelin Universität Friedrichshafen, Verwaltung- und Wirtschaftsinformatik, The Open Government Institute

Plattformregulierung, Kapitalmarktregulierung

  • Tim Angerer
    Leiter des Amtes für Medien, Behörde für Kultur und Medien Hamburg
  • Dr. Sven Bode
    Mitgründer und Geschäftsführer von myRight
  • Prof. Dr. Roland Broemel
    Universität Frankfurt, Rechtswissenschaft, Öffentliches Recht
  • Prof. Dr. Hannes Federrath
    Universität Hamburg, Informatik, Security in Distributed Systems
  • Prof. Dr. Thomas Fetzer
    Universität Mannheim, Rechtswissenschaft, Dir. Mannheim Centre for Innovation and Competition (MaCCI) und des Mannheim Taxation ScienceCampus (MaTax)
  • Prof. Dr. Albert Ingold
    Universität Mainz, Rechtswissenschaft, Plattformregulierung
  • Prof. Dr. Wolf-Georg Ringe
    Universität Hamburg, Direktor Institut für Recht und Ökonomik
  • Prof. Dr. Hans-Heinrich Trute
    Universität Hamburg, Öffentliches Recht, Medien- und Telekommunikationsrecht
  • Prof. Dr. Kai von Lewinski
    Universität Passau, Öffentliches Recht, Medien- und Informationsrecht

Thesen

Thesen herunterladen

Teilnehmer

  • Prof. Dr. Thilo Böhmann
    Universität Hamburg, Informatik, Service Systems Engineering
  • Prof. Dr. Martin Eifert
    Humboldt Universität zu Berlin, Rechtswissenschaft, Verwaltungs- und Medienrecht
  • Prof. Dr. Annette Guckelberger
    Universität des Saarlandes, Rechtswissenschaft, Öffentliches Recht, E-Government
  • PD Dr. Nikolaus Marsch
    Universität Freiburg, Rechtswissenschaft, Karlsruher Institut für Technologie
  • Prof. Dr. Thomas Mayen
    Dolde Mayen & Partner, Rechtsanwalt
  • PD Dr. Martin Fries
    Universität München, Rechtswissenschaft
  • Jan Mysegardes
    Forschungsreferent Im Programm "Transformation des Staates in Zeiten der Digitalisierung", Deutsches Forschungsinstitut für die öffentliche Verwaltung Speyer
  • Jan Stemplewitz
    Richter am Verwaltungsgericht Hamburg, z.Zt. abgeordnet an das Oberverwaltungsgericht Hamburg
  • Prof. Dr. Rainer Stollhof
    Technische Universität Wildau, Fachbereich Wirtschaft, Informatik und Recht
15:30 - 16:30 Uhr
Zusammenfassung und Präsentation der Ergebnisse

Videos

Begrüßung und Einführung

  • Dr. Peter Tschentscher
    Erster Bürgermeister der Freien und Hansestadt Hamburg
  • Friedrich-Joachim Mehmel
    Präsident des Hamburgischen Verfassungsgerichts und des Hamburgischen Oberverwaltungsgericht, Vorsitzender Rechtsstandort Hamburg e.V.

Teilnehmer

  • Prof. Dr. Christian Bauckhage
    Fraunhofer-Institut für intelligente Analyse und Informationssysteme IAIS
  • Prof. Dr. Martin Eifert
    Humboldt Universität zu Berlin, Rechtswissenschaft
  • Katja Günther
    Staatsrätin, Justizbehörde der Freien und Hansestadt Hamburg
  • Lorena Jaume-Palasi
    Gründerin, The Ethical Tech Society
  • Paul Nemitz
    Principal Adviser European Commission, Brussels, Mitglied der Datenethikkommission der Bundesregierung
  • Prof. Dr. Judith Simon
    Universität Hamburg, Fachbereich Informatik, Philosophin, Mitglied der Datenethikkommission der Bundesregierung

Diskussionsleitung

  • Prof. Dr. Wolfgang Schulz
    Direktor Hans-Bredow-Institut für Medienforschung, Lehrstuhl für Medienrecht und Öffentliches Recht einschließlich ihrer theoretischen Grundlagen, Universität Hamburg
18:30 - 20:30 Uhr
Senatsempfang

Veranstalter

  • Hamburger Forum zur Zukunft der Verwaltungsgerichtsbarkeit
  • Hans-Bredow-Institut für Medienforschung an der Universität Hamburg
  • Fachbereich Informatik der Universität Hamburg
  • Rechtsstandort Hamburg e.V.
  • Senatskanzlei Hamburg
Cookies helfen uns bei der Bereitstellung unserer Dienste. Durch die Nutzung dieser Website stimmen Sie der Nutzung von Cookies zu. OK