Grüne Vorstösse im Kantonsparlament Luzern - Aktuell

Anfrage über den Einsatz von Algorithmen und künstlicher Intelligenz in der Luzerner Verwaltung

3. Dezember 2018

Hans Stutz und Mitunterzeichnende bitten den Regierungsrat mit einer Anfrage um die Beantwortung verschiedener Fragen im Zusammenhang mit dem Einsatz von auf Algorithmen basierenden automatisierten Entscheidungsverfahren.

Die Digitalisierung von Daten und Arbeitsprozessen ermöglicht immer öfter den Einsatz von Algorithmen, um Entscheidungen zu treffen. Dies sind sogenannte automatisierte Entscheidungsverfahren basierend auf Algorithmen (im Folgenden kurz algorithmische Entscheidungsverfahren genannt). In einer höheren Form, falls diese Algorithmen selber lernen können, ist von künstlicher Intelligenz beziehungsweise Machine-Learning die Rede: In solchen Verfahren wird nur noch das Ziel vorgegeben, das System berechnet selber den effektivsten Weg beziehungsweise den Algorithmus dazu.

Algorithmische Entscheidungsverfahren können Arbeitsprozesse im Zusammenspiel mit Menschen erleichtern oder mühsame, repetitive Verfahren übernehmen, welche dann gar nicht mehr von Menschen erledigt werden müssen. In gewissen Fällen können solche Entscheidungsverfahren fairer sein als menschliche Entscheidungen, weil sie auf klar definierten Kriterien beruhen und diese durchsetzen. Sie können aber auch soziale Vorurteile übernehmen und verstärken. Eine wichtige Voraussetzung dafür, dass Algorithmen den Menschen nützen, ist, dass diese Kriterien die Prämissen für die Entscheidung des Algorithmus transparent sind. Der Einsatz solcher Verfahren will gut überlegt und kontrolliert sowie der Einfluss auf die Gesellschaft abgewogen sein. Besonders in Verfahren, die Einwohnerinnen und Einwohner direkt betreffen, ist bei der Gestaltung und Kontrolle der Entscheidungsverfahren grösste Sorgfalt anzuwenden.

Bereits sind Beispiele des Einsatzes solcher Entscheidungsverfahren aus anderen Kantonen und vom Bund bekannt, besonders im Bereich Polizei und Justiz oder Migration. Da Luzern über kein Öffentlichkeitsprinzip für die Verwaltung verfügt, ist für Aussenstehende nicht ersichtlich und erfahrbar, wo im Kanton Luzern Entscheidungsverfahren auf Algorithmen oder sogar künstlicher Intelligenz basieren.

Wir bitten den Regierungsrat um Antworten auf folgende Fragen:
  1. In welchen Prozessen und Stellen setzen die Verwaltung und öffentliche Einrichtungen des Kantons Luzern automatisierte Entscheidungsverfahren basierend auf Algorithmen oder künstlicher Intelligenz ein?
  2. Sind die Kriterien, nach welchen die Algorithmen entscheiden, für Anwenderinnen und Anwender transparent?
  3. Wie kommuniziert der Kanton den Einsatz solcher Verfahren gegenüber den von solchen Entscheiden Betroffenen?
  4. Verfügt der Kanton Luzern über definierte Kriterien, in welchen Bereichen und unter welchen Bedingungen algorithmische Entscheidungsverfahren eingesetzt werden? Wenn ja, welche?
  5. Welche Verfahren verwendet der Kanton, um die Qualität der algorithmischen Entscheidungsverfahren zu sichern?
  6. Plant der Kanton, den Einsatz und die Kriterien wie auch die Qualität algorithmischer Entscheidungsverfahren künftig auch für die Öffentlichkeit transparent zu machen?
  7. In Fällen von künstlicher Intelligenz: Mit welcher Datengrundlage wurden die Systeme trainiert?