„Das Zertifikat soll bestätigen, dass Algorithmen bestimmte Kriterien erfüllen. Wir müssen uns auf gemeinsame Standards verständigen, die weitgehend verhindern, dass Algorithmen diskriminierend wirken oder der Vertrauensschutz der Nutzerinnen und Nutzer im Hinblick auf Daten verletzt wird“, so die Ministerpräsidentin. Der Landesrat für digitale Entwicklung und Kultur, dem Persönlichkeiten aus Wissenschaft, Wirtschaft und Zivilgesellschaft angehören und der die Ministerpräsidentin berät, fordert zudem den Aufbau einer Stelle, die die Zertifizierung durchführt. Sie soll die Einhaltung der Kriterien prüfen und als Beschwerdestelle für Nutzerinnen und Nutzer dienen. Außerdem sei eine Intensivierung der Anstrengungen zur sicheren Beherrschung wichtiger innovativer Technologien und Anwendungen notwendig, zum Beispiel Technologien aus dem Bereich der künstlichen Intelligenz und Anwendungen in autonomen Systemen.
Ausdrücklich begrüßte Ministerpräsidentin Malu Dreyer das vom Bundesverband der Verbraucherzentralen veröffentlichte Thesenpapier „Algorithmenbasierte Entscheidungsprozesse“. „Wir stellen als Gesellschaft noch zu wenig Fragen hinsichtlich Algorithmen und ihrer Wirkung“, erklärte die Ministerpräsidentin. „Wie viel Entscheidungsmacht wollen wir an Algorithmen abgeben, wie sollen Algorithmen abgesichert werden und wie kann die Gesellschaft bestmöglich von Algorithmen profitieren? Diese Fragen müssen gesamtgesellschaftlich breiter diskutiert werden.“
Automatisierte Entscheidungsfindungen durch Algorithmen seien weit verbreitet, erläuterte die Ministerpräsidentin. Sie würden in Zukunft zunehmend durch Technologien wie künstliche Intelligenz unterstützt. Diese Automatismen seien in vielen Fällen im Sinne des Benutzers, beispielsweise wenn ein Algorithmus im Navigationsgerät den besten Weg ohne Baustellen und Staus umgehend von alleine errechne. „Algorithmen können aber auch diskriminierend wirken“, so die Ministerpräsidentin. Sie verwies auf Fälle aus den USA, in denen Bewerbungen durch Computerprogramme vorsortiert würden. Algorithmen seien zudem bei Versicherungsunternehmen imstande, die Lebenserwartung von Menschen zu berechnen, und seien so an der Entscheidung beteiligt, welcher Kunde welchen Tarif bekomme. Das sei den Nutzerinnen und Nutzern oftmals gar nicht bewusst.
|
Digitalisierung
Mehr Transparenz bei automatisierten Entscheidungen durch Algorithmen
„Bei automatisierten Entscheidungen, die von Algorithmen getroffen werden, muss es mehr Transparenz und eine unabhängige Kontrolle geben“, forderte Ministerpräsidentin Malu Dreyer. Die Ministerpräsidentin schlägt hierzu vor, eine bundesweite Zertifizierung von Algorithmen sowie eine Beschwerdestelle für Nutzerinnen und Nutzer einzuführen.
© dpa