Technologiefolgeabschätzung, digitale Gleichbehandlung, Antidiskriminierung und Verbraucherschutz

Die Digitalisierung führt zu einer tiefgreifenden Umgestaltung etablierter sozialer und wirtschaftlicher Handlungsmodelle und Verhaltensmuster. Die Auswirkungen der Vernetzung in sozialen Medien, die Restrukturierung von Märkten in Plattformen, die Konsequenzen von datengetriebenen Geschäftsmodellen oder die Auswirkungen von Automatisierung und künstlicher Intelligenz auf gesellschaftliche, wirtschaftliche sowie politische Prozesse müssen erfasst, diskutiert und auf die Vereinbarkeit mit übergeordneten Zielen wie Gleichbehandlung, Antidiskriminierung oder Verbraucherinnen- und Verbraucherschutz überprüft werden.

Auch hier formuliert die „Declaration of Cities Coalition for Digital Rights“ Leitlinien. Der verantwortungsvolle Umgang mit künstlicher Intelligenz (KI) muss sichergestellt werden.

Digitale Dienste brauchen offene und ethische Standards.

Eine zunehmende digitale Teilhabe muss nicht nur möglichst alle Bürgerinnen und Bürger fair einbinden, sondern es muss sichergestellt sein, dass deren Teilhabe auch eine tatsächliche Gleichbehandlung bedeutet und niemand aufgrund bestimmter Merkmale benachteiligt wird oder bspw. in Partizipationsformaten bestimmten merkmalsbezogenen Gruppen weniger Gewicht als anderen beigemessen wird.

Es gilt zudem, Diskriminierungsrisiken bei dem zunehmenden Einsatz von Algorithmen und automatisierten Entscheidungsprozessen zu beachten. Gleichermaßen muss der Schutz vor neuen Formen der Gewalt, wie z.B. Cyberstalking, verstärkt werden. Da Frauen stärker von Cybergewalt betroffen sind, benötigen sie verstärkte Schutzmaßnahmen.

Das Land Berlin hat die Aufgabe, diese Veränderungen zu erfassen und aufzubereiten, um einen informierten politischen und gesellschaftlichen Diskurs über diese Veränderungen zu ermöglichen sowie Gestaltungsfähigkeit zu erlangen.

Das Land Berlin hat deshalb verschiedene Konzepte, Maßnahmen und Projekte erarbeitet, um digitale Gleichbehandlung, Antidiskriminierung sowie Verbraucherinnen- und Verbraucherschutz zu gewährleisten:

Die Landesstelle für Gleichbehandlung – gegen Diskriminierung hat als neues antidiskriminierungspolitisches Querschnittsthema die algorithmenbasierte Diskriminierung als Handlungsfeld aufgenommen. Die beiden Hauptziele sind die Sensibilisierung der breiten Öffentlichkeit und der Berliner Verwaltung sowie die Berücksichtigung der Risiken beim Einsatz von Algorithmen und automatisierten Entscheidungsprozessen innerhalb der Berliner Verwaltung sowie bei nach außen gerichtetem Handeln des Landes Berlin.

Die Berliner Beauftragte für Datenschutz und Informationsfreiheit informiert Bürgerinnen und Bürger über ihre Datenschutz- und Informationsfreiheitsrechte und unterstützt sie bei deren Durchsetzung.

Mit dem Weizenbaum-Institut für die vernetzte Gesellschaft und dem Alexander von Humboldt Institut für Internet und Gesellschaft gibt es in Berlin gleich zwei Institute, die Fragestellungen im Bereich der Digitalisierung und Veränderung der Gesellschaft erforschen. Damit schaffen sie eine wissenschaftliche Grundlage für gesellschaftliche Debatten sowie politische Entscheidungsfindungen.

Das Land Berlin gestaltet zusammen mit den anderen Ländern im Rahmen der Novellierung des Medienstaatsvertrags die Rahmenbedingungen für audiovisuelle Medien und passt diese an die durch die Digitalisierung entstehenden technischen Neuerungen sowie an das veränderte Mediennutzungsverhalten an.

Im Rahmen des bundesweiten Marktwächterprojekts „Digitale Welt“ sammelt die Verbraucherzentrale Berlin Erkenntnisse über die tatsächliche Lage von Verbraucherinnen und Verbrauchern in der digitalen Welt und zieht auf Basis von Beschwerden von Verbraucherinnen und Verbrauchern und empirischen Untersuchungen Rückschlüsse auf das Marktgeschehen.

In Berlin haben sich eine Vielzahl von zivilgesellschaftlichen Organisationen sowie Konferenzen etabliert, wie zum Beispiel die re:publica, der Thinktank iRights.Lab, die Smart Country Convention oder AlgorithmWatch. Durch eine bereits punktuelle Zusammenarbeit zwischen dem Land Berlin und den verschiedenen Initiativen können Fragen von Technikfolgenabschätzung sowie Verbraucherinnen- und Verbraucherschutz diskutiert werden.

Bisher fehlt jedoch eine ressortübergreifende Struktur, die eine systematische Technologiefolgenabschätzung leistet, entsprechende politische Diskurse organisiert und anstößt und digitale Gleichbehandlung, Antidiskriminierung sowie Verbraucherinnen- und Verbraucherschutz gewährleistet. Die Analyse, Reflexion und der breite politische Diskurs über die Folgen der Digitalisierung in allen Politikbereichen stellen eine übergreifende Verantwortung des Landes Berlin dar. In dieser Rolle hat Berlin als Standort mit einer Vielzahl an wissenschaftlichen und zivilgesellschaftlichen Organisationen, die sich mit der Digitalisierung und ihren Auswirkungen auf Staat, Gesellschaft und Wirtschaft beschäftigen, eine besondere Funktion, die auch über die Landesgrenzen hinweg ausstrahlt.

Das Land muss eine Organisationsstruktur debattieren, die systematische Technologiefolgenabschätzung leistet, zivilgesellschaftliche und wissenschaftliche Institutionen fördert, kontinuierliche Beteiligungsformate schafft, digitale Gleichbehandlung, Antidiskriminierung sowie Verbraucherinnen- und Verbraucherschutz gewährleistet und Entwicklungen auf Bundes- und EU-Ebene für Berlin monitort sowie spezifischen Erfordernissen anpasst.

Das Landesantidiskriminierungsgesetz setzt einen rechtlichen Rahmen, um einen diskriminierungssensiblen Einsatz von digitalen Lösungen und algorithmenbasierten Anwendungen sicherzustellen. Diese Verantwortung gilt nicht nur für den unmittelbaren Kontakt zwischen Verwaltung und Bürgerinnen und Bürgern, sondern auch für das mittelbare, digitale Handeln im Sinne von digitalen Angeboten und Lösungen, die von IT-Dienstleisterinnen und -Dienstleistern oder Unternehmen entwickelt und angeboten werden.


Stärken

  • Am Standort Berlin ist eine Vielzahl von wissenschaftlichen und zivilgesellschaftlichen Organisationen sowie Konferenzen ansässig, wie z.B. re:publica, Smart Country Convention, Einstein-Zentrum Digitale Zukunft, Weizenbaum-Institut, Wikimedia, AlgorithmWatch, Digital Society Institute der ESMT Berlin, die als Trägerinnen und Träger des gesellschaftlichen und politischen Diskurses mit Wirkung weit über Berlin hinaus sind
  • Algorithmenbasierte Diskriminierung als Handlungsfeld der Landesstelle für Gleichbehandlung – gegen Diskriminierung (LADS), u.a. mit Fachveranstaltung und Publikation zum Thema „Algorithmen und das Recht auf digitale Gleichbehandlung“


Handlungsbedarfe

  • Aufbau einer ressortübergreifenden Struktur, die eine systematische Technologiefolgenabschätzung leistet, politische Diskurse organisiert und anstößt, digitale Gleichbehandlung, Antidiskriminierung sowie Verbraucherinnen- und Verbraucherschutz gewährleistet, Entwicklungen auf Bundes- und EU-Ebene für Berlin monitort und an die stadtspezifischen Erfordernisse anpasst
  • Diskussion zur Setzung des rechtlichen Rahmens durch das Landesantidiskriminierungsgesetz, um einen gleichstellungs- und diskriminierungssensiblen Einsatz von digitalen Lösungen, algorithmenbasierten Anwendungen und Sprachassistenzsystemen sicherzustellen (Algo.Rules)