Vorsicht, Algorithmen

Die Hoffnung war groß in den 1990er-Jahren: Die Verbreitung digitaler Technologien, das prognostizierten Experten, könnte zu einer Demokratisierungswelle führen. Inzwischen ist auf die Euphorie vielerorts Ernüchterung gefolgt. Immer klarer zeichnet sich ab, dass aus den Geschäftsmodellen der Datenwirtschaft und den staatlichen Kontrollmöglichkeiten im Internet auch erhebliche Risiken erwachsen. Nicht nur liberale Gesellschaften profitieren von digitaler Technologie – sondern eben auch autoritäre Regime. Das ist der Tenor einer Analyse von Deutsche Bank Research zum Thema „KI, Big Data und die Zukunft der Demokratie“.

„Die digitale Transformation der beiden vergangenen Jahrzehnte hat sich als zweischneidiges Schwert erwiesen“, kommentiert Studienautor Kevin Körner. Zwar bietet die globale Vernetzung unbestreitbare Vorteile – das Smartphone ist ein allgegenwärtiges Mittel der Partizipation. „Doch es stellen sich drängende Fragen in Bezug auf den Schutz der Privatsphäre, das Eigentum an Daten und gezielte Manipulation – nicht nur für wirtschaftliche, sondern auch für politische Zwecke.“

Selbst in etablierten Demokratien kann digitale Technologie demnach den politischen Diskurs verzerren: Körner erinnert an die Skandale um das Datenanalyse-Unternehmen Cambridge Analytica rund um das Brexit-Referendum und die US-Wahlen 2016. Jeweils wurden Techniken wie psychometrisches Profiling und Microtargeting zur gezielten Beeinflussung von Millionen von Facebook-Nutzern eingesetzt. Und auch für autoritäre Staaten gilt: Wer Massendaten und künstliche Intelligenz zu nutzen weiß, kann zunehmend staatliche Kontrolle im Inland ausüben oder gar demokratische Gesellschaften im Ausland unterminieren. „Für Demokratien, deren Zusammenhalt auf Teilhabe und Zustimmung ihrer mündigen Bürger beruht, stellt dies eine ganz neue Herausforderung dar“, resümiert Körner.Selbst in etablierten Demokratien kann digitale Technologie demnach den politischen Diskurs verzerren: Körner erinnert an die Skandale um das Datenanalyse-Unternehmen Cambridge Analytica rund um das Brexit-Referendum und die US-Wahlen 2016. Jeweils wurden Techniken wie psychometrisches Profiling und Microtargeting zur gezielten Beeinflussung von Millionen von Facebook-Nutzern eingesetzt. Und auch für autoritäre Staaten gilt: Wer Massendaten und künstliche Intelligenz zu nutzen weiß, kann zunehmend staatliche Kontrolle im Inland ausüben oder gar demokratische Gesellschaften im Ausland unterminieren. „Für Demokratien, deren Zusammenhalt auf Teilhabe und Zustimmung ihrer mündigen Bürger beruht, stellt dies eine ganz neue Herausforderung dar“, resümiert Körner.

Der Ruf nach ethischen Standards wird lauter

Zu den politischen Risiken gesellen sich wirtschaftliche Faktoren: Eine höchst überschaubare Zahl von Technologieunternehmen verfügt exklusiv über riesige Datenmengen – so entsteht in der Plattform-Ökonomie die Gefahr eines „Überwachungskapitalismus“. Eine kleine technologische Elite erhält unverhältnismäßig großen Einfluss, was den Ruf nach stärkerer Regulierung und Beaufsichtigung der Tech-Konzerne sowie ethischen Standards lauter werden lässt.

Die EU hat hier nach Ansicht des Autors eine wichtige Vorreiterrolle übernommen – etwa mit der Bildung der KI-Allianz, die auch drängende rechtliche Fragen anspricht. Unabdingbar aber sei in jedem Fall eine bessere Aufklärung der Nutzer: „Wir brauchen dringend digitale Grundbildung“, sagt Körner. Eine stabile, wohlhabende Gesellschaft, die auf liberalen Freiheitsrechten beruht, sei durchaus vereinbar mit KI und Automatisierung. „Aber dafür müssen Bürger die Algorithmen hinter ihren Apps und Geräten sowie die Mechanismen der Datenwirtschaft besser verstehen“, lautet sein Appell.

Die Studie

„Digitalpolitik: KI, Big Data und die Zukunft der Demokratie“. Download unter