BEDEUTUNG VON ALGORITHMEN | Kritische Aspekte

Die Nutzung von Algorithmen und Künstlicher Intelligenz erleichtert uns an vielen Stellen den Alltag und kann auch für das Gemeinwohl eingesetzt werden. In den meisten Fällen erfolgt der Einsatz von Algorithmen heutzutage allerdings im Rahmen wirtschaftlicher Kontexte. Wir sollten uns aber bewusst sein, dass ihr Einsatz immer auch gewisse Risiken bergen kann.

In diesem Kapitel schauen wir uns diese einmal genauer an.

Selektion durch Algorithmen:  

Algorithmen selektieren die Inhalte, die wir angezeigt bekommen. Sie versuchen, die für uns relevantesten Informationen zur Verfügung zu stellen und blenden andere dabei aus. Daraus entstehen Filterblasen. Die Gefahr hierbei ist, dass eine einseitige Meinungsbildung stattfindet bzw. immer weiter verstärkt wird. Filterblasen können z. B. dazu führen, dass sich politische Positionen polarisieren und der jeweils anderen Meinung kein Glaube mehr geschenkt wird. Zudem könnten Nutzer*innen durch die Nichtsichtbarkeit anderer Inhalte für Manipulation und Fake News anfälliger sein. Es ist dabei unklar, wie groß das Ausmaß digitaler Filterblasen ist. Die Studienlage hierzu ist noch zu dünn, um exakte Folgen benennen zu können.

    ^{TIPP 1: Wenn du nicht willst, dass dein Computer deine Suchverläufe speichert, hast du folgende Möglichkeiten: Surfe im sogenannten privaten oder Inkognito-Modus. Viele Internetbrowser bieten diese Option an. Damit kannst du verhindern, dass bestimmte Daten weitergegeben werden. Außerdem hilft es, deinen Verlauf zu löschen, also die Seiten, auf denen du unterwegs warst. Beides kannst du bei den meisten Browsern oben rechts unter „Einstellungen" anklicken.}

    ^{TIPP 2: Mit DuckDuckGo kannst du anonym bei Google suchen. Vergleiche mal die Suchergebnisse, die du da erhältst mit denen einer Googlesuche. Lösche auch einfach mal alle deine Cookies und suche erneut.}

   ^{EXKURS PageRank: Der PageRank-Algorithmus ist ein Verfahren, das verlinkte Dokumente im Internet anhand ihrer Struktur bewertet und gewichtet. Er dient der Suchmaschine Google als Grundlage für die Bewertung und das Ranking der bei einer Google-Suche angezeigten Internetseiten.}

Schau dir das folgende Video an, um mehr über PageRank zu erfahren.

    ^{TIPP: Grundsätzlich ist es immer sinnvoll, möglichst viele, voneinander unabhängige Quellen zu nutzen.}

Weitere, möglicherweise problematische Bereiche:

Falsche Klassifizierungen durch Algorithmen

Es gibt mittlerweile einige Algorithmen-Entwickler*innen, die vor Algorithmen warnen, die Menschen in Gruppen klassifizieren und Verhaltensweisen vorhersagen. So werden in den USA Bewerbungsunterlagen dahingehend analysiert, ob die Person im Unternehmen erfolgreich sein wird. Es werden hierbei weitreichende Entscheidungen für das einzelne Individuum getroffen, wobei die zugrundeliegenden Kriterien des Algorithmus nicht transparent einzusehen sind.

Predictive Policing

Beim sogenannten Predictive Policing sollen künftige Straftaten auf Grundlage von Daten aus der Vergangenheit vorhergesagt werden. Hierbei besteht die Gefahr, Menschen oder sogar ganze Bevölkerungsgruppen falsch zu klassifizieren und damit zu Unrecht zu verdächtigen. Die Auswirkungen von Predictive Policing sind Gegenstand aktueller Forschung.

    ^{Beispiel: Skynet. Der US-Geheimdienst CIA nutzt den Algorithmus Skynet, um Bewegungsmuster und Verhaltensweisen von mutmaßlichen Terrorist*innen zu analysieren und so potenzielle künftige terroristische Aktivitäten vorherzusagen. Nach welchen Kriterien Skynet hierbei vorgeht, ist nicht im Detail bekannt. Seit 2004 hat der US-Geheimdienst CIA auf Basis der durch Skynet erhobenen Daten hunderte Ziele in Pakistan mit Drohnen angegriffen. Menschen wurden dabei ohne Gerichtsverfahren getötet. Die USA klassifizierten alle Opfer als „im Kampf getötete Feinde". In Tests wurde die Wahrscheinlichkeit einer falschen Beschuldigung mit 0,008% angegeben, was bei einer pakistanischen Gesamtbevölkerung von 55 Mio. Menschen aber dennoch 4.400 Falschbeschuldigten entspräche.}

Vgl. Bayerische Landeszentrale für neue Medien (Hg.) 2017, S.28f.

Es gibt aber auch Versuche, Algorithmen einzusetzen, um demokratische Ziele zu fördern:

    ^{Beispiel: Die Googletochterfirma Jigsaw hat eine Methode entwickelt, mit der sie verhindern will, dass sich Menschen über das Internet immer weiter radikalisieren. Rufen Nutzer*innen bei YouTube radikale Videos auf, so erscheinen am Bildrand Hinweise auf alternative Inhalte (Videos von gemäßigten Imamen oder von Kriegsflüchtlingen, die über die Herrschaft des Islamischen Staats [IS] sprechen). Inwiefern diese sogenannte Redirect Method wirklich die Zielgruppe erreicht und konkrete Effekte hat, ist allerdings unklar. Zudem besteht auch hier die Gefahr eines Missbrauchs, je nachdem, für welche Zwecke diese Methode eingesetzt wird.}

^{In den letzten Jahren hat es immer mehr Forderungen nach einer Transparenz von Algorithmen gegeben.}

Wie können Algorithmen kontrolliert werden?
Es ist oft schwer zu erkennen, ob Algorithmen missbräuchlich verwendet werden. Eine Möglichkeit wäre eine unabhängige Kontrollinstanz (vgl. Mayer-Schönberger und Cukier 2013), die mit Unternehmen zusammenarbeitet und von diesen Einsicht in die Arbeits- und Funktionsweise der Algorithmen erhält. Eine solche Einsichtnahme lässt sich auf Gesetzesebene aktuell nicht einfordern. Unternehmen wollen ihre Geschäftsgeheimnisse nicht preisgeben. Suchmaschinen-Algorithmen sind somit gut gehütetes Insiderwissen. Das heißt nicht unbedingt, dass Unternehmen etwas zu verbergen haben, schließlich stellen Datensätze und Algorithmen häufig die Haupteinnahmequelle dar. Aktuell bleibt also nur die Möglichkeit, die Ergebnisse der Algorithmen auszuwerten und sie auf Qualität und Objektivität zu untersuchen. 

Vgl. Bayerische Landeszentrale für neue Medien (Hg.) 2017, S.30f.

   ^{WEITERLESEN ZUM THEMA: Mayer-Schönberger und Cukier 2013, Hofstetter 2014}