Über Anfänge und Fortschritt
Als 1994 die erste Suchmaschine auftauchte, interessierten sich viele für das Phänomen der Online-Propaganda. Pädagogen waren beunruhigt, als sie feststellten, dass Schüler Suchmaschinen nutzten, um Informationen zu finden und zu verwenden, ohne zu verstehen, wie diese Informationen entstanden waren. Vor dem Aufkommen von Suchmaschinen hatten gedruckte Informationen im Allgemeinen einen höheren Wert als Informationen, die auf andere Weise gesammelt wurden, und für eine qualitativ hochwertige Recherche mussten gedruckte Quellen gefunden werden. Wenn etwas veröffentlicht wurde, bedeutete dies, dass es von professionellen Redakteuren erfolgreich geprüft und in Frage gestellt wurde, was bei anderen Kommunikationsformen nicht der Fall war. Doch mit dem Aufkommen des World Wide Web wurde das Publizieren in einer plötzlichen, ebenso befreienden wie gefährlichen Wendung trivial einfach. Die Schranken der Autorschaft sind gefallen; im Zeitalter des Internets kann praktisch jeder Autor von Inhalten sein, und mit Hilfe von Suchmaschinen kann praktisch jeder Inhalt, der geschrieben wurde, auch gefunden werden.
Die Google-Suche hat sich mit ihrem berühmten PageRank-Algorithmus, der die Qualität von Informationen objektiv messen kann, erfolgreich präsentiert. Der PageRank-Algorithmus wurde unter die zehn besten Data-Mining-Algorithmen gewählt, und sein Ruf übertrug sich auf die Suchergebnisse. Wenn man einen Artikel unter den ersten zehn Suchergebnissen findet, so die Annahme, muss er gut sein. Natürlich kann es sein, dass du auf ein schlechtes Suchergebnis stößt, aber dann denkst du, dass es an deinen mangelnden Suchfähigkeiten liegt und versuchst es noch einmal mit anderen Suchbegriffen. Aber wenn du nach Dingen suchst, für die du keine Vorkenntnisse hast, gibt es keine Möglichkeit, falsche Informationen zu erkennen.
In einer Studie mit dem Titel “Natürlich stimmt es, ich habe es im Internet gesehen!” wurde festgestellt, dass technisch versiertere Schülerinnen und Schüler eher auf unzuverlässige Suchergebnisse hereinfallen, weil sie sich darauf verlassen, dass sie mit diesem technischen Hilfsmittel Informationen finden können und deshalb weniger kritisch denken. Die meisten Menschen wissen (auch heute noch) nicht, dass Suchmaschinen manipuliert werden können, um die Seite eines erfahrenen Manipulators oder Webspammers zu fördern. Die “Suchmaschinenoptimierung”, eine 65-Milliarden-Dollar-Industrie, die Anfang der 2000er Jahre entstand, verdiente ihren Lebensunterhalt damit, Google und andere Suchmaschinen bei bestimmten Suchanfragen zu täuschen. Heute sind Suchmaschinen ständigen Angriffen ausgesetzt, um die Agenda von Propagandisten, Werbetreibenden, Fanatikern oder Verschwörungstheoretikern zu fördern.
Und während Google sich seit 2008 erfolgreich gegen Angriffe auf Wahlkandidaten gewehrt hat, sind Twitter und Facebook zum neuen Schlachtfeld geworden. Wir haben die erste Twitter-Bombe bei den Sonderwahlen zum Senat in Massachusetts 2010 beobachtet und festgestellt, dass die gleiche Technik bei den US-Wahlen 2016 auf Facebook eingesetzt wurde. Propagandisten erstellen gefälschte Konten, infiltrieren dann politische Gruppen und warten auf den richtigen Moment, um ihre Fake News in der Gruppe zu verbreiten und zu beobachten, wie sie sich in der politischen Echokammer verbreiten. Die gefälschten Accounts können sich anschließend selbst löschen, was es schwierig macht, die Identität des Propagandisten festzustellen.
Um solche Manipulationen zu verhindern, bedarf es koordinierter Anstrengungen. Insbesondere müssen sowohl die Social-Media-Plattformen als auch die Bürgerinnen und Bürger besser in der Lage sein, Fake News im Internet zu erkennen. Die erste gemeinsame Reaktion meines Teams war die Forderung nach der Einführung von Fact-Checking-Verfahren. Wir wollen Fact-Checker, die zuverlässig den Wahrheitsgehalt von Online-Gerüchten feststellen und uns sofort informieren. Wir wollen von unseren sozialen Netzwerken wissen, was vertrauenswürdig ist und was nicht. Wir wollen Richtlinien, die vertrauenswürdige Informationen durchsetzen, und Gesetze, die diejenigen bestrafen, die dagegen verstoßen. Und wir wollen, dass magische Technologien sofort, automatisch und jedes Mal richtig angewendet werden. Mit anderen Worten: Wir wollen wohlwollende Zensur.
Leider ist das nicht möglich. Es gibt keinen allgemeinen Konsens darüber, was wahr ist und was nicht. Was für den einen Spam ist, kann für den anderen ein Schatz sein. Gesetze können durch den technologischen Fortschritt bereits überholt sein, bevor sie überhaupt verabschiedet wurden. In den autoritären Regimen, die wir heute überall auf der Welt sehen, können Gesetze eine Waffe gegen die Öffentlichkeit sein, wie das neue malaysische Anti-Fake-News-Gesetz von 2018 zeigt. Deep-Learning-Technologien können sowohl helfen als auch schaden, wie die sogenannten Deep-Fake-Videos bereits zeigen. Außerdem können maschinelle Lerntechnologien, die nicht nachweisen, wie sie Entscheidungen treffen, nur Vorurteile und Ungerechtigkeiten lernen und imitieren, die wir bereits in unseren Gemeinschaften haben.