Falsche Online-Nachrichten, die so formatiert und verbreitet werden, dass ein Leser sie für seriöse Nachrichten halten könnte, sind ein relativ neues Phänomen, das aus der finanziellen Attraktivität von „Clickbait“ entstanden ist – dem Versuch, die Aufmerksamkeit von Online-Nutzern auf sich zu ziehen, um Werbeeinnahmen zu erzielen. Es hat sich zu neuen Formen der Propaganda, des Betrugs und des finanziellen Betrugs entwickelt, die es seit der Entstehung der ersten menschlichen Gemeinschaften gibt.
Seit der Antike sind die Menschen Lügen, Fehlinformationen und Unwahrheiten ausgesetzt. Der Glaube an Lügen kann schwerwiegende persönliche und soziale Kosten verursachen. In extremen Fällen wurden Gemeinschaften, Religionen und Kulturen durch den falschen Glauben an Unwahrheiten zerstört. Sogar das Ende der ersten Demokratie kam, als die Athener, angeführt von dem charismatischen populistischen Führer Alkibiades, den Berichten glaubten, dass ihre Feinde in Syrakus feige seien und dass die Stadtstaaten von Syrakus sie als Verbündete unterstützen würden, und in einen katastrophalen Krieg zogen, den sie nicht gewinnen konnten.
Heute haben wir es mit „Fake News“ zu tun, einem neuen Phänomen im immer größer werdenden Genre der Täuschung. Im Laufe unserer Geschichte haben wir uns immer wieder Herausforderungen gestellt und sie gemeistert, aber ich behaupte, dass diese Zeit anders ist. Die Menge an (Fehl-)Informationen, die auf uns einströmt, erreicht eine Geschwindigkeit und ein Ausmaß, für die wir als Spezies noch nicht entwickelt sind. Technologie, ethische Richtlinien, Gesetze, Vorschriften und vertrauenswürdige Autoritäten wie Faktenprüfer können helfen, aber ohne das aktive Engagement gebildeter Bürgerinnen und Bürger werden wir das Problem nicht lösen. Erkenntnistheoretische Bildung, das Erkennen unserer eigenen Voreingenommenheit und der Schutz unserer Kommunikationskanäle und vertrauenswürdigen Netzwerke sind notwendig, um das Problem zu überwinden und unseren Fortschritt als demokratische Gesellschaft fortzusetzen.
Über Anfänge und Fortschritt
Als 1994 die erste Suchmaschine auftauchte, interessierten sich viele für das Phänomen der Online-Propaganda. Pädagogen waren beunruhigt, als sie feststellten, dass Schüler Suchmaschinen nutzten, um Informationen zu finden und zu verwenden, ohne zu verstehen, wie diese Informationen entstanden waren. Vor dem Aufkommen von Suchmaschinen hatten gedruckte Informationen im Allgemeinen einen höheren Wert als Informationen, die auf andere Weise gesammelt wurden, und für eine qualitativ hochwertige Recherche mussten gedruckte Quellen gefunden werden. Wenn etwas veröffentlicht wurde, bedeutete dies, dass es von professionellen Redakteuren erfolgreich geprüft und in Frage gestellt wurde, was bei anderen Kommunikationsformen nicht der Fall war. Doch mit dem Aufkommen des World Wide Web wurde das Publizieren in einer plötzlichen, ebenso befreienden wie gefährlichen Wendung trivial einfach. Die Schranken der Autorschaft sind gefallen; im Zeitalter des Internets kann praktisch jeder Autor von Inhalten sein, und mit Hilfe von Suchmaschinen kann praktisch jeder Inhalt, der geschrieben wurde, auch gefunden werden.
Die Google-Suche hat sich mit ihrem berühmten PageRank-Algorithmus, der die Qualität von Informationen objektiv messen kann, erfolgreich präsentiert. Der PageRank-Algorithmus wurde unter die zehn besten Data-Mining-Algorithmen gewählt, und sein Ruf übertrug sich auf die Suchergebnisse. Wenn man einen Artikel unter den ersten zehn Suchergebnissen findet, so die Annahme, muss er gut sein. Natürlich kann es sein, dass du auf ein schlechtes Suchergebnis stößt, aber dann denkst du, dass es an deinen mangelnden Suchfähigkeiten liegt und versuchst es noch einmal mit anderen Suchbegriffen. Aber wenn du nach Dingen suchst, für die du keine Vorkenntnisse hast, gibt es keine Möglichkeit, falsche Informationen zu erkennen.
In einer Studie mit dem Titel „Natürlich stimmt es, ich habe es im Internet gesehen!“ wurde festgestellt, dass technisch versiertere Schülerinnen und Schüler eher auf unzuverlässige Suchergebnisse hereinfallen, weil sie sich darauf verlassen, dass sie mit diesem technischen Hilfsmittel Informationen finden können und deshalb weniger kritisch denken. Die meisten Menschen wissen (auch heute noch) nicht, dass Suchmaschinen manipuliert werden können, um die Seite eines erfahrenen Manipulators oder Webspammers zu fördern. Die „Suchmaschinenoptimierung“, eine 65-Milliarden-Dollar-Industrie, die Anfang der 2000er Jahre entstand, verdiente ihren Lebensunterhalt damit, Google und andere Suchmaschinen bei bestimmten Suchanfragen zu täuschen. Heute sind Suchmaschinen ständigen Angriffen ausgesetzt, um die Agenda von Propagandisten, Werbetreibenden, Fanatikern oder Verschwörungstheoretikern zu fördern.
Und während Google sich seit 2008 erfolgreich gegen Angriffe auf Wahlkandidaten gewehrt hat, sind Twitter und Facebook zum neuen Schlachtfeld geworden. Wir haben die erste Twitter-Bombe bei den Sonderwahlen zum Senat in Massachusetts 2010 beobachtet und festgestellt, dass die gleiche Technik bei den US-Wahlen 2016 auf Facebook eingesetzt wurde. Propagandisten erstellen gefälschte Konten, infiltrieren dann politische Gruppen und warten auf den richtigen Moment, um ihre Fake News in der Gruppe zu verbreiten und zu beobachten, wie sie sich in der politischen Echokammer verbreiten. Die gefälschten Accounts können sich anschließend selbst löschen, was es schwierig macht, die Identität des Propagandisten festzustellen.
Um solche Manipulationen zu verhindern, bedarf es koordinierter Anstrengungen. Insbesondere müssen sowohl die Social-Media-Plattformen als auch die Bürgerinnen und Bürger besser in der Lage sein, Fake News im Internet zu erkennen. Die erste gemeinsame Reaktion meines Teams war die Forderung nach der Einführung von Fact-Checking-Verfahren. Wir wollen Fact-Checker, die zuverlässig den Wahrheitsgehalt von Online-Gerüchten feststellen und uns sofort informieren. Wir wollen von unseren sozialen Netzwerken wissen, was vertrauenswürdig ist und was nicht. Wir wollen Richtlinien, die vertrauenswürdige Informationen durchsetzen, und Gesetze, die diejenigen bestrafen, die dagegen verstoßen. Und wir wollen, dass magische Technologien sofort, automatisch und jedes Mal richtig angewendet werden. Mit anderen Worten: Wir wollen wohlwollende Zensur.
Leider ist das nicht möglich. Es gibt keinen allgemeinen Konsens darüber, was wahr ist und was nicht. Was für den einen Spam ist, kann für den anderen ein Schatz sein. Gesetze können durch den technologischen Fortschritt bereits überholt sein, bevor sie überhaupt verabschiedet wurden. In den autoritären Regimen, die wir heute überall auf der Welt sehen, können Gesetze eine Waffe gegen die Öffentlichkeit sein, wie das neue malaysische Anti-Fake-News-Gesetz von 2018 zeigt. Deep-Learning-Technologien können sowohl helfen als auch schaden, wie die sogenannten Deep-Fake-Videos bereits zeigen. Außerdem können maschinelle Lerntechnologien, die nicht nachweisen, wie sie Entscheidungen treffen, nur Vorurteile und Ungerechtigkeiten lernen und imitieren, die wir bereits in unseren Gemeinschaften haben.
Es bedarf einer methodologischen Ausbildung
Wie leicht ist es, Fake News zu erkennen? Wie wissen wir, was wir wissen? Dies ist eine der grundlegenden Fragen, die wir beantworten müssen, um die Leistung jedes Systems zur Überprüfung von Fakten zu bewerten, unabhängig davon, ob es von Menschen oder Maschinen betrieben wird. Ein ganzer Zweig der Philosophie, die Erkenntnistheorie, beschäftigt sich mit der Begründung von Wissen. Kurz gesagt: Wir wissen Dinge aufgrund unserer eigenen Erfahrungen, unseres Vertrauens in vertrauenswürdige Autoritäten und unserer persönlichen Fähigkeit zum logischen Denken, auch kritisches Denken genannt. Jede dieser drei Wissensquellen (intrinsisches, extrinsisches und abgeleitetes Wissen) wird durch unsere heutigen Technologien in Frage gestellt.
Es gibt Überzeugungen, die wir aus extrinsischen Gründen haben: weil wir der Instanz vertrauen, die die Information liefert oder unterstützt. Unser gesamtes Bildungssystem beruht auf dieser Prämisse. Auch unser Regierungssystem beruht darauf, insbesondere die „vierte Gewalt“, die Presse. Einige Überzeugungen haben wir auch aus intrinsischen Gründen, d.h. aufgrund unserer eigenen Erfahrungen, die wir mit unseren Sinnen wahrnehmen und mit unserem Verstand interpretieren. Wir halten unsere Erfahrungen für grundlegend und stellen selten in Frage, was wir daraus lernen. „Ich habe es mit eigenen Augen gesehen“ ist eine Redewendung, die in den meisten, wenn nicht in allen Sprachen vorkommt.
Unseren Augen zu vertrauen, ist gleichbedeutend mit absolutem Vertrauen, denn das Sehen ist der stärkste unserer Sinne. Aber nur selten können wir uns einen Reim auf das machen, was wir sehen oder hören, ohne einen Denkprozess, der die faktischen Aspekte unserer Erfahrung interpretiert und definiert. Hier brauchen wir die Hilfe des kritischen Denkens, das uns hilft, die Gültigkeit unserer Gedanken und Beobachtungen zu bestimmen. Und dazu brauchen wir auch die Hilfe eines gesunden Verstandes.
Auch wenn wir umgangssprachlich den Begriff „kritisches Denken“ als Synonym für „gesunden Menschenverstand“ verwenden, sind die beiden Begriffe doch recht unterschiedlich. Kritisches Denken bedeutet, mathematische Logik und Strenge anzuwenden, Dinge, die man bereits weiß, zu kombinieren, um daraus neues Wissen abzuleiten. Mit Strenge meine ich, dass wir bei der Ableitung die wissenschaftliche Methode anwenden, die mit dem sorgfältigen Aufschreiben einer Hypothese beginnt. Das Festhalten der Hypothese auf einem festen Medium ist ein entscheidender Schritt, denn sonst könnten unsere Gedanken abschweifen und wir würden am Ende etwas ganz anderes bewerten. Dann müssen wir nach Beweisen suchen, die die Hypothese stützen oder widerlegen. Die Suche nach beiden Arten von Beweisen ist wichtig, da die meisten Irrtümer und Verschwörungstheorien darauf beruhen, dass wir nur nach bestätigenden Beweisen suchen und diskreditierende Beweise ignorieren.
Natürlich müssen wir mathematische Logik anwenden, um die gesammelten Beweise sinnvoll zu interpretieren. Dieser technische Teil der Hypothesenprüfung ist schwierig und erfordert sowohl Ausbildung als auch Übung. Leider bereiten nicht alle Bildungssysteme auf diesen Schritt vor. Logische Regeln können verwechselt werden. Ein häufiger logischer Fehler, der bei Verschwörungstheorien gemacht wird, besteht darin, das Fehlen von Beweisen gegen eine Hypothese als Beweis für ihre Richtigkeit zu nehmen. Wenn ich keinen Grund sehe, warum etwas falsch sein sollte, so der Denkfehler, dann muss es wahr sein. Facebook hat zum Beispiel Flaggen verwendet, um zu kennzeichnen, dass einige Nachrichtenartikel auf ihre Richtigkeit überprüft wurden. Aber es gibt nur wenige markierte Artikel, und die meisten Artikel werden nicht überprüft. Jemand könnte daraus fälschlicherweise schließen, dass ein nicht gekennzeichneter Artikel falsch ist. Es könnte aber auch sein, dass niemand den zweiten Artikel überprüft hat.
Leider ist es aus drei Gründen nicht einfach, diese Methode immer anzuwenden.
- Kritisches Denken ist geistig anstrengend und erfordert Training. Aber wie beim Fahrradfahren lernen gilt auch beim kritischen Denken: Je mehr man es übt, desto weniger anstrengend wird es und desto mehr Spaß macht es.
- Wir müssen uns unserer eigenen Vorurteile bewusst werden. Wir brauchen Selbsterkenntnis. Wir sind nicht a priori die objektiven Richter, die wir gerne wären. Es gibt viele kognitive Voreingenommenheiten, die wir mit uns herumtragen und die uns alle transparent sind. Einer der häufigsten ist der Bestätigungsfehler, d.h. wenn uns Fakten präsentiert werden, ist es einfacher, diejenigen auszuwählen, die mit dem übereinstimmen, was wir bereits glauben – und diejenigen zu diskreditieren, die das nicht tun -, als unsere Meinung zu ändern. Je länger wir auf eine bestimmte Weise denken, desto stärker werden die bestehenden neuronalen Verbindungen und desto schwieriger wird es, sie zu ändern. Es kostet Mühe und Zeit, unser Denken zu ändern.
- Nicht alles, was wir als Kinder von unseren Eltern, Lehrern und Gemeinschaften gelernt haben, ist wahr. Einige der „Fakten“, die wir gelernt haben, sind erfundene Geschichten, die leicht zu verstehen sind oder uns über unsere Sorgen hinwegtrösten. Der Glaube an die Astrologie ist nur ein Beispiel dafür. Obwohl es für die Menschen relativ einfach ist, ihre Ungültigkeit zu erkennen, glauben viele an sie und lassen sich in ihrem Handeln von ihr leiten.
Wir kennen auch „Fakten“, die mit den Grenzen des Gehirns zu tun haben, z.B. falsch verstandene, falsch gehörte oder falsch erinnerte Fakten. Das Gehirn ist keine verlässliche Informationsdatenbank, auf die wir jederzeit exakt und auf Abruf zugreifen können. Frühe Versuche, das Gehirn zu verstehen, haben es mit einem Computerspeicher verglichen, aber diese Metapher ist irreführend. Jedes Mal, wenn wir uns an etwas erinnern, rekonstruieren wir die Erinnerung durch einen ungenauen und unzuverlässigen Prozess. Manchmal gelingt es zum Beispiel Polizeibeamten und Anwälten, unverdächtigen Zeugen „Erinnerungen“ einzupflanzen, indem sie die Ereignisse detailliert beschreiben. Am Ende können sich die Zeugen an diese „Erinnerungen“ erinnern.
Es kann auch sein, dass wir „Fakten“ kennen, weil wir das falsche Muster verwendet haben, um uns einen Reim auf etwas zu machen. Unser Gehirn ist eine Musterfindungsmaschine. Auf der einen Seite ist das Finden von Ähnlichkeiten und Mustern grundlegend für Kreativität. Wir entwickeln Lösungen, indem wir Ähnlichkeiten zwischen einer Situation, die wir kennen, und einer anderen, die uns neu ist, erkennen. Andererseits kann uns unsere Fähigkeit, Muster zu erkennen, manchmal im Stich lassen: Wir sehen das Bild eines Gesichts auf einem Felsen an der Loreley oder auf der Mondoberfläche, sobald uns jemand darauf hinweist.
Wir kennen auch „Fakten“, die wir unter emotionalem Stress beobachtet haben, wie Angst, Wut und Leidenschaft, wie wir sie oft bei wichtigen politischen Wahlen erleben. Und natürlich kennen wir manchmal „Fakten“, die wir abgeleitet haben, als unser Gehirn nicht zuverlässig funktionierte. Das kann durch den Einfluss von Alkohol oder anderen chemischen Substanzen geschehen, durch Schlafmangel, psychische Krankheiten oder sogar durch extreme Konzentration, wie in dem berühmten Fall, als der Gorilla in einem Video von Menschen, die einen Basketball werfen, nicht auftauchte. Ich bin sicher, dass andere Beispiele dieser Art, die ich bei anderen beobachtet habe, hinzugefügt werden könnten. Es ist immer viel einfacher, solche Verhaltensweisen bei anderen zu beobachten, denn wenn wir erkennen, dass sie bei uns selbst auftreten, können wir versuchen, sie zu korrigieren – vorausgesetzt, wir haben die mentale Kraft dazu.
Unser Gehirn ist beeindruckend, aber es ist nicht perfekt und funktioniert nicht immer oder in jeder Lebensphase gut. Unser Gehirn ist ein Produkt der Evolution. Es ist weder perfekt noch vollständig, sondern ein unvollendetes Werk. Neurowissenschaftler beschreiben den evolutionären Prozess, der mit dem so genannten Reptiliengehirn begann, dem kleineren Teil, der sofort auf die grundlegenden Instinkte reagiert: Angst, Hunger, sexuelles Verlangen. Es folgte das Säugetiergehirn, dann das Primatengehirn und schließlich das menschliche Gehirn, das den größten Teil des Neokortex einnimmt.
Unser Gehirn ist von konstruktiven Einschränkungen und Fehlern betroffen. Unsere Gefühle, unsere Sinne und unsere Umwelt fordern unsere Wahrnehmung der Realität heraus. Um zu überleben, brauchen wir das Gefühl der Kontrolle über unsere Umwelt. Die natürliche Welt, die uns umgibt, ist voller Zufälle, aber wir akzeptieren die Zufälligkeit der Phänomene nicht ohne weiteres; wir wollen Gründe entdecken, die den Zufall erklären. Dieser Wunsch nach Kontrolle und nach einer Erklärung, die den Zufall ausschließt, ist auch eine starke Quelle für Verschwörungstheorien.
Es ist kontraintuitiv, aber die binäre Logik hilft uns auch nicht immer weiter. Von klein auf üben wir mit Aussagen, die entweder wahr oder falsch sind, weil sie leichter zu verstehen sind. Wir sind daran gewöhnt, unsere Welt durch eine „geschlossene Welt“ zu verstehen: Wir gehen oft davon aus, dass etwas, das sich nicht als wahr erweisen kann, falsch sein muss. Es kann jedoch unmöglich sein, seine Gültigkeit unter den akzeptierten Annahmen zu bestimmen.
Mit dieser Situation sind wir seit Hunderten von Jahren konfrontiert. Unsere Technologien haben uns geholfen, die Welt um uns herum zu beherrschen, aber sie haben uns auch herausgefordert. Betrachten wir eine der beeindruckendsten Technologien aller Zeiten, die Technologie des Schreibens. Mit kleinen Zeichnungen, um Phoneme zu formen, waren Wörter eine der tiefgreifendsten Technologien aller Zeiten. Wir verbringen einen Großteil unseres Lebens damit, Wörter zu erkennen, Sätze zu bilden und Argumente zu formulieren. Die Schrift ermöglicht es uns, Ideen und Informationen von Generation zu Generation weiterzugeben. Jedes Mal, wenn wir sie effizienter machen, wie bei der Erfindung des Buchdrucks, hat sie die Geschichte der Menschheit nachhaltig beeinflusst.
Doch bis zur Verbreitung der vernetzten sozialen Medien gab es nur wenige Bücher zu lesen. Wenige natürlich im Vergleich zu dem Tsunami an Wörtern, die wir heute auf Facebook, in Online-Zeitungen und, nun ja, in gefälschten Zeitungen lesen, die sowohl von Menschen als auch von künstlicher Intelligenz produziert werden. Die Menge der Informationen, die uns erreichen, ist explodiert. Zensur bedeutete früher, Informationen vor der Öffentlichkeit zu verbergen. In unserer neuen Welt kann auch der überwältigende Lärm als Zensur wirken. In den sozialen Medien wird unsere Aufmerksamkeit ständig von einem Thema zum anderen gelenkt, und zwar so schnell und laut, dass wir den Überblick darüber verlieren, was wichtig ist.
Fazit
In den letzten Jahren hat das Interesse an Fake News stark zugenommen. Doch obwohl viele Forscher, Politiker, Gesetzgeber und Laien versuchen, das Problem anzugehen, bleibt es ein äußerst komplexes Problem, das die Grenzen unseres menschlichen Verständnisses herausfordert. Was können wir tun?
Technologie kann sehr hilfreich sein, vor allem wenn sie dazu verwendet wird, stichhaltige Beweise zu finden, die sich von dem unterscheiden, was wir zufällig suchen, und um uns zu informieren, wenn wir uns in einer Echokammer befinden. Die Wiki-Technologie kann auch hilfreich sein, wenn es darum geht, von Faktenprüfern und Bibliothekaren überprüfte Beweise zu speichern. Sie kann ihnen helfen, den Prozess, der zu ihren Entscheidungen geführt hat, zu verwalten, und uns anderen helfen, ihn zu überwachen. Schnittstellen, die eine Behauptung und ihre Widerlegung vergleichbar machen, wären ebenfalls hilfreich, so dass zum Beispiel Kommentare, die eine Behauptung in einem sozialen Medium widerlegen, ebenfalls sichtbar sind.
Aber auch andere Dinge werden helfen: Gesetze, die die finanziellen Anreize einschränken, die Witzbolde, Propagandisten und Werbetreibende dazu verleiten, Fehlinformationen zu produzieren, um unsere Aufmerksamkeit und Klicks zu gewinnen; Vorschriften, die das Sammeln und den Austausch persönlicher Daten einschränken, wie die jüngste europäische Datenschutzgrundverordnung (DSGVO); ethische Richtlinien, die unser begrenztes Aufmerksamkeitskapital schützen, damit wir nicht in der ständigen Informationsflut untergehen, die uns täglich überrollt.
Politik, Gesetze, Vorschriften, vertrauenswürdige Behörden und Technologie werden helfen, aber sie werden das Problem von Propaganda, Desinformation und „Fake News“ nicht lösen, wenn wir uns nur auf sie verlassen. Ohne das aktive Engagement der Bürgerinnen und Bürger, ohne Aufklärung und eine aktive demokratische Gesellschaft wird es keine vollständige Lösung geben. Wir müssen uns bewusst werden, warum wir glauben, was wir glauben, und uns unserer eigenen Vorurteile bewusst werden. Wir müssen denen zuhören, die nicht in unseren Echokammern sitzen. Und wir müssen kritisches Denken zur Gewohnheit machen, damit wir es jeden Tag mit Freude praktizieren. Die Beherrschung (der meisten) dieser Fähigkeiten ist notwendig für ein erfolgreiches Leben im 21. Jahrhundert und darüber hinaus. Das ist nicht einfach, weil wir uns selbst verändern müssen, aber das