Algorithmen bei Tiktok und Co.?

Immer wieder gibt es Hinweise darauf, wie der Einsatz von Algorithmen in kommerziellen social media (z.B. Tiktok, Facebook, X, Insta...) zwar den Interessen der Eigentümer dient, gleichzeitig aber auch zu massiven Polarisierungen in der Gesellschaft beiträgt. 

Wie kann man das überprüfen?

1. Experimental: Bob Blume hat dazu mit Schülerinnen und Schülern der 10. Klasse im Unterricht ein sehr lebensnahes Experiment gestartet und berichtet ausführlich in seinem Blog dazu: https://bobblume.de/2025/06/30/unterricht-tiktok-algorithmus-experiment/  
   Vermutlich kann man dieses Experiment selbst mit anderen Menschen verifizieren und so die Rolle der Algorithmen besser verstehen, als wenn man dazu nur Sekundärliteratur liest, trotzdem will ich entsprechende Artikel gerne teilen:
2. Durch vertiefende Lektüre
   2.1. Ein Artikel von Spektrum der Wissenschaft: "[...] Inzwischen manipulieren moderne Technologien die subjektive Wahrnehmung der Menschen raffiniert. Im anfangs angeführten Beispiel lenken Suchmaschinen Andreas auf Webseiten mit verschwörungstheoretischem Inhalt, und soziale Medien vernetzen ihn mit Gleichgesinnten, die seine Ängste nähren. Zudem können böswillige Akteure durch automatisierte Social-Media-Konten, die sich als Menschen ausgeben (so genannte Bots), die kognitiven Schwachstellen gezielt für ihre Zwecke ausnutzen. [...] Wie die Simulationen zeigen, führt allein ein von den Klickzahlen abhängiger Algorithmus zu einer niedrigeren Qualität der Inhalte – sogar ohne menschliche Verzerrung. Selbst wenn wir die besten Informationen teilen möchten, führen uns die Algorithmen in die Irre. [...] So haben Ferrara, der jetzt an der University of Southern California forscht, und seine Kollegen von der Bruno-Kessler-Stiftung in Italien gezeigt, dass Bots während des spanischen Referendums über die katalanische Unabhängigkeit 2017 gewalttätige und aufrührerische Beiträge verbreiteten, wodurch sich die sozialen Konflikte verschärften. Automatisierte Bots nutzen kognitive Schlupflöcher aus und beeinträchtigen dadurch die Qualität von Inhalten. Sie lassen sich leicht entwickeln: Social-Media-Plattformen haben Schnittstellen, die es einzelnen Akteuren ermöglichen, Tausende von Bots einzurichten. Um solche Accounts zu entlarven, [...]" Quelle: https://www.spektrum.de/news/wie-algorithmen-uns-manipulieren/1849438 (eingesehen am 12.7.2025)
   2.2. "Soziale Medien beeinflussen dabei zunehmend die politische Kommunikation. Die AfD beispielsweise hat eine bemerkenswerte Fähigkeit entwickelt, Algorithmen für ihre Zwecke einzusetzen. Die Partei weiß um das Mobilisierungspotenzial von Influencer:innen sowie die Wirksamkeit von emotionalisierenden Inhalten und nutzt ein breites Netzwerk von Influencer:innen und Unterstützer:innen, um ihre Botschaften zu verbreiten und verstärken. Diese koordinierte kollektive Online-Mobilisierung hat sich [...]" Quelle: https://www.bpb.de/shop/zeitschriften/apuz/wahlkampf-2025/558872/systematische-manipulation-sozialer-medien-im-zeitalter-der-ki/ (eingesehen am 12.7.2025)
   2.3. [...] 2025 misst die KI von Social-Media-Plattformen nicht mehr nur Klicks und Verweildauer – sie registriert sogar, wenn jemand auf ein Video schaut, aber nicht interagiert. Eine Technologie namens „Mikro-Augenbewegungs-Tracking“, die bereits in ersten Studien erprobt wurde, erfasst winzige Blickmuster und Pupillenreaktionen, um zu erkennen, welche Inhalte „heimliche“ Aufmerksamkeit auf sich ziehen. Zum Beispiel: Scrollt man auf Instagram an einem Werbepost vorbei, aber bleibt für einen Sekundenbruchteil mit den Augen hängen, merkt sich die KI das. In Zukunft gibt es ähnliche Inhalte – weil deine Augen bereits verraten haben, dass du interessiert bist, bevor du es selbst gemerkt hast. [...] Meta nutzt die Fortschritte in der emotionalen Analyse besonders aggressiv. Der Instagram-KI wurde ein neuronales Modell hinzugefügt, das nicht nur Lese- und Sehgewohnheiten bewertet, sondern emotionale Reaktionen über Kamera- und Mikrofonzugriff auswertet – abhängig von den Nutzereinstellungen. In internen Papieren, die 2024 durchgesickert sind, wurde von einer „tiefen emotionalen Personalisierung“ gesprochen, die bis 2025 stufenweise ausgerollt wurde. Google wiederum steuert mit YouTube in eine ähnliche Richtung. Während frühere Algorithmen vor allem Klicks und Sehdauer priorisierten, geht es inzwischen darum, Stimmungen vorherzusagen. Der YouTube-Empfehlungs-Algorithmus nutzt KI, um anhand von Blickverhalten, Scroll-Geschwindigkeit und Pausen im Video Rückschlüsse auf den emotionalen Zustand des Zuschauers zu ziehen. Anschließend werden Inhalte vorgeschlagen, die diesen Zustand verstärken oder bewusst verändern – eine Taktik, die sowohl Werbetreibende als auch politische Gruppen für [...] Deine Bildschirmzeit, Scrollgeschwindigkeit oder sogar minimale Pausen vor einem Video liefern wertvolle Daten. So lässt sich präzise vorhersagen, womit du dich wohlfühlst – und was dich am Bildschirm hält. Dabei geht es nicht mehr nur um Unterhaltung, sondern auch um Beeinflussung von [...] und extremistische Meinungsblasen fördern. Hier wird klar: Diese Algorithmen sind nicht neutral. Sie werden mit einem Ziel programmiert – Nutzer zu binden und ihr Verhalten" Quelle: https://www.techzeitgeist.de/die-unsichtbare-ki-psychologie-hinter-social-media-algorithmen-im-jahr-2025/ (eingesehen am 12.7.2025) 
   Kritik: Der Artikel bringt die Thematik zwar gut verständlich auf den Punkt, aber es fehlt an Ideen, wie man gegen den Einfluss der Algorithmen etwas tun kann. 
   Meine Meinung: 1. Differenzierung zwischen kommerziellen und nichtkommerziellen social media. 2. Reduktion des Konsums von kommerziellen social media ("social media Fasten"). 3. Umstieg / Ausstieg bei kommerziellen social media und Einstieg im Fediverse (= nichtkommerzielle social media Alternativen).
3. Informativ und mit vielen allgemeinverständlichen Artikel rund um die Medien ist der Medienkompass.
4. >>Cathy O’Neil bezeichnet Algorithmen in ihrem Buch „Weapons of Math Destruction“ als „Mathematische Massenvernichtungswaffen“. Sie warnt, dass Big-Data-Modelle voreingenommene Entscheidungen automatisieren, Ungleichheiten verschärfen und so das Fundament von Gesellschaft und Demokratie ernsthaft gefährden können. In einer Anhörung vor dem US-Senat erklärte O’Neil, dass Social-Media-Algorithmen Nutzer in „Rabbit Holes“ extremer Inhalte treiben. Indem sie Beiträge mit hohem Empörungs- oder Sensationspotential priorisieren, verstärken Plattformen systematisch Polarisierung und Fehlinformationen. O’Neil bringt es auf den Punkt, wenn sie sagt: Ein Algorithmus sei nichts anderes als jemandes Meinung, in Code gegossen. [...Hinweis von D.Z.: Die von der KI zitierte Online Quelle "aspistrategist" wirbt dann für bluesky, verschweigt aber das Fediverse] Damit macht sie deutlich, dass vermeintliche Objektivität von Feeds immer eine bewusste Entscheidung der Anbieter widerspiegelt – und keine neutrale Informationsvermittlung darstellt. In Interviews betont sie zudem, dass Engagement-optimierte Feeds gezielt kognitive Verzerrungen wie den Bestätigungsfehler ausnutzen. Empörende oder emotional aufgeladene Inhalte erzeugen mehr Klicks und Verweildauer, was letztlich die Werbeeinnahmen der Plattformbetreiber maximiert. << Quelle: Bing Copilot zur Frage: "Was hat Cathy O’Neil zu diesem Thema gesagt?" (Thema war die Frage: "In wie weit gibt es bei kommerziellen social media durch Algorithmen bewusste Ausnutzung der kognitiven Verzerrungen, um Menschen zu manuipulieren und wer kritisiert das? Welche Quellen findet man dazu?"). - zu Cathy spuckte die KI dann mehrere Quellen aus, unter anderem: "Cathy O'Neil Angriff der Algorithmen Wie sie Wahlen manipulieren, Berufschancen zerstören und unsere Gesundheit gefährden" (Buch in deutscher Sprache beim Hanser Verlag erschienen).