Dies ist eine alte Version des Dokuments!
Inhaltsverzeichnis
Complexity Podcast: Carl Bergstrom & Jevin West on Calling Bullshit
- Voller Titel: „Carl Bergstrom & Jevin West on Calling Bullshit - The Art of Skepticism in a Data-Driven World“
- 16.09.2020
-
- alle Zeit-Angaben in den Quotes beziehen sich auf diese Version
- full transcript: https://complexity.simplecast.com/episodes/42/transcript
Gefährlichkeit "Sozialer Medien"
CARL BERGSTROM: [...] the Fermi paradox is: if there’s intelligent life everywhere in the universe, why have we not heard about it? What happened to it? Where did it go? And one solution that people proposed to the Fermi paradox is: intelligent life eventually develops atomic power and atomic weapons and destroys itself. And Joe and I think, no, they developed social media.
[...]
MICHAEL GARFIELD: Yeah, and then Edward Snowden was talking about it when he was on a podcast with Neil deGrasse Tyson, like this idea that maybe the solution to the problem you're posing: Fermi 1 issue is incoherent society.
[...]
CARL BERGSTROM: [...] I think that social media is extremely dangerous [...] it's an existential threat to democracy and we would need to figure out what we're going to do about this.
Because social media is basically designed to amplify content that is engaging, not content that's accurate. And so everything about the user experience that's built in and then the rules of how things spread and then the way that [...] the algorithms are designed to find content that is likely to keep you engaged rather than content that's going to keep you well-informed.
tl;dr: Soziale Medien erklären das Fermi-Paradox.
Carl Bergstrom spricht hier - fast scherzhaft - über seine These, dass seine Erklärung für das Fermi-Paradox nicht mensch-gemachte und -kontrollierte Atomwaffen, sondern mensch-gemachte und -manipulierende Soziale Medien.
Bergstrom sieht sich dabei unterstützt von Edward Snowden, der eine „inkohärente Gesellschaft“ als „Fermi 1“ sieht. 
1)
tl;dr: Soziale Medien befriedigen - unbewusst - ebenso grundlegende, wie primitive Bedürfnisse.
Bergstrom übersieht in seiner Einschätzung der Schädlichkeit und der Art des Prozesses, dass nicht die Algorithmen das Haupt-Problem sind (nicht mal ihre - bedenklich befähigten - Programmierer), sondern das Klientel, die Menschen, die Primaten-Nachfolger, die das schwer-widerstehliche Bedürfnis haben, auf sie zu reagieren, sich von ihnen leiten zu lassen.
Die Menschen in den Sozialen Medien sind nicht dort, um sich umfangreich zu informieren und fortzubilden, sondern um unterhalten zu sein, um abgelenkt zu sein und sich gleichzeitig der selbstwert-steigernden Illusion hingeben zu können, politisch aktiv und kritisch denkend zu sein: die doppelte Dosis Dopamin!
Schon immer gab es - mehr oder weniger komplexe und aufwändige - Möglichkeiten Menschen zu fehl-informieren, um aus ihrer Verleitung Vorteile zu schlagen, aber nur selten haben sie in diesen Mengen darum geradezu gebettelt.
Was genau geschieht eigentlich in "Sozialen Medien"?
CARL BERGSTROM: We don't understand how humans make collective decisions once you give them social media. We have a lot of thinking in theory about how humans make collective decisions in a democratic society and by voting paradoxes and all of these things. And we don't really have any adequate theory of what happens once you take all the computers in the world and you link them together and then people start sending dumb shit to each other and resending it and resending it.
tl;dr: Wir haben keine belastbaren Theorie oder auch nur Daten, was in Gesellschaften von durch das Internet verknüpften Hirnen passiert und noch passieren kann.
Es exitieren zahlreiche Theorien und recht solide Daten darüber, wie Menschen-Gruppen in einer Demokratie (inter-)agieren und zu Meinungen und Entscheidungen kommen - aus der Prä-Internet-Ära. Im Vergleich dazu haben wir einen mehr als spärlichen Forschungs-Stand bzgl. der Online-Meinungs-und-Ideen-Bildung. Bewährte Korrektive, filternde und leitendene Instanzieren funktionieren nicht mehr, sind nicht mehr im Spiel - dies hat viele Gründe, u.a. unternehmerische Fehl-Entschlüsse, aber auch antagonistische Intervention sind sicherlich bedeutsam.
Faktisch schaut der freie Westen ebenso fasziniert wie hilflos einem Experiment zu, welches durchaus in der Lage ist, unsere westliche Zivilisation zu beenden. Autoritärere Staats-Formen haben diese Probleme in keinem vergleichbaren Maße. Entweder weil die das so entstehende Chaos in ihr Regime-tragendes Narrativ einbetten oder das Chaos mit einer alles durchdringenden Ordnung verhindern, welche ihr Gemeinschafts-Narrativ sowohl begründet als auch stützt.
Was können wir tun, um eine Krise abzuwenden?
Reputation
tl;dr: Reputation ist im realen (sprich: räumlich begrenzten) Leben ein guter Regulator - online lässt sich sein Modell aber nicht abbilden.
Bergstrom vermeint zu sehen, dass Reputation (Leumund, Ruf, Ehre) an Bedeutung zunimmt, insbesondere seit der COVID19-Pandemie. Er referiert auf John Clippinger, der Anfang des Jahrtausends Studien zur Online-Reputation betrieb, mit besonderem Schwerpunkt auf reputations-aufbauender, community-übergreifender Identität, welche zudem die Privatsphäre schützen könne.
Ein pandemie-bedingter Bedeutungs-Zuwachs von Reputation ist zwar bedingt zu verzeichnen, allerdings in starker Abhängigkeit von dem Zustand der gesellschaftlichen Rezeption der öffentlichen Diskussion und der vorherrschenden Vorstellung, was (wissenschaftliche) Reputation im demokratischen Prozess bedeutet bzw. bedeuten sollte.
Die beiden von West vorgebrachten Reputations-Modelle (Akademische Wissenschaft und StackOverflow) hält er selber für sehr frühe Entwicklungs-Stufen bzw. für vage Implementation der Reputations-Funktionalität.
Stellungnahme: Academia flawed, but only functioning system. stackoverflow produces bad code and bad actors. wikipedia: many bad (and paid for) actors and idealists with much „Tagesfreizeit“
Idealisierende Reputations-Modelle
tl;dr: Nur die wenigsten Menschen wären willens und in der Lage, ein Online-Reputations-Modell aktiv zu errichten und unterhalten.
Clippingers Vorstellung ist schlicht realitätsfremd, auf technischer, wie menschlicher/psychologischer Ebene. Technisch kann Privatspäre nur in einem nicht-kommerziellen Internet erreicht werden, welches zudem jede Art der maschinellen Daten-Verarbeitung seitens der Nutzer unterbinden müsste - Menschen dürften nur ihre kognitiven Fähigkeiten zur Rezeption von Daten (Idee, Vorschlägen, Äußerungen etc.) verwenden und nichtmal anderen zugänglich machen (um „Big Data“ - im kleinesten Rahmen - zu verhindern).
Weitaus fraglicher noch mutet das Menschen-Bild an, welches Clippinger zur Grundlage seines Modells macht: Wieviel Motivation, wieviel Bildung und wieviel Zeit müssen Menschen haben, um sich community-übergreifend an anstrengenden, mühsamen, aufmerksamkeits-zehrenden und zugleich staatstragenden, system-relevanten Diskussionen zu beteiligen, deren Ergebnisse zu reflektieren, ihre Modelle anhand dessen zu aktualisieren, um in die nächste Iteration der kritischen Diskussion zu gehen? Mit wie vielen Menschen gleichzeitig kann eine solche Diskussion überhaupt funktionieren? Und: würden diese „Übermenschen“ dann auch noch auf den Selbstwert-Gewinn des Ruhmes verzichten wollen? Clippinger zeichnet das Bild eines ganzen Volkes von Philosophen-Königen. Das übersteigt sogar Platons Idealismus.2))
tl;dr: Eine offene Gesellschaft müsste sich auf die Allgemein-Gültigkeit eines Reputations-Modells einigen - was ihr Ende wäre, da es eine totalitäre Idee ist.
Wenn aber nicht alle aktiv an diesem Modell arbeiten können, so müsste die Mehrheit der passiven Teilnehmer dem Modell zustimmen und es als „wahr“ und anwendbar akzeptieren, sie müssen den Idealismus teilen. Und dieses Reputations-Modell ist nicht mehr räumlich (oder zeitlich) begrenzt, es umfasst nicht mehr „nur“ unsere Familie, Nachbarn, unsere Gemeinde, unsere Berufsgruppe, unsere Regierung, sondern ALLE Menschen. Denn leider gibt es nicht mehr eine Vielzahl eigenständiger Communites von Leuten mit gemeinsamen Interessen, die sich über „ihr“ Thema sachkundig unterhalten wollen und sich selbst Regeln und Normen geben, innerhalb derer Einzelne Achtung und Vertrauen gewinnen können.
In einer offenen Gesellschaft hat jeder eine Meinung über Politik und zu Tages-aktuellem, auch ohne jedes Fachwissen - Meinungen sind belastbarer als Fakten.
So leidig das ist: Eine offene Gesellschaft lebt von und durch die Vielfalt von Meinungen und Glauben - guten, wie schlechten.
CARL BERGSTROM: I think one of the places that we can really bring in a lot of leverage is by thinking carefully about reputation and the role of reputation. Because I think reputation is actually increasing in importance over the last 10 years or so, rather than decreasing in importance, which is perhaps a bit of a surprise given some of the other features of an anonymous net and crowdsourcing and all those other things.
But during the COVID pandemic, I think in particular, as we try to figure out where to get information from, reputation plays this extremely important role.
[...]
In the early 2000s John Clippinger was at the Harvard Berkman Center, and he was obsessed with the notion of the importance of reputation in online communities and in how this was going to be absolutely essential to structuring online communities. And he was very interested in also preserving privacy and anonymity. And so, he wanted ways for reputation to flow obliquely between your different online identities, so that you could be members of different communities, for example. And have these non-overlapping, non-traceable circles, but have your identity, nevertheless cryptographically verified so that you had reputational incentives to be a good actor, the moment you logged onto a site under an anonymous name, and that he thought could make a real difference in the world.
[...]
JAVIN WEST: we're seeing a little bit in the academic world. So when you see a little bit of this drop in the role that journals play and pushing out papers, we recently did a study looking at places like the arXiv where you'll see top rated papers by top authors, sometimes just not even going into journals anymore because their reputation is enough to carry it. There are examples on the internet, like the Stack Exchange model, the Stack Overflow model, where individuals get reputational credit for answering questions thoroughly. Those individuals are getting good jobs because of it too.
Das Versagen von Reputation als Korrektiv
tl;dr: Online-Reputations-Systeme w.z.B. „Karma“ sind faktisch unbrauchbar und kontra-produktiv.
Das selbst in begrenzten Communities mit vielen aktiven Nutzern und einer langen Online-„Kultur“ Reputation völlig untauglich ist, sondern sogar missbraucht werden kann für Zensur und Propaganda, zeigt der Fall von Reddit, der größte Foren-Plattform, mit - in 2020 - 330 Millionen aktiven(!) Nutzern und 1.500.000.000 Besuchen im Mai 2020.
Reddit hat ein (als Referenzklasse betrachtetes) „Karma“ genanntes Reputations-System, in denen Nutzer gegenseitig ihre Beteiligungen bewerten können. Auf Platz 8(!) von 330.000.000 liegt eine Userin, die zum ersten Mal in 10+ aktiven Jahren nicht mehr aktiv auf Reddit Welt-Nachrichten moderiert oder sich gerne über zu strenge Kinderschutz-Gesetze mokiert und die sexuelle Freizügigkeit von Minderjährigen einfordert und romantisiert. Das plötzliche Schweigen der Userin fällt zusammen mit der Verhaftung einer RealPerson wegen systematischem Kindes-Missbrauches und hält jetzt seit 2,5 Monaten an. Zahlreiche Postings sind mittlerweile aufgetaucht, die zu einem massiven Reputations-Abfall hätten führen sollen, wenn nicht sogar zur Sperrung - das Gegenteil war der Fall: Das hohe „Karma“ schützte die Userin und führte zur Sperrung deren, die Kritik erhoben. Selbst die untenstehende Quelle wird immer wieder von Reputations-Gläubigen angegriffen und deren Löschung beantragt.
Auch wenn die Userin nicht identisch mit der Verhafteten3) identisch sein sollte, zeigen die dokumentierten Macht-Missbräuche (Sperrungen von missliebigen Usern, Förderung von Kindesmissbrauch) der achtbesten von dreihundertdreissig Millionen Menschen, dass Online-Reputations-Systeme nicht nur leicht unterlaufen werden können, sondern systematisch instrumentalisiert und missbraucht werden können.