Dies ist eine alte Version des Dokuments!
Inhaltsverzeichnis
Complexity Podcast: Carl Bergstrom & Jevin West on Calling Bullshit
- Voller Titel: „Carl Bergstrom & Jevin West on Calling Bullshit - The Art of Skepticism in a Data-Driven World“
- 16.09.2020
-
- alle Zeit-Angaben in den Quotes beziehen sich auf diese Version
- full transcript: https://complexity.simplecast.com/episodes/42/transcript
Zusammenfassung und Kommentierung der interessanten Stellen
Gefährlichkeit "Sozialer Medien"
CARL BERGSTROM: [...] the Fermi paradox is: if there’s intelligent life everywhere in the universe, why have we not heard about it? What happened to it? Where did it go? And one solution that people proposed to the Fermi paradox is: intelligent life eventually develops atomic power and atomic weapons and destroys itself. And Joe and I think, no, they developed social media.
[...]
MICHAEL GARFIELD: Yeah, and then Edward Snowden was talking about it when he was on a podcast with Neil deGrasse Tyson, like this idea that maybe the solution to the problem you're posing: Fermi 1 issue is incoherent society.
[...]
CARL BERGSTROM: [...] I think that social media is extremely dangerous [...] it's an existential threat to democracy and we would need to figure out what we're going to do about this.
Because social media is basically designed to amplify content that is engaging, not content that's accurate. And so everything about the user experience that's built in and then the rules of how things spread and then the way that [...] the algorithms are designed to find content that is likely to keep you engaged rather than content that's going to keep you well-informed.
tl;dr: Soziale Medien erklären das Fermi-Paradox.
Carl Bergstrom spricht hier - fast scherzhaft - über seine These, dass seine Erklärung für das Fermi-Paradox nicht mensch-gemachte und -kontrollierte Atomwaffen, sondern mensch-gemachte und -manipulierende Soziale Medien.
Bergstrom sieht sich dabei unterstützt von Edward Snowden, der eine „inkohärente Gesellschaft“ als „Fermi 1“ sieht. 
1)
tl;dr: Soziale Medien befriedigen - unbewusst - ebenso grundlegende, wie primitive Bedürfnisse.
Bergstrom übersieht in seiner Einschätzung der Schädlichkeit und der Art des Prozesses, dass nicht die Algorithmen das Haupt-Problem sind (nicht mal ihre - bedenklich befähigten - Programmierer), sondern das Klientel, die Menschen, die Primaten-Nachfolger, die das schwer-widerstehliche Bedürfnis haben, auf sie zu reagieren, sich von ihnen leiten zu lassen.
Die Menschen in den Sozialen Medien sind nicht dort, um sich umfangreich zu informieren und fortzubilden, sondern um unterhalten zu sein, um abgelenkt zu sein und sich gleichzeitig der selbstwert-steigernden Illusion hingeben zu können, politisch aktiv und kritisch denkend zu sein: die doppelte Dosis Dopamin!
Schon immer gab es - mehr oder weniger komplexe und aufwändige - Möglichkeiten Menschen zu fehl-informieren, um aus ihrer Verleitung Vorteile zu schlagen, aber nur selten haben sie in diesen Mengen darum geradezu gebettelt.
Was genau geschieht eigentlich in "Sozialen Medien"?
CARL BERGSTROM: We don't understand how humans make collective decisions once you give them social media. We have a lot of thinking in theory about how humans make collective decisions in a democratic society and by voting paradoxes and all of these things. And we don't really have any adequate theory of what happens once you take all the computers in the world and you link them together and then people start sending dumb shit to each other and resending it and resending it.
tl;dr: Wir haben keine belastbaren Theorie oder auch nur Daten, was in Gesellschaften von durch das Internet verknüpften Hirnen passiert und noch passieren kann.
Es exitieren zahlreiche Theorien und recht solide Daten darüber, wie Menschen-Gruppen in einer Demokratie (inter-)agieren und zu Meinungen und Entscheidungen kommen - aus der Prä-Internet-Ära. Im Vergleich dazu haben wir einen mehr als spärlichen Forschungs-Stand bzgl. der Online-Meinungs-und-Ideen-Bildung. Bewährte Korrektive, filternde und leitendene Instanzieren funktionieren nicht mehr, sind nicht mehr im Spiel - dies hat viele Gründe, u.a. unternehmerische Fehl-Entschlüsse, aber auch antagonistische Intervention sind sicherlich bedeutsam.
Faktisch schaut der freie Westen ebenso fasziniert wie hilflos einem Experiment zu, welches durchaus in der Lage ist, unsere westliche Zivilisation zu beenden. Autoritärere Staats-Formen haben diese Probleme in keinem vergleichbaren Maße. Entweder weil die das so entstehende Chaos in ihr Regime-tragendes Narrativ einbetten oder das Chaos mit einer alles durchdringenden Ordnung verhindern, welche ihr Gemeinschafts-Narrativ sowohl begründet als auch stützt.
Was können wir tun, um das Chaos abzuwenden?
Reputation
tl;dr: Reputation ist im realen (sprich: räumlich begrenzten) Leben ein guter Regulator - online lässt sich sein Modell aber nicht abbilden.
Bergstrom vermeint zu sehen, dass Reputation (Leumund, Ruf, Ehre) an Bedeutung zunimmt, insbesondere seit der COVID19-Pandemie. Er referiert auf John Clippinger, der Anfang des Jahrtausends Studien zur Online-Reputation betrieb, mit besonderem Schwerpunkt auf reputations-aufbauender, community-übergreifender Identität, welche zudem die Privatsphäre schützen könne.
Ein pandemie-bedingter Bedeutungs-Zuwachs von Reputation ist zwar bedingt zu verzeichnen, allerdings in starker Abhängigkeit von dem Zustand der gesellschaftlichen Rezeption der öffentlichen Diskussion und der vorherrschenden Vorstellung, was (wissenschaftliche) Reputation im demokratischen Prozess bedeutet bzw. bedeuten sollte.
Die beiden von West vorgebrachten Reputations-Modelle (Akademische Wissenschaft und StackOverflow) hält er selber für sehr frühe Entwicklungs-Stufen bzw. für vage Implementation der Reputations-Funktionalität.
Stellungnahme: Academia flawed, but only functioning system. stackoverflow produces bad code and bad actors. wikipedia: many bad (and paid for) actors and idealists with much „Tagesfreizeit“
Idealisierende Reputations-Modelle
tl;dr: Nur die wenigsten Menschen wären willens und in der Lage, ein Online-Reputations-Modell aktiv zu errichten und unterhalten. Eine offene Gesellschaft müsste sich auf die Richtigkeit dieses unbegrenzten, alles umfassenden Modells einigen - was ihr Ende wäre, da es eine totaltäre Idee ist.
Clippingers Vorstellung ist schlicht realitätsfremd, auf technischer, wie menschlicher/psychologischer Ebene. Technisch kann Privatspäre nur in einem nicht-kommerziellen Internet erreicht werden, welches zudem jede Art der maschinellen Daten-Verarbeitung seitens der Nutzer unterbinden müsste - Menschen dürften nur ihre kognitiven Fähigkeiten zur Rezeption von Daten (Idee, Vorschlägen, Äußerungen etc.) verwenden und nichtmal anderen zugänglich machen (um „Big Data“ - im kleinesten Rahmen - zu verhindern).
Weitaus fraglicher noch mutet das Menschen-Bild an, welches Clippinger zur Grundlage seines Modells macht: Wieviel Motivation, wieviel Bildung und wieviel Zeit müssen Menschen haben, um sich community-übergreifend an anstrengenden, mühsamen, aufmerksamkeits-zehrenden und zugleich staatstragenden, system-relevanten Diskussionen zu beteiligen, deren Ergebnisse zu reflektieren, ihre Modelle anhand dessen zu aktualisieren, um in die nächste Iteration der kritischen Diskussion zu gehen? Mit wie vielen Menschen gleichzeitig kann eine solche Diskussion überhaupt funktionieren? Und: würden diese „Übermenschen“ dann auch noch auf den Selbstwert-Gewinn des Ruhmes verzichten wollen? Clippinger zeichnet das Bild eines ganzen Volkes von Philosophen-Königen. Das übersteigt sogar Platons Idealismus.2))
CARL BERGSTROM: I think one of the places that we can really bring in a lot of leverage is by thinking carefully about reputation and the role of reputation. Because I think reputation is actually increasing in importance over the last 10 years or so, rather than decreasing in importance, which is perhaps a bit of a surprise given some of the other features of an anonymous net and crowdsourcing and all those other things.
But during the COVID pandemic, I think in particular, as we try to figure out where to get information from, reputation plays this extremely important role.
[...]
In the early 2000s John Clippinger was at the Harvard Berkman Center, and he was obsessed with the notion of the importance of reputation in online communities and in how this was going to be absolutely essential to structuring online communities. And he was very interested in also preserving privacy and anonymity. And so, he wanted ways for reputation to flow obliquely between your different online identities, so that you could be members of different communities, for example. And have these non-overlapping, non-traceable circles, but have your identity, nevertheless cryptographically verified so that you had reputational incentives to be a good actor, the moment you logged onto a site under an anonymous name, and that he thought could make a real difference in the world.
[...]
JAVIN WEST: we're seeing a little bit in the academic world. So when you see a little bit of this drop in the role that journals play and pushing out papers, we recently did a study looking at places like the arXiv where you'll see top rated papers by top authors, sometimes just not even going into journals anymore because their reputation is enough to carry it. There are examples on the internet, like the Stack Exchange model, the Stack Overflow model, where individuals get reputational credit for answering questions thoroughly. Those individuals are getting good jobs because of it too.