© PHOTO: Private Photo

Ich bin eine Schwarze Frau und das Metaversum macht mir Angst – so kann man die nächste Generation des Internets inklusiv gestalten

Marginalisierte Menschen leiden oft am meisten unter den unbeabsichtigten Folgen neuer Technologien. So sind beispielsweise die Algorithmen, die automatisch entscheiden, wer welche Inhalte zu sehen bekommt oder wie Bilder interpretiert werden, rassistisch und geschlechtsspezifisch verzerrt. Menschen mit mehreren marginalisierten Identitäten, z. B. Schwarz und behindert, sind noch stärker gefähr det als Menschen mit einer einzigen marginalisierten Identität.

Als Mark Zuckerberg seine Vision des Metaversums vorstellte – ein Netzwerk virtueller Umgebungen, in denen viele Menschen miteinander und mit digitalen Objekten interagieren können – und sagte, dass dies jedes Produkt, das das Unternehmen herstellt, berühren wird, war ich daher erschrocken. Als Forscherin, die sich mit den Überschneidungen von Rasse, Technologie und Demokratie beschäftigt – und als Schwarze Frau – halte ich es für wichtig, die Werte, die in diesem Internet der nächsten Generation kodiert werden, sorgfältig zu prüfen.

Ein 6 x 8 Raster mit Cartoon-Gesichtern von Menschen
Beim Wert der Avatare, die die Nutzer in virtuellen Umgebungen repräsentieren, zeichnet sich bereits eine rassische Kluft ab.
yuoak/DigitalVision Vectors via Getty Images

Es zeichnen sich bereits Probleme ab. Avatare, die grafischen Persönlichkeiten, die Menschen erstellen oder kaufen können, um sich in virtuellen Umgebungen darzustellen, werden je nach der wahrgenommenen Rasse des Avatars unterschiedlich bewertet, und rassistische und sexistische Belästigungen treten in den heutigen immersiven Umgebungen vor dem Metaversum auf.

Um sicherzustellen, dass diese nächste Generation des Internets inklusiv ist und für alle funktioniert, müssen Menschen aus marginalisierten Gemeinschaften die Führung bei der Gestaltung des Internets übernehmen. Außerdem ist eine wirksame Regulierung erforderlich, damit Big Tech im öffentlichen Interesse rechenschaftspflichtig bleibt. Ohne sie läuft das Metaversum Gefahr, die Probleme der heutigen sozialen Medien zu übernehmen, wenn nicht sogar noch schlimmer zu werden.

Utopische Visionen versus harte Realitäten

Utopische Visionen in den Anfängen des Internets gingen in der Regel davon aus, dass sich das Leben online radikal vom Leben in der physischen Welt unterscheiden würde. Beispielsweise sahen die Menschen das Internet als eine Möglichkeit, Teilen ihrer Identität, wie Rasse, Geschlecht und Klassenunterschiede, zu entkommen. In Wirklichkeit ist das Internet alles andere als rassenfrei.

Techno-Utopien vermitteln zwar gewünschte Zukunftsvisionen, aber die Realität der neuen Technologien wird diesen Visionen oft nicht gerecht. In der Tat hat das Internet der Gesellschaft neue Formen von Schaden zugefügt, z. B. die automatische Verbreitung von Propaganda in den sozialen Medien und die Voreingenommenheit der Algorithmen, die Ihr Online-Erlebnis gestalten.

Zuckerberg beschrieb das Metaverse als ein immersiveres, verkörperteres Internet, das „eine Menge erstaunlicher neuer Erfahrungen freisetzen wird“. Dies ist nicht nur eine Vision für ein zukünftiges Internet, sondern für eine zukünftige Lebensweise. Wie sehr diese Vision auch vom Ziel abweicht, das Metaversum wird wahrscheinlich – wie frühere Versionen des Internets und der sozialen Medien – weitreichende Auswirkungen haben, die die Art und Weise verändern werden, wie Menschen miteinander umgehen, reisen, lernen, arbeiten und spielen.

Die Frage ist, ob diese Konsequenzen für alle gleich sind. Die Geschichte zeigt, dass die Antwort nein lautet.

Technologie ist niemals neutral

Weit verbreitete Technologien gehen häufig von weißen männlichen Identitäten und Körpern aus. Die MIT-Informatikerin Joy Buolomwini hat gezeigt, dass Gesichtserkennungssoftware bei Frauen schlechter abschneidet, und zwar vor allem bei Frauen mit dunkleren Gesichtern. Andere Studien haben dies bestätigt.

Joy Buolomwini vom MIT erklärt den „kodierten Blick“, die Prioritäten, Vorlieben und Vorurteile der Menschen, die Technologie gestalten.

Das Weißsein ist in diesen Technologien als Standard eingebettet, selbst wenn die Rasse als Kategorie für Algorithmen des maschinellen Lernens fehlt. Leider gehen Rassismus und Technologie oft Hand in Hand. Schwarze Politikerinnen und Journalistinnen wurden überproportional häufig mit beleidigenden oder problematischen Tweets bedroht, und schwarze und lateinamerikanische Wählerinnen und Wähler wurden während des Wahlzyklus 2020 mit Online-Fehlinformationskampagnen bedroht.

Diese historische Beziehung zwischen Rasse und Technologie lässt mich über das Metaverse besorgt sein. Wenn das Metaverse eine verkörperte Version des Internets sein soll, wie Zuckerberg es beschrieben hat, bedeutet das dann, dass bereits marginalisierte Menschen neue Formen von Schaden erfahren werden?

Facebook und seine Beziehung zu Schwarzen Menschen

Die allgemeine Beziehung zwischen Technologie und Rassismus ist nur ein Teil der Geschichte. Meta hat ein schlechtes Verhältnis zu schwarzen Nutzern auf seiner Facebook-Plattform, insbesondere zu schwarzen Frauen.

Im Jahr 2016 fanden Reporter von ProPublica heraus, dass Werbetreibende auf dem Facebook-Werbeportal Personengruppen, die ihre Anzeigen sehen, aufgrund der Rasse der Nutzer oder einer von Facebook als „ethnische Affinität“ bezeichneten Eigenschaft ausschließen können. Diese Option wurde heftig kritisiert, weil Facebook seine Nutzer nicht nach ihrer Rasse fragt, was bedeutete, dass den Nutzern eine „ethnische Zugehörigkeit“ auf der Grundlage ihres Engagements auf der Plattform zugewiesen wurde, z. B. welche Seiten und Beiträge sie mögen.

Mit anderen Worten: Facebook erstellte im Wesentlichen Rassenprofile seiner Nutzer auf der Grundlage dessen, was sie auf seiner Plattform tun und mögen, und schuf damit die Möglichkeit für Werbetreibende, Menschen aufgrund ihrer Rasse zu diskriminieren. Facebook hat inzwischen seine Kategorien für die Anzeigenausrichtung aktualisiert und schließt „ethnische Zugehörigkeiten“ nicht mehr ein.

Werbetreibende können jedoch immer noch Menschen auf der Grundlage ihrer vermuteten Rasse ansprechen, indem sie Rassenproxys verwenden, die aus der Kombination von Nutzerinteressen auf die Rasse schließen. Wenn ein Werbetreibender beispielsweise aus den Facebook-Daten ersehen kann, dass Sie sich für die afroamerikanische Kultur und die BET Awards interessieren, kann er daraus schließen, dass Sie schwarz sind, und Sie mit Anzeigen für Produkte ansprechen, die er an Schwarze vermarkten möchte.

Schlimmer noch: Facebook hat häufig Kommentare schwarzer Frauen gelöscht, die sich gegen Rassismus und Sexismus aussprachen. Ironischerweise werden die Kommentare schwarzer Frauen zu Rassismus und Sexismus zensiert – umgangssprachlich als „zucked“ bezeichnet -, weil sie angeblich gegen die Facebook-Richtlinien gegen Hassreden verstoßen. Dies ist Teil eines größeren Trends auf Online-Plattformen, bei dem Schwarze Frauen dafür bestraft werden, dass sie ihre Anliegen äußern und Gerechtigkeit in digitalen Räumen fordern.

Einem kürzlich erschienenen Bericht der Washington Post zufolge wusste Facebook, dass sein Algorithmus schwarze Nutzer unverhältnismäßig stark benachteiligt, hat aber nichts unternommen.

Ein demokratisch rechenschaftspflichtiges Metaversum

In einem Interview mit Vishal Shah, Meta’s Vice President of Metaverse, National Public Radio host fragte Audie Cornish: „Wenn du nicht mit den Kommentaren auf Instagram umgehen kannst, wie kannst du dann mit dem T-Shirt umgehen, auf dem Hassreden im Metaversum stehen? Wie können Sie mit der Hasskundgebung umgehen, die im Metaversum stattfinden könnte?“ Wenn Schwarze bestraft werden, weil sie sich online gegen Rassismus und Sexismus aussprechen, wie können sie es dann im Metaversum tun?

Um sicherzustellen, dass das Metaversum inklusiv ist und demokratische Werte fördert, anstatt die Demokratie zu bedrohen, sind Gestaltungsgerechtigkeit und die Regulierung sozialer Medien erforderlich.

Designgerechtigkeit bedeutet, Menschen, die keine Macht in der Gesellschaft haben, in den Mittelpunkt des Designprozesses zu stellen, um zu verhindern, dass bestehende Ungleichheiten fortbestehen. Es bedeutet auch, dass man mit der Betrachtung von Werten und Grundsätzen beginnt , die die Gestaltung leiten.

Bundesgesetze haben Unternehmen der sozialen Medien vor der Haftung für die Beiträge und Handlungen der Nutzer auf ihren Plattformen geschützt. Das bedeutet, dass sie das Recht, aber nicht die Verantwortung haben, ihre Websites zu überwachen. Die Regulierung von Big Tech ist entscheidend für die Bewältigung der Probleme der sozialen Medien heute und mindestens ebenso wichtig, bevor sie die nächste Generation des Internets aufbauen und kontrollieren.

Das Metaversum und ich

Ich bin nicht gegen das Metaversum. Ich bin für ein demokratisch verantwortliches Metaversum. Um dies zu erreichen, muss es jedoch bessere rechtliche Rahmenbedingungen für Internetunternehmen und gerechtere Designprozesse geben, damit Technologie nicht weiterhin mit Rassismus einhergeht.

So wie es aussieht, überwiegen die Vorteile des Metaversums für mich nicht seine Kosten. Aber das muss nicht so bleiben.

[Gefällt Ihnen, was Sie gelesen haben? Sie wollen mehr? Melden Sie sich für den täglichen Newsletter von The Conversation an].Die Konversation

Breigha Adeyemo, Doktorand in Kommunikation,
Universität von Illinois in Chicago

Dieser Artikel wird von The Conversation unter einer Creative-Commons-Lizenz neu veröffentlicht. Lesen Sie den Originalartikel.

+ posts

Doctoral Candidate in Communication, University of Illinois at Chicago

ALL ARTICLES

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

Die Zukunft des australischen internationalen Bildungssektors steht auf dem Reißbrett. Inmitten des australischen COVID-19-Anstiegs veröffentlichte die Bundesregierung die australische Strategie für internationale Bildung 2021-2030. Sie zeichnet eine Zukunft für den Sektor, die auf einer stärkeren Diversifizierung und einer Konzentration auf die Unterstützung und das Wohlergehen der Studierenden beruht.
Die Schlagzeilen der Präsidentschaftskampagne von Hillary Clinton sind bezeichnend für den Sexismus und die Stereotypen, die einen Großteil der politischen Berichterstattung über Frauen beherrschen: "Hillary Clinton: Grandmother-in-chief?" (CBS News); "The Pros and Cons of 'President Grandma'" (Time); "Could Hillary's smile cost her the election? Twitter spottet über Clintons 'gruseliges Oma-Grinsen'".
WordPress Image Lightbox
This site is registered on wpml.org as a development site.