Der Chatbot “ChatGPT” kann Gedichte, Bewerbungen, Kochrezepte und ganze Programme scheinbar aus dem Nichts produzieren. Doch zum Anlernen der KI müssen die Algorithmen dahinter zunächst von Arbeiter:innen in riesigen Mengen mit geordneten, spezifischen Daten gefüttert werden. Wo ChatGPT hilfreich ist und wo es Unterdrückung reproduziert – ein Kommentar von Ahmad Al-Balah.
Im Jahr 2022 begannen Google und “OpenAI” – das Start-up hinter dem beliebten KI-Chatbot “ChatGPT” – mit dem Aufbau von Systemen, die viel größere Datenmengen als zuvor verwenden. ChatGPT wurde bei seiner Veröffentlichung im November 2022 dann als eine der größten technologischen Innovationen des Jahres gepriesen. Der leistungsstarke Chatbot mit “künstlicher Intelligenz” (KI) kann Texte zu jedem beliebigem Thema generieren. Innerhalb einer Woche hatte es mehr als eine Million Nutzer.
Doch was genau ist KI? Bei einer “künstliche Intelligenz” (KI) kann nicht wirklich von einer Intelligenz gesprochen werden. Denn letztlich besteht sie “nur” aus Algorithmen, also mathematischen Regeln, die menschliche Entwickler der KI gegeben haben und anhand derer sie rechnet, arbeitet und scheinbar vollkommen Neues kreiert. Dabei hängt alles davon ab, mit welchen Datensätzen eine KI gefüttert wird. Und da fangen die Probleme an:
Denn: gibt es einen “Bias” (eine Verzerrung, verursacht durch systematische Fehler in der Datenverwertung), also eine gewisse Voreingenommenheit dabei, äußert sich dies auch naürlich auch im Output. Soll heißen: die KI wird vom jeweils aktuellen Stand der Verhältnisse in der Welt beeinflusst und gibt diese – scheinbar genial und objektiv – wieder. Dahinter verbirgt sich jedoch “nur” ein einfacher Algorithmus. KI kann in gewisser Weise also nur die herrschenden Verhältnisse widerspiegeln. Und das Problem bleibt auch: wer füttert eine solch riesige KI mit Daten?
Die Ausbeutung hinter Chat GPT
Das Unternehmen OpenAI hinter der KI „ChatGPT“ befindet sich Berichten zufolge in Gesprächen mit Investoren, um Kapital in Höhe von 29 Milliarden US-Dollar zu beschaffen, einschließlich einer potenziellen Investition von 10 Milliarden US-Dollar allein durch Microsoft. Damit würde OpenAI, das 2015 in San Francisco mit dem Ziel gegründet wurde, KI-Maschinen zu bauen, zu einem der wertvollsten KI-Unternehmen der Welt aufsteigen.
Aber die Erfolgsgeschichte wird nur auf der höheren Ebene im Silicon Valley produziert. Um ChatGPT nämlich mit Daten weiterzuentwickeln, lagert OpenAI die aufwändige, belastende Arbeit an kenianische Tech-Arbeiter:innen aus. Die Arbeiter:innen im von imperialistischen Staaten ausgebeuteten Kenia sollen die ChatGPT beispielsweise mit Daten von physischer Gewalt, Hassreden und sexuellem Missbrauch füttern, damit diese erlernt, diese Formen von Gewalt nicht widerzugeben.
Um diese Kennzeichnungen zu erhalten, schickte OpenAI seit November 2021 zehntausende Textfragmente an ein Outsourcing-Unternehmen in Kenia. Viele dieser Texte schienen aus den dunkelsten Ecken des Internets zu stammen. In einigen davon wurden Situationen wie sexueller Kindesmissbrauch, Bestialität, Mord, Selbstmord, Folter, Selbstverletzung und Inzest detailliert beschrieben.
Der Outsourcing-Partner von OpenAI in Kenia war “Sama”, ein in San Francisco ansässiges Unternehmen, das Arbeiter:innen in Kenia, Uganda und Indien beschäftigt, um die Daten für Kunden aus dem Silicon Valley wie Google, Meta und Microsoft wie gewünscht zu kennzeichnen. Sama vermarktet sich dabei selbst als “ethische KI”-Firma und behauptet, mehr als 50.000 Menschen aus der Armut geholfen zu haben. Davon, dass die geldgebenden kapitalistischen Mega-Tech-Unternehmen einer der Gründe für weltweite Ungleichheit und Ausbeutung sind, scheint das Unternehmen nichts zu wissen.
Die Anthropologin Mary L. Gray und der Computer-Sozialwissenschaftler Siddharth Suri bezeichnen diese Arbeiten als “Geisterarbeit“: die versteckte menschliche Arbeit hinter der KI. Damit die multinationalen Konzerne mit Sitz im Silicon Valley weiter Reichtum ansammeln können, haben sie eine globale Unterschicht aus Datenetikettierern und Content-Moderator:innen geschaffen.
Im Gegensatz zu den KI-Spezialisten und Spezialistinnen, die in Silicon-Valley-Unternehmen sechsstellige Gehälter erhalten, werden diese ausgebeuteten Arbeiter:innen oft für einen Hungerlohn aus verarmten Bevölkerungsgruppen rekrutiert. Die von Sama im Auftrag von OpenAI beschäftigten Datenetikettierer erhielten z.B. je nach Dienstalter und Leistung einen Lohn zwischen 1,32 und 2 Dollar pro Stunde.
Unterdrückte Gruppen von KI weiter diskriminiert
Die “Fütterung” mit bereits Bestehendem zeigt sich in der Voreingenommenheit von Datensätzen oder Samples. Wo die KI etwa im automatisierten Fahren eingesetzt wird zeigt sich die Dominanz von männlichen, weißen Fußgängern. In der praktischen Konsequenz werden Migrant:innen und Frauen schwieriger erkannt und eher überfahren. Dasselbe gilt für KI-Auswahl-Algorithmen von Bewerbungsunterlagen in US-Unternehmen.
Überall auf der Welt werde KI zuerst an „ungeschützten Bevölkerungsgruppen ausprobiert“, meint dazu Gemma Galdon Clavell, Technologieethikerin. Dazu gehörten Frauen, Migrant:innen sowie Arbeiter:innen generell – „Menschen, die sich nicht verteidigen können“, so Clavell.
Ein trauriges Beispiel dafür bietet die polizeiliche Risikobewertung für häusliche Gewalt, wie in Spanien passiert: Eine Mutter ging mit Tonaufnahmen zum Polizeirevier, auf denen ihr Ehemann zu hören war, wie er droht, die gemeinsamen Kinder zu ermorden. Den Algorithmus hinter der KI „VioGén“, welche die Polizei zur Einschätzung der Gefährdung von Frauen benutzt, haben die Hersteller auf spezielle Faktoren heruntergebrochen: Beweise wie Tonaufnahmen sind dabei unzulässig, die Selbsteinschätzung der gefährdeten Frau ist quasi irrelevant.
Nur jede siebte Frau bekommt durch diese KI also nennenswerte Hilfe. Im oben genannten Fall tötete der Ehemann letztlich die beiden gemeinsamen Kinder, bevor er sich selbst das Leben nahm. Im Gericht bekam die Mutter letztlich Recht. Die KI wurde um einen Faktor geändert, das Risiko von Kindern nämlich wurde den über 30 Faktoren hinzugefügt.
Wie geht es weiter
Viele warnen derzeit vor den Gefahren ungebremster KI. Einige Wissenschaftler:innen tun dies jedoch nicht, weil sie glauben, dass KI die Menschheit unterdrücken könnte, sondern weil sie genutzt werden könnte, um menschliche Unterdrückungsverhältnisse zu reproduzieren. So werden also sowohl bei der Entwicklung als auch bei der Nutzung dieser Algorithmen Ideen wie Kapitalismus, Rassismus und das Patriarchat verfestigt. Ganz im Interesse der Herrschenden und der Kapitalist:innenklasse.
Was die Arbeit betrifft, so herrscht noch Ungewissheit über die exakten Auswirkungen der KI auf die Arbeitswelt. Klar ist jedoch, dass die Algorithmen dem Menschen eine Menge langwieriger Recherche- und Formulierungsarbeit abnehmen können. Arbeiter:innen in Schreibtischjobs werden wohl in Zukunft lernen müssen, mit der KI umgehen zu können.
Die große Gefahr könnte eben darin stecken, dass nur eine handvoll Menschen wirklich mit KI umzugehen wissen. Und dabei haben die Firmenchefs der Tech-Unternehmen zusammen mit den Chefentwickler:innen im Silicon Valley und die regierenden Politiker:innen in den großen kapitalistischen Staaten natürlich einen entscheidenden Vorteil.
Diese lenkende Klasse bedient sich nicht erst seit gestern künstlicher Intelligenz, um ihre Herrschaft zu sichern: an Flughäfen werden schon jetzt nicht-binäre Menschen als potenzielle Gefahr ausgemustert, das israelische Militär benutzt KI-Gesichtserkennung, um Palästinenser:innen ins Fadenkreuz zu nehmen, und Donald Trump sowie Boris Johnson nutzen die KI-Dienste von “Cambridge Analytica” zum Machterhalt.
Hinzu kommen womöglich auch eine Menge gut gemachter Fälschungen, sogenannter „deep fakes“. Auch dazu wird sich die Arbeiter:innenklasse weiterbilden müssen, um sich nicht von den Herrschenden an der Nase herumführen zu lassen. Ein wichtiger Bestandteil dieses Kampfes wird dabei die internationale Solidarität mit den ausgebeuteten Arbeiter:innen der anderen Nationen sein: Im Kampf gegen dieses System – nicht gegen die KI, sondern gegen den Kapitalismus dahinter.
