„Künstliche Intelligenz“ ist in aller Munde, nun hat die EU sich erstmals auf eine Regulierung geeinigt. Laut eigener Angabe soll der „AI-Act“ EU-Bürger:innen und deren Rechte schützen, der erreichte Kompromiss lässt jedoch viele Schlupflöcher offen. – Eine Einschätzung von Herbert Scholle.
Bei “Künstlicher Intelligenz” (KI) handelt es sich nicht um wirkliche Intelligenz. Zum einen geht es dabei um maschinelles Lernen. Das heißt: Menschen geben riesige Datenmengen in einen „Lernalgorithmus“ ein, der Muster und Regeln aus diesen Daten extrahiert und diese Regeln verwendet, um Vorhersagen zu treffen. Dieses Feld der Informatik gibt es zwar bereits seit den 1950er Jahren, KI erhielt in den letzten Jahren allerdings immer mehr Aufmerksamkeit.
Daneben gibt es – etwas neuer – auch “generative KI-Systeme”. Sie werden mit gigantischen Datensätzen aus Texten, Bildern und anderen Medien trainiert, um ähnliche, aber synthetische (künstlich erzeugte) Inhalte zu produzieren. Mit dem „Artificial Intelligence-Act“ setzt die EU nun den Startschuss für eine Kontrolle des bisher völlig unregulierten Sektors.
Nach dreitägigem Trialog zwischen EU-Parlament, Rat und Kommission, konnten sich die drei wichtigsten Organe der EU am 9. Dezember auf eine Regulierung von künstlicher Intelligenz einigen.
Mit dem nun ausgehandelten Kompromiss habe man laut der spanischen Ministerin für Digitalisierung und KI, Carme Artigas, erreicht, „Innovation und die Aufnahme von KI in Europa“ zu fördern. Zugleich respektiere man die „fundamentalen Rechte [von EU-] Bürgern“ vollkommen. Auf den ersten Blick scheint das gar nicht so weit hergeholt, schließlich kommt das Gesetz mit einigen fortschrittlich klingenden Maßnahmen daher, wie zum Beispiel dem Verbot von öffentlicher Gesichtserkennung und Emotionserkennungssystemen. Doch der „AI-Act“ ist vor allem durch eine Menge an Schlupflöchern gekennzeichnet, die er offen hält, um die eigentlichen Regelungen zu umgehen.
Öffentliche Gesichtserkennung wird verboten – außer wenn sie erlaubt ist
Allem voran zeigt das die neue Regelung zur Gesichtserkennung. Ein KI-basiertes Gesichtserkennungssystem ist heute in der Lage, in kürzester Zeit Unmengen an Bildern nach Gesichtern zu durchsuchen und mit einer Datenbank abzugleichen. Das bedeutet letztendlich, dass solche Systeme in der Lage sind, genauestens nachzuverfolgen, wer sich wann wo aufhält, solange man ein Bild der gesuchten Person und genügend Kameras an öffentlichen Orten hat.
Wegen dieses enormen Überwachungspotenzials fordern Aktivist:innen schon seit langem ein Verbot solcher Systeme. Der „AI-Act“ macht ihnen da aber nun einen Strich durch die Rechnung: Zwar ist öffentliche Gesichtserkennung eigentlich verboten, es gibt jedoch Ausnahmen bei der Suche nach Opfern und Tätern gewisser Straftaten. Welche Straftaten genau damit gemeint sind, ist noch unklar. Besonders in den letzten Jahren hat sich allerdings oft genug gezeigt, wie solche Regeln ausgelegt werden, damit Überwachungssysteme eines solchen Kalibers auch etwa gegen Kleinkriminelle und vor allem politische Aktivist:innen verwendet werden können.
Auch andere Regelungen können leicht umgangen werden, oder sie sind ohnehin viel zu eingegrenzt, um wirklich effektiv sein zu können. So werden zum Beispiel Emotionserkennungssysteme verboten – allerdings nur am Arbeitsplatz und in der Schule. Solche Einschränkungen und Schlupflöcher gibt es für fast alle neuen Regelungen.
Sollte ein Unternehmen dennoch gegen das Gesetz verstoßen, drohen Strafen von bis zu 35 Millionen Euro oder 7% des Jahresumsatzes, je nachdem was mehr ist. Zwar gibt es auch hier Ausnahmen, z.B. für Start Ups, aber die vergleichsweise hohen Strafen deuten an, dass die EU es durchaus sehr ernst damit ist, mehr Kontrolle über den Sektor zu erlangen.
Freie Fahrt für Polizei und Militär
Die Verbote zerfallen jedoch ohnehin zu Staub, sobald es um staatliche Akteure geht. Für die Polizei z.B. gibt es eine Menge an Sonderregelungen, die es ihr unter gewissen Bedingungen erlaubt, eigentlich verbotene KI-Systeme zu nutzen. Die EU behauptet zwar, auch bei diesen Sonderregelungen Maßnahmen zum Schutz von EU-Bürger:innen eingebaut zu haben, deren Effektivitätt ist allerdings anzuzweifeln.
Die Militärs der EU-Staaten müssen sich noch weniger Sorgen machen: der „AI-Act“ gilt nämlich explizit nicht für Systeme, die ausschließlich zu militärischen oder „Verteidigungszwecken“ genutzt werden. So können die europäischen Großmächte weiterhin unbesorgt aufrüsten.
AI-Act im Interesse von Großkonzernen und Kapital
Die Verhandlungen über den „AI-Act“ laufen bereits seit April 2021. Besonders interessant sind sie natürlich für Tech-Giganten wie Google, Microsoft und Co.. Eine Studie des Open Markets Institute zeigt nun, dass es gerade „Big-Tech“-Unternehmen waren, die durch Lobbyarbeit Einfluss auf die Abstimmung nahmen. Doch diese Technologie-Großkonzerne waren nicht die einzigen, die auf eine möglichst laxe Regulierung des KI-Marktes hinarbeiteten.
Neben anderen EU-Staaten wie Frankreich und Italien war es auch vor allem die BRD, die für weniger Regulierung und mehr Marktfreiheit plädierte, unter anderem im Interesse des deutschen KI-Unternehmens Aleph Alpha. Auch der deutsche Tech-Konzern SAP will in seinen Programmen für Personalmanagement auf KI setzen.
Das deutsche Kapital scheint mit dem erreichten Kompromiss nicht ganz zufrieden zu sein: In einer Erklärung des Bundesverbands der deutschen Industrie (BDI) wird der AI-Act scharf kritisiert, insbesondere, weil er die „Wettbewerbs- und Innovationsfähigkeit“ europäischer Unternehmen gefährde.
Dennoch: Auch wenn nicht alle Forderungen erfüllt worden sind, kann man die nun erzielte Einigung durchaus als Erfolg für Tech-Giganten und Kapitalist:innen ansehen.
