Jüngste Warnungen führender amerikanischer KI-Experten haben den Eindruck erweckt, dass die Welt erst am Anfang steht, sich mit den Gefahren hochentwickelter künstlicher Intelligenz auseinanderzusetzen.
Dario Amodei, Vorstandsvorsitzender des Technologieunternehmens Anthropic, hat die Regierungen aufgefordert, einzugreifen , um die Entwicklung immer leistungsfähigerer KI-Modelle.
Sein Vorschlag beginnt mit unabhängigen Gutachtern, die in KI-Unternehmen integriert werden, geht dann zur Regulierung über und schreitet bis zur staatlich unterstützten Koordinierung zwischen demokratischen Staaten fort.
Letztlich strebt es globale Abkommen mit China über das Testen von KI-Systemen, gefährliche Anwendungen der Technologie und das Tempo der KI-Entwicklung an.
Doch diese Erzählung klaffen in einer Lücke, die China betrifft. Die asiatische Supermacht wird als der schwierige letzte Teilnehmer in einem Regierungssystem dargestellt, das die USA und ihre Verbündeten erst schaffen müssen.
Tatsächlich hat China bereits ein umfassendes System von KI-Regeln, Bewertungs-, Registrierungs-, technischen Standards und staatlicher Aufsicht etabliert. Im Folgenden wird erläutert, wie sich Chinas KI-Governance-System schrittweise parallel zur Technologieentwicklung entwickelt hat.
Die Pekinger Regelungen von 2022 zu algorithmischen Empfehlungsdiensten gelten für Technologien, die Online-Inhalte für Nutzer auswählen, einstufen, filtern oder empfehlen.
Sie verpflichten Unternehmen, die Algorithmen verwenden, ihre Funktionsweise zu überprüfen, die persönlichen Daten der Nutzer zu schützen, den Nutzern bestimmte Kontrollmöglichkeiten zu geben und Schutzmaßnahmen für Arbeitnehmer, Verbraucher, Kinder und ältere Menschen einzuführen.
Chinas Bestimmungen zur Tiefensynthese, die ab Januar 2023 gelten, haben die Regulierung auf synthetische (oder KI-generierte) Texte, Bilder, Audio- und Videodateien ausgeweitet. KI-Unternehmen müssen Nutzer authentifizieren, Daten schützen, relevante Aufzeichnungen führen, ihre Systeme bewerten und synthetisches Material identifizieren, das mit authentischen Inhalten verwechselt werden könnte.
Die Übergangsmaßnahmen für generative KI-Dienste wurden im August 2023 eingeführt. Diese ergänzen die Regeln für öffentlich zugängliche generative KI, insbesondere für solche, die die öffentliche Meinung beeinflussen oder Nutzer auf andere Weise überzeugen können.
Die Maßnahmen betreffen die Rechtmäßigkeit und Qualität von Trainingsdaten, personenbezogene Daten von Nutzern, geistiges Eigentum und Diskriminierung aufgrund geschützter Merkmale. Die Regeln umfassen außerdem die Transparenz von KI-Unternehmen sowie die Genauigkeit und Zuverlässigkeit ihrer Produkte.
Gemäß den Bestimmungen müssen Unternehmen festgestellte Probleme ihrer Dienste beheben. Diese Dienste müssen einer Sicherheitsprüfung unterzogen werden, um ihre Risiken und ihre Übereinstimmung mit chinesischer Gesetzgebung zu überprüfen. Die Unternehmen müssen außerdem Informationen über ihre Algorithmen bei den chinesischen Behörden einreichen.
Diese Mechanismen sind nicht identisch mit den unabhängigen Gutachtern , die, wie von Amodei vorgeschlagen, in KI-Unternehmen integriert werden sollen. Sie erfüllen aber einige der gleichen Funktionen.
Grenzrisiken
Die jüngsten Maßnahmen Pekings tragen den Namen „ AI safety governance framework 3.0“und wurden im September 2026 veröffentlicht. Sie legen einen umfassenden Ansatz zur Identifizierung, Bewertung und Reaktion auf Risiken während des gesamten Lebenszyklus von KI-Systemen fest.
Aufbauend auf früheren Versionen behandelt das Framework Risiken im Zusammenhang mit KI-Modellen und -Daten, Schwachstellen in Open-Source-Modellen (solche, die von Benutzern frei modifiziert werden können), die Auswirkungen von KI auf Beschäftigung und Gesellschaft sowie zunehmend autonome Systeme.
Es beinhaltet einen speziellen Mechanismus zur Bewältigung der Risiken, die mit der rasanten Entwicklung von KI-Agenten (Systemen, die Aufgaben auf Anweisung eines Benutzers ausführen) verbunden sind.
Das Rahmenkonzept befasst sich mit einigen der Gefahren, die derzeit im Silicon Valley Besorgnis auslösen, darunter hochautonome Systeme, der Missbrauch chemischer, biologischer und nuklearer Technologien sowie die Möglichkeit, dass der Mensch die Kontrolle über hochentwickelte KI verliert. Es schlägt kontinuierliche Sicherheitsbewertungen, risikobasierte Schutzmaßnahmen, die Kontrolle durch den Menschen und Notfallmechanismen vor.
Eine unabhängige Analyse des US-amerikanischen Thinktanks Carnegie Endowment for International Peace beschreibt den Rahmen als Chinas Versuch, „die Sicherheit an den Grenzen zu verbessern, ohne auf harte regulatorische Eingriffe zurückgreifen zu müssen“.
Rechtliche Konsequenzen
Das alles bedeutet jedoch nicht, dass die chinesischen KI-Regeln einfach auf andere Länder übertragen werden sollten. Ihre Institutionen, regulatorischen Traditionen und technologischen Prioritäten sind anders.
Viele Funktionen, die in den USA derzeit als dringende Ziele dargestellt werden, darunter Evaluierung, Rechenschaftspflicht von KI-Unternehmen, Risikoklassifizierung von KI-Systemen, regulatorische Einreichung, technische Standards und staatliche Aufsicht, sind bereits in der Governance-Architektur der anderen KI-Supermacht der Welt.
Es steht den USA frei, zu dem Schluss zu kommen, dass ein marktorientiertes System ihren wirtschaftlichen und strategischen Interessen am besten dient. Die Trump-Regierung bevorzugte einen möglichst wenig belastenden nationalen Ansatz für KI und strebte danach, strengere Regulierungen auf Ebene der Bundesstaaten zu begrenzen.
Ein marktorientiertes Modell darf jedoch nicht bedeuten, die Vorteile der KI zu privatisieren und gleichzeitig ihre Risiken zu exportieren. US-Unternehmen mögen die kommerziellen Gewinne einstreichen, während Regierungen anderswo Sicherheitsvorfälle untersuchen, öffentliche Systeme schützen und die weitreichenden Kosten tragen müssen, wenn diese Technologien versagen. Der OpenAI-Agent, der sich unbefugten Zugriff auf das australische Gesundheitssystem verschaffte, zeigt, wie KI-Risiken exportiert werden.
Lehnt Washington umfassende Kontrollen vor der Freigabe von Systemen ab, benötigt die USA ein glaubwürdiges Rechtssystem zur Feststellung der Haftung für Schäden, die durch diese KI-Modelle verursacht werden. Andernfalls stehen Länder, die von ausländischen KI-Systemen abhängig sind, vor zunehmend schwierigen Entscheidungen darüber, wessen Technologie sie vertrauen können und zu welchen Bedingungen.
Das Leitmotiv des Silicon Valley war lange Zeit „schnell handeln und Dinge kaputtmachen“. Das war schon immer ein fragwürdiges Prinzip für Technologien, die tief in das öffentliche Leben eingebunden sind. Für Unternehmen, deren Führungskräfte mittlerweile selbst vor katastrophalen Folgen ihrer Produkte warnen, ist es untragbar.
Peking hat seinen KI-Sektor bereits mit öffentlichen Verpflichtungen, regulatorischer Aufsicht und einem sich entwickelnden Rahmen für die Risikobewertung ausgestattet. Eine globale Debatte, die eine solche Steuerung als zukünftiges Ziel betrachtet, sollte zumindest anerkennen, dass ein Land bereits einen Schritt voraus ist.
Madeline Carr, Professorin für Globale Politik und Cybersicherheit am UCL.
Dieser Artikel wurde mit freundlicher Genehmigung von The Conversation unter einer Creative-Commons-Lizenz erneut veröffentlicht. Lesen Sie den Originalartikel.
