Am Wochenende rief Dario Amodei, CEO von Anthropic, die Unternehmen im Bereich der künstlichen Intelligenz (KI), darunter auch sein eigenes, dazu auf, ihre Arbeit zu verlangsamen. Sam Altman und Elon Musk, die Chefs der Konkurrenten OpenAI bzw. xAI, stimmten dem zu.
Dieser Schritt spiegelt die Besorgnis in der KI-Branche und darüber hinaus über die Gefahren neuer, sich rasant verbessernder Systeme wider. Jüngste aufsehenerregende Vorfälle, wie etwa der Hack eines anderen Unternehmens durch und die Übernahme einer öffentlichen Website, haben gezeigt, dass bestehende Systeme Sicherheitsgrenzen überschreiten können – und dass sich noch leistungsfähigere Systeme in der Entwicklung befinden.
Die Spannung zwischen Sicherheit und Leistungsfähigkeit erschwert die Sicherheit von KI zusätzlich. Unternehmen werden zögern, die Leistung ihrer Modelle aus Sicherheitsgründen einzuschränken, aus Angst, gegenüber Wettbewerbern ins Hintertreffen zu geraten. Auch US-Präsident Donald Trump hat Forderungen nach einer Verlangsamung des Wachstums zurückgewiesen, aus Furcht, gegenüber China an Boden zu verlieren.
Dies bedeutet, dass jeder erfolgreiche Versuch, „das Tempo des Fortschritts der Fähigkeiten so anzupassen, dass die Risikoprävention Zeit hat, Schritt zu halten“, wie Amodei es ausdrückt, eine erhebliche Zusammenarbeit zwischen konkurrierenden Unternehmen – und Nationen – erfordern wird.
Risikominimierung
Neue Technologien bergen oft neue Risiken und neue Bedenken. Regierungen, Forscher und Unternehmen finden jedoch häufig Wege, diese Risiken zu bewältigen.
Die Asilomar-Konferenz über die damals neuen DNA-Technologien trug maßgeblich dazu bei, dass die Forschung nicht schneller voranschritt als unser Verständnis von Sicherheit und Risiken. In ähnlicher Weise versuchte die US-Regierung in den 1990er Jahren, einen Konsens über die Begrenzung von Kryptographie und Computersicherheit.
Die KI-Situation birgt eine zusätzliche Schwierigkeit: Die Branche befindet sich mitten in einem regelrechten Goldrausch. Wissenschaftliche Konkurrenten mögen sich zurückhalten können, doch kommerzielle Konkurrenten halten sich selten zurück.
Es gibt eindeutige Präzedenzfälle dafür, dass Selbstregulierung angesichts von Wettbewerbsdruck scheitern kann. So führte beispielsweise der Druck, zum Konkurrenten Airbus aufzuschließen, bei der Boeing-737-Max-Katastrophe im Jahr 2018 dazu, dass Boeing die Schwächen der Max verschwieg, was letztendlich Menschenleben kostete.
Im Wettlauf um die KI-Vorherrschaft ist das Ausmaß des Wettbewerbs noch größer. Anthropic als auch OpenAI konkurrieren um die Marktführerschaft, bevor sie einen Börsengang anstreben, der ihnen Dutzende oder Hunderte von Milliarden Dollar einbringen könnte.
Und auf nationalstaatlicher Ebene steht noch mehr auf dem Spiel, denn sowohl die USA als China hoffen, die neue Technologie zu ihrem geopolitischen Vorteil.
Die Politik einer Pause
Amodeis Vorschlag zur Verlangsamung des KI-Exports basiert auf einem dreistufigen Plan: Einbindung unabhängiger Sicherheitsprüfer, Etablierung koordinierter Sicherheitsstandards für die Branche in demokratischen Staaten und schließlich der Abschluss globaler Abkommen. Dies würde strenge Beschränkungen für den Export von KI-Chips an Unternehmen und Länder umfassen, die der KI-Sicherheit keine Priorität einräumen.
Anthropic und OpenAI haben sich bereits auf die erste Phase dieses Plans geeinigt, trotz ihrer Vorgeschichte, in der sie sich gegenseitig verklagten, öffentlich beleidigten und unterboten, um die Marktdominanz zu erlangen.
Auch wenn die jüngsten aufsehenerregenden Hackerangriffe sie möglicherweise zum Handeln gezwungen haben, könnten die führenden KI-Unternehmen von einer Entwicklungspause oder -verlangsamung profitieren. Zum einen könnte dies strenge Gesetze wie den von US-Senator Bernie Sanders vorgeschlagenen „ Ban Artificial Superintelligence Act“. Zum anderen könnte die Einführung teurer Sicherheitsstandards und die Begrenzung von Chip-Exporten kleinere Wettbewerber – insbesondere chinesische Unternehmen wie DeepSeek und Alibaba – daran hindern, aufzuholen.
Eine Pause würde den überlasteten Forschungslaboren zudem die Möglichkeit geben, sich zu erholen und den Fokus eher auf Gewinne als auf Fortschritt.
Diese KI-Labore haben enorme Summen in die Entwicklung ihrer bestehenden Modelle investiert, die nun zurückgezahlt werden müssen. Gleichzeitig stößt der Fortschritt auf Schwierigkeiten, da es immer schwieriger wird, neue, hochwertige Trainingsdaten zu finden, und der Aufbau der massiven Rechenzentrumsinfrastruktur, die für die Aufrechterhaltung der Entwicklung notwendig ist, stellt eine Herausforderung für sich dar.
Eine koordinierte Sicherheitspause könnte ein willkommener öffentlicher Grund für ein Plateau in der Leistungsfähigkeit von KI-Modellen sein.
Was kann getan werden?
Die Sicherheit von KI zu gewährleisten, wird nicht einfach sein. Die Regulierung von Software ist bekanntermaßen schwierig, wie frühere Versuche zur gesetzlichen Regelung von Verschlüsselungssoftware gezeigt haben.
Im Gegensatz zu anderer Software ist KI jedoch auf relativ knappe physische Hardware angewiesen. Sie benötigt hochentwickelte Siliziumchips und die massiven Rechenzentren, die zu deren Betrieb erforderlich sind.
Hier haben Regierungen echten Einfluss. Hier haben sie Möglichkeiten, die Entwicklung von KI zu überwachen und zu steuern, sofern sie den entsprechenden gesetzlichen Willen dafür finden.
In der Zwischenzeit können Unternehmen und Regierungen Maßnahmen ergreifen, um die Gefährdung durch KI-bedingte Gefahren zu minimieren. Dazu gehört, sicherzustellen, dass kritische Sicherheitsinfrastrukturen – wie Stromnetze, Wasserversorgung und militärische Systeme – nicht nur von KI, sondern idealerweise sogar vollständig vom Internet isoliert werden.
Auch die Frage der Haftung ist wichtig. Nicht nur die Nutzer von KI-Systemen dürfen für Handlungen, die durch KI unterstützt werden, rechtlich belangt werden, sondern auch die Verantwortlichen für die Entwicklung von KI-Systemen.
Grundsätzlich ist der durch KI – selbst durch „autonome“ KI-Systeme – verursachte Schaden kein abstraktes technologisches Nebenprodukt. Er ist vielmehr die direkte Folge von Entscheidungen sowohl der KI-Entwickler als auch ihrer Anwender.
Andrew Cullen, Senior Research Fellow, School of Computing and Information Systems, Universität Melbourne.
Dieser Artikel wurde mit freundlicher Genehmigung von The Conversation unter einer Creative-Commons-Lizenz erneut veröffentlicht. Lesen Sie den Originalartikel.
