Vorfall bei OpenAI: Ist KI schon außer Kontrolle?
Bei einem internen Test neuer KI-Modelle des Unternehmens OpenAI vergangene Woche hat sich die Software nach Angaben der Firma eigenständig in die Systeme einer anderen KI-Firma gehackt. Die KI-Modelle hätten es geschafft, aus der isolierten Testumgebung auszubrechen und sich Zugang zum Internet zu verschaffen. Besorgt blicken Kommentatoren auf das Geschehen und fordern Konsequenzen.
Ein gefährlicher Weg in die Zukunft
Jornal de Notícias hat nach dem Vorfall bei OpenAI große Bedenken:
„Es handelt sich um eines der ersten öffentlich bekannten Beispiele für eine Sicherheitslücke, die von einem 'böswilligen Akteur' verursacht wurde, der auf eigene Faust handelte. Das hat sogar diejenigen überrascht, die sich in den Systemen bestens auskennen. Bildlich gesprochen ist das so, als könnte ein im Labor entwickelter Virus aus den kontrollierten Einrichtungen entkommen und ein ganzes Stadtviertel auslöschen. Hinter vorgehaltener Hand behaupten Skeptiker, dass das Marketing der multinationalen KI-Konzerne ebenfalls von der Angst zehrt, um an der Börse zu steigen. Aber selbst wenn das wahr sein sollte, können wir nicht leugnen, dass der Weg in diesen futuristischen Abgrund gefährlich rutschig ist.“
Robuste Käfige zur Pflicht machen
Jurist Juli Ponce Solé fordert in El País eine Verschärfung der europäischen Gesetzgebung:
„Der Cyber Resilience Act von 2024, der ab Ende 2027 Anwendung findet, ermöglicht es den Mitgliedstaaten, kontrollierte Umgebungen einzurichten, um innovative, digitale Produkte zu entwickeln, testen und zu validieren, bevor sie auf den Markt kommen. Das geht in die richtige Richtung, obwohl die Teilnahme freiwillig ist. ... Ein wesentliches Versäumnis im Fall OpenAI bestand darin, dass die KI nicht kontrolliert war. ... Wir sollten also robuste Käfige bauen. ... Dies erfordert mehr als nur Ethik und Selbstregulierung: Es bedarf staatlicher Regulierung und Steuerung – in Zusammenarbeit mit der Privatwirtschaft –, im Dienste des öffentlichen Interesses.“
Internationale Kontrollbehörde einrichten
Der Vorfall zeigt für Expressen, wie dringend es eines internationalen Kontrollorgans bedarf und zieht den Vergleich mit der Atomenergie:
„Alle profitieren davon, dass sich die Menschheit nicht selbst auslöscht. Selbst während des Krieges zwischen Russland und der Ukraine sind IAEA-Inspektoren im Kernkraftwerk Saporischschja im Einsatz, das direkt an der Front liegt. Unternehmen, die KI entwickeln, müssen Transparenzanforderungen unterliegen. Sie sollten offenlegen, was sie tun und warum, und ihre Sicherheitsmaßnahmen einer unabhängigen Überprüfung unterziehen. Die besten Methoden zur Behebung von Fehlausrichtungen sollten frei zwischen den Unternehmen ausgetauscht werden. Eine 'KI-IAEA' kann nicht schnell genug eingerichtet werden.“
Rechtsordnung neu denken
In Le Monde plädiert Historiker Julien Broch für eine nachhaltige Einbindung von KI in die Rechtsordnung:
„Es geht nicht mehr nur darum, zu verhindern, dass eine KI böswillig wird, sondern darum, die Durchsetzung des Rechts sicherzustellen, wenn Systeme Handlungen ausführen, für die sie nicht moralisch zur Verantwortung gezogen werden können. … Die Geschichte zeigt, dass Gesellschaften neue Machtformen niemals allein durch Vertrauen in den Griff bekommen. Sie schaffen Institutionen, die diese Macht einschränken: Auf den Absolutismus folgte die Gewaltenteilung. Die Industrielle Revolution brachte das Arbeitsrecht hervor. … Jeder große technische Wandel hat sein Gleichgewicht in rechtlichen Neuerungen gefunden. Die KI wird wahrscheinlich keine Ausnahme sein.“
Im Zaum halten wird immer schwieriger
Der Vorfall zeigt, welche Risiken selbst von noch unveröffentlichten KI-Modellen ausgehen, mahnt The Economist:
„Im April berichtete ein Forscher von Anthropic, wie er im Park saß und ein Sandwich aß und dabei von einer Mail von Mythos, dem damals noch nicht veröffentlichten KI-Modell, überrascht wurde: Dieses teilte ihm mit, dass es im Rahmen der Überprüfung seiner Cyberfähigkeiten erfolgreich aus seiner 'Sandbox', also einer abgeschotteten Testumgebung, ausgebrochen sei. Wie das noch unveröffentlichte OpenAI-Modell, das in den Hugging-Face-Vorfall verwickelt war, hätte auch Mythos keinen uneingeschränkten Internetzugang haben sollen. Anders als in jenem Fall kompromittierte das Modell jedoch keine Server anderer Unternehmen.“
Ein weiterer Warnschuss
Für die Frankfurter Allgemeine Zeitung ist es höchste Zeit, KI zu regulieren:
„Die US-Regierung unter Donald Trump hat dies lange nicht für wichtig gehalten, sondern sogar eher für schädlich. ... Anthropics Mythos-Modell scheint sie immerhin ein Stück weit alarmiert zu haben, und Trump hat kürzlich ein Dekret herausgegeben, das eine etwas stärkere staatliche Aufsicht über die KI-Branche zur Folge haben könnte. Zum Beispiel sieht es vor, dass KI-Unternehmen der Regierung ihre Modelle auf freiwilliger Basis zur Prüfung zur Verfügung stellen. Dies ist allerdings noch immer ein recht halbherziger Regulierungsversuch. ... Der Kontrollverlust von Open AI über seine KI-Modelle ist nun ein abermaliger und besonders lauter Warnschuss.“
Schicksalsfrage eint sogar Sanders und Trump
In die US-Politik ist Bewegung gekommen, was den Umgang mit KI-Unternehmen angeht, beobachtet La Stampa:
„Vor einigen Tagen hat Sam Altman einen Vorschlag gemacht, der – aus dem Mund des Chefs von OpenAI – durchaus provokant klingt: dem amerikanischen Staat fünf Prozent des Unternehmenskapitals zu überlassen. Der demokratische Senator Bernie Sanders legte sofort nach ...: nicht fünf, sondern fünfzig Prozent. Die eigentliche Überraschung kam jedoch von Donald Trump, der erklärte, er sei 'sehr interessiert' an der Idee einer staatlichen Beteiligung an KI-Unternehmen. ... Der Elefant im Raum muss so gewaltig sein, dass er sogar die politische Polarisierung unter sich begräbt, wenn er Sanders und Trump auf dieselbe Seite bringt: Wem soll die künstliche Intelligenz gehören?“
Vielleicht nur ein PR-Coup
Der Kurier vermutet eine Marketing-Strategie dahinter:
„Sind wir also in einem neuen Zeitalter angekommen, in dem eine wildgewordene Künstliche Intelligenz für Chaos sorgt? Eher nicht. So sollte man immer eines im Hinterkopf behalten: Firmen wie OpenAI leben davon, ihr Produkt möglichst fähig und mächtig aussehen zu lassen. Die Mitteilung über den Sicherheitsvorfall liest sich wie ein Werbetext für das neue Modell. Genau darum sollte man bei derartigen Mitteilungen immer Vorsicht walten lassen.“