Warum warnen Tech-Bosse vor ihrer KI?
OpenAI-Chef Sam Altman und Dario Amodei, Chef des KI-Unternehmens Anthropic, haben vor dem UN-Sicherheitsrat in New York erneut vor den Gefahren einer unregulierten Entwicklung Künstlicher Intelligenz gewarnt. Sie forderten international gültige Kontrollmechanismen, um mögliche Gefahren der KI einzudämmen. Europas Presse ist beunruhigt.
Noch ist es nicht zu spät
Der Spiegel kann dem Auftritt der beiden KI-Unternehmer Altman und Amodei vor dem UN-Sicherheitsrat nicht viel abgewinnen:
„Es ist, als würden verrußte Brandstifter aus einem brennenden Haus stolpern und einer widerwillig anrückenden Feuerwehr erklären, welche Brandschutzmaßnahmen nun zu beachten sind und wo im Haus sie Platz hätten für einen Feuerlöscher. So kann sich kein Bürger sicher fühlen. ... [Die Politik] ist zumindest mitschuldig am KI-Schlamassel und hat der Branche bislang zu wenige Leitplanken gesetzt. Diese Lücke gilt es nun schleunigst zu schließen. Eine entschlossene Politikfeuerwehr, die den KI-Brand löschen will, ist leider noch nicht zu erkennen. Aber noch ist es nicht zu spät.“
Drohendes nukleares Inferno
Der Tages-Anzeiger malt ein Horrorszenario an die Wand:
„Stellen Sie sich vor, ein KI-Agent macht sich selbstständig und hackt die Abschusscodes für die Atomwaffen einer Supermacht. Dutzende Raketen, bestückt mit Sprengköpfen, die innert Minuten Millionen töten, steigen auf. ... Für den Einsatz von Abfangraketen ist es bereits zu spät, also wird der Gegenschlag ausgelöst, sei es von der Regierung oder ebenfalls von KI, die von der Regierung für diesen Fall programmiert worden war. ... Leider ist die gegenseitige automatisierte Zerstörung nicht ganz unrealistisch: Seit sich Programme von Open AI selbstständig gemacht haben und in ein Unternehmen eingedrungen sind, scheint das Szenario eines mit künstlicher Intelligenz ausgelösten Atomkriegs nicht mehr ausgeschlossen.“
Menschheit degradiert sich selbst
Die Wahrnehmung von KI hat sich durch die Ereignisse in diesem Sommer grundlegend verändert, beobachtet Datenwissenschaftler und Grünen-Politiker Svajūnas Plungė in IQ:
„Der Mensch ist noch nie auf etwas gestoßen, das seinem eigenen Intellekt ebenbürtig wäre – geschweige denn auf einen Verstand, der die gesamte Menschheit zusammengenommen tausendfach übertrifft. Und noch etwas: Wir haben noch nie in einer Welt gelebt, in der diese Superintelligenz alle Schlüssel zu unseren lebenswichtigen Systemen erhalten (oder sich aneignen) könnte: Banken, Strom, Wasser, Lebensmittellogistik, Medizin, Waffen und Kriegsführung. Heute wird alles durch digitale Systeme gesteuert. So ironisch es also klingen mag – wir erschaffen gerade ein Wesen mit gottgleichen Fähigkeiten und reservieren uns dabei, ohne es zu merken, bereits selbst einen Platz im 'Hühnerstall'.“
Gefahr geht nicht von Maschinen aus
Die Tech-Journalistin Sylwia Czubkowska schreibt in Tygodnik Powszechny:
„All dies wurde und wird jedoch von Menschen geschaffen, die diese Technologie selbst planen, programmieren und verkaufen. Und nicht von irgendeiner autonomen KI. Es sind die Menschen und Konzerne, die versuchen, damit Geld zu verdienen und Macht zu erlangen, die uns mehr beunruhigen sollten als die Technologie selbst. Wenn wir diese räuberische Form der KI aufhalten wollen, müssen wir damit beginnen, die Mechanismen zu verstehen, die hinter der Konzentration technologischer Macht stehen.“