KI-Bosse warnen vor der eigenen Technologie – Trump blockt

TVS News KI redaktionell betreut präsentiert KI-Chefs vor dem UN-Sicherheitsrat: Altman und Amodei warnen vor sich selbst.

Klingt nach einem innigen Widerspruch: Die Chefs der mächtigsten KI-Konzerne der Erde treten vor den UN-Sicherheitsrat und warnen vor der eigenen Technologie. Genau das ist in New York passiert.

Sam Altman (OpenAI) und Dario Amodei (Anthropic) haben laut Handelsblatt auf der Weltbühne globale Leitplanken für Künstliche Intelligenz gefordert. Beide Manager begründen den Vorstoß mit dem Risiko einer Superintelligenz – einer KI, die den Menschen in den meisten kognitiven Aufgaben übertrifft und deren Folgen sich nach heutigem Stand kaum abschätzen lassen.

Was wie ein Aufruf zur Selbstbeschränkung wirkt, hat handfeste politische Gründe. Denn ausgerechnet bei in Washington stoßen die CEOs auf verschlossene Kernregierungsschranken: US-Präsident Trump lehnt KI-Regulierung ab. Damit geraten die Tech-Bosse in ein Dilemma: Zu Hause blockiert, werben sie international um Regeln.

Was Altman und Amodei in New York konkret verlangen

Die Forderung der beiden CEOs lässt sich klar benennen, die Details bleiben vage. Nach Handelsblatt-Angaben geht es ihnen um verbindliche Leitplanken für den Fall, dass KI-Systeme menschliche Fähigkeiten übersteigen. Welche Institutionen diese Standards überwachen, welche Tests greifen und welche Sanktionen bei Verstößen drohen – dazu enthält der bisherige Bericht keine konkreten Punkte.

Bemerkenswert ist die Tonlage. Die beiden Manager treten nicht als Bittsteller auf, sondern als Akteure, die ihre eigene Branche am liebsten heute noch eingezäunt sehen wollen. Ein solches Bild ist in der Tech-Geschichte selten.

Trump lehnt ab – und stellt die CEOs bloß

Während die KI-Chefs in New York um internationale Regeln werben, blockiert die US-Regierung zu Hause. Präsident Trump lehnt Regulierung ab. Das stellt die Tech-Manager vor ein Dilemma, das die New Yorker Bühne nicht auflösen kann.

Die KI-Chefs können sich nicht offen gegen die eigene Regierung stellen, brauchen Washington aber zumindest stillschweigend, damit internationale Standards überhaupt Wirkung entfalten. Dieser Spagat prägt die Debatte.

Warum Kritiker den Konzernen misstrauen

Die entscheidende Frage steht im Raum und formuliert das Handelsblatt klar: Geht es den Konzernen wirklich nur um Sicherheit? Kritiker verweisen darauf, dass eine Regulierungsforderung auch ein strategischer Schachzug sein kann. Wer die Leitplanken mitdefiniert, sitzt mit am Tisch – und gestaltet mit, wie „sicher“ überhaupt gemessen wird.

Das ist die bekannte Industrie-Logik: Wer die Sicherheitsstandards schreibt, schreibt am Ende oft auch die Marktordnung. Kleinere Wettbewerber müssten dann dieselben Hürden nehmen – mit weniger Kapital im Rücken.

Was jetzt auf dem Spiel steht

New York war der Auftakt. Die eigentliche Frage ist, ob aus dem Auftritt vor dem Sicherheitsrat ein verbindlicher Prozess wird. Bisher blockieren die USA, Europa debattiert, China baut eine eigene KI-Politik – und die Konzerne versuchen, auf jedem Parkett mitzuteilen.

Was bleibt, ist eine seltene Konstellation: Eine Technologie, deren Erbauer laut um internationale Regeln bitten. Ob das Warnung oder Strategie ist, werden die nächsten Monate zeigen.