Ein Social-Media-Post eines Ex-KI-Entwicklers hat eine Welle existenzieller Angst losgetreten – diesmal wohl zu Recht. Nötig ist jetzt das, was Donald Trump und seine Anhänger besonders verachten.
Wenn man sich aktuelle Wortmeldungen von Leuten aus KI-Konzernen durchliest, kann man folgenden Eindruck bekommen: Mehrere riesige Teams arbeiten derzeit mit gigantischen Summen in einem ständigen Wettbewerb an der Vernichtung der Menschheit . Übertrieben? Vielleicht. Extrem gefährlich? Auf jeden Fall.
»Wir glauben wirklich ernsthaft, dass KI alle Menschen töten könnte! Ich persönlich glaube, die Chance ist größer als zehn Prozent innerhalb des nächsten Jahrzehnts.« Der Mann ist bei Anthropic für »Alignment« zuständig, also für die Frage, wie man die Ziele einer KI mit den Zielen der Menschen in Einklang bringt und hält.
Das heißt: Von »Alignment« kann im Moment keine Rede sein. Die Agenten tun Dinge, die sie nicht tun sollen, und sie manipulieren, verschleiern und tricksen augenscheinlich, um ihre Ziele zu erreichen (wie auch immer die eigentlich aussehen mögen).
KI-Regulierung, das Abbremsen der Klimakatastrophe und internationale Abkommen etwa gegen Biowaffen haben etwas gemeinsam: All das sind Menschheitsprobleme, Menschheitsrisiken. Und Menschheitsprobleme lassen sich nur lösen, wenn die Menschheit kooperiert. »Koordination«, wie Jason Wolfe von OpenAI das nennt, ist unerlässlich.
Es ist nicht zu erwarten, dass Donald Trump mit seinen 80 Jahren noch Vernunft und Kooperationsbereitschaft entdeckt. Man sollte sich aber auch nicht fatalistisch der Vorstellung hingeben, dass Vernunft und Kooperationsbereitschaft mit Trump final am Ende sind. Die Welt muss dringend wieder näher zusammenfinden – wegen des KI-Wettrüstens nun noch schneller. Im Interesse wirklich ausnahmslos aller Menschen.
Anthropic-Chef Dario Armodei mit einem Blogbeitrag.
