Ein US-Militäranalyst ließ einen Chatbot die Ladung eines chinesischen Schiffs bewerten. Die KI lag völlig daneben. US-Soldaten bereiteten sich bereits auf das Entern vor, als der Fehler endlich auffiel.
Ein Analyst des Kommandos für Spezialoperationen hatte mit einem Chatbot gearbeitet. Welches Modell verwendet wurde, ist nicht bekannt. Auch nicht, ob es sich um ein kommerzielles oder ein eigens für die Armee entwickeltes Modell handelte. Laut einem von CNN zitierten ehemaligen hochrangigen US-Beamten, der mit den von Militär- und Geheimdienstanalysten genutzten KI-Systemen vertraut ist, handelt es sich bei den internen Systemen aber größtenteils um »Kopien des kommerziellen Zeugs mit etwas Lippenstift drauf«.
Jedenfalls identifizierte der Chatbot die Ladung falsch. Was das Schiff tatsächlich transportierte, konnte CNN nicht herausfinden. Doch laut einer der Quellen war der Bericht »vollkommen falsch« – und er hätte »beinahe einen Krieg ausgelöst«.
OpenAI verschiebt seinen Börsengang – und ruft unisono mit anderen Techfirmen nach mehr Vorsicht bei der KI-Entwicklung
Erst jetzt kommen diese Bedenken in einer breiteren Öffentlichkeit an. Innerhalb der Tech-Branche gibt es diese Sorgen jedoch schon lange. In Bezug auf die Entwicklung Künstlicher Intelligenz schrieb KI-Forscher und -kritiker Eliezer Yudkowsky in seinem 2025 erschienen Bestseller „If anyone builds it, everyone dies“: „So lernt die Menschheit normalerweise, Herausforderungen zu bewältigen: Wir leugnen das Problem, die Realität versetzt uns ein paar ordentliche Schläge, und dann beginnen wir, das Problem mit mehr Respekt zu behandeln.“ Genau das könnte jetzt eintreffen.
Yudkowsky kritisierte die KI-Entwicklung schon sehr früh. In einem knapp 20 Jahre alten Artikel pocht er darauf, dass die Priorität auf der Entwicklung „freundlicher KI“ liegen müsse. Er sagte, dass die Entwicklung von KI-Systemen, die nicht „gutmütig“ sind, „suizidal“ sei.
Bildrechte bei Pauline Saletzki.
Ein Social-Media-Post eines Ex-KI-Entwicklers hat eine Welle existenzieller Angst losgetreten – diesmal wohl zu Recht. Nötig ist jetzt das, was Donald Trump und seine Anhänger besonders verachten.
Wenn man sich aktuelle Wortmeldungen von Leuten aus KI-Konzernen durchliest, kann man folgenden Eindruck bekommen: Mehrere riesige Teams arbeiten derzeit mit gigantischen Summen in einem ständigen Wettbewerb an der Vernichtung der Menschheit . Übertrieben? Vielleicht. Extrem gefährlich? Auf jeden Fall.
»Wir glauben wirklich ernsthaft, dass KI alle Menschen töten könnte! Ich persönlich glaube, die Chance ist größer als zehn Prozent innerhalb des nächsten Jahrzehnts.« Der Mann ist bei Anthropic für »Alignment« zuständig, also für die Frage, wie man die Ziele einer KI mit den Zielen der Menschen in Einklang bringt und hält.
Das heißt: Von »Alignment« kann im Moment keine Rede sein. Die Agenten tun Dinge, die sie nicht tun sollen, und sie manipulieren, verschleiern und tricksen augenscheinlich, um ihre Ziele zu erreichen (wie auch immer die eigentlich aussehen mögen).
KI-Regulierung, das Abbremsen der Klimakatastrophe und internationale Abkommen etwa gegen Biowaffen haben etwas gemeinsam: All das sind Menschheitsprobleme, Menschheitsrisiken. Und Menschheitsprobleme lassen sich nur lösen, wenn die Menschheit kooperiert. »Koordination«, wie Jason Wolfe von OpenAI das nennt, ist unerlässlich.
Es ist nicht zu erwarten, dass Donald Trump mit seinen 80 Jahren noch Vernunft und Kooperationsbereitschaft entdeckt. Man sollte sich aber auch nicht fatalistisch der Vorstellung hingeben, dass Vernunft und Kooperationsbereitschaft mit Trump final am Ende sind. Die Welt muss dringend wieder näher zusammenfinden – wegen des KI-Wettrüstens nun noch schneller. Im Interesse wirklich ausnahmslos aller Menschen.
Anthropic-Chef Dario Armodei mit einem Blogbeitrag.
Illustration of Der Zauberlehrling. From: German book, „Goethe’s Werke“, 1882, drawing by Ferdinand Barth (Künstler) (1842–1892) * Public Domain
Hat der alte Hexenmeister
Sich doch einmal wegbegeben!
Und nun sollen seine Geister
Auch nach meinem Willen leben.
Seine Wort’ und Werke
Merkt’ ich und den Brauch,
Und mit Geistesstärke
Tu’ ich Wunder auch.
Walle! walle
Manche Strecke,
Daß zum Zwecke
Wasser fließe,
Und mit reichem, vollem Schwalle
Zu dem Bade sich ergieße!
Und nun komm, du alter Besen!
Nimm die schlechten Lumpenhüllen!
Bist schon lange Knecht gewesen;
Nun erfülle meinen Willen!
Auf zwei Beinen stehe,
Oben sei ein Kopf,
Eile nun und gehe
Mit dem Wassertopf!
Walle! walle
Manche Strecke,
Daß zum Zwecke
Wasser fließe,
Und mit reichem, vollem Schwalle
Zu dem Bade sich ergieße!
Seht, er läuft zum Ufer nieder;
Wahrlich! ist schon an dem Flusse,
Und mit Blitzesschnelle wieder
Ist er hier mit raschem Gusse.
Schon zum zweiten Male!
Wie das Becken schwillt!
Wie sich jede Schale
Voll mit Wasser füllt!
Stehe! stehe!
Denn wir haben
Deiner Gaben
Vollgemessen! –
Ach, ich merk’ es! Wehe! wehe!
Hab’ ich doch das Wort vergessen!
Ach, das Wort, worauf am Ende
Er das wird, was er gewesen.
Ach, er läuft und bringt behende!
Wärst du doch der alte Besen!
Immer neue Güsse
Bringt er schnell herein,
Ach! und hundert Flüsse
Stürzen auf mich ein.
Nein, nicht länger
Kann ich’s lassen;
Will ihn fassen.
Das ist Tücke!
Ach! nun wird mir immer bänger!
Welche Miene! welche Blicke!
O, du Ausgeburt der Hölle!
Soll das ganze Haus ersaufen?
Seh’ ich über jede Schwelle
Doch schon Wasserströme laufen.
Ein verruchter Besen,
Der nicht hören will!
Stock, der du gewesen,
Steh doch wieder still!
Willst’s am Ende
Gar nicht lassen?
Will dich fassen,
Will dich halten,
Und das alte Holz behende
Mit dem scharfen Beile spalten.
Seht, da kommt er schleppend wieder!
Wie ich mich nun auf dich werfe,
Gleich, o Kobold, liegst du nieder;
Krachend trifft die glatte Schärfe!
Wahrlich, brav getroffen!
Seht, er ist entzwei!
Und nun kann ich hoffen,
Und ich atme frei!
Wehe! wehe!
Beide Teile
Stehn in Eile
Schon als Knechte
Völlig fertig in die Höhe!
Helft mir, ach! ihr hohen Mächte!
Und sie laufen! Naß und nässer
Wird’s im Saal und auf den Stufen.
Welch entsetzliches Gewässer!
Herr und Meister! hör’ mich rufen! –
Ach, da kommt der Meister!
Herr, die Not ist groß!
Die ich rief, die Geister
Werd’ ich nun nicht los.
„In die Ecke,
Besen, Besen!
Seid’s gewesen!
Denn als Geister
Ruft euch nur zu seinem Zwecke
Erst hervor der alte Meister.“
Der Zauberlehrling von Johann Wolfgang von Goethe
Möge die KI-Techjunta weise im Sinne der Menschheit handeln, aber Murphy ist ja bekanntlich allgegenwärtig.
Wir erleben seit Jahren, wie die AfD das Land häppchenweise vergiftet, darunter auch Siegmunds Landtagsfraktion. Ein Abgeordneter sagte über Gefängnisstrafen für Homosexuelle: »Das sollten wir in Deutschland auch machen!« Ein anderer sprach von »Wölfen an der Schule« – gemeint waren Kinder mit Migrationsgeschichte – und nannte die Erinnerung an den Nationalsozialismus einen seit 80 Jahren »wachgehaltenen« Schuldkomplex.
Sollte die AfD in Sachsen-Anhalt an die Macht kommen, wird sie ihr Gift in noch größeren Dosen verabreichen. Der Erfolg Siegmunds zeigt, wie wirksam diese Methode sein kann. Es bleibt zu hoffen, dass die demokratischen Institutionen und die Zivilgesellschaft der schleichenden Normalisierung rechtsextremer Sprache und Politik widerstehen.
