blog.softwing.de – das Blog

OpenAI ver­schiebt seinen Bör­sen­gang – und ruft unisono mit anderen Tech­fir­men nach mehr Vorsicht bei der KI-Ent­wick­lung

Erst jetzt kommen diese Bedenken in einer breiteren Öffentlichkeit an. Innerhalb der Tech-Branche gibt es diese Sorgen jedoch schon lange. In Bezug auf die Entwicklung Künstlicher Intelligenz schrieb KI-Forscher und -kritiker Eliezer Yudkowsky in seinem 2025 erschienen Bestseller „If anyone builds it, everyone dies“: „So lernt die Menschheit normalerweise, Herausforderungen zu bewältigen: Wir leugnen das Problem, die Realität versetzt uns ein paar ordentliche Schläge, und dann beginnen wir, das Problem mit mehr Respekt zu behandeln.“ Genau das könnte jetzt eintreffen.

Yudkowsky kritisierte die KI-Entwicklung schon sehr früh. In einem knapp 20 Jahre alten Artikel pocht er darauf, dass die Priorität auf der Entwicklung „freundlicher KI“ liegen müsse. Er sagte, dass die Entwicklung von KI-Systemen, die nicht „gutmütig“ sind, „suizidal“ sei.

taz