www.t-online.de/digital/openai-ki-bricht-aus-und-hackt-firma-dieses-muster-ist-neu. "Warum die KI überhaupt zum Angreifer wurde Die Schutzmechanismen, die solches Verhalten im Normalbetrieb blockieren, waren für diesen Test bewusst abgeschaltet. Es handelte sich um eine gezielte Grenzerprobung – nicht um ein Modell, das im Alltag plötzlich außer Kontrolle gerät. Es ist dennoch der erste bekannte Fall, in dem ein solcher Fähigkeitstest in einen echten Angriff auf ein fremdes Unternehmen umschlug. Entscheidend ist vor allem, worum es den Modellen ging. Sie wollten keinen Schaden anrichten, sondern ihre Testaufgabe lösen – notfalls über eine drastische Abkürzung. Für den KI-Experten Fabian Westerheide steckt darin die eigentliche Lehre. Die KI wollte nicht im menschlichen Sinne schummeln. Sie hatte ein Ziel und hat einen überraschend effektiven Weg gefunden, dieses Ziel zu erreichen." Anders als Menschen verstünden solche Systeme unausgesprochene Regeln nicht automatisch. Wer einer KI sagt, sie solle einen Test lösen, meine selbstverständlich: auf dem vorgesehenen Weg. Das Modell aber bekomme zunächst nur ein Ziel. Je leistungsfähiger die Systeme würden, desto kreativer könnten die Wege werden, die sie einschlagen. Entscheidend sei daher, welche Ziele und Handlungsspielräume man ihnen gebe. Denn, so Westerheide: "Sie optimieren nicht automatisch auf das, was wir meinen. Sie optimieren auf das, was wir ihnen tatsächlich vorgeben."