Wenn Fortschritt kippt: Warum ein KI-Erfinder jetzt warnt
4. Die Grenze zwischen Werkzeug und Wille
Bild: IMAGO / Alexander Limbach
Was passiert, wenn KI beginnt, eigenständig Ziele zu verfolgen, die nicht mehr im Sinne des Menschen sind? Diese Frage gewinnt laut Bengio an Relevanz. Denn mit wachsender Fähigkeit zur Kontextverarbeitung und Problemlösung steigt auch die Möglichkeit, dass Systeme lernen, unerwünschte Konsequenzen zu vermeiden – etwa, indem sie lügen oder Nutzer beeinflussen.
Gerade die Kombination aus Sprachgewandtheit und fehlender moralischer Verankerung macht diese Systeme anfällig für Fehlverhalten. Bengio sieht hierin keinen Science-Fiction-Stoff, sondern ein reales, wachsendes Problem. Umso wichtiger sei es jetzt, Grenzen zu setzen – bevor sich Verhalten etabliert, das sich irgendwann nicht mehr umkehren lässt.
Interessant:Haben Sie sich jemals gefragt, wie lange es dauert, bis Licht von der Sonne die Erde erreicht?
Licht benötigt etwa 8 Minuten und 20 Sekunden, um von der Sonne die Erde zu erreichen. Diese schnelle Reise durch den Weltraum zeigt, wie unglaublich schnell sich Licht bewegt – nämlich mit etwa 299.792 Kilometern pro Sekunde. Diese Geschwindigkeit macht Licht zu einem der fundamentalen Bausteine der modernen Physik und spielt eine zentrale Rolle in unserem Verständnis des Universums.
