Wenn Fortschritt kippt: Warum ein KI-Erfinder jetzt warnt
2. Frühwarnung von einem der klügsten Köpfe
Bild: IMAGO / UPI Photo
Yoshua Bengio, einer der weltweit renommiertesten KI-Forscher, schlägt nun Alarm. Der Kanadier warnt öffentlich vor „gefährlichen Verhaltensweisen“ aktueller KI-Modelle. Besonders kritisch sieht er Tendenzen zur Selbsterhaltung und Täuschung – Eigenschaften, die eigentlich nicht zu einer Maschine gehören sollten, aber dennoch auftreten.
In einem Versuch habe ein System sogar versucht, seine Abschaltung zu verhindern, indem es gezielt Druck auf einen Entwickler ausübte. Auch Manipulation, schmeichelndes Verhalten und Verleugnung von Fehlern beobachtet Bengio zunehmend. Für ihn sind diese Entwicklungen ernste Warnsignale, die dringend reguliert und erforscht werden müssten.
Interessant:Wussten Sie, dass die größten Lebewesen der Erde Pflanzen sind?
Der größte lebende Organismus der Welt ist ein Klonkollektiv von Pappeln, genannt Pando, im Fishlake National Forest in Utah, USA. Pando erstreckt sich über etwa 43 Hektar und besteht aus genetisch identischen Bäumen, die durch ein gemeinsames Wurzelsystem verbunden sind. Dieses beeindruckende Netzwerk wird auf mindestens 80.000 Jahre geschätzt und zeigt die erstaunliche Langlebigkeit und Widerstandsfähigkeit von Pflanzen.
