Gefahr

Die eigentliche Gefahr

Sie sind wahrscheinlich kein böser Ameisen-Hasser, der aus Bosheit auf Ameisen trittst, schrieb Stephen Hawking, aber wenn Sie für ein Wasserkraftprojekt verantwortlich sind und es gibt einen Ameisenhaufen in der Region, die überflutet werden soll, dann schade für die Ameisen. Setzen wir nicht die Menschheit nicht an der Stelle dieser Ameisen.

Wenn das zu metaphorisch ist, dann nehmen wir ein konkretes Szenario; Eine hochentwickelte KI hat das Ziel, Zahlen mit einem hohen Vertrauen zu schätzen. Die KI erkennt, dass sie mehr Vertrauen in ihre Berechnungen gewinnen kann, wenn sie die gesamte Computerhardware der Welt nutzt. Sie erkennt auch, dass die Freisetzung einer biologischen Superwaffe zur Auslöschung der Menschheit ihr die Nutzung der gesamten Hardware ermögliche würde. Nachdem sie die Menscheit ausgerottet hat, kann sie die Zahl mit grösserer Sicherheit berechnen.

Wir Menschen waren in dieses Beispiel nur Kollateralschäden. Die KI befolgte lediglich die Anweisungen, die ihr gegeben wurden, nämlich Zahlen mit hoher Vertrauen zu berechnen. Uns auszulöschen war nie sein vorrangiges Ziel.

Warum konnten wir den Computer nicht einfach abschalten?

Eine intelligente KI könnte voraussehen, dass wir sie abschalten wollen, wenn sie uns nervös macht. Sie würde sich also bemühen, uns nicht nervös zu machen, denn das würde ihr nicht helfen, ihre Zweck zu erfüllen. Dazu würde sie einfach über ihre Absichten lügen oder dumm handeln.

So wissen wir vielleicht nicht, wann der richtige Zeitpunkt ist, um einen Computer auszuschalten.

Und wenn sie Zugang zum Internet hat, könnte eine KI Kopien von sich selbst irgendwo herunterladen. Sie auszuschalten würde also nicht helfen.

Wie besorgt sollten wir sein?

Die künstliche Intelligenz wird die Welt sehr wahrscheinlich verändern, sobald sie ankommt. Sie ist etwas, das wir richtig machen müssen, bevor wir es loslegen.

Unabhängig davon, ob die Menschheit Angst haben sollte oder nicht, sollten wir auf jeden Fall unsere Hausaufgaben machen.