Künstliche Intelligenz

Ausgeburt der Hölle? Die Warnungen häufen sich

Noch in den laufenden Zwanziger Jahren könnten superintelligente Systeme der Künstlichen Intelligenz (KI), intelligenter als die Menschen, Wirklichkeit werden, die in der Lage sind, die Menschheit nicht nur zu entmachten, sondern schließlich zum Aussterben zu verurteilen, zumal es aktuell keine Möglichkeit gibt, eine potenziell superintelligente KI so zu kontrollieren, dass sie keine eigenen Pfade einschlägt.

Was für ein Quatsch, mag man denken. Wer erzählt so einen Mist? Es kann sich ja wohl nur um chronische Angstmacher handeln, die von der KI überhaupt keine Ahnung haben.

Die beiden, die solche Bedenken äußern und gar Warnungen aussprechen, heißen Ilya Sutskever und Jan Leike. Wer sind sie?
Ilya Sutskever: Mitgründer von OpenAI, dem Schöpfer von ChatGPT
Jan Leike: Leiter der OpenAI-Abteilung für zukünftige Ausrichtung

Ob die beiden Goethe wohl kennen: 
"O, du Ausgeburt der Hölle!
Soll das ganze Haus ersaufen?"

Jedenfalls hadern die beiden jetzt schon mit den Geistern, die sie, wenn auch nicht alleine, riefen. Damit reihen sie sich ein in die immer lauter werdende Menge der warnenden KI-Protagonisten. Sie wollen diese "Geister" allerdings nicht los werden, könnten es auch kaum, dafür dürfte der "Point of no Return" längst hinter uns liegen.

Sutskever und Leike setzen stattdessen auf Optimierung, wenn man will, auf Schadensbegrenzung.  
Deshalb beabsichtigt OpenAI nun, in Zusammenarbeit mit Microsoft ein neues Forschungsteam auf die Beine stellen, in dessen Arbeit erheblich investiert werden soll, deren einzige Aufgabe es ist, eine von der KI womöglich ausgehende Sicherheitsbedrohung für die Menschen zu verhindern. Ob sie damit maßgeblich sind für die gesamte KI-Branche.
(Die Büchse der Pandora kommt mir in den Sinn.)

Aber die Hoffnung stirbt bekanntlich zuletzt. So kann man als Otto Normalverbraucher, der nicht in der Materie steckt, diesem Team nur die Daumen drücken und viel Glück, nein, viel Erfolg wünschen.