29 les Leid in der Welt von Menschen ausgeht und zieht dementsprechen de Konsequenzen oder kommt vielleicht gleich zu dem Schluss dass die einzige Lösung ist die Existenz aller leidensfähigen Wesen zu been den Dieses Beispiel soll nur andeuten dass es ein ungelöstes und schwieriges Problem ist einer KI korrekt Ziele oder moralische Vor stellungen einzuprogrammieren sodass sich keine negativen Konse quenzen ergeben Die Forschung zum Thema sicherer KI steckt noch in den Kinderschuhen Diese Warnungen sind zunächst nur eine interessante oder beunruhi gende Überlegung Verfechter dieser Ideen haben sich zum Teil aber schon gefragt oder sind mit der Behauptung konfrontiert worden dass ihre Fokussierung auf die beschriebene Gefahr kulthafte Züge anneh me Während ich es fragwürdig finde auf diese Art und Weise potenti ell berechtigte Sorgen diskreditieren zu wollen fasziniert mich der Gedanke die Erwartung einer Superintelligenz als etwas quasi religiöses aufzufassen Die Grundidee kenne ich aus einem Vortrag des Science Fiction Autors Charles Stross Ich denke nicht dass diese Be schreibung dem Denken real existierender Personen gerecht wird Das soll aber auch nicht das Ziel dieses Gedankenexperiments sein Der Gedanke geht so Den Moment in dem die KI die Kontrolle über unser Schicksal übernimmt könnte man als ein apokalyptisches Szena rio betrachten Die Erwartung eines Tages an dem die Welt wie wir sie kennen zu Ende geht Diese Analogie zu biblischen Beschreibungen haben natürlich alle Untergangsszenarien gemein Faszinierend wird die Parallele wenn man bedenkt dass sie auch als Erlösung gedacht werden kann Wenn die Maschine uns von Hunger Krankheit und Gewalt befreit bekommt sie die Rolle eines Erlösergottes Das Heilsversprechen geht aber noch weiter Wenn Maschinen erst in der Lage sind komplexe denkfähige Bewusstseine auszubilden dann so glauben einige wird es auch irgendwann möglich sein unseren Geist in ebenso eine Maschine hochzuladen Für Menschen die an R E F L E X IO N Heilsver sprechen

Hinweis: Dies ist eine maschinenlesbare No-Flash Ansicht.
Klicken Sie hier um zur Online-Version zu gelangen.