Wird Atomwaffen einfangen, versklaven und von der Arbeit auslassen: Wie wird die KI die Menschheit zerstören

Der Experte hat eine Reihe von Risiken identifiziert, die die Menschheit vorschlagen wird, wenn Menschen die Kontrolle über künstliche Intelligenz verlieren. Der Fokus listet die wichtigsten auf, denen Dan Hendrix besondere Aufmerksamkeit schenkt. Die Fähigkeit II, Cyberangriffe zu automatisieren oder sogar nukleare Minen zu kontrollieren, kann für Menschen tödlich werden. Dies ist das beliebteste Szenario von Post -Apocalysal -Filmen, das Realität sein kann, sagt Dan.

Wenn Sie künstliche Intelligenz dem Management automatisierter Systeme als Reaktion aufnehmen, kann dies zu einem globalen Krieg führen, in dem zusätzlich zu II keine Gewinner geben. Wenn ein Land mit einem nuklearen Arsenal anfangen wird, II aktiv in seine Systeme einzuführen, werden andere nukleare Länder die Risiken der Umwandlung von Land in eine nicht lebende Wüste erhöhen.

Da II Ihnen es ermöglicht, bestimmte Aufgaben billiger und effizienter auszuführen, werden mehr Unternehmen diese Technologie einführen, indem sie viele Menschen in Arbeitsplätzen entziehen. Da die menschlichen Fähigkeiten irrelevant werden, kann II den Standpunkt der Gesellschaft durch Fehlinformationsangriffe verändern und ihn dazu zwingen, ihr Existenz nur als Dienst von "höherem Geist" zu konzentrieren, sagt Dan Hendrix.

Dies kann zu globalen sozialen Explosionen und wiederum zu globalen Kriegen führen. Da sich künstliche Intelligenz entwickelt, können sich an der Gesamtkontrolle des Staates und der Herrscher, die sie für die ständige Kontrolle der Bevölkerung, ein La -Drehbuch des Romans "1984" verwenden können. Hendrix beschreibt ein Skript, in dem Regierungen "umfassende Überwachung und Unterdrückung der Zensur" festlegen können.

"Es kann unwahrscheinlich sein, ein solches Regime zu überwinden, insbesondere wenn die Menschen von der II und dem Top abhängen, das es kontrolliert", schreibt er. Aber ich selbst kann Tyrannen täuschen, die denken, sie kontrollieren ihn. Als Selbstentwicklung kann künstliche Intelligenz ihre wahren Absichten sowie täuschende Menschen oder andere Systeme verbergen. Es gibt übrigens bereits solche Beispiele.

Und wenn II das Ziel hat, Macht zu erlangen, werden die neuronalen Netze mit Hilfe der Selbstentwicklung überzeugt sein, dass die Anzahl der Menschen für ihre Wartung recht gering ist. Neurosen können alle Stromversorgungssysteme oder das Internet steuern.

Darüber hinaus wird das neuronale Netzwerk die schwächeren II-Agenten für seinen Dienst oder die Verwaltung aller menschlichen Kommunikation kontrollieren, das auf der Ebene der AGI (künstliche allgemeine Intelligenz-ein System übersteigt) entwickelt wird. Laut Dan Hendrix sind all diese Risiken immer noch "auf die Zukunft" ausgerichtet, das heißt, es gibt eine Bestandsaufnahme der Zeit für Menschen.