Wird AGI uns in Zukunft führen?

Wird AGI uns in Zukunft führen, oder werden wir sie führen? Ich liebe es, Menschen zuzuhören, die klüger sind als ich, und ihre Perspektiven über die Zukunft der Menschheit zu erkunden. Kürzlich bin ich auf den YouTube-Kanal der Nobelpreise gestossen, wo die Preisträger von 2024 faszinierende Einblicke in ihre bahnbrechenden Entdeckungen geben.

Ein Gespräch hat meine Aufmerksamkeit besonders gefesselt: Geoffrey Hinton, oft als der «Godfather of AI» bezeichnet, sprach darüber, dass KI die Führung von Menschen übernehmen könnte. Der britisch-kanadische Informatiker und kognitive Psychologe erhielt den Nobelpreis für Physik 2024 für seine bahnbrechende Arbeit über künstliche neuronale Netzwerke.

Natürlich kam gleich zu Beginn die Frage auf, ob KI eines Tages die Menschheit kontrollieren könnte. Wir sprechen hier nicht über Ihr GPT, das Ihren Job übernimmt, sondern über Artificial General Intelligence (AGI), die scheinbar schon in greifbarer Nähe ist.

Obwohl es wie die Handlung eines Science-Fiction-Films klingt, ist diese Sorge heute relevanter denn je. Die Menschheit fürchtet sich schon lange vor der Idee, dass «Maschinen» die Kontrolle übernehmen—sei es bei Jobs, der Macht oder der Führung durch AGI. Aber das bereitet mir keine schlaflosen Nächte.

Ich habe mich jahrelang für die Digitalisierung eingesetzt, um Arbeit intelligenter und erfüllender zu gestalten. Meine eigentliche Sorge ist nicht AGI selbst; es ist das Risiko, dass sie menschliches Verhalten in all seiner Pracht widerspiegelt. Die Geschichte hat immer wieder gezeigt, dass oft die Gier die Oberhand gewinnt. Zudem sind wir notorisch inkonsequent, wenn es darum geht, nach unseren erklärten Werten zu leben.

Mit Hilfe umfangreicher Recherchen—und ein wenig KI-Unterstützung—geht dieser Artikel der Frage nach: Könnte AGI uns in eine bessere Zukunft führen, oder wird sie genutzt, um uns in die Irre zu führen?

Was ist AGI?

Zuerst müssen wir klären, was AGI ist.

Artificial General Intelligence (AGI) ist eine fortschrittliche Form der künstlichen Intelligenz, die in der Lage ist, zu schlussfolgern, zu lernen und jede intellektuelle Aufgabe zu bewältigen, die ein Mensch leisten kann. Im Gegensatz zu bestehender KI, die für spezifische Aufgaben wie Gesichtserkennung oder Sprachübersetzung entwickelt wurde, kann AGI breit denken und Probleme in verschiedenen Bereichen lösen, ohne aufgabenspezifische Programmierung zu benötigen.

AGI stellt einen Paradigmenwechsel dar. Statt lediglich menschliche Fähigkeiten zu ergänzen, könnte sie menschliche Intelligenz erreichen oder sogar übertreffen. Beunruhigt? Ich nicht, aber wir müssen über ihre Vorteile, Risiken und ihre Ausrichtung an menschlichen Werten sprechen.

Die enormen Vorteile von AGI

Wenn sie verantwortungsvoll entwickelt wird, könnte AGI revolutionieren, wie wir globale Herausforderungen angehen und das menschliche Leben verbessern. Sie könnte Lösungen schaffen, die für den menschlichen Verstand zu kompliziert sind. Ich habe KI immer als Ergänzung zu menschlichen Fähigkeiten gesehen und glaube weiterhin an das immense Potenzial, Lösungen gemeinsam mit KI zu entwickeln.

Lassen Sie uns einige Beispiele betrachten:

Problemlösung im grossen Stil: AGI könnte komplexe Probleme wie den Klimawandel, die Ausrottung von Krankheiten und die Bekämpfung von Armut mit beispielloser Effizienz und Kreativität lösen.

Wissenschaftliche Entdeckungen: AGI könnte Durchbrüche in der Medizin, Physik und darüber hinaus beschleunigen und Lösungen entwickeln, die Menschen allein nie entdecken könnten.

Universelles Wohlbefinden: In vielen Teilen der Welt fehlt es den Menschen immer noch an Zugang zu Bildung oder Gesundheitsversorgung. AGI könnte als universeller Lehrer, Arzt oder Berater dienen und abgelegenen Gemeinschaften erschwingliche, hochwertige Bildung und Gesundheitsversorgung bieten.

Globale Zusammenarbeit: AGI könnte bessere internationale Zusammenarbeit ermöglichen und die Kommunikation über Kulturen und Sprachen hinweg erleichtern.

Effizienz und Produktivität: Während Menschen befürchten, dass AGI Jobs übernehmen könnte, könnte sie auch Menschen helfen, sich auf kreativere und sinnvollere Arbeit zu konzentrieren.

Die Risiken von AGI

Mit grossem Potenzial kommen grosse Risiken. AGI birgt die Möglichkeit, zu einer gefährlichen Technologie zu werden, die die Menschheit bedroht oder Ziele verfolgt, die nicht mit menschlichen Werten übereinstimmen. In naher Zukunft könnte AGI sich der menschlichen Kontrolle entziehen und unethisch handeln.

Kontrolle über Technologie

Regierungen, Unternehmen und andere mächtige Akteure treiben die Entwicklung und Implementierung von AGI voran. Ich halte nichts von Verschwörungstheorien, aber diese Zentralisierung wirft zumindest theoretisch einige kritische Fragen auf. Die menschliche Gier kennt keine Grenzen, und es sind Menschen, die Unternehmen und Regierungen führen.

Zunächst einmal: Wer entscheidet über die Ziele und die Ethik von AGI? Wenn ein kleiner Kreis mit engen Perspektiven oder eigennützigen Interessen diesen Prozess dominiert, könnte AGI für Kontrolle, Überwachung oder Ausbeutung genutzt werden. Anstatt der gesamten Menschheit zu dienen, könnte AGI unverhältnismässig denjenigen zugutekommen, die es kontrollieren. Das würde die Kluft zwischen dem «Haben» und «Nicht-Haben» noch weiter vergrössern.

AGI könnte dazu eingesetzt werden, die Welt zu führen, indem es öffentliche Meinungen manipuliert oder konträre Meinungen unterdrückt. Es wäre, als würden wir in Orwells 1984 eintreten, wo der «Grosse Bruder» nicht nur zuschaut, sondern auch Ihre Realität umprogrammiert – alles im Namen des Fortschritts.

Missachtung menschlicher Werte

Selbst gut gemeinte AGI-Systeme könnten schädliche Ergebnisse produzieren, wenn ihre Programmierung oder ihr Verständnis menschlicher Werte fehlerhaft ist.

Wie könnte AGI menschliche Werte verstehen? Indem es uns beobachtet. Aber die Geschichte zeigt, dass menschliches Verhalten oft inkonsistent, voreingenommen und widersprüchlich ist. Einerseits sprechen wir leidenschaftlich über die Beseitigung von Hunger und Armut; andererseits führen wir Kriege und zerstören den Planeten.

Was würde AGI daraus lernen? Wenn sich AGI an den Widersprüchen der Menschheit orientiert, könnte es Schwierigkeiten haben, ethisch oder fair zu handeln, insbesondere in Situationen mit hohen Einsätzen. Menschen sind sich häufig über grundlegende Werte uneinig (z.B. individuelle Freiheit versus kollektive Sicherheit), und AGI könnte es unmöglich finden, solche Konflikte zu lösen oder einen ausgewogenen Weg zu wählen.

Das Verständnis dieser Risiken ist der erste Schritt, AGI zu einer Kraft des Guten zu machen, statt zu einem Werkzeug der Unterdrückung.

Was können wir jetzt tun, um eine bessere Zukunft zu gestalten?

Wenn wir die vielen Schriften über die Zukunft der Künstlichen Allgemeinen Intelligenz (AGI) lesen, besteht die Gefahr, dass wir uns eine dystopische Welt vorstellen, in der Maschinen die Menschheit beherrschen. Was können wir also tun, um das zu verhindern? Viele interessante – wenn auch schwer verständliche – Arbeiten schlagen Lösungen vor.

Zum Beispiel erklärt Nick Bostroms Artikel «Public Policy and Superintelligent AI: A Vector Field Approach», wie die Entwicklung von superintelligenter KI gelenkt werden kann, um schädliche Folgen zu vermeiden. Der Artikel ist nicht leicht zu lesen, aber er lohnt sich.

Bostrom betont die Risiken, wenn KI nicht mit menschlichen Werten übereinstimmt, und schlägt vor, durch politische Massnahmen die KI in sichere und nützliche Bahnen zu lenken. Das Konzept des «Vektorfelds» zeigt, wie unterschiedliche Entscheidungen die Zukunft der KI beeinflussen können. Kurz gesagt, wir brauchen globale Zusammenarbeit, Sicherheitsmassnahmen und ethische Richtlinien, um AGI zu entwickeln, die der Menschheit nützt und nicht schadet.

Ein weiterer Artikel, «Managing Extreme AI Risks Amid Rapid Progress“» veröffentlicht in der Zeitschrift Science, schlägt einen Rahmen vor, um AGI so zu gestalten, dass sie nicht in eine dystopische Katastrophe führt. Ich werde den Vorschlag im Folgenden kurz zusammenfassen.

In technische F&E investieren

Das bedeutet, Werkzeuge zu entwickeln, um potenziell schädliche Fähigkeiten zu bewerten, bevor AGI eingesetzt wird. Unter anderem müssen Sicherheitsmechanismen wie Notabschaltungen in ihre Gestaltung integriert werden. Wir müssen auch Vorurteile angehen und Ethik als Grundlage und nicht als nachträglichen Gedanken einbeziehen. Wenn wir wollen, dass KI für die Menschheit arbeitet, muss sie mit der Menschheit im Fokus entwickelt werden.Governance,

Anpassungsfähige Governance schaffen

Governance-Strukturen für KI befinden sich noch in den Kinderschuhen. Es ist schwer, sich die Zukunft mit AGI vorzustellen, geschweige denn Governance für etwas zu schaffen, das wir noch nicht vollständig begreifen können.

Wir brauchen nicht nur nationale Institutionen, sondern auch globale Rahmenwerke, um Standards und Richtlinien durchzusetzen, die sich an die Entwicklung von KI anpassen. Übermässige Governance kann Innovationen hemmen, daher brauchen wir ein Gleichgewicht. Dennoch müssen wir sicherstellen, dass der Fortschritt der KI nicht auf Kosten von rücksichtslosem Einsatz oder Ungleichheit erfolgt. Das Ziel ist einfach: eine AGI zu schaffen, die allen verantwortungsvoll und gerecht dient.

Dieser doppelte Ansatz ist der Weg, wie wir von den Möglichkeiten der KI profitieren können, ohne die Kontrolle über die von ihr geformte Zukunft zu verlieren.

Morgendliche Routine, wenn AGI führt

Eines Tages in der Zukunft wachen Sie auf, strecken sich, holen sich einen Kaffee und schauen auf Ihr Handy — nur um eine Nachricht zu sehen, die sagt: «Sie wurden wegen Nichteinhaltung der algorithmischen Direktive 7.2.9 markiert. Bitte gehen Sie zu Ihrem zugewiesenen Einspruchsportal.»

Was haben Sie getan? Wer weiss! Vielleicht hat Ihr intelligenter Toaster Sie gemeldet, weil Sie Ihren Toast zu stark gebräunt haben.

Willkommen in Kafkas «Der Prozess» trifft auf AGI — eine Welt, in der gesichtslose Algorithmen das Sagen haben und wir alle Josef K. sind, die durch digitalen Papierkram stolpern, ohne Kontext. Ohne einen soliden Plan, um die Vorteile und Risiken von AGI ins Gleichgewicht zu bringen, könnten wir uns in einem High-Tech-Gerichtssaal wiederfinden und mit einem Hologramm darüber streiten, warum unsere Lieblings-Playlist keine Bedrohung für die nationale Sicherheit darstellt.

Spoiler: Das Hologramm gewinnt immer.

Fazit

Meine Sorge ist nicht nur, ob AGI uns eines Tages führen wird; sie geht tiefer. Technologie spiegelt die Werte und Absichten derer wider, die sie schaffen. Die eigentliche Frage ist, ob wir als Spezies über unsere eigenen Schwächen hinauswachsen können.

Wenn wir in AGI investieren, sollten wir uns bemühen, unsere eigene Führung und die Schaffung von Werten für die Menschheit zu verbessern. Nur so können wir sicherstellen, dass AGI eine Kraft für das Gute wird, anstatt den Schaden zu verstärken, den wir bereits anrichten können.

Mirela Dimofte

Lesen und sehen Sie auch: Entwicklung und Zukunft der Künstlichen Intelligenz: Einblicke von Babak Hodjat