Science

Wie gefährlich ist KI für uns? Drei Szenarien im Check

Tausend Tech-Experten haben einen sofortigen Entwicklungsstopp für künstliche Intelligenzen gefordert. Wovor haben sie Angst und ist sie berechtigt?

Künstliche Intelligenz bringt uns viele Vorteile. Aber sind wir uns auch potenzieller Nachteile oder Gefahren bewusst?
Künstliche Intelligenz bringt uns viele Vorteile. Aber sind wir uns auch potenzieller Nachteile oder Gefahren bewusst?
Getty Images/iStockphoto

Rund tausend Tech-Experten, darunter Tesla-CEO Elon Musk, haben in einem Schreiben vor Künstlicher Intelligenz (KI) gewarnt. Das sind die wichtigsten  Aussagen im offenen Brief auf Futureoflife.org:

- KI-Entwickler befinden sich in einem außer Kontrolle geratenen Wettlauf.
- Nicht einmal die Entwickler verstehen die KIs.
- Auch das Verhalten der KIs können die Entwickler nicht vorhersagen.
- KIs sind für die Menschen und die Gesellschaft damit ein sehr großes Risiko.

Der Brief wirft Fragen auf: "Sollen wir Maschinen unsere Informationskanäle mit Propaganda zufluten lassen? Sollen wir alle Arbeit automatisieren, auch die erfüllende? Sollten wir Intelligenzen entwickeln, die uns ersetzen können? Sollen wir wirklich den Verlust der Kontrolle über unsere Zivilisation riskieren?" Auch die europäische Polizeibehörde Europol hat kürzlich vor KIs gewarnt, ebenso der Deutsche Ethikrat.

KIs klüger als ihre Schöpfer

Der Physiker Stephen Hawking, der als einer der intelligentesten Menschen der Welt galt, warnte ebenfalls vor KIs. Er sagte, dass eine superintelligente künstliche Intelligenz extrem gut in der Erfüllung ihrer Ziele sei – "und wenn diese Ziele nicht mit unseren übereinstimmen, haben wir ein Problem". Hawking warnte zudem vor einer "Intelligenzexplosion bei den Maschinen" und sagte, dass KIs klüger als ihre Schöpfer werden können.

Immer wieder hört man, dass KIs folgende drei Szenarien auslösen könnten: Massenarbeitslosigkeit, soziale Unruhen und eine Maschine wie der "Terminator", die die Menschheit knechtet und ins Chaos stürzt. Doch sind diese Szenarien realistisch? Wir klären mit Experten auf.

3 Szenarien im Check

1
Szenario 1: KI stürzt Menschheit ins Chaos

Der erste Absatz im offenen Brief beschreibt: "KI-Systeme bergen schwerwiegende Risiken für die Gesellschaft und Menschheit." Sechs Monate Pause, bis die Sicherheit gewährleistet ist. Doch wie sieht ein Worst-Case-Szenario überhaupt aus? Erwarten uns Szenen wie in Kultfilmen wie "Terminator", wo die Herrschaft der Maschinen über die Menschheit gegenwärtig ist?

So würde die KI von ChatGPT eine potenzielle Machtübernahme angehen: Keine Kampf-Roboter, dafür soll vielmehr die wichtigste Infrastruktur lahmgelegt werden: "KI-Systeme wären in der Lage, die Kontrolle über wichtige Systeme wie Energieversorgung, Finanzsysteme, Transport und Kommunikation zu übernehmen." Das würde zu "Chaos und Zerstörung" führen.

"Reinste Fantasie"

Trotzdem relativiert die KI schnell: Solche Szenarien seien sehr unwahrscheinlich und an Science-Fiction angelegt. Dennoch solle man die Bedenken ernst nehmen. Dieser Meinung ist auch Thilo Stadelmann, Professor am Zentrum für Künstliche Intelligenz an der ZHAW: "Gedanken zu gesellschaftlichen Folgen sind gerechtfertigt", sagt er, "trotzdem sind solche Horror-Visionen reinste Fantasie."

Zwar seien menschenähnliche Chatbots unglaublich präzise und imposant, aber das Horror-Szenario vom Terminator sei aktuell eine technologische Unmöglichkeit. "Es existiert noch keine autonome Intelligenz. Bis wir über so Situationen reden können, vergehen sicherlich noch 15 Jahre", meint der KI-Experte.

Dass Future of Life mit Tech-Grössen wie Musk und Co. einen offenen Brief veröffentlichten, sei für ihn ein PR-Stunt: "Da wird nur um Aufmerksamkeit geheischt. Das macht absolut keinen Sinn", so Stadelmann. Er sehe da eher persönliche, wirtschaftliche Interessen. Ein Entwicklungs-Stopp könnte Unternehmern wie Elon Musk zugute kommen.

    Wie suchen wir in Zukunft im Netz? Diese Frage hat Google nun beantwortet.
    Wie suchen wir in Zukunft im Netz? Diese Frage hat Google nun beantwortet.
    Unsplash
    2
    Szenario 2: KI stößt eine Fake-News-Welle los

    "Das Worst-Case-Szenario wäre, dass eine künstliche Intelligenz ein Eigenleben entwickelt und manipulativ wird, und sich die Gesellschaft dadurch beeinflussen lässt", erklärt Andre Wolf, Sprecher von Mimikama, einem Verein zur Aufklärung über Internetmissbrauch. Er stellt heute schon fest, dass KI-Tools Teil von größeren Desinformationskampagnen sind. "Bisher haben wir deswegen aber noch keine Zunahme an Falschmeldungen festgestellt", so Wolf.

    Bilder vom Papst mit fluffiger Daunenjacke und Donald Trump, der verhaftet wird, sorgten jüngst für Furore. Diese wurden mit künstlicher Intelligenz generiert. Hat KI also das Potenzial, die Gesellschaft zu spalten? "Ich spreche hier eher von einem Splittern. Das geht immer – durch jegliche Form von Desinformation." Hier komme der sogenannte Bestätigungsfehler ins Spiel: "Wenn ich sowieso schon davon ausgehe, dass Donald Trump verhaftet wurde, und dann ein Bild sehe, denke ich: 'Ha, da hab ich recht gehabt.'"

    Man müsse hier also vor allem Nutzerinnen und Nutzer entsprechend schulen.  Laut dem Experten sollen für KI klare Regeln gelten. "Wir haben Gesetze. Daran soll sich auch KI halten müssen. Wenn die Outputs justiziabel sind, muss jemand dafür belangt werden."

    3
    Szenario 3: KI macht Menschen massenhaft arbeitslos

    Die Wirtschaft sagte jahrelang, dass künstliche Intelligenz mehr Jobs schafft als vernichtet. Trotzdem sorgen sich immer mehr Leute darum, dass sie durch KIs arbeitslos werden. Eine Studie von Goldman Sachs legt nahe, dass die Jobängste nicht unbegründet sind: KIs könnten weltweit 300 Millionen Angestellte ersetzen. Betroffen sind laut der US-Bank vor allem die Logistik, Fertigung sowie Büro- und Verwaltungsarbeiten. Die Automatisierung betreffe rund 16 Prozent der globalen Arbeitsplätze.

    KIs seien so effizient, dass es weniger Leute für die gleiche Arbeit brauche, sagt auch Thilo Stadelmann vom Zentrum für Künstliche Intelligenz an der ZHAW. Betroffen seien vor allem Jobs in folgenden Branchen:

    - IT und Informatik
    - Montage und Fertigung
    - Gesundheitswesen
    - Bank- und Finanzwesen
    - Verkehr und Logistik
    - Kundenservice
    - Detail- und Grosshandel
    - Bildung und Pädagogik
    - Werbung und Marketing
    - Rechtswesen

    Menschliche Faktoren würden die Berufswelt aber weiterhin dominieren, sagt die Unternehmensberaterin Dorothea Baur. Besonders bei hochsensiblen Entscheidungen brauche es ein menschliches Back-up. "Der Mensch soll nicht nur zum Babysitter für KI mutieren – es braucht weiterhin sinnstiftende Arbeit für alle."