Jacob Coxon, ein 27-jähriger Forscher der KI-Firma Anthropic, ist mit einer drastischen Warnung zurückgetreten. Die großen Entwickler künstlicher Intelligenz handelten unverantwortlich "und spielen mit unseren Leben", erklärte er auf der Plattform X.
Bald werde es Computersysteme geben, deren Fähigkeiten die von Menschen überträfen. KI würde dann "alles hacken können" und die Möglichkeit haben, sich "Zugang zu echter Macht und Ressourcen" zu verschaffen.
"Die Leute, die KI entwickeln, glauben ernsthaft, dass sie zum Ende des Jahrzehnts alle töten könnte", warnte Coxon. Nach den "aggressivsten Szenarien" könnten die Dinge bereits Ende kommenden Jahres außer Kontrolle geraten und später "könnten alle sterben".
Anthropic-Forscher Evan Hubinger, der dafür zuständig ist, dass KI mit den Interessen der Menschen im Einklang bleibt, bestätigte wenig später Coxons Sorgen. Er persönlich glaube, die Gefahr, dass KI die Menschheit töte, liege im kommenden Jahrzehnt bei mehr als zehn Prozent.
Auch der Forschungschef des ChatGPT-Entwicklers OpenAI, Jakub Pachocki, mahnte "extreme Vorsicht" ein.
Man sei an einem Moment der Geschichte angelangt, in dem die Intelligenz von Maschinen beginne, die der Menschen zu übertreffen.
Zugleich sieht Pachocki ein Argument für die Fortsetzung der Forschung: künstliche Intelligenz zu entwickeln, die gegen die Gefahren anderer KI verteidigen könnte. Man werde sie unter anderem brauchen, um Infrastruktur zu schützen und ganz neue Verteidigungsmechanismen zu entwickeln.
Michael Nentwich, Direktor des Instituts für Technikfolgenabschätzung der Österreichischen Akademie der Wissenschaften, erklärte indes am späten Montagabend in der "ZIB2" bei ORF-Moderator Armin Wolf, dass man mit Warnungen vor der Auslöschung der Menschheit "sehr aufpassen müsse".
Gefährlich seien KI-Modelle "in den unterschiedlichsten Versionen", aber eine "KI, die sich selbstständig macht, vielleicht ein eigenes Bewusstsein entwickelt, einen eigenen Willen, das glaube ich persönlich nicht. Das ist eher Science Fiction, das wird noch länger dauern". Was aber KI könne und leiste, könne natürlich von verschiedensten Akteuren "zweckentfremdet" werden.
