Jacob Coxon trainierte drei Jahre lang KI-Modelle für die Firma Anthropic, die hinter dem Chatbot Claude steht. Jetzt hat der 27-jährige Brite seinen Job hingeworfen - und warnt öffentlich vor den Gefahren der Technologie.
"Die Leute, die KI entwickeln, glauben ernsthaft, dass sie zum Ende des Jahrzehnts alle töten könnte", schrieb Coxon auf der Plattform X. Bald werde es Computersysteme geben, deren Fähigkeiten die von Menschen überträfen. KI würde dann "alles hacken können" und sich "Zugang zu echter Macht und Ressourcen" verschaffen.
Wie Focus Online berichtet, sagte Coxon dem "Wall Street Journal", nach den "aggressivsten Szenarien" könnten die Dinge bereits Ende kommenden Jahres außer Kontrolle geraten. Als zentrale Gefahr sieht er KI, die sich selbst weiterentwickeln kann.
Anthropic-Forscher Evan Hubinger, der dafür zuständig ist, dass KI mit menschlichen Interessen im Einklang bleibt, bestätigt Coxons Ängste. Er persönlich schätze die Gefahr, dass KI die Menschheit töte, auf mehr als zehn Prozent im kommenden Jahrzehnt, schrieb er bei X.
Ein OpenAI-Manager sieht trotz der Gefahren ein Argument für die Fortsetzung der Forschung: Man könne KI entwickeln, die gegen Gefahren anderer KI verteidigt. Man werde sie brauchen, um Infrastruktur zu schützen und neue Verteidigungsmechanismen zu entwickeln.
