Multimedia

"Godfather der KI" warnt vor Gefahren der Technologie

Der ehemalige KI-Experte bei Google mahnt vor den Gefahren von künstlicher Intelligenz. Für Geoffrey Hinton könnte KI der Menschheit "viel wegnehmen".

Erneut warnt ein Experte vor einer unkontrollierbaren Entwicklung besonders fortgeschrittener künstlicher Intelligenz (KI). Diesmal ist es Geoffrey Hinton, ein ehemaliger führender KI-Entwickler beim US-Konzern Google.
Erneut warnt ein Experte vor einer unkontrollierbaren Entwicklung besonders fortgeschrittener künstlicher Intelligenz (KI). Diesmal ist es Geoffrey Hinton, ein ehemaliger führender KI-Entwickler beim US-Konzern Google.
REUTERS

Geoffrey Hinton, führender KI-Entwickler beim US-Konzern Google, warnt vor einer unkontrollierbaren Entwicklung besonders fortgeschrittener künstlicher Intelligenz (KI). Der Experte kündigte seinen Job und mahnte in der "New York Times" vom Montag, die Fortschritte im Feld der KI bedeuteten "ernste Risiken für die Gesellschaft und für die Menschheit". Hinton wird laut Zeitung auch "Godfather" der KI genannt.

Er sagte der Zeitung, der Wettbewerb bringe die Technologieunternehmen dazu, "in einem gefährlichen Tempo" immer neue KI zu entwickeln. Damit breiteten sich Falschinformationen aus und Arbeitsplätze gerieten in Gefahr. "Es ist schwierig, sich vorzustellen, wie man die Bösen daran hindert, KI für böse Dinge einzusetzen", sagte Hinton.

"Sie könnte viel wegnehmen"

Google und das Unternehmen OpenAI – das Start-up, das den bekannten Chatbot ChatGPT entwickelt hat – begannen im vergangenen Jahr damit, lernende Systeme zu entwickeln, die dafür eine sehr viel größere Datenmenge als zuvor nutzen. Hinton sagte der "New York Times", diese Systeme würden aufgrund der schieren Datenmenge die menschliche Intelligenz in mancher Hinsicht in den Schatten stellen.

1/4
Gehe zur Galerie
    Brief als Reaktion auf die Veröffentlichung der neuen Version des Chatbots ChatGPT durch das Unternehmen OpenAI Mitte März.
    Brief als Reaktion auf die Veröffentlichung der neuen Version des Chatbots ChatGPT durch das Unternehmen OpenAI Mitte März.
    Reuters

    Mit Blick auf die Arbeitsplätze sagte Hinton etwa, künstliche Intelligenz könne die "Sklavenarbeit" überflüssig machen. "Aber sie könnte noch viel mehr wegnehmen."

    Der Zeitung zufolge kündigte der Entwickler seinen Job bei Google im vergangenen Monat. Sein Chef im Unternehmen, Jeff Dean, erklärte in einer Mitteilung an US-Medien, er danke Hinton für seine Arbeit. Dean betonte, Google habe als eines der ersten Unternehmen Leitsätze für die KI-Anwendung veröffentlicht. Google fühle sich auch weiterhin "zu einem verantwortungsvollen Umgang mit KI verpflichtet". Google lerne beim Verständnis der Risiken beständig dazu – und führe gleichzeitig weiterhin "kühn" Neuerungen ein.

    "Der Zeitpunkt ist jetzt"

    Erst Ende März hatten der Technologie-Milliardär Elon Musk und zahlreiche Experten eine Pause bei der Entwicklung von besonders fortgeschrittener Künstlicher Intelligenz gefordert. "KI-Systeme mit einer Intelligenz, die Menschen Konkurrenz macht, können große Risiken für Gesellschaft und Menschheit bergen", warnten auch sie. "Mächtige KI-Systeme sollten erst dann entwickelt werden, wenn wir zuversichtlich sind, dass ihre Auswirkungen positiv und ihre Risiken kontrollierbar sind."

    In einem offenen Brief zu einem Stopp der KI-Entwicklung verwiesen die Unterzeichner auf einen Satz von OpenAI-Gründer Sam Altman, demzufolge irgendwann eine "unabhängige" Überprüfung notwendig sei, bevor mit dem Training neuer Systeme begonnen werde. "Wir stimmen zu", schreiben die Verfasser des Briefes. "Der Zeitpunkt ist jetzt."

    Namhafte Tech-Genies fordern Stopp bei KI-Entwicklung
    Hunderte Technologie-Experten haben Ende März 2023 einen offenen Brief unterzeichnet, um eine Pause bei der Entwicklung von KI zu fordern. Das sind einige der namhaften Unterzeichner des Schreibens:
    Elon Musk, ehemaliger Investor bei OpenAI, CEO beim Elektroautobauer Tesla.
    Connor Leahy, KI-Forscher und CEO von Conjecture.
    Yoshua Bengio, kanadischer Informatiker. Er wurde bekannt für seine Forschung zu künstlichen neuronalen Netzen und Deep Learning.
    Yuval Noah Harari, israelischer Historiker, der an der Hebräischen Universität Jerusalem lehrt.
    Stuart Jonathan Russell, britischer Wissenschaftler auf dem Gebiet der künstlichen Intelligenz. Er ist Professor für Informatik an der University of California, Berkeley.
    Andrew M. Yang, US-Unternehmer, der eine gemeinnützige Organisation leitet, die sich mit der Schaffung von Arbeitsplätzen in Städten beschäftigt.
    Jaan Tallinn, estnischer Computerprogrammierer und Investor, der sich an der Entwicklung von Skype und Fasttrack/Kazaa beteiligte.
    Evan Sharp, US-Unternehmer und Mitgründer der Firma Pinterest.
    Chris Larsen, Investor und Mitgründer mehrerer Technologie-Start-ups im Silicon Valley.
    Emad Mostaque, Chef des Unternehmens Stability AI.
    Valerie Pisano, CEO von Mila – Quebec Artificial Intelligence Institute.
    John Joseph Hopfield, US-Physiker, Molekularbiologe und Neurowissenschaftler. Er ist vor allem durch seine Erfindung eines assoziativen neuronalen Netzes bekannt.
    Rachel Bronson, Geschäftsführerin des Bulletin of the Atomic Scientists.

    An der Unterhaltung teilnehmen