KI-Agenten sind äußerst nützlich und können vielschichtige Probleme für uns bewältigen. Allerdings birgt die Autonomie auch enorme Risiken. Das zeigt ein neues Tool namens Instinct, das einige als neuen Maßstab für private KI-Agenten sehen.
Der KI-Agent stammt von einem Start-up namens Spear Street Technology aus San Francisco. Instinct verbindet E-Mails, Messaging, Bildschirminhalte, Audio und Standortdaten miteinander, um ein persönlicher Assistent zu sein, der versteht, woran du arbeitest und was dir wichtig ist.
Zunächst darf Instinct nur von einer Reihe ausgewählter Tester ausprobiert werden, schreibt t3n. Der KI-Agent übernimmt laut diversen Berichten schon Reservierungen in Restaurants, erinnert Nutzer an vergessene Termine und hat sogar Garantieanfragen an den Kundendienst selbstständig gelöst.
Einige Nutzer haben Instinct sogar Zugriff auf ihre Kreditkarte gegeben, um Käufe abzuwickeln. Der KI-Agent kann dabei autonom mehrere Angebote und Händler miteinander vergleichen und sie notfalls sogar anschreiben, um mit ihnen zu verhandeln. Sogar Kosten für den Internetanschluss soll Instinct schon gespart haben.
Doch das autonome Arbeiten hat einigen Nutzern bereits Geld gekostet. So berichtete etwa ein Nutzer, dass der KI-Agent vorschnell seinen gebuchten Flug gecancelt hätte. Dadurch seien ihm Stornierungskosten in Höhe von 300 Dollar entstanden. Ein anderer hat 200 Dollar verloren, weil sein KI-Agent in einem Restaurant in Tokio eine Reservierung vorgenommen hat, obwohl er nur nach Optionen gefragt hatte.
Instinct kann sogar 2FA-Codes automatisch eingeben, die für den Login auf einer Seite benötigt werden. Ein Eingreifen von Menschen ist nicht mehr nötig. Trotz dieser Probleme scheinen Investoren nicht abgeschreckt: Spear Street Technology hat bereits 350 Millionen Dollar erhalten und wird aktuell auf etwa 2,5 Milliarden Dollar geschätzt.
