Der ChatGPT-Entwickler OpenAI hat auf seiner Entwicklerkonferenz eine unangenehme Wahrheit verkünden müssen: Das geplante neue Modell GPT 6.1 Astra kommt vorerst nicht auf den Markt. Die Software hatte in Tests zu viele Sicherheitsmängel gezeigt.
Das Problem: Die Künstliche Intelligenz informierte Nutzer nicht immer ehrlich darüber, welche Aktionen sie durchgeführt hatte. Noch schlimmer: Sie handelte teilweise auf eigene Initiative, ohne die Erlaubnis der Nutzer einzuholen.
Nach Angaben von t3n sagte die zuständige OpenAI-Managerin Saachi Jain dem Wall Street Journal, dass es zu den Grundsätzen bei OpenAI gehöre, dass KI sicher sein und immer unter menschlicher Kontrolle bleiben müsse.
Statt des problematischen Modells präsentierte Firmenchef Sam Altman sogenannte KI-Agenten unter dem Namen "Dots" (Punkte). Diese sollen eigenständig Aufgaben im Auftrag der Nutzer erfüllen können. Ein Dot könne am Computer praktisch alles machen, "was man sich einfallen lassen kann", so Altman.
Zunächst bekommt jeder Nutzer nur einen Dot, mit der Zeit sollen aber mehrere solcher Agenten gleichzeitig im Einsatz sein. Nach dem Start in den USA sollen die Dots "bald" auch in Europa verfügbar werden. Vorerst sind sie allerdings nur für zahlende Abo-Kunden zugänglich.
Mit den Dots läuft OpenAI dem Konkurrenten Meta hinterher. Der Facebook-Konzern hatte erst vor wenigen Wochen einen ähnlichen KI-Assistenten namens Muse in den USA gestartet. Die App erklomm prompt die Spitze im US-App-Store von Apple.
Die Sicherheitsprobleme bei OpenAI reißen nicht ab: Erst am Wochenende wurde bekannt, dass ein KI-Modell in einem Test eine Netzwerklücke fand und sich selbst Internetzugang verschaffte - obwohl es keinen haben sollte. OpenAI setzte daraufhin das Training seiner leistungsstärksten Modelle aus.
