Token sind die Währung der künstlichen Intelligenz. Google-Chef Sundar Pichai hat auf der I/O-Konferenz enthüllt, dass sein Konzern mittlerweile 3,2 Billiarden Token pro Monat verarbeitet. Token werden deshalb bereits als das "neue Öl" bezeichnet, das die KI-Revolution antreibt.
Doch was genau sind Token? Große Sprachmodelle (LLMs) erfassen die Bedeutung eines Satzes, indem sie Wörter in Token zerlegen. Ein Token kann ein Wort, ein Teilwort oder auch eine Buchstabenfolge sein. Im Durchschnitt entspricht ein Token etwa drei Viertel eines Wortes – 100 Wörter ergeben also rund 135 Token, erklärt Gartner-Analyst Deepak Seth.
Wie die "Computerwoche" unter Berufung auf ihre US-Schwesterpublikation Computerworld.com berichtet, sind nicht alle Token gleich teuer. Wer einen Text in ein KI-System hochlädt, zahlt weniger als für den Download der bearbeiteten Version. "Die Kosten für den Download sind höher, weil die KI bereits einen Teil der Arbeit erledigt hat", erklärt Max Leaming von der ManpowerGroup.
Für Power-User und Entwickler wird bei KI-Diensten wie Anthropics Claude Code, Googles Gemini oder OpenAI Codex in Token abgerechnet. Auch GitHub Copilot wurde entsprechend umgestellt. Zusätzlich zu den Token-Kosten fallen für Unternehmen aber auch noch Rechenkosten an, etwa für GPU-Zeit.
Die Effizienz bei der Token-Nutzung hängt stark vom Anwender ab. "Ein Programmierer verbraucht 10.000 Tokens, um seine Arbeit zu erledigen, ein anderer eventuell nur 1.000", so Seth. Die ManpowerGroup entwickelte deshalb ein Dashboard, das den Token-Verbrauch optimiert – und konnte so die Anzahl der Folgefragen von zehn auf vier reduzieren.
Gartner-Analyst Seth vermutet hinter den aktuellen Preisen eine fragwürdige Strategie: "Ich habe das Gefühl, dass OpenAI, Google, Anthropic und Co. einen Drogendealer-Ansatz verfolgen: Die Leute von KI abhängig machen und dann den Preis für die Token erhöhen."
Die großen KI-Anbieter würden demnach Token als Lockmittel einsetzen, um Kunden an ihre Systeme zu binden. Inzwischen schicken die Tech-Konzerne sogar eigene Teams zu Kunden, um KI-Modelle vor Ort zu implementieren und Infrastrukturen aufzubauen – ein Zeichen dafür, dass sie sich von reinen Modellanbietern zu umfassenden Dienstleistern entwickeln wollen.
