Hinweis: Dieser Beitrag wurde mit künstlicher Intelligenz erstellt.
Worum geht’s?
Ein Beitrag der Computerwoche beschäftigt sich mit der Wirtschaftlichkeit von KI im Unternehmen und stellt dabei die „Dosierung“ in den Mittelpunkt. Nicht jede Aufgabe braucht demnach das stärkste Modell oder einen Agenten, der selbstständig handelt. Wichtig sei, wer was übernimmt: feste Regeln, Modelle mit Interpretationsspielraum oder Agenten, die über Folgeschritte selbst entscheiden. Diese Verteilung wirkt sich laut Artikel auf Ressourcenverbrauch, Ergebnisqualität und Kontrollaufwand aus und damit auf den ROI.
Hintergrund & Einordnung
Als zentralen Kostentreiber nennt der Beitrag die Tokens. Das sind kleine Texteinheiten wie Wortteile, Silben oder Satzzeichen, die ein Modell verarbeitet. Sowohl die Eingabe als auch die Ausgabe verursachen Rechenaufwand und damit Kosten. Je anspruchsvoller die Aufgabe, desto mehr Tokens fallen an. Ein kurzer E-Mail-Entwurf ist günstig. Ein mehrstufiger Agent, der Dokumente liest, Alternativen abwägt, Code schreibt und nachbessert, verbraucht dagegen in jedem Schritt Tokens. Da jeder Zwischenschritt den bisherigen Verlauf erneut einliest, treiben nach Darstellung des Artikels vor allem die Eingabe-Tokens die Kosten.
Der Beitrag weist außerdem darauf hin, dass die Gesamtrechnung stark steigen kann, selbst wenn einzelne Tokens günstiger werden. Besonders intensive Nutzer, oft bei aufwendigen Coding-Anwendungen, verbrauchen demnach ein Vielfaches dessen, was ein typischer Nutzer in Anspruch nimmt. Ohne Kontrolle drohe der ROI zu leiden.
Zudem räumt der Artikel mit einem verbreiteten Gegensatz auf: Die Trennlinie verlaufe nicht zwischen starren Abläufen und „unberechenbarer“ KI, denn auch feste Workflows könnten KI-Schritte enthalten. Boris Krumrey von UiPath warnt davor, Agenten einen Prozess bei jedem Durchlauf neu herleiten zu lassen. Das koste Rechenleistung, führe zu schwankenden Ergebnissen und erschwere Audit und Compliance. Feststehende Schritte gehören nach dieser Logik in einen Workflow, während wechselnde Inhalte oder offene Bearbeitungsaufgaben eher für Modelle oder Agenten taugen.
Was bedeutet das?
- Aufgaben sollten bewusst verteilt werden: Wiederkehrende, klar definierte Schritte passen in feste Workflows, offene Aufgaben eher zu Modellen oder Agenten.
- Token-Verbrauch gehört früh ins Monitoring, weil sinkende Preise je Token nicht automatisch niedrigere Gesamtkosten bedeuten.
- Laut Computerwoche plädieren mehrere Branchenvertreter dafür, den Einsatz nach der Einführung laufend zu prüfen und Agenten bei Bedarf wieder Aufgaben abzunehmen.
Quellen
Zum ROI von KI: Die Kunst der Dosierung (Computerwoche)
AI use is exploding, so are the bills (J.P. Morgan Private Bank)
KI-Nutzen ohne ständig ans Limit zu laufen (ai-first.ai)
Maximizing AI ROI (SAP)
Dieser Artikel wurde mit KI erstellt und basiert auf den angegebenen Quellen sowie den Trainingsdaten des Sprachmodells.
Weiterführender Artikel: Mein digitaler KI-Newsroom auf der Synology NAS