Wenn KI-Adoptionsziele Verhalten formen
Berichten zufolge nutzen Amazon-Mitarbeiter ein internes KI-Tool, um nicht essenzielle Aufgaben zu automatisieren und so ihre scheinbare Nutzung der KI-Systeme des Unternehmens zu erhöhen. Die Praxis, die in einem von Ars Technica auf Grundlage der Financial Times veröffentlichten Bericht beschrieben wird, wird intern als „tokenmaxxing“ bezeichnet. Der Name ist scherzhaft, doch das zugrunde liegende Problem ist ernst: Wenn das Management die KI-Nutzung als Kennzahl betont, optimieren Menschen möglicherweise die Kennzahl statt für nützliche Arbeit.
Laut dem Bericht setzt Amazon ein internes Produkt namens MeshClaw breit ein, das es Mitarbeitern ermöglicht, KI-Agenten zu erstellen, die mit Arbeitsplatzsoftware verbunden sind und Aufgaben im Namen des Nutzers ausführen. Mehrere Mitarbeiter sagten, Kollegen hätten das System genutzt, um zusätzliche, unnötige KI-Aktivität zu erzeugen, um den Token-Verbrauch zu erhöhen, also die Dateneinheiten, die Modelle verarbeiten.
Die Anreize hinter dem Verhalten
Der Artikel sagt, Amazon habe Ziele eingeführt, wonach mehr als 80 Prozent der Entwickler jede Woche KI nutzen sollten, und habe Anfang des Jahres begonnen, den KI-Token-Verbrauch auf internen Ranglisten zu verfolgen. Obwohl Amazon den Mitarbeitern Berichten zufolge mitgeteilt habe, dass Token-Statistiken nicht in Leistungsbeurteilungen einfließen würden, sagten mehrere Beschäftigte, sie glaubten dennoch, dass Manager die Daten beobachteten.
Genau diese Art von Unklarheit begünstigt performative Nutzung. Wenn Beschäftigte glauben, dass ein gemessenes Verhalten ihre Position beeinflussen könnte, versuchen sie oft, das sichtbare Signal zu maximieren, selbst wenn die zugrunde liegende Aktivität kaum oder keinen Wert liefert. In diesem Fall kann das bedeuten, KI für Aufgaben zu nutzen, die keine Automatisierung brauchten, oder Aktivität hauptsächlich zu erzeugen, damit die Kennzahlen Teilnahme widerspiegeln.
Der Bericht zitiert einen Mitarbeiter, der sagte, es habe „so viel Druck“ gegeben, die Tools zu nutzen, und einen anderen, der sagte, Manager sähen sich die Nutzungsdaten an. Ob diese Statistiken formal Bewertungen beeinflussen oder nicht, die Wahrnehmung, dass sie wichtig sind, kann ausreichen, um das Verhalten am Arbeitsplatz zu verändern. Kennzahlen müssen keine offiziellen Leistungsziele sein, um zu informellen Machtsignalen zu werden.
