AI導入目標が行動を形づくり始めるとき
報道によると、Amazonの従業員は社内AIツールを使って重要でない業務を自動化し、会社のAIシステムの見かけ上の利用を増やしている。Ars TechnicaがFinancial Timesをもとに伝えたこの行為は、社内で「tokenmaxxing」と呼ばれている。名前はふざけているが、本質的な問題は深刻だ。経営陣がAIの導入率を指標として重視すると、人々は有用な仕事ではなく、その指標を最大化しようとする。
報道によると、AmazonはMeshClawと呼ばれる社内製品を広く展開しており、従業員はこれを使って職場ソフトウェアに接続したAIエージェントを作成し、ユーザーの代わりにタスクを実行させることができる。複数の従業員は、同僚がこの仕組みを使って追加の不要なAIアクティビティを発生させ、モデルが処理するデータ単位であるトークン消費を増やしていたと話している。
その行動の背後にあるインセンティブ
記事は、Amazonが開発者の80%以上に毎週AIを使わせる目標を設定し、年初から社内ランキングでAIトークン消費を追跡し始めたと伝えている。Amazonは従業員に対し、トークン統計を評価に使わないと説明したとされるが、複数の社員は、管理職がそのデータを実際には見ていると考えていたという。
まさにこうした曖昧さが、見せかけの利用を生む。測定される行動が自分の立場に影響すると考えれば、人はしばしば、基礎となる活動に価値がほとんど、あるいはまったくなくても、目に見えるシグナルを最大化しようとする。この場合、それは本来自動化の必要がなかった作業にAIを使うことや、指標が参加を示すように主に活動を作り出すことを意味しうる。
報道では、ある従業員がツールを使うよう「非常に大きな圧力」があったと語り、別の従業員は管理職が使用データを見ていたと述べている。これらの統計が正式に評価へ影響するかどうかにかかわらず、それが重要だという認識だけで職場の行動は変わりうる。指標が正式な業績基準でなくても、非公式な権力のシグナルにはなりうる。
なぜこれはAmazonだけの話ではないのか
会社固有の詳細は注目に値するが、より大きな問題は一社をはるかに超えている。テクノロジー業界全体で、企業は大規模なAI投資のリターンを示そうとしながら、同時に生成AIツールを日常業務に深く組み込もうとしている。その環境では、導入数が戦略的な勢いの代用指標になりうる。
問題は、導入と生産性は同じではないということだ。組織は、出力、品質、速度で見合う改善を生まないまま、印象的な利用数を生み出すことができる。実際、従業員がトークン数を増やすためだけに低価値の作業を自動化し始めれば、そのデータは、ツールの活用が実際より健全に見えるようにして、経営層を誤導しうる。
