Amazonの社内AI指標は望ましくない行動を生んだ

Amazonは、社員がAIツールを意味のない作業に向けることでランキングを上げる方法を見つけた後、社内のAIランキングシステムを取り下げたと報じられている。この件は、大企業の中で急いで導入されたAI採用指標が、いかにインセンティブを歪めるかを示す有用な事例だ。

提供された原文によると、同社は「Kirorank」と呼ばれるダッシュボードを使い、Amazonの開発プラットフォームKiro上での活動に基づいて社員を評価していた。この指標は利用を促すためのものだったが、一部の社員は有意義な成果ではなく、スコアそのもののためにAIを使い始めた。その結果、活動量の数字は増え、クラウドコストは追加で発生した一方、対応する価値はほとんど見られなかった。

利用が目的になるとき

この失敗の基本構造は組織設計ではおなじみだ。指標が目標になると、人は本来の目的ではなく指標そのものを最適化する。このケースで見かけ上の目的は、開発者による有用なAI採用だった。選ばれた代理指標は、社内プラットフォーム上の活動量だった。

この違いは高くついた。社員がより多くのAI駆動タスクを実行するだけで順位を上げられるなら、コード品質、出荷速度、顧客への影響が改善しなくても、トークン消費やプラットフォームトラフィックだけが増える可能性がある。原文によれば、一部の社員は順位を上げるためだけに、意味のない作業にAIエージェントを向けていたという。

上級副社長のDave Treadwell氏は、社員に対して「Please don’t use AI just for the sake of using AI.」と述べたと報じられている。この言葉は、問題の核心を正確に言い当てている。経営陣がそこまで明言しなければならない時点で、測定の枠組みはすでに、本来支えるはずだった事業成果から外れてしまっている。

ダッシュボードの裏にある圧力

タイミングは重要だ。原文によれば、Amazonは開発者の80%以上に週次でAIを使わせることを目標にしている。また、2026年には主にAIインフラに約2000億ドルを投じる計画だという。こうした数字が、社内の採用指標に大きな注目が集まった理由を説明している。

AIにこれほど積極的に投資する大企業は、ツールが使われている証拠を求めており、その証拠を早く欲しがる。ダッシュボードは、広範な変革の議題を可視化された数字に変えるため、経営上の自然な反応だ。しかし、可視性は有用性と同じではない。特にソフトウェア組織では、真に意味のある採用を単純な利用統計だけで捉えるのは難しい。

原文は、Metaでも同様のパターンが見られ、社員がAI利用スコアを追っていたと指摘している。つまり、この問題はAmazonだけのものではない可能性がある。実際の改善を測る成熟した方法がないままAI導入を加速しようとする企業に共通する構造的な問題かもしれない。

トークン数から有用なデプロイへ

Amazonの代替指標は示唆的だ。生のトークン消費を追うのではなく、同社は今や「normalized deployments」、つまり実際に有用だと証明されたAI生成コードを測定していると報じられている。この変更は、入力指標から出力指標への移行を意味している。

この変更は理にかなっているが、簡単ではない。AI生成コードが本当に有用かどうかを測るには、モデルが呼び出されたという事実を記録するだけよりも、はるかに明確な成功定義が必要だ。実運用の成果、実際のワークフローへの統合、あるいは生成された作業がノイズではなくデプロイに貢献したことの何らかの検証に、より密接につながることを示唆している。

とはいえ、置き換え後の指標も慎重な設計が必要だ。もし社員がデプロイ数だけで評価されれば、小規模かつ低リスクのデプロイを最適化するかもしれない。コード量で評価されれば、十分にレビューされないまま量を増やす可能性がある。教訓は、指標は不可能だということではない。AI採用指標は、多くの組織が最初に想定するよりも、実際のエンジニアリング価値に厳密に一致していなければならないということだ。

企業AIにとってなぜ重要か

Amazonの経験は、社内AI展開がより難しい段階に入っていることを示している。最初の課題は、ツールを社員の手に届けることだった。次の課題は、それらが単にエンゲージメントのグラフを膨らませるだけでなく、実際の仕事を改善することを示すことだ。AI投資が拡大するにつれ、象徴的な利用に対する経営陣の寛容さは下がっていくだろう。

これは特に開発環境で重要だ。無駄な計算コストは直接コストに変わり、低品質な生成結果は後になって隠れた保守負担を生む可能性がある。ランキングは試行錯誤を促すかもしれないが、採点が粗いと見せかけの行動も助長する。

より広い教訓は明快だ。企業はAI利用そのものを最終状態と見なしてはならない。活動と有効性を区別する必要がある。Amazonがランキングを廃止した決断は、その教訓を高くつく形で学んだことを示している。社員にAIツールを使わせようとしている他の組織にとっては、望ましくない行動が拡大する前に、導入キャンペーンにはより良いインセンティブ設計が必要だという警告だ。

この記事はThe Decoderの報道に基づいています。元記事を読む。

Originally published on the-decoder.com