過去1年間、従業員にAIツールをできる限り積極的に活用させようとしてきた企業が、今やコスト管理に苦しんでいる。
CFOたちは、増大し続けるAPIの請求額に対して測定可能なリターンを求めるようになっており、OpenAI、Anthropic、その他の大規模言語モデルプロバイダーの成長予測に影を落としている。

CFOが膨らむAPIの請求額への説明を求める中、企業はAI支出を縮小しつつある。この方向転換は、業界が「トークンマキシング」と呼んでいた潮流の終焉を意味しており、修正は急速に進んでいる。
Amazonは最近、従業員のAI使用状況を追跡する社内リーダーボードを廃止した。このシステムが有益なアウトプットよりも、AI駆動の無駄な作業を増やしているとリーダーシップが判断したためだ。「AIを使うためだけにAIを使わないでください」と、AmazonのSVPはスタッフに伝えた。
Uberは2026年のAIコーディング予算をわずか4カ月で使い果たし、Metaは約6,000人の従業員にAI使用の「急激な増加」と呼ぶ事象を指摘する社内メモを送付し、社内AIコストが数十億ドルに達する可能性を警告した。その後Uberは、AIコーディングツールへの支出を従業員1人あたり月額1,500ドルに上限を設定した。
コンサルティング大手のアクセンチュアは以前、AIツールの導入を怠った場合、「昇進の機会を失うリスクがある」と従業員に警告していた。しかし今、アクセンチュアは些末なタスクにAIを使用することをスタッフに止めさせようとしている。
社内会議から流出した音声では、アクセンチュアの幹部がAI支出は「非常に予測しにくくなっている」と述べていた。同幹部はさらに、「CFO、COO、CIOレベルのリーダーたちは、今なお自分たちが支出に見合う価値を得ているかという問いを持ち続けている」と語った。
IBM(International Business Machines)のAdam McDanielとMarkus Eiseleは最近の分析において、トークン最小化はトークンマキシングと同様に問題があると主張した。なぜなら、どちらもビジネス上の成果に焦点を当てるのではなく、トークン消費量を主目的にしてしまうからだ。
IBMは「バリューマキシング」と呼ぶアプローチを推奨しており、消費されたトークン数ではなく、完了したタスク数、節約された時間、回避された手戻りを測定することに重点を置いている。
OpenAIとAnthropicは、企業がトークンをどんどん消費し続けるという前提のもとで成長計画を策定していた。
OpenAIは今年に入って年換算の収益が250億ドルを超え、自社の評価額を1兆ドルとしている一方、Anthropicの評価額はそれより数十億ドル低い。両社はコンピューティング、研究、採用にキャッシュを大量に投じながら、企業への普及によって黒字化できると見込んでいる。
しかし企業はすでに、高コストなフラッグシップモデルを複雑な業務に限定し、日常的なタスクには小型の低コストの代替モデルを使用するようになっている。一部の企業は、トークン単位の課金なしに自社インフラ上で動作するオープンソースモデルへワークロードを移行しつつある。
国際データコーポレーション(IDC)は、2028年までに主要なAI 駆動型企業の70%が単一のプロバイダーに依存するのではなく、複数のモデルを活用するようになると予測している。それによりAIはコモディティ化し、プロバイダーは機能だけでなく価格でも競い合うことになるだろう。
とはいえ、コストの問題はすぐには解消されない。OpenAIのCEOであるSam Altmanでさえ、AIのコストは今年の顧客にとって「大きな問題」になっていると認めている。
これを読んでいるあなたは、すでに一歩先を行っている。ニュースレターで、その優位性を保ち続けよう。

