効率的なAIの新しいベンチマーク

AppleはUniversity of Wisconsin-Madisonのコラボレーターと共同で、RubiCapと呼ばれるトレーニングフレームワークを発表しました。これは人工知能における最も根深い仮定の1つに異議を唱えています：より大きいモデルは常により良い結果をもたらすということです。画像キャプショニングベンチマークでは、RubiCapで動作する70億パラメータのモデルは、サイズが10倍大きい競争システムを一貫して上回りました。さらに場合によっては、720億パラメータを持つモデルをも上回りました。

その影響は単一ベンチマークをはるかに超えています。より小さく、より高性能なモデルは、より低い計算コスト、より高速な推論、削減されたエネルギー消費、および遠くのデータセンターではなくデバイス上で強力なAI機能を実行する可能性を意味します。AppleはApple Intelligenceの戦略の大部分をプライベートなデバイス上処理に賭けており、コンパクトなアーキテクチャから最大のパフォーマンスを引き出すという戦略的な関心が明らかです。

RubiCapが実際に行うこと

ほとんどの画像キャプショニングモデルはシーン全体を一つの説明として生成します。RubiCapが対象とするのは研究者がdense captioningと呼ぶもの— 単一の画像内の複数の要素について、詳細で領域固有の説明を生成します。これは、より強力なvision-languageモデルをトレーニングするために必要な豊富なビジュアル理解の種類であり、精密な画像検索を実現し、視覚障害を持つユーザーのためのアクセシビリティ機能を有効にします。

トレーニングのブレークスルーは、RubiCapが学習シグナルをどのように生成するかから来ています。高コストな手作業で注釈を付けたデータセットまたは従来の教師あり学習アプローチに依存するのではなく、フレームワークはreinforcement learningストラテジーを採用しています。具体的にはGemini 2.5 Proという強力なフロンティアモデルを使用して、より小さいモデルが生成する候補キャプションを評価します。評価器は複数の候補出力間で合意点とギャップを特定し、その後、より小さいモデルをより良い出力に導く明確な評価基準を策定し、一つの「正しい」基本的真実の答えを必要とすることはありません。

これはほとんどの小さいモデルをどのようにトレーニングするかからの重要な逸脱です。従来のアプローチはしばしば大きいモデルからのdistillationまたはラベルされたデータセットのfine-tuningが関わります。RubiCapは代わりに、反復的なフィードバックループを通じてキャプション品質について推論するようにモデルを教え、広範に一般化する評価本能を発展させることができます。

3つのモデル、1つのフレームワーク

AppleはRubiCapという名前の下で3つの変種をリリースしました：20億パラメータのモデル（RubiCap-2B）、30億パラメータのモデル（RubiCap-3B）、および旗艦70億パラメータのRubiCap-7Bです。すべてのベンチマーク評価にわたって、7B変種は最高の勝率を達成し、720億パラメータまでのモデルを上回りました。3Bバージョンは複数の具体的なベンチマークで大きいライバルを上回り、中堅の変種でさえも期待をはるかに超えるパフォーマンスを発揮することを実証しています。

重要なことに、モデルはテスト全体を通じて低いhallucination率を維持しました— これはシーンに存在しない詳細を作り出す画像キャプショニングシステムの永続的な故障モードです。Dense captioningは複数の画像領域を同時に注視する必要があり、これはhallucinationのリスクを増幅し、RubiCapのこの次元でのパフォーマンスは特に注目に値します。

中核的な設計目標としての効率

研究はAI開発における広範な傾向を強調しています：蛮力スケーリングから建築的で方法論的な洗練への転換です。長年にわたって、より良いAIのための主流のレシピは単により大きいモデルをより多くのデータでトレーニングすることでした。RubiCapは、トレーニング方法論— モデルがどのように学ぶかであって、単にどのくらい大きいかではなく— が決定的な変数であることを実証しています。

Appleにとって、これはそのハードウェアとプライバシーの制約と直接一致しています。70億パラメータのモデルをiPhoneまたはMacで実行することは、現代のneural processingハードウェアで実行可能です。720億パラメータのモデルを実行することはそうではありません。デバイスサイズのモデルから最高水準のキャプショニング結果を達成できる能力は、より豊かなアクセシビリティ機能、より賢い写真の整理、およびクラウドサーバーを通じて機密画像をルーティングすることなく、より有能なビジュアル検索への扉を開きます。

この研究はより広いAI産業にも影響があり、フロンティアモデルをトレーニングして展開するコストが重大な障壁となっています。RubiCapのreinforcement learning方法論が他のモダリティに一般化された場合、企業がモデル開発についてどのように考えるかを再形成する可能性があります— 生のパラメータ数よりトレーニング効率を優先することです。

先を見据えて

AppleはRubiCapの製品展開のタイムラインを発表していません。出版物は製品ローンチではなく、研究論文です。しかし、最終的にオペレーティングシステムの機能に登場するAI研究を発表する企業の歴史— デバイス上のspeech認識からneural machine translationまで— は、技術が実世界の展開を念頭に置いて開発されていることを示唆しています。

Apple IntelligenceがiOS、macOS、およびiPadOSを通じて拡大し続けるにつれて、dense image captioningのような能力はアクセシビリティツールを強化し、文脈的な写真検索を強化し、AI生成画像説明の精度を向上させる可能性があります。研究デモンストレーションと消費者向け機能の間のギャップは、Appleでの歴史的に2〜3年の経路であり、企業がその応用AI努力を深める速度で速くなる可能性があります。

この記事は9to5Macの報道に基づいています。オリジナル記事を読む。