AI分野が一斉に盛り上がり、「100モデル大戦」の時代が到来

先月、AI界で「動物の争い」が勃発しました。一方はMetaが発表したLlamaで、オープンソースの特性から開発者に好まれています。もう一方はFalconという大規模モデルで、今年5月に登場し、Llamaを抜いてオープンソースLLMランキングのトップに立ちました。

興味深いことに、Falconの開発者はアラブ首長国連邦の首都アブダビにある技術革新研究所です。アラブ首長国連邦の人工知能大臣はその後、タイム誌が選ぶ「AI分野で最も影響力のある100人」に選ばれました。

現在、AI分野は百家争鳴の時代に突入しています。一定の財力を持つ国や企業は皆、国内版ChatGPTを構築しています。湾岸地域だけでも、サウジアラビアは国内大学のために3000枚以上のH100チップを購入し、LLMの訓練に使用しています。

この状況は疑問を禁じ得ない: 事前に約束された高難度のハードテクノロジーは、どうして「一国一模」になってしまったのか?

トランスフォーマーはゲームのルールを変えた

2017年、Googleの8人のコンピュータ科学者は論文『Attention Is All You Need』でTransformerアルゴリズムを公開し、このAIブームの触媒となりました。現在、すべての大規模モデル、GPTシリーズを含むはTransformerを基盤にしています。

Transformerの革新には主に二つのポイントがあります。一つは位置エンコーディングを使用してループ設計を置き換え、並列計算を実現し、トレーニング効率を大幅に向上させたことです。もう一つは文脈理解能力をさらに強化したことです。

これにより、大規模モデルは理論研究からエンジニアリングの問題に変わりました。データ、計算能力の規模、モデルアーキテクチャなどのエンジニアリング要素がAI競争の鍵となります。一定の技術力を持つ企業であれば、誰でも大規模モデルを開発することができます。

オープンソースとクローズドソースの争い

現在、「百模大戦」は現実となりました。7月現在、中国の大モデルの数は130に達し、アメリカの114を超えました。日本、インド、韓国など他の国々もそれぞれの大モデルを持っています。

しかし、参入は容易でも成功は難しい。Falconを例に挙げると、ランキングではLlamaを上回っているが、Metaに実質的な影響を与えることは難しい。オープンソースの大規模モデルにとって、活発な開発者コミュニティが核心的な競争力である。Metaは以前からオープンソースの伝統があり、コミュニティ運営においても優れている。

もちろん、性能向上も一つの道です。しかし、現在ほとんどのLLMはGPT-4と依然として明らかな差があります。最新のAgentBenchテストでは、GPT-4が4.41点で圧倒的にリードしており、2位のClaudeはわずか2.77点、他のオープンソースモデルは多くが1点前後です。

このギャップを生み出しているのは、OpenAIの優れた科学者チームと長年の蓄積された経験です。大規模モデルの核心はエコシステムの構築(オープンソース)または純粋な推論能力(クローズドソース)です。

コストと収入の不均衡

現在、大規模モデル業界ではコストと収入の深刻な不均衡が一般的に存在しています。セコイアキャピタルの推計によれば、世界のテクノロジー企業は毎年大規模モデルインフラに2000億ドルを超える支出を行っており、大規模モデルの年間収入は最大750億ドルで、少なくとも1250億ドルのギャップが存在しています。

マイクロソフトやアドビのようなソフトウェアの巨人でさえ、AI製品で損失に直面しています。多くの大規模モデルの会社は、巨額の投資の後でも、明確な収益モデルを見つけていません。

同質化競争が激化し、オープンソースモデルが増える中、単純な大規模モデルの供給者はより大きな圧力に直面する可能性があります。未来には、AIの価値はモデルそのものではなく、より具体的なアプリケーションシナリオにおいて現れる可能性があります。