汎用AIに潜む見えないリスク

2023-12-20・初出:『財訊雙週刊』第701期（原文）

世間の注目を集めたOpenAIのお家騒動もひとまず決着し、ほぼ元通りの体制に戻りました。ちょうどChatGPTも1歳の誕生日を迎えたところで、AI産業が爆発的に成長してから1年が経った今の状況を振り返ってみたいと思います。

まずOpenAIのお家騒動から。詳細はすでにメディアが大きく報じているので、知らない方向けに簡単にまとめておきます。OpenAIのアルトマンCEOが、取締役会から「誠実さに欠ける」との理由で突然解任され、最終的には出資者であるマイクロソフトの後押しを受けて復帰しました。その数日間は「復帰が決まった」と報じられたかと思えば「取締役会が別の新CEOを任命し復帰は失敗した」と報じられたりと、まさに茶番劇のような右往左往ぶりでした。結局は復帰を果たしましたが、それも出資者マイクロソフトの130億ドルという存在があってこそでしょう。とはいえ、こうしたガバナンスのあり方には正直かなり不安を覚えます。

安全性と「魂」めいたもの——人間の反応に近づくAI

OpenAIの問題の根源は、その前身が非営利団体だったことにあります。非営利の取締役会が、シリコンバレーで最も重要な企業を統治する形になってしまったのです。会社の成長スピードがあまりに速すぎて、取締役会の顔ぶれが会社の実力に見合わなくなり、まるで大学のサークルのようなガバナンス体制になっていました。これはもちろんアルトマン自身の判断ミスでもあります。シリコンバレー最重要企業の経営とAIの使命を両立させようとして編み出した組織構造でしたが、実務上は極めて脆いことが証明されてしまいました。

今回の騒動は、汎用AI(AGI)のリスクという、もう一段深い論点も浮かび上がらせました。取締役会クーデターの最大の引き金は、AIの安全性だったのです。OpenAIの中心的な開発者であり取締役でもあったイリヤ・サツキヴァーは、アルトマンがAIの安全性を軽視していると考えていたようです。AGIはAI研究における聖杯とされる一方、多くの研究者は鼻で笑うテーマでもあります。現状の技術水準ではまだかなり遠い話で、たとえるなら「小学生が大学に入ったら喧嘩をするようになるか」を今から心配しているようなもの、というわけです。しかし今回はイリヤが「これは大問題だ」と判断したのです。

一般に、賢い人が一見「バカな質問」をするときは、その問題が実は単純ではなく、真剣に向き合う必要があるというサインです。この安全性重視派は、いま開発中のものはすでに汎用AIの領域にかなり近づいており、時間をかけて安全性を固めながら開発を減速すべきだと考えています。ただ、どうやらこの派閥は「とにかく開発を進める派」との争いにすでに敗れたようです。

こうした議論が起きるのも、AIがいくつかの領域で人間の反応にじわじわと近づいているからです。ここで出てくるのが、今回のAIブームでみんなが口にする「創発(エマージェンス)」という現象です。ChatGPTはこの創発の感覚を非常に直感的に教えてくれました。単語をひたすら予測してつなげているだけなのに、あるとき突然「あれ、こいつ意外と頭がいいぞ」と感じる瞬間があるのです。創発現象というのは、体感としては、これといって特別でもなかったAIアプリケーションに突然「魂」が宿ったように感じる現象を指します。工学的に言えば、AIモデルはある規模を超えると精度が急上昇したり、計算資源(コンピュート)がある水準を超えると、あるアプリケーションが突然驚くほど使いやすくなったりするということです。

これは特に音声認識の分野で顕著で、量的変化が質的変化を生み出す好例です。もちろん、論文の中で「創発現象など実際には存在せず、本質的には線形的な変化にすぎない」と主張する研究者もいて、こうした反論も存在します。

とはいえ、創発現象は体感としては確かに存在します。たとえ変化そのものが線形であっても、一定の閾値を超えれば、人はやはり「これは突然生き生きとしてきた」と感じるものだからです。もし何かが本物と見分けがつかないほど自然に質問に答えられるなら、それはもう実質的に「人」と言っていいでしょう。結局のところ、今回の一連の騒動の根っこにあるのは、OpenAIの技術的リードがやや大きくなりすぎたことなのです(そんな悩みを持てるなら羨ましい限りですが)。彼らはこの路線に最も多くを投じてきたからこそ、前例のないことを成し遂げられる可能性が本当にある。ただ、今回のOpenAI騒動を経て、彼らも少しは慎重になるのではないかと思います。

では、OpenAIが汎用AIへ向かって突き進む陰で、他のAI企業は何をしているのでしょうか。現在、多くの生成AI企業は、動画生成や画像翻訳といった、より垂直特化型の領域の開発に力を入れています。ただし、OpenAIには自らが出資する直系企業群があり、これらの企業はOpenAIのリソースを使う上で大きな優位性を持っています。もう一つ、多くの生成AI企業が気づいたことがあります。「使える」ものを作るのは簡単ですが、投資家の目に留まるようなAIを作るには、結局のところエヌビディアのチップを大量に買い込み、地道にモデルを訓練するしかない、ということです。

生成AI大乱戦——最後に笑うのはジェンスン・フアン

実際どれくらい買えばいいのでしょうか。H100クラスのチップなら、マイクロソフトやフェイスブックと肩を並べるには15万個は必要です。データベース企業であるオラクルでさえ5万個を購入しています。価格は1個100万台湾ドル超。AIチップは高額な上に手に入りにくく、「供給の約束」そのものにすら価値がつく時代になっています。

データセンター専業企業のCoreWeaveは、エヌビディアのH100供給の約束を担保にして、23億ドルもの資金を調達しました(もっとも、この会社は長年エヌビディアに対して宗教的とも言える忠誠を尽くしてきた企業で、グラフィックカード市場が不調だった時期にも大量に買い続け、その見返りとして供給の約束を得たわけです)。

しかし生成AI企業の悩みはそれだけではありません。YouTubeもすでにクリエイター向けのAIツールを投入していますし、TikTokの親会社バイトダンスの編集ツールにもAIが搭載されており、主要な用途はやはり大手プラットフォームに押さえられてしまいます。それでも起業家というのは大胆な人種で、世界の生成AI企業は臆することなく次々と参入し続けています。万に一つでも最後の勝者になれれば、そのリターンは非常に大きいからです。もっとも投資家の目線で見れば、確実に勝つと言えるのは1社だけ、それはエヌビディアです。生成AI企業に1ドル投資すれば、そのうち0.4ドルほどはエヌビディアに流れていくかもしれません。ジェンスン・フアンのビジネスの先見性には、心から敬服せざるを得ません。