ニュース

OpenAI、走る営利企業への道 安全チーム「解消」、理事会は形骸化

namiten

シリーズ「交差路」では、デジタル経済に関するニュースについて詳しくまとめます。

 米新興OpenAIが、設立当時の経営理念とは真逆の方向へと突っ走っている。利益を最優先する姿勢が強まると慎重派は退社し、積極派の濃度はより高まる。サム・アルトマン氏を突如解任した昨年の騒動は、かえってより強固な「サム・アルトマン体制」を作り上げる手助けをしてしまった。退社したイーロン・マスク氏が「当初の経営理念はもうそこにない」と評価するように、理事会の権力は積極派のアルトマン氏に吸い上げられた。

広告

安全チーム「解消」

 米新興企業のOpenAIが、将来の高度なAIに備えた安全対策のチームを解消していたことが17日、分かった。

 「スーパーアライメント」と呼ばれる同チームは、AIを制御し、人間の意図から外れて暴走するのを防ぐ技術の研究を担ってきた。人間の知能を超える汎用AI(AGI)の実現を見据え、昨年7月に設置されたばかりだった。

 チームの実質的な解散は、率いていたイリヤ・サツキバー氏とヤン・ライク氏が14日に相次いで退社を表明したことで発覚した。サツキバー氏はOpenAIの共同創業者でチーフサイエンティストを務める、AI分野の第一人者だ。両氏は「独立したチームとしての活動を停止し、研究を全社的な取り組みに統合された」と説明している。

 サツキバー氏は退社の理由を明かしていないが、ライク氏は「OpenAIの安全文化や手順が、派手な製品の陰に隠れてしまった」とし、「資源不足からこの重要な研究の遂行が困難になっていた」と指摘する。チームは研究用の計算リソースの確保にも苦慮。「私のチームは逆風にさらされていた」とライク氏は嘆く。

足引っ張る理念と営利

 OpenAIは当初、AI技術の安全性を最優先する姿勢を打ち出していた。人間を上回る知能を持つAIのリスクを指摘し、「人類の役に立つAI開発」を掲げて2015年に非営利団体として設立された。ところが次第に、利益の追求を最優先し、AIの安全性への配慮は二の次になりつつある。

 ChatGPTのAPI提供で先行したOpenAIには、世界中から巨額の投資が殺到している。Microsoftを筆頭に、ベンチャーキャピタルや海外の政府系ファンドが名乗りを上げた。「ChatGPTは金のなる木」(関係者)。OpenAIの企業価値は、ChatGPTの発表当時で一時13兆円だ。現在もその価値を膨らませている。アルトマンCEOの個人資産も1.5兆円程度と見積もられる。

 潤沢な資金を背景に、OpenAIは事業拡大に邁進している。画像生成モデル「DALL-E」を使ったサービスや、企業向けの高度なAPIの提供など、次々と新事業を立ち上げる。「毎月のように新しい金看板が掲げられる」(社員)という。

 営利企業としての成長を加速させる一方で、OpenAIは非営利団体としての使命は邪魔だ。AIの安全性を検証する「スーパーアライメント」チームの解散は、それを象徴する出来事だった。「利益になりそうにない地味な活動は削られている。普通の営利企業への道を行くと宣言したようなものだ」(関係者)。

 アルトマンCEOは「AGI(人間レベルの汎用AI)の実現」を明言し、そのための開発競争を急いでいる。Safety(安全)よりもSpeed(速さ)を重視するその姿勢は、投資家の期待に応える道でもある。「アルトマン氏はスターだ。投資家は同氏の言葉を聞いて小切手を切る」(ベンチャーキャピタリスト)という。

 規制当局の監視の目も、OpenAIの行動を抑制できない。「常に規制の一歩先を行く」(幹部)のが巨大ITの戦略だ。事業拡大のスピードに法整備が追いつかない現状を逆手に取り、「できるだけのことをやってから規制に対応する」(同)考えだ。

 非営利団体の看板を掲げつつ、実態は営利企業そのものになりつつあるOpenAI。「建前と本音のギャップ」(評論家)はますます広がっている。AIによる利益の独占を目指す同社の姿勢に、専門家からは警鐘の声が上がり始めた。

 AIがもたらす恩恵を独占するのではなく、広く社会に還元していく。そんなOpenAIの当初の理念は、いまや幻となりつつある。「営利優先の道を突き進む」同社の行動が、AIの健全な発展をゆがめてしまう懸念は払拭できない。

OpenAIの2重構造

OpenAIの二重構造が生んだ矛盾

 OpenAIは当初、非営利団体として設立された。AIの安全性を追求し、その恩恵を広く人類に還元するという崇高な理念を掲げていた。ところが、研究開発に多額の資金を要するようになると、営利企業への転換を迫られる。非営利の目的を貫くため、OpenAIは2019年、非営利部門の下に営利部門である現OpenAI Globalを設立した。従業員の雇用やMicrosoftなどから巨額の出資を受けるためだ。

 しかし、非営利部門と営利部門を並立させたことで、OpenAIは複雑な二重構造を抱えることになった。非営利部門のOpenAI Incが、営利部門のOpenAI Globalを所有するという形になっているのだ。営利部門は非営利部門の子会社という位置づけになる。

 法的には理事会が、営利部門の事業も監督する立場にある。ところが、営利部門の経営陣は事業拡大を急ぐあまり、非営利部門の理念に反するような判断を下すことが増えてくる。AIの安全性よりもスピードを重視するアルトマンCEOの姿勢は、その象徴だったと言えよう。

 理念と現実のギャップは、昨年のアルトマンCEO解任騒動で一気に表面化した。OpenAI Incの理事会は、営利部門の暴走を止めるために解任に踏み切ったものの、大半の従業員がアルトマン氏支持に回ったために撤回に追い込まれる。皮肉なことに、この騒動がアルトマン体制を強化する結果となった。

 営利部門の売り上げが急拡大する一方、非営利部門の存在感は次第に薄れていった。理念を掲げながら、その実現を阻む存在になりつつあるのだ。「建前と本音のねじれ」(ベンチャーキャピタリスト)は解消されないまま、むしろ加速していく。

 ChatGPTの成功で企業価値は膨れ上がったが、大半は営利部門によるもの。AIの安全性を追求するはずの非営利部門は、営利部門の成長を追認するだけの存在になってしまった。「理念は看板に過ぎない」(元幹部)。その矛盾が、サツキバー氏らの退社を招いたのかもしれない。

 OpenAIの二重構造は当初、AIの安全性と事業化の両立を目指す仕組みとして注目を集めた。だが結果的に、理念と現実の乖離を生む原因になった。「ガバナンスの欠陥」(専門家)を突かれたOpenAIは、岐路に立たされている。

 昨年11月にはサム・アルトマンCEOの解任騒動が勃発。事業拡大を急ぐアルトマン氏と、慎重姿勢を崩さない理事会の対立が表面化した。

 突如の解任劇にも、しかしアルトマン氏は揺るがなかった。「4日間ほとんど眠らず、食事もとらないアドレナリン状態だった」と振り返る。「大統領や首相から何十通ものメッセージが来ても、当時は普通に感じられた」という。

 理事会は「アルトマン氏との意思疎通の断絶」(当時の理事)を理由に解任に踏み切ったものの、従業員の9割が退社の意思を示すなど猛反発。アルトマン氏がMicrosoftに異動すると伝えられるなど、事態は二転三転した。その4日後には解任の撤回に追い込まれた。この騒動で理事会の求心力は大きく低下し、アルトマン氏はCEOに返り咲くことになった。

OpenAIのサム・アルトマン氏とMSのサティア・ナデラCEO
(Microsoft社提供)

 理事会のメンバーは刷新され、アルトマン氏の影響力はむしろ強まってしまった。「アルトマン体制」の誕生である。創業メンバーで安全性重視派のイーロン・マスク氏は「OpenAIの理念はもうそこにない」と嘆いて2018年に手を引いている。

 NVIDIAなど生成AI関連の銘柄が急騰。今やAmazonやGoogle(Alphabet)を抑えて時価総額で米国3位に位置する。株式市場に「生成AIブーム」を巻き起こした。Microsoftとの提携も強化し、AI覇権を競うGoogleに対抗する構図が鮮明になる中、「安全性の議論をしている余裕はない」(関係者)との声が強まった。

 サツキバー氏らの退社は、OpenAIの技術的な基盤にも影響を及ぼしかねない。

規制当局、逃げ道塞げず

 AIの軍事利用を警戒し、バイデン政権はAIモデルの輸出規制に乗り出した。だがルール作りは遅々としており、OpenAIなどの動きに歯止めをかけられていない。EU(欧州連合)は包括的なAI規制の枠組み「AI法案」を打ち出したが、域内での実効性には懐疑的な見方も多い。日本でもAI開発の指針作りは遅れている。

 独アンソロピックや中東のスタートアップなど、OpenAIに真っ向から挑む競合も名乗りを上げる。Googleも対抗姿勢を鮮明にする。日本でも孫正義氏率いるソフトバンクグループが10兆円規模のAI投資を計画している。AIシフトは一気に加速している。

 OpenAIの安全性を軽視する姿勢に歯止めをかけるには、各国政府の協調した規制強化が不可欠だ。AIの負の側面への警戒感が希薄化する中、民間企業の自主規制を過信することはできない。

 AI技術は利便性と危険性の両面を持つ。その可能性に心躍らせつつ、負の側面にどう向き合うか。OpenAIの「変節」が問いかける課題は重い。技術の光と影を直視し、ルール作りを急ぐ時だ。

namiten.jp〈日曜版〉(月曜掲載)
本部 = OpenAIコメンテーター

※SNSシェアの場合、必ず利用規約をご確認ください。
コンテンツの翻案、リンクを含まない引用・スクリーンショットの共有は法律・法令、当サイト利用規約で禁止されています。
サイト内PR

Google Newsでnamiten.jpをフォロー

広告
namiten.jp
namiten.jp
広報
namiten.jp広報班にお問い合せがある場合、以下の通りお願いします。

当サイト掲載情報について、法的請求がある場合…お問い合わせへ
当サイト掲載情報について、不備や依頼等がある場合…メール、Twitter DM等
広告
記事URLをコピーしました