カレン・ハオさんの『Empire of AI』って本を読みました。今をときめくOpenAIの内幕を、これでもかとえぐり出した一冊で、読後しばらくはChatGPTを使う手に妙な重さを感じるレベルでしたね。いやはや、これはなかなか強烈な本でございました。
著者のカレン・ハオさんは, もともとMITで機械工学を学んだガチのエンジニアで、データサイエンティストやスタートアップでの勤務経験もある、いわば「中の人」だった経歴の持ち主。なので、AIを「魔法」みたいに語るんじゃなくて、その裏にあるインセンティブ構造や技術的な限界まで冷静に解体できる立場にあったようです。そんな彼女が「シリコンバレーのやり方じゃ、本当に社会を良くすることなんてできないぞ！」って問題意識からジャーナリストに転身したんだそうな。実際に読んでみると、この経歴が、本書の告発にすさまじい説得力を与えていることがひしひしと伝わってきました。
以下では、本書から参考になったポイントをまとめてみます。
まず衝撃的なのが、OpenAIの「理想と現実」の落差。もともと彼らは、「AGIが人類全体に利益をもたらすように」っていう超利他的な使命を掲げた非営利団体だったのはご存じの通り。特定の企業、特にGoogleみたいな巨人がAIを独占するのを防ぐ「正義の味方」としてスタートしたわけです。オープンで、協力的で、何より安全第一。聞こえは最高。
ところが、この美しい理想はカネの前にもろくも崩れ去ります。AGIを開発するには、とんでもない量の計算資源（コンピュート）が必要で、そのためには個人や財団からの寄付だけじゃ全然足りない。ここで彼らが選んだのが、「上限付き営利企業」というハイブリッドモデルへの移行と、最終的にはマイクロソフトからの巨額投資を受け入れる道でした。
皮肉なことに、「企業のAI独占を防ぐ」という目的を達成するために、彼ら自身が「競争に勝てる、秘密主義的で、商業的な巨大プレイヤー」にならざるを得なかった。つまり、自分たちが最も避けようとしていた未来を、自ら作り出しちゃったってわけですね。この構造的な矛盾が、後々のあらゆる問題の根っこにあるんだ、と。
その歪んだ構造を体現するのが、CEOのサム・アルトマンと、元チーフサイエンティストのイリヤ・サツケバーという2人のキーパーソン。アルトマンは、卓越した資金調達能力とストーリーテリングの才能を持つ、まさに「シリコンバレーの権化」みたいな人物として描かれています。本書によれば、彼は「真実との関係が緩やか」で、相手が聞きたいことを話す天才。その才能で巨額の金を集める一方で、社内には不信の種を撒いていた、と。
対するイリヤ・サツケバーは、AGIの力を信じる「最高司祭」でありながら、その危険性を誰よりも恐れる「破滅論者（ドゥーマー）」だったとされています。彼が提唱した「スケーリング仮説」がOpenAIの技術的なドクトリンになった一方で、彼はAIの安全性に深く苦悩していた。社内のリトリートで「欺瞞的なAGI」を象徴する木像を燃やす儀式をやった、なんていう準宗教的なエピソードまで紹介されてて、その異様さが際立ちます。
結局、社内は「AIはユートピアをもたらす！」と信じて開発を爆走させたい「ブーマー（楽観論者）」と、「AIは人類を滅ぼす！」と恐れて安全性を重んじる「ドゥーマー（破滅論者）」の、まるで宗教戦争みたいな内戦状態に陥っていたんだそう。この対立が、かの有名な2023年の「アルトマン解任クーデター」につながっていくわけです。まあ結果はご存知の通り、資本の論理が圧勝し、アルトマンは「王の帰還」を果たしました。理想を監視するはずだった非営利の取締役会なんて、カネと権力の前では無力だったってことを証明しちゃった事件だ、と。
そして、本書の核心は「AI植民地主義」という告発です。ハオさんは、OpenAIのような企業が「新たな帝国」になりつつあると断じています。その手口は3つ。
- 資源の収奪：私たちがネットに書き込んだ文章や、アーティストが作った画像といった「デジタル共有財」を、同意も対価もなしに根こそぎデータとして収奪する。さらに、データセンターを動かすために、地球規模で電力や水をがぶ飲みしている。GPT-3の訓練だけで、ニューヨーク-北京間のフライト125便分ものCO2を排出したって試算もあるくらいで、その環境負荷は笑えないレベル
- 労働力の搾取：AIが「きれいな」回答を生成できる裏側には、おぞましい量の有害コンテンツ（児童虐待、暴力、ヘイトスピーチなど）を分類・処理する人間がいる。本書では、ケニアの労働者が時給2ドル以下で、トラウマになるような作業を延々とさせられていた実態を暴露している。シリコンバレーのエンジニアが数億円の報酬を得る一方で、その足元では精神をすり減らす低賃金労働者がいる
- 正当化の物語：そして、これらの収奪や搾取を「我々は中国のような“悪の帝国”と戦う“善の帝国”なのだ」というレトリックで正当化する。人類を救うためなら、多少の犠牲は仕方ないだろ？と。うーん、実に使い古された帝国の論理ですねぇ
ということで、この本が突きつけてくるのは、「AIは意識を持つか？」みたいな哲学的な問いにあらず。「そのAIによって、誰が儲けて、誰が犠牲を払っているのか？」という、極めて泥臭い権力と経済の問題でございました。
私たちが「すげー！便利！」と無邪気にAIを使っている裏側で、地球の資源が枯渇し、見えない誰かが搾取され、人類の集合知が一部の企業に独占されていく。この本は、その現実を直視しろと迫ってくる感じでしたね。
もちろん、だからといって明日からAIを使うのをやめるべき、とは言いません。それは現実的じゃないですしね。しかし、この「魔法」の裏で何が起きているのかを知った上で使うのと、何も知らずにただ礼賛するのとでは、天と地ほどの差があるんじゃないかなーとか思いましたね。少なくとも、AIを「人類を救う神」か何かのように崇めるのは、もうやめにしたほうがいいんじゃないかと。彼らは神ではなく、巨大なビジネスとイデオロギーの複合体なんで。そんな事実を、痛いほど教えてくれる一冊でした。おすすめ。