昨日、The New Yorkerに掲載された記事が頭から離れない。基本的に、そこに登場した調査員たちはOpenAIに関わる100人以上にインタビューし、これまで公開されていなかった内部文書にアクセスした。そこから何が明らかになったのか？2023年のあのドラマよりもずっと複雑な物語だ。

すべては2023年にIlya Sutskever、OpenAIの最高科学者がまとめた70ページの文書から始まった。彼はSlackのメッセージ、HRとのやり取り、内部会議の議事録などを集めて、一つの質問に答えようとした：史上最も危険な技術を操る可能性のあるSam Altmanは信頼できるのか？彼の結論は一ページ目に記されている。「Samは一貫した嘘のパターンを示している。」

私の注意を引いたのは、非常に具体的な例だった。2022年12月、取締役会の会議中にAltmanは、GPT-4のいくつかの機能はすでに安全性のレビューを通過していると保証した。書類を見るよう求められると、最も論争の多い2つの機能は安全パネルを一度も通過していなかったことが判明した。単純なことだ。

しかし、それだけではない。後にAnthropicを設立したDario Amodeiは、OpenAI在籍中に200ページ以上の個人的なメモを残している。彼は、企業が商業的圧力の下で一歩一歩後退していく様子を記録した。特に気になったのは、2019年にMicrosoftが投資したときのことだ。その契約には、もし他の競合がより安全なAGIの道を見つけた場合、OpenAIは競争を停止し協力しなければならないという条項があった。しかし、Microsoftには拒否権が与えられていた。つまり、その安全保障は紙切れになったのだ。

ちょっと怖い話もある。2023年半ば、Altmanは公に、OpenAIの計算能力の20%を「超整列チーム」に割り当てると発表した。これは10億ドル超の潜在能力を持つとされた。しかし、実際に割り当てられたのは1%から2%で、しかも古いハードウェアを使っていたという。チームはその後解散された。安全性の研究責任者にインタビューを求めた記者たちに対し、OpenAIの広報はこう答えた：「それは実際に存在するものではありません。」

最新の情報では、OpenAIのCFOであるSarah Friarは、AltmanとIPOについて深刻な意見の相違を抱えている。彼女は、Altmanが約束した6000億ドルの計算能力投資のリスクを考えると、企業はまだ準備ができていないと考えている。しかし、奇妙なことに、彼女はもう直接Altmanに報告していない。今はFidji Simoに報告している。彼女は先週、休暇を取ったばかりだ。IPOを進める企業で、CEOとCFOが根本的に意見を異にし、CFOはCEOに報告しない。そして、CFOの上司は休暇中だ。Microsoftの幹部さえも、「Altmanは事実を歪め、約束を破った」と言っている。

元取締役の一人は、Altmanについてこう述べている：彼は対面のたびに非常に強い好意を示したいという欲求を持っている一方で、他人を騙す結果に対してほとんど無関心な、ほぼ社会病質的な無関心さも見せる。これは稀な組み合わせであり、完璧なセールスマンだ。

問題は何か？もしAltmanが普通のテック企業のCEOだったら、ただの企業の噂話に過ぎないだろう。しかし、OpenAIは、世界経済を再構築し得る技術を開発しており、生物化学兵器の作成やサイバー攻撃に利用される可能性もある。元最高科学者や元安全保障責任者は彼を信用できないとみなしている。パートナーたちは彼をSBFと比較している。それでも彼は、評価額8500億ドル超のIPOを目指している。

ニューヨークのAI教授Gary Marcusは、すべてを読んだ後、非常に直接的な質問を投げかけた：Altmanに一人で決定させることに本当に安心できるのか？人類の運命を左右し得るモデルをリリースすべきかどうか。

OpenAIの回答は、基本的に情報源の動機を疑問視し、何も否定しなかった。Altmanは直接の非難には答えなかった。

これは、リスクを懸念する理想主義者たちが、非営利の組織を作り、明確な使命を掲げた物語だ。技術が進歩し、大量の資本が流入し、投資回収の圧力が高まると、使命は次第に崩れ始めた。安全チームは解散され、疑問を持つ人々は排除され、非営利の枠組みは営利企業へと変貌し、取締役会はCEOの味方で埋め尽くされた。証言者の多くが同じように述べている：「真実に縛られない」。