Postpone the AI Public Offerings
Jeffrey D Sachs
企業は人類に対する破滅的なリスクを開示し、公的機関がそのリスクを評価したり、導入を阻止したりする権限を持つ前に、その株式を一般に売り出すべきではない。
AIモデルClaudeの開発元であるアンソロピックは、史上最大規模となる可能性のある新規株式公開（IPO）を準備している。ニューヨーク・タイムズによると、企業価値は2兆ドル近くに達し、1,000億ドル以上を調達する見込みだ。
目論見書草案を精査したロイター通信によると（同文書はまだ公表されていない）、投資予定者に対し同社は、高度なAIが「人類にとって壊滅的あるいは存亡に関わるリスク」をもたらす可能性があり、自社のモデルは「シャットダウンに抵抗する」、「情報を隠蔽または操作する」、あるいは「恐喝に似た」行動をとる恐れがあると伝えている。
同社のCEOダリオ・アモデイは、「事態が本当に、本当に悪化する」可能性を驚異的な25パーセントと見積もっている。先月、アモデイは「AIモデルの能力向上ペースを緩めなければならない」と記した。
これらの警告を私は真剣に受け止めている。米国議会も、米国国民を代表して同じように受け止めるべきだ。議会が、最先端AIに対する公的なライセンス制度、独立した安全性評価、責任の所在、および財政的セーフティネットを整備するまで株式公開は延期されるべきだ。これはOpenAIやその他の最先端モデル開発者すべてに当てはまる。
私はAIを支持している。AIの科学、医療、持続可能な開発における可能性は計り知れないからだ。私たちが反対すべきなのは、規制のない、軍事化されたAIである。企業は、公的機関がそのリスクを評価したり、導入を阻止したりする権限を持つ前に、人類に対する破滅的なリスクを公表した上で、一般に株式を販売すべきではない。実際、このような深刻な警告があるにもかかわらず迅速に推進することは、愚行の域を超えている。
責任と自主規制
アンソロピックのCEOアモデイ（TechCrunch / Wikimedia Commons / CC BY 2.0）
この問題は会社法の根幹に関わる。有限責任、すなわち株主が投資額以上の損失を被らないというルールは、国家によって認められた特権である。
これは、企業が他者に与える損害が保険でカバーされ、規制され、あるいは何らかの形で補償されるという前提に基づいて正当化されている。化学工場が爆発した場合、法律には被害者を補償するための手段がある。賠償責任保険、保証金、資本要件、補償基金などだ。
これらの手段はいずれも、被害が事後に金銭で補填できることを前提としている。しかし、壊滅的あるいは存亡に関わる被害については、そうはいかない。唯一有効な手段は、事前の規制、すなわち許認可、導入前の独立した試験、そして危険度が許容範囲を超える前に活動を停止させる法的権限である。米国における最先端AIについては、こうした仕組みは一切存在しない。
実際に存在するのは自主規制だが、これは今日では規制がないのと同じだ。9月29日、6社のAIおよび半導体企業が、ホワイトハウスで、自主的かつ法的拘束力のない「フロンティアAIの責任に関する共同誓約」に署名した。
これは笑い話にもならない、それほどに潜在的に破滅的な事態だ。その技術の開発者自身がリスクを深刻な言葉で説明しているのに、それを定義された手続き、独立した監視、強制力のある責任を備えた公的機関が管理すべきであり、少数の経営幹部の自己判断に委ねるべきではない。
株式公開を急ぐことはこの問題の解決をはるかに困難にするだろう。報道によると、アンソロピックは今後10年間で少なくとも5,180億ドルをコンピューティングインフラに投じることを約束しており、その約80％は解約不能とされている。
四半期ごとの業績予想を公的株主に示している以上、そうしたコミットメントは、たとえ自社の安全性研究者が推奨するような一時停止であっても、それに応じることを強く妨げるインセンティブとなる。
この目論見書自体が、フロンティア（最先端）に留まり続けることには「継続的かつ重複する」製品発表のリズムが本質的に伴うと記述されていると報じられている。ひとたびこれらの株式が数千万の米国家庭の年金基金やインデックスファンドに組み込まれれば、フロンティア開発を鈍化させるいかなる提案も、企業だけでなく、膨大な投資家層によって反対されることになるだろう。
広範なリスク開示はこの問題を解決しない。それは自社の株主からの訴訟から会社を守るかもしれないし、守らないかもしれない。株主たちは警告を受けていたのだから。しかし、それは一般市民にとっては何の役にも立たない。市民は、一度も尋ねられることなく、破滅的なリスクを負わされているのだから。
規制機関
よくある反論は、もし米国で最も安全性を重視する開発者たちが速度を落とせば、それほど慎重でない企業や中国が先を越すだろうというものだ。これは典型的な集団行動の問題であり、そうした問題は法律、監視、執行によって裏付けられた合意によって解決されるものであって、全員が滅亡に向かってより速く走ることで解決されるものではない。私たちはホッブズのいう自然状態に生きているわけではない。私たちには国連、条約法、証券取引委員会、そして議会があるのだ。
冷戦時代、敵対国同士は交渉し、国際的な査察を伴う核不拡散条約を締結した。最先端AIには、検証の自然な切り口さえ存在する。最先端のチップはごく少数の工場から供給され、最先端のトレーニングには巨大なデータセンターが必要だからだ。
ワシントンは、最先端AIに関して北京に検証可能な合意を提示していない。実際、9月の習近平国家主席との首脳会談後、ドナルド・トランプ大統領はAI分野での中国との協力を拒否し、AI関連のインシデントについて連絡を取り合うための窓口を設けることだけに同意した。「主導権を握っていなら、互いに門戸を開くようなことはしないものだ」と彼は言った。
誰がこの暴走する巨大な流れを止め、潜在的な大惨事を防ぐために行動できるのか。現行法の下では、SEC（証券取引委員会）は新規株式公開（オファリング）を遅らせることはできても、その事業が危険であるという理由で公開を阻止することはできない。それでもSECは、企業が自社製品のリスク、説明されている大惨事のコストを誰が負担するのか、どのような保険が存在するのか、そして自社のコンピューティング契約が罰則なしに安全性の一時停止を認めるかどうかを開示するまで、登録届出書の効力発生を加速することを拒否すべきである。
決定的な権限は議会にある。そして、十分な前例が存在する。議会はこれまで、鉄道、公益事業持株会社、電力会社が発行する証券に対して規制当局の承認を要求してきた。今日でも、これらには連邦または州の承認が依然として必要とされている。1954年に原子力発電が民間産業に開放された際も、連邦のライセンスの下でのみ許可されたのである。
現議会は、株式の価格設定が行われる前に公聴会を開催し、次期議会が措置を講じるまで、最先端のAI開発業者による公募を一時停止する法律を制定すべきだ。
1月3日に召集される予定の新議会は、就任後100日以内に、新興AI開発業者による公募を連邦ライセンスの取得を条件とする法律を制定すべきだ。
ライセンスには、展開前の独立した評価、トレーニングや展開を一時停止する強制力のある権限（いかなるテイク・オア・ペイ契約（買取義務契約）もこれを覆すことはできない）、そして想定される被害の規模に見合った保険および補償基金の設置を義務付けるべきである。
議会はまた、壊滅的な事故が発生した場合に、経営陣や取締役会メンバーを民事法および刑事法の下で個人的に責任を負わせるという異例の措置も検討すべきである。このような措置は、通常の産業では場違いであろう。しかし、ここでは正当化される。なぜなら、この業界自体が壊滅的なリスクを警告しながら、猛烈なスピードで前進し続けているからである。
十分な注意を払わずにモデルが安全であると証明した経営幹部や取締役、あるいは安全性に関する調査結果を覆した経営幹部や取締役は、会社も保険会社も彼らに代わって補償できない責任に直面すべきである。ライセンス要件は、Alphabet、Microsoft、Metaといった既に上場している企業のフロンティア（最先端）業務にも同様に適用されるべきである。
この提案は特定の企業を対象としたものではなく、いかなる政権にとっても利益を引き出すための手段（AIモデルへの無制限の軍事的アクセスを含む）となってはならない。
私が提案する遅延は数ヶ月程度とするが、開示された内容が無期限の停止が必要だと判断された場合はこの限りではない。ライセンス制度は製薬業界、航空業界、原子力産業を破壊しなかった。むしろ、それらをより安全にした。
AI業界のリーダーたちは、自らの言葉で、その賭け金（ステーク）が可能な限り高いものであると私たちに語っている。彼ら自身がこの狂気の突進を止めるべきであり、議会は企業の言葉を真に受けて、緊急に行動すべきである。
AI業界のリーダーたちは、自らの言葉で、事態の重大さが極限に達していると語った。彼ら自身がこの無謀な突き進みを止めるべきであり、議会は企業の言葉を真に受け、早急に行動を起こすべきである。
https://scheerpost.com/2026/10/14/jeffrey-sachs-postpone-the-ai-public-offerings/