提言の2日後に何が起きたか
2026年6月10日、アメリカのAI企業Anthropic（アンソロピック）のCEOダリオ・アモデイ氏は、「政府は危険なAIを公開前に止める権限を持つべきだ」とする提言文書を公表し、同日付で議会にも提出した。AIを開発・販売する会社のトップが、自分たちへの規制強化を自ら求めた文書として、世界中のメディアが取り上げた。
その2日後の6月12日、米商務長官ハワード・ルトニック氏がAnthropicに書簡を送った。内容は、同社が開発中の最新AI「Claude Fable 5」について、安全性の確認が取れるまで公開を待つよう求めるものだった。
「規制を求めた会社が、最初に規制された」——この出来事は世界中で一斉に報じられた。
「飛行機と同じ審査を」提言の中身
では、CEOが求めた「審査」とは何か。
アモデイ氏が6月10日に公表した提言の骨子は、飛行機のアナロジーで理解できる。新型機が就航する前には、国が定めた安全基準をクリアしているかを第三者機関が確認する。問題があれば、許可が出るまで飛ばせない。アモデイ氏は「最先端のAIにも同じ仕組みを」と求めた——第三者機関による公開前審査、基準を満たさなければ政府がリリースを止める法的権限、違反企業への罰金制度の3点だ。
4つの「絶対NGリスク」
提言が特に警戒するのは4つのリスクだ。大量破壊兵器の製造支援、電力・水道といった社会インフラへの攻撃、選挙や司法といった民主的な仕組みをAIが操作・妨害すること、そしてAIが人間の関与なしに自分自身を複製・拡散していくこと——これらの能力を持つAIは、審査を通過しない限り公開できないとした。
審査対象は大企業だけ
対象は「巨額の資金をかけて開発する最先端AI」に限られる。日常業務でAIツールを使う一般企業には関係ない話だ。提言の背景には、Anthropic自身の経緯がある。AI開発競争が激化するなか、同社は2026年2月、「他社が先に出したら自社も出す」という方向へ自主安全ルールを事実上修正した。アモデイ氏はその事実を認めたうえで「競争圧力の前では企業の自主判断に限界がある」と述べ、ルールの制度化を求めた。
書簡の翌日、AIインフラ株が15%落ちた
CEOが求めた制度化はまだ提言段階だった。政府は間を置かず、手元にある別の法律を使って動いた。
止めた根拠は「AI用ではない法律」
書簡の根拠に使われたのは、兵器や核関連機器の海外流出を防ぐための輸出管理規則（EAR）だった。AIを直接規制する法律がまだ存在しないため、政府は別の目的で作られた既存の法律で止めた。
政府側が懸念したのは、Claude Fable 5に「安全対策を回避する手口」が存在するという点だ。AIに有害な指示を出しても拒否させない抜け穴——「脱獄」と呼ばれる——が存在すると、商務省の内部技術評価チームが確認した、と政府は主張した。加えて、Anthropicが政府への事前相談なしに公開を進めようとしていたことが、停止を求める直接の引き金になった。
Anthropicは「同種の問題は他の大手AI企業にも存在する。自社だけを止めるのは均衡を欠く」と反論した。しかし政府は、公開前の安全確認が必要だという立場を変えなかった。
欧米の規制が同調
この動きは米国にとどまらない。
トランプ大統領は2026年1月に署名した大統領令で、最先端AIを公開前に最大30日間、政府が審査できる枠組みをすでに設けていた。Anthropicへの書簡は、その枠組みが初めて本格的に動いた場面だ。米議会でも超党派の議員グループが独自のAI規制法案を提出している。
欧州でも、EUが定めた「EU AI法」が2026年8月に大手企業への本格適用を迎える。違反すれば全世界売上高の最大7%という制裁金が科される。
停止命令が伝わった翌日、AIインフラ関連企業の株価は約15%下落した。「規制で公開が遅れるリスク」が、投資家の計算式に組み込まれ始めた。
これから何が変わるか
「うちは安全にやってます」という企業の自己申告だけでは、もう通らない時代に入った。
今回の出来事が示すのは、AI企業が自分たちでルールを守るという「自主規制」の終わりだ。これからは「安全だと証明しろ」と政府が求め、証明できなければ公開を認めない——飛行機の就航許可に近い仕組みへの移行が現実味を帯びている。企業には、AIが何を学習したか（学習データの出所）や有害な使われ方への対策を記録・開示し、政府の審査に応じられる体制が求められるようになる。
「企業が自分たちで安全を守る」という前提が、政府が強制力を持って執行する仕組みへと置き換わろうとしている。その転換は今、米欧で同時進行している。
日本でも2025年5月に「AI推進基本法」が成立した。ただし、罰則規定はない。EUや米国が法的な強制力でAIを管理しようとするなか、日本だけが「お願いベース」のルールで対応できるかは、まだ答えが出ていない。
