AIが作った本物そっくりの偽音声・偽画像が、実際の選挙を揺さぶっている。民主主義擁護を掲げる非営利調査機関「Freedom House」の報告によれば、2024年に国政選挙を実施した世界50カ国のうち40カ国でAI絡みの偽情報が確認された。2024年1月、そのOpenAIが公式ブログで選挙向けの対策を3つ発表した。
OpenAI、選挙向けに3つのAI悪用対策を発表
正確な情報の提供、AI生成画像を見分けるツールの公開、そして選挙に絡むAI利用を縛る法案の支持——AIを作った企業が自ら規制を求めるという、異例の構図でもある。
バイデン偽音声と、世界で急増するディープフェイク
2024年1月、米ニューハンプシャー州の有権者の電話が鳴った。バイデン大統領の声を模したAI自動音声が告げた——「今回の予備選は投票しないで」。本物そっくりに作られた偽音声が、投票を思いとどまらせようとした事件だ。連邦通信委員会は関与した政治コンサルタントに約6億円の罰金を科した。
ルーマニアでは、AIによって拡散された偽情報が民主的プロセスを歪めたとして、憲法裁判所が選挙結果そのものを無効にした。
こうした「ディープフェイク」——AIが実在する人物の声や顔を本物そっくりに再現する技術——の件数は、2024年に大規模選挙が行われた国々で急増した。調査会社Sumsubによれば、米国で前年比303%増、インドで280%増、メキシコや南アフリカでは500%増を記録している。
ChatGPTで正確な選挙結果が見られるようになる
これだけの被害が出た2024年、OpenAIがとった最初の一手は「信頼できる情報源と直接つなぐ」ことだった。
AP通信の実績——7,000レースを99.9%の正確さで集計
OpenAIは世界最大の報道通信社、AP通信（Associated Press）と複数年の契約を結んだ。AP通信は1848年創設の老舗で、米国内で7,000以上の選挙レースをリアルタイム集計してきた実績を持つ。その正確さは99.9%に上る。偏りのないデータ源として選ばれた理由だ。
ChatGPTで「〇〇州の選挙結果は？」と尋ねると、この公式開票データに基づいた回答が返ってくるようになる。
AIが誤った文脈で伝えないよう中立性監視も強化
事実を届けるだけでは足りない。誰に投票するかを誘導すれば、偽情報と同じ害を持つ。OpenAIはChatGPTを使って特定候補への投票を促したり、逆に投票を控えさせるアプリの開発を厳しく禁じている。
2024年の選挙期間中、投票場所や登録手続きを尋ねるユーザーには、全米州務長官協会（NASS）が運営する公的サイト「CanIVote.org」への誘導を徹底した。選挙前の1ヶ月で約100万件、選挙当日には約200万件——AIが偽情報ではなく、正しい情報の入り口として機能した規模感だ。
AI画像が「本物か偽物か」を誰でも調べられる
正しい情報を届けるだけでは、偽の画像や動画は止められない。次の一手は「偽物を見破れるようにする」技術だ。
消えないデジタル透かしを画像に埋め込む
OpenAIの画像生成ツール「DALL-E（ダリ）」は、2024年の選挙期間中に政治家のなりすまし画像を作ろうとするリクエスト約25万件を拒否した。まず入口で止める、という対応だ。
だが、すり抜けるものは必ず出る。そこでOpenAIが採用したのが、目に見えない「デジタル透かし」だ。お札に透かしが入っているのと同じ発想で、AI生成画像や動画に人間の目には見えない印を自動で埋め込む。コピーされても、スクリーンショットを撮られても、この印は消えない。使われているのは、Googleが開発し、他社も使えるよう公開した「SynthID」という技術だ。OpenAIはこれを採用し、動画生成AI「Sora（ソラ）」を含む自社ツールで作られたコンテンツすべてに付与している。
openai.com/verifyで誰でも真偽を確認できる
この印は専用サイト「openai.com/verify」で誰でも調べられる。画像や動画をアップロードするだけで、AIが作ったものかどうかが確認できる。
さらに、この仕組みはOpenAI単独にとどまらない。「どこで・誰が・何を使って作ったか」をコンテンツに紐付ける業界共通の規格「C2PA」に沿っており、他のAI企業とも連携している。OpenAIが作っていない画像でも、同じ規格に対応したAIが生成したものであれば、同様の方法で真偽を確かめられる。
OpenAI、選挙関連のAI規制法案も支持
透かしも検証サイトも、使うかどうかは各社の判断だ。ルールがなければ守らない企業も出る——OpenAIが次に踏み込んだのは、法整備の支持だった。
同社が公式に支持を表明したのが、米国の超党派法案「Protect Elections from Deceptive AI Act（選挙偽情報防止法案）」だ。政治広告にAI生成のコンテンツを使う場合はその旨の開示を義務付け、意図的に有権者を欺く使い方を禁じる内容で、2024年時点では上院で審議中の段階にある。民間のテック企業が特定の法案支持を明言するのは異例だ。規制を嫌うのが普通の企業行動だとすれば、これは真逆の動きになる。
OpenAI1社にとどまらない。2024年2月のミュンヘン安全保障会議では、Google・Meta・TikTokを含む20社以上が「選挙でのAI不正使用防止に関する技術協定」に署名した。各社が脅威情報を共有し、偽情報の検知・削除で協調する枠組みだ。ただし法的拘束力は持たない自主規制であり、参加企業がどこまで実行するかは各社の判断に委ねられている。それでも、AI業界全体が「自主ルールだけでは不十分」という認識に動き始めた姿勢の表れではある。
ただし、これらの対策が届く範囲には限りがある。大手企業のAIには透かしが埋め込まれ、法案の規制も及ぶ。しかし、誰でも無償で使えるオープンソースのAIや、規制の枠外にある海外の悪意ある利用者への対処は、まだ手つかずのままだ。
