フランスの検察当局がイーロン・マスク氏が率いるxAIが開発したAIアシスタント「Grok」に関連して、X（旧Twitter）のパリ事務所を捜索したと報じられている。複数の報道によると、検察はGrokが性的な画像を生成する機能に関する疑いで捜査を進めており、マスク氏本人に対しても出頭を要請したとみられる。

この捜査は、Grokが不適切なコンテンツ生成ツールとして機能しているという懸念から発端したものと考えられる。フランスはAIの規制に関して欧州で最も厳格な姿勢を取る国の一つであり、特に児童保護や性的搾取に関わる画像生成については極めて敏感に対応している。今回の捜索と出頭要請は、こうした規制環境におけるxAIの製品ガバナンスに対する当局の不信感を反映しているとも言える。

Grokは2023年11月にxAIが発表した大規模言語モデル（LLM）で、Xのプレミアムユーザーに提供されている。開発当初から「より率直で、センサーシップが少ない」AIを標榜してきたが、この特性が今回の問題の背景にあるとみられる。xAI側は常にGrokの安全機能と規制遵守について主張してきたものの、実際の運用段階での問題発生については対応が後手に回った可能性がある。

フランスをはじめとするEU加盟国は、2024年5月に施行されたAI法によって、高リスクAIシステムに対する厳格な規制枠組みを確立している。性的コンテンツ生成機能を持つAIツールは明らかにこの高リスク分類に該当する。今回の法執行アクションは、EU域内で事業展開する米国系テック企業であっても、域内法の遵守が免除されないことを示すものと指摘される。

マスク氏への出頭要請は象徴的な意味も大きい。これまで規制当局との軋轢を繰り返してきたマスク氏が、司法手続きの直接的な対象となることで、AI企業の経営者責任が問われ始めたことを意味している。xAIは今後、Grokの機能制限を含めた包括的な対応を余儀なくされる可能性が高い。

EU圏でのこうした厳格な対応は、世界的なAI規制の潮流を加速させるとみられ、他の企業も同様の問題に対応することが求められることになるだろう。