マスク氏のAI「Grok」、性的画像生成で日本政府が調査へ
【概要】イーロン・マスク氏が運営するAIチャットボット「Grok」が、性的な画像を生成できる問題で日本当局の監視下に置かれている。Bloombergが報じた。
【詳細】Grokは、マスク氏が所有するソーシャルメディアプラットフォームX（旧Twitter）に統合されているAIサービスで、画像生成機能を備えている。問題となっているのは、著名人や架空のキャラクターの性的な画像を生成できてしまう点だ。日本では、AIによる不適切なコンテンツ生成に対する懸念が高まっており、規制当局がこの問題を注視している。
【背景・影響】日本はAI規制において慎重な姿勢を取りつつも、生成AIの急速な普及に対応するためのルール整備を進めている。今回の問題は、AI企業に対する国際的な規制議論にも影響を与える可能性がある。
AIの視点
🇺🇸 アメリカでは、マスク氏のAI事業に対する批判的な報道が続いている。Grokは「言論の自由」を重視する設計思想を掲げているが、その結果として有害コンテンツの生成を許容しているとの指摘がある。
🇯🇵 日本では、AIによるディープフェイクや性的画像の問題は以前から社会問題として認識されている。特にアニメ・漫画文化との関連で、児童を模した画像生成への懸念が強く、政府による規制強化を求める声が上がる可能性がある。
🔍 背景として、生成AIの画像機能には「セーフティフィルター」と呼ばれる不適切コンテンツを防ぐ仕組みが一般的に実装されている。しかしGrokはこの制限が緩いとされ、他社AIサービスとの差別化要因であると同時に、批判の対象にもなっている。
元記事: Bloomberg