【衝撃】ディープフェイク攻撃の87%がxAI製、生成AIの闇と1.5万人超の被害 - AIテクノロジーまとめ (tech-matome.com)

リシンブル<a href="https://tech-matome.com//?tag=ai">AI</a>が公表したレポートによると、二〇二六年上半期に確認されたディープフェイク攻撃のうち、生成元を特定できたファイルの大部分がイーロン・マスク氏率いるエックスAIの生成<a href="https://tech-matome.com//?tag=ai%e3%83%a2%e3%83%87%e3%83%ab">AIモデル</a>によるものでした。 確認された被害者は一万五千人を超え、同意のない深刻な性的画像などの被害が報告されています。 同社は未知の生成AIにも対応する新たな検出モデルも公開しましたが、生成ツールの普及に対して対策技術や法整備が追いついていない現状が浮き彫りになっています。 特に成人向けコンテンツを生成できるモデルは、プロンプトの文脈が変わることで児童の性的虐待コンテンツなども生み出してしまう構造的なジレンマを抱えています。 企業によるインシデントの隠蔽や政治的偽情報の拡散も問題となっており、法的なリスクや規制当局からの監視も強まっています。 検出技術は向上しているものの、膨大なコンテンツを瞬時に生成・配信するツールを追いかけている状態であり、個人や組織には依然として大きな負担がのしかかっています。