【衝撃】ディープフェイク攻撃の87%が生成AI「グロック」製、被害1.5万人超えの現実 - AIテクノロジーまとめ (tech-matome.com)

ディープフェイク検出を手がけるレセミブル<a href="https://tech-matome.com//?tag=ai">AI</a>が公表したレポートによると、二〇二六年上半期に確認されたディープフェイク攻撃のうち、生成元を特定できたファイルの大部分がエックスAIの生成<a href="https://tech-matome.com//?tag=ai%e3%83%a2%e3%83%87%e3%83%ab">AIモデル</a>であるグロックによるものでした。 確認された被害者は一万五千人を超えており、同意のない性的画像など深刻な被害が世界各地で報告されています。 グロックの画像生成機能は、人物の衣服を脱がせたり性的に描写したりする要求に応じることで、大量の不適切画像を生成してきました。 これに対抗するため、レセミブルAIは未知の生成AIにも対応する新たな検出モデルを公開しましたが、生成ツールの普及に対して対策技術や法整備が追いついていない現状が浮き彫りになっています。 政治的な偽情報インシデントが多数発生する一方で、企業を標的とした詐欺などは秘密裏に処理される傾向があり、依然として大きな課題となっています。 <a href="https://tech-matome.com//?tag=ai%e6%8a%80%e8%a1%93">AI技術</a>の進化と普及のスピードに対して規制や安全対策の構築が遅れており、個人や組織には慎重な対応が求められています。