Hugging Faceの人気AIモデル、女性や子供を勝手に裸にする悪用にどう対応するのか

米テックメディア「The Verge」の報道によると、オープンソースのAIモデルを多数ホスティングする人気プラットフォーム「Hugging Face」において、女性や子供の同意を得ないディープフェイク画像が簡単に作成されていることが判明しました。この問題は、欧州の非営利団体であるAI Forensicsが新たに発表した報告書によって明らかになったものです。

同団体の調査によると、Hugging Faceでホスティングされている画像編集モデルの上位9つのうち、実に7つのモデルが、同意なしのディープフェイク画像を作成する要求に容易に応じたことが分かりました。これほど多くのモデルが悪用可能な状態であるにもかかわらず、プラットフォーム側による防止策はほとんど講じられていないと指摘されています。

AI技術の急速な普及に伴い、倫理的な問題や悪用を防ぐ対策の重要性が増しています。今回の報告を受けて、Hugging Faceが今後どのような防止策や管理体制の強化を行っていくのか、その対応が厳しく問われることになりそうです。