こども家庭庁が開いた児童のインターネット利用に関する有識者会議で、警察庁の担当者が生成AIを使用した児童のディープフェイクポルノの実例を紹介し、児童への教育の強化を進めていくと話しました。 児童の画像などを使い生成AIで作成したディープフェイクポルノについて、警察庁の担当者が23日、「インターネットの利用を巡る青少年の保護の在り方に関するワーキンググループ」で去年、発生した実例を紹介しました。 ある男子中学生は生成AIのサイトを使って同級生の女子生徒の着衣の写真を裸に加工し、複数の同級生にSNSで拡散したとして名誉棄損の疑いで書類送検されました。また同級生の女子生徒の卒業アルバムの写真を生成AIで加工し、SNSで拡散した男子高校生に指導、警告したほか、コンビニエンスストアの店内で盗撮した女子児童の画像に生成AIで成人の裸の画像を合成した男をコンビニエンスストアへの建造物侵入の疑いで逮捕したということです。 警察庁によりますと去年、児童の画像が性的に加工されたなどの相談は100件を超え、そのうち生成AIの使用が判明したものは17件でした。警察庁は被害児童に寄り添いながら様々な法律で取り締まりを進め、こうした行為をしないよう教育を強化することで事案の防止を図っていくとしています。 また23日の会議では、出席者から「児童ポルノ禁止法の対象にディープフェイクポルノを追加すべきだ」という意見も出されました。