愛知県警などが摘発した海外を拠点とする特殊詐欺事件で、詐欺グループが生成AIを使い、かけ子の顔や声を加工するための「AIルーム」を設けていたことが、愛知県警への取材で分かりました。 愛知県警によりますと、去年5月に摘発された、カンボジア・ポイペトの特殊詐欺拠点では、警察官を装ったかけ子が、被害者とビデオ通話をする際、「AIルーム」に入って、生成AIを使って、自分の顔を別人の顔に差し替えたり、声を変換したりしていたということです。 警察が摘発の際に逮捕された、日本人のかけ子29人のスマートフォンを解析したところ、AIで顔を別人の顔に加工した画像が見つかり、AIの使用が判明しました。 愛知県警は、AIが使われた目的について、「かけ子の顔を隠し、身元の特定や逮捕のリスクを下げるため」とみています。さらに、偽の捜査書類や、被害者をだますための台本作りにも、AIが使われた可能性があるということです。こうしたAIの使用は、カンボジアの拠点だけでなく、ミャンマーや中国の特殊詐欺拠点でも行われていたとみられています。 愛知県警は、「AIの使用により、特殊詐欺がより少ない人員で、場所を選ばずに行えるようになり、特殊詐欺の件数が増えることが懸念される」と話しています。 また、愛知県警は、「警察がビデオ通話で捜査をすることはない」としたうえで、 相手が警察官を名乗ってもすぐに信用せず、家族や最寄りの警察署に相談するよう呼びかけています。 ※写真は愛知県警提供