現地時間3月5日に開幕した中国の全国人民代表大会（全人代）で、俳優の靳東（ジン・ドン）氏がAI顔変換についての法制化を提案した。ジン氏はAI顔変換の被害者である。中高年女性に人気であることから、5年前からAIによって生成された偽物が現れ、ファンから金をだまし取るという事件がたびたび発生していたのだ。 2020年には、60代の江西省の女性が、バーチャルなジン氏から告白され恋に落ちたというニュースがあった。女性は、それを本物だと思い込んでしまい、髪を切り、夫とけんかして家を飛び出し、本人がいると言われる東北地方の吉林省へ会いに行こうとした。また、2022年には上海の60代の女性が、偽物のジン氏のライブストリームを本人のものだと信じて20万元を送金してしまった。その女性も本人だと信じ続け、息子が通報して警察が駆けつけるまでその思いを貫いていた。 2023年5～7月にかけて、上海市静安警察は中国全土で詐欺グループの捜索を行い、メンバー8人を逮捕した。2024年2月、上海市静安区人民法院は、主犯に懲役3年を言い渡したほか、残りの7人も有罪とした。逮捕された8人は全員女性で、40代1人、残りは20代と若く、平均年齢は30歳弱だった。彼女らは、「抖音（ドウイン、中国版「TikTok」）などのショート動画サービスでジン氏になりすまし、中高年女性をターゲットにしていた。 彼女たちは、ファンが集まるグループに女性たちを誘い込み、偽のジン氏になりすました人物とのプライベートチャットに誘導し、言葉巧みに信じ込ませて、合計30万元以上の金銭をだまし取っていた。詐欺グループは逮捕されたものの、2024年にも同様の詐欺事件が報じられている。 最初の事件から5年が経過した今も、詐欺の手口は基本的に変わっていない。しかし、AIによる顔変換と音声技術が進化するにつれ、ジン氏の偽物はよりリアルになり、小さな画面上では本物と偽物の区別が困難になっている。 ジン氏は中高年の女性にとても人気があるため、特になりすましの対象となりやすく、デジタルリテラシーの低いファンが狙われた。同氏ほどではないものの、中国では有名無名を問わず、多くの人が同様の被害に遭っている。AI顔変換によって女性有名人のわいせつな動画が偽造される事件も発生している。好きな芸能人の顔を他の人に置き換える人もいる。 こうしたAIの生成技術は、特殊なネット環境下の中国でも、ワンタップで変換、出力できるサービスなどが多く出回っている。その結果、誰でも簡単に使えるようになり、使い方を説明する動画もたくさん公開されている。ECサイトでも、より手頃な価格で代行サービスが提供されている。 新たな問題も引き起こしている。ショート動画で多くのフォロワーを持つ2人の女性インフルエンサーが、AI顔変換サービスによって被害を受けた。彼女らの顔写真が使われたのではなく、彼女らの顔を別人の顔に置き換えた動画が公開され、再生数を稼いで利益を得たことで、女性2人の個人情報に関する権利が侵害された。この件について、中国の法律系メディアは、肖像権侵害には当たらないものの、個人情報侵害には該当すると報じている。 全人代の後、2つの関連政策が発表された。1つはAIで生成されたファイルにラベルを付けることを義務付ける「人工智能生成合成内容標識方法」で、これについては前回取り上げた。もう1つが、顔認識技術を用いた個人情報処理に関する標準化ガイドライン「顔認識技術応用安全管理方法」である。顔情報を取得する場合、対象となる個人への事前通知が必須となる。また、顔認証のために保存された顔写真は、政府のオンラインサービス以外への送信は禁止されており、ローカル環境での保存が義務付けられている。さらに、顔情報を取得する際には、公安機関などの監督が必要となる。 ただし、どちらの政策も、ジン氏が指摘するAI顔入れ替え、いわゆるディープフェイクそのものを規制する内容にはなっていない。AIを含むソフトウェアはツールであり、使い方次第で役に立つこともあれば、迷惑になることもある。AIによる顔の入れ替え技術はオンラインコミュニケーションでも使われているが、その許容範囲を判断するのは、インターネット環境が制限されている中国においても難しい問題のようだ。 山谷剛史（やまや・たけし） フリーランスライター 2002年から中国雲南省昆明市を拠点に活動。中国、インド、ASEANのITや消費トレンドをIT系メディア、経済系メディア、トレンド誌などに執筆。メディア出演、講演も行う。著書に『日本人が知らない中国ネットトレンド2014』『新しい中国人 ネットで団結する若者たち』など。