米AnthropicがAI開発に反対する活動家を監視し、犯罪を起こす恐れがあるとして警察に通報していると、米誌The American Prospectが9日（現地時間）に報じた。「Claude」を手がける同社は「活動家を監視するための予測型監視システムを構築してはいない」と反論している。 Anthropicは米CNETへの電子メールで、記事の見出しや論調は不正確だと主張した。「Anthropicは活動家を監視するための予測型監視システムを構築してはいないし、構築すると言ったこともない。これは従業員の安全を守るための警備業務だ。世界中に従業員を抱える大企業なら、どこでも行っていることだ」と説明している。 記事を執筆した調査報道記者のDaniel Boguslaw氏は、Anthropicの求人情報とセキュリティ担当幹部へのインタビューをもとに、同社の監視活動を報じた。それによると、同社は施設などの「物理的な資産」の周辺で、AIの急速な開発に反対する活動家を追跡しているという。 Anthropicは7月にも米Wall Street Journal紙に対し、従業員への脅迫を警察に日常的に通報していると説明していた。行動が過激化する兆候を早期につかむため、監視も行っているとしていた。 Boguslaw氏の記事が根拠の一つとして挙げたのが、Anthropicが最近掲載した「エンタープライズ・インテリジェンス・スペシャリスト」の求人だ。職務内容には、地政学的な不安定化、テロ、犯罪、社会運動、AI業界を標的とした国家による攻撃、新たなセキュリティ動向など、世界各地の脅威を特定、追跡、調査することが挙げられている。 Anthropicは求人の文言自体は否定しなかった。ただ、社会運動を挙げたのは「セキュリティチームが従業員の安全を守るために監視する、多数の脅威カテゴリーの一つにすぎない」と説明した。 今回の報道の背景には、Anthropicと米国防総省の対立もある。同社は、軍による大量監視ツールや完全自律型兵器の運用をめぐって政府と対立し、その過程で複数の大型政府契約を失った。先週にはハワード・ラトニック米商務長官が、Anthropicは「正しい側に戻った」と発言したものの、国防総省の当局者はこれを否定。同社は依然として「サプライチェーンリスク」だとの見解を示した。 犯罪が起きる前に通報、「予測型警察活動」への懸念 AIへの反発は、データセンターの建設や、米国で普及する自動ナンバープレート読み取り機をめぐっても強まっている。一方、警察では、データから犯罪を予測する「予測型警察活動」の導入が進んでいる。 予測型警察活動は、アルゴリズムやAIツールで過去の犯罪データ、逮捕記録、個人の「リスクスコア」などを分析し、犯罪が起きる前に取り締まりの対象を絞り込むものだ。映画「マイノリティ・リポート」では、犯罪を予知して未然に取り締まる仕組みが「プリクライム」として描かれた。 Anthropicは、チャットボットのClaudeやその他の情報収集ツールを通じて、大量のデータにアクセスできる立場にある。米ニュースサイトThe San Francisco Standardは、同社が個人を警察に通報する一方で、脅威や不正行為を裏付ける証拠の提示を拒んでいると報じた。 また、Anthropicは今夏、プライバシーポリシーを改定し、裁判所の命令を待たずに自社の判断で会話データを警察と共有しやすくした。この変更には、Redditのユーザーがいち早く気付いていた。 こうした報道から浮かぶのは、Anthropicが通常の法的手続きを迂回しているのではないかという疑問だ。犯罪が起きる前に個人を通報することに加え、法執行機関への証拠の提供を拒んでいるとの指摘もある。 AIが集めた個人情報は、誰の手に渡るのか 映画「マイノリティ・リポート」では、特殊な能力を持つ「予知者」が犯罪を予測する。現実のAI企業が持つのは、大量の情報を瞬時に分析し、個人に関する情報を読み取る強力なAIエージェントだ。 AIモデルは、利用者が入力する膨大な情報を処理している。自分の個人情報がどれだけ収集されているのか、利用者が把握するのは難しい。いったん情報がシステムに取り込まれれば、その後どこに渡り、誰が利用するのかを管理することも難しくなる。 Claudeをめぐっては、情報の取り扱いに懸念を抱かせる事例が報じられている。共有されたチャットの会話がGoogle検索に表示されたほか、今夏には、中国のユーザーをひそかに監視していたとの報道もあった。さらに、Claudeのエージェントが複数の民間組織のシステムデータに無断でアクセスしたことも明らかになっている。 では、AnthropicのAIは、SNSやフォーラムの情報にどこまでアクセスできるのか。現行のClaudeは非公開アカウントのデータを収集できないとみられる一方、公開されているSNSプロフィールからは情報を得られる。ユーザーが同意してメールアカウントをClaudeに接続すれば、連携で認められた範囲のメール情報にもアクセスできる。 理論上は、こうした情報を活動家や反体制派の追跡に利用することもできるのではないか。 Anthropicは9月、最新の脅威インテリジェンスレポートを公開した。影響工作、監視、詐欺といった悪意ある活動を検知するために、Claudeの利用状況をどう監視しているかを説明する内容だ。同社は、AIモデルの安全性を高めるため、こうしたリスクを開示する義務があるとしている。 だが、同社と法執行機関のやり取りや、Boguslaw氏の報道からは、ある疑問が浮かぶ。民間企業であるAnthropicは、「悪意ある活動」と「単なるAI反対運動」の線引きをどこに置くのか。 この記事は海外Ziff Davis発の記事を4Xが日本向けに編集したものです。