各地で強盗や特殊詐欺の被害が相次ぐ中、警察庁は28日、SNS上にある犯罪との関連が疑われる有害投稿の監視に初めてAIを活用することを決めた。29日に導入し、監視・削除要請する対象を拡大。「闇バイト」「高収入」など高額報酬を示唆する表現と、「受け子」「運び屋」など実行役を募る文言の両方が書かれた投稿にも目を光らせる。
AIは警察庁が監視業務を委託する民間団体「サイバーパトロールセンター」（CPC）に導入する。自然言語処理と呼ばれる技術が使われ、特定キーワードのみに着目するのではなく、前後の文脈も踏まえ有害情報に該当する可能性のある投稿を抽出できるという。当面はXと、ユーチューブの動画紹介欄やコメント欄への書き込みを対象とする。
CPCは集めた情報を別の民間団体「インターネット・ホットラインセンター」（IHC）に通報。IHCが違法・有害と判断すれば、サイト管理者やプロバイダー（接続業者）などに削除を依頼する。強制力はない。
