詳細ページ

国家インターネット情報弁公室（CAC）は、今年4月に開始したAI乱用取り締まりキャンペーンについて、第一段階の取り組みを終了したと発表した。

今回の取り締まり対象は、AIモデルの届出・登録義務違反、プラットフォームにおける安全審査能力の不足、データポイズニング、生成・合成コンテンツの標識不備などである。その結果、ウェブサイト、アプリ、AIエージェントなど1万4,000件以上が処理され、違法情報約600万件が削除された。さらに、アカウント2万6,000件以上が処分され、オープンソースデータセット9件が閉鎖された。

また、各地のインターネット情報部門も、地域の実情に応じた措置を講じた。北京市では、プラットフォームの自己点検、常時巡回、技術的スクリーニングなどを通じて、多数のAIアプリおよび運営アカウントの違法行為が処理された。浙江省では、AIモデルの審査能力向上やデータポイズニング対策の観点から、意味理解能力の強化や高頻度の回帰テストが実施された。

主要プラットフォームも管理体制を強化した。華為（HUAWEI）は、アプリストアにおいて生成AIサービスの届出および標識に関する審査項目を追加した。アリババは、キーワードおよびデジタルコンテンツの遮断機能を改善し、違法コンテンツの識別精度を高めた。DeepSeekは、データ収集および初期処理の段階で異常検出アルゴリズムを組み込み、悪意あるサンプルによるリスクの抑制を強化した。

次の段階として、CACは、AI技術を利用した虚偽情報の作成・拡散、暴力・低俗情報の散布、他人へのなりすまし、未成年者の権益侵害といった突出した問題に焦点を当てる方針である。第二段階では、違反アカウントの取り締まり強化や、AIを用いた不正防止能力の向上などを通じて、AIの健全な発展を促進するとしている。