AIが生成した写真に夢中になっている90年代以降の女性、リンさんは最近、かなり感情的になっている。彼女は、ソーシャルメディア上の様々なAI生成写真が今や「目障り」だと語った。「今では、ソーシャルメディアを開くたびに不快な気持ちになります」 「この不快感は、直接的な視覚的ショックです」とリン姉さんは率直に言った。「直接的に浮かび上がってくるのは、様々なAI美女やAIイケメンがセックスの瀬戸際を歩いている姿で、私たちが普段想像したり見たりするAIポートレートとは大きく異なります。全く普通ではなく、目障りです」 より一般的には、小紅書や抖音などのソーシャルメディアプラットフォームで、そのようなアカウントを運営するブロガーが「ビジネス服シリーズ」や「水着シリーズ」を投稿しており、その一部には「有害誘導なし」というラベルが付けられているものもある。 多くのユーザーにとって、これは明らかな誤解です。あるネットユーザーは、「ソーシャルメディアプラットフォームが常に厳格な規制を求め、高品質なコンテンツのエコシステムを積極的に構築している今日の世界で、アダルトサイトを訪れていた頃に戻ったような気分だ」とコメントしました。 一部のネットユーザーからは「プラットフォーム側は、成人向けコンテンツの公開を許可することで未成年者に与えるかもしれない危害を考慮したのだろうか」と強い疑問の声が上がった。 多くのネットユーザーは、このプラットフォームに何度も失望したことがある。 小紅書のヘビーユーザーであるシャオ・ランさんは、「小紅書はコンテンツを拡大するたびに、何か『ギリギリ』なことに巻き込まれているようだ。旅行仲間の事件から社交界のトレーニングクラス、そしてAIアプリまで、あらゆる種類の不適切なコンテンツは、決してクリーンなものではなかった」と語った。 明らかに、企業の目標とコンテンツ運用の間の矛盾により、ユーザーにとって理解が困難になっています。 プラットフォームの審査基準がどれだけ洗練されていても、クリエイターがプラットフォームの仕組みのグレーゾーンを悪用していても、あるいは全体的な監視にまだ抜け穴があっても、「AIがすべてを担う」時代において、ユーザーが必要とするのはクリーンで高品質なコンテンツのエコシステムだけである。 実際、規制当局はこの点を非常に重視しています。2025年3月5日、第14期全国人民代表大会第3回会議の第一回「閣僚級回廊」において、国家市場監督管理総局は、今年の重点課題として「ビッグデータに基づく価格差別」や「ライブ配信者による悪質な誇大宣伝」といった問題の是正に重点を置くと述べました。 おそらく、プラットフォームは AI を使用して作成された悪意のあるコンテンツを真剣に受け止めるべき時が来ているのでしょう。 01 「涙が出るほど面白い」AIコンテンツリン・ジエさんは90年代以降の世代の女性で、ニューメディアの運営とソーシャルメディアプラットフォーム上の関連コンテンツの管理を日々の仕事としています。プラットフォーム上で多くの人がAIを使って「昔の写真を蘇らせる」ような写真を撮ったり、ハワイ諸島を旅行しているふりをしたり、複数の服装や髪型を組み合わせて変化に富んだ「写真」を作ったりしているのを見て、リン・ジエさんもAIを試してみたくなりました。 リン姉さんは自身の経験に基づき、ソーシャルメディアを開き、まずAI生成の肖像画のチュートリアルを検索しました。ところが意外なことに、「AI 肖像画」というキーワードを入力すると、表示されるページのほとんどが「AI 美人」や「AI イケメン」ばかりでした。 リン姉妹を驚かせたのは、左下に「AI生成」と記されたこれらの写真が、伝統的な肖像画ではなかったことだ。AI生成とはいえ、男性も女性も露出度が高く、体を露出したり、わいせつな行為をしたりしており、全体的に「目障り」な印象を与えていた。 リン・ジエが理解できなかったのは、ソーシャルメディアで「AI写真」を検索するのは初めてだったということだ。普段はこうした写真には全く興味がないのに、なぜビッグデータによってこのようなコンテンツに誘導されたのだろうか？ サイバーネイティブのリン・ジエは、インターネットコンテンツが規制されていなかった初期の時代を経験しました。彼女が初めてインターネットを使った頃は、ウェブサイトはアダルトコンテンツで溢れていました。しかし、「2025年になっても、こうした境界線を越えたコンテンツがまだ蔓延しているとは想像もしていませんでした。短い動画をスクロールするだけで、まるでアダルトサイトを閲覧しているような気分になります」と彼女は言います。 小紅書を閲覧することに慣れているシャオランも、これに深く憤慨している。 シャオ・ランは、美容と旅行が好きなZ世代の女性で、小紅書（Little Red Book）を頻繁に利用しています。流行の最新テクノロジーにも興味があり、「AIフォトグラフィー」について知った後、すぐに小紅書を閲覧して、ブロガーがどのように活用し、その体験を共有しているかを調べました。 画像：「AI写真」に関するソーシャルメディアコンテンツ 出典：小紅書（左）、抖音（右）、Tingtong Techのスクリーンショット 「実際に見るまでは信じられないよ」。「AI写真撮影」と検索すると、シャオランのシャオホンシュウのページには、たちまち「美しい女性」や「ハンサムな男性」がスタイルを披露する写真でいっぱいになった。 「これは典型的な写真集じゃないわ。『バスローブ』『フィットネスOOTD』『馬を走らせる男』シリーズなど、AIが作ったと疑われる写真もあるけど、内容はどれも露骨に『ギリギリ』よ」とシャオランはため息をついた。「これはリトル・ホンの本？それともリトル・ホアンの本？」 かつて「旅行仲間」が大流行した際、小紅書はユーザーを「誤解させる」行為をしていると非難された。小蘭も小紅書で旅行仲間を探していた際に、同様のケースに遭遇した。 シャオランは驚いたことに、プラットフォームのブランドとして常に高品質なコンテンツを謳ってきた小紅書は、その姿勢を崩さなかった。特にTikTokが禁止された後、小紅書は一時、アメリカのダウンロードチャートでトップに上り詰め、多くの海外のインフルエンサーも小紅書に加わった。「中国のソーシャルアプリが海外でも名を馳せているのは間違いない」とシャオランは誇らしげに語った。 しかし今、小さな経験がシャオランを再び失望させた。「言葉を失い、見下しています。コンテンツエコシステムがこの水準のままであれば、徐々にこのプラットフォームから離れていくかもしれません。」 Xiaoranによると、同様のコンテンツはXiaohongshuだけでなく、Douyin、Kuaishou、WeChatビデオチャンネルなどの他のソーシャルプラットフォームにも存在するとのことだ。 シャオランは、Douyinで「AI写真」と検索して以来、おすすめコンテンツが劇的に変わったと語った。今では自分のDouyinアカウントは全く見られない状態だとシャオランは叫び、「Douyinを売春宿に変えてしまった」と嘆く。 02 すぐに数字を生成し、お金を稼ぐことに熱心「AI が猛烈に力を発揮している」、そして「現実の人間はますます偽物になっていく一方で、AI はますますリアルになっている」というのが、徐々に最も適切な表現になりつつあるようだ。 これらの「AIビューティー」アカウントを運営しているブロガーは、魅力の限界を利用してアカウントを急速に構築し、お金を稼いでいます。 Douyinでは、一部の「AI美女」が挑発的な服装をし、プラットフォーム上でダンス動画を頻繁に投稿し、わずか6か月で100万人以上のフォロワーを獲得している。 メディア報道によると、昨年、Douyinで「Little Sister-in-Law（義妹）」というブロガーが、動画ごとに異なる商品を紹介しています。商品は大体10元以下ですが、カバー写真にはAIが生成した美しい女性の画像と商品の説明が添えられていました。彼女は一時、110万人以上のフォロワーを獲得しました。 一部のブロガーは、これを「怪しい」金儲けの新たな金鉱と見なしています。Douyinでは、多くのブロガーが「AIトロールブロガーになる方法」を真剣に解説しています。 画像: 「AI トローリング ブロガーになる方法」に関するソーシャル メディア コンテンツ。 出典: Douyinの「Earphone Tech」のスクリーンショット 実際、2024年以降、AIが生成した、精巧なメイクとセクシーなスタイルを持つ美しい女性の写真が、小紅書で急速に人気を集めています。これらのブロガーは、ビーチで休暇を過ごしている水着姿の美しい女性や、流行の街で写真を撮る美しい女性の写真を頻繁に投稿し、数千もの「いいね！」を獲得しています。 浙江省を拠点とするブロガーを例に挙げましょう。認証済みアカウントには「デザインサービス会社」と記載されており、「デジタルビデオとデジタル写真」のサービスを提供しています。2024年3月に最初の投稿を開始し、「純粋で無垢」や「成熟した洗練」といったテーマを扱った、挑発的な内容が多い投稿をしています。現在までに3万6000人以上のフォロワーと20万件以上の「いいね！」と「お気に入り」を獲得しています。 実際、プラットフォームの初期には、多くの人が「写真を撮ってメッセージを書く」だけでかなりのトラフィックを獲得できました。しかし、プラットフォームのコンテンツエコシステムが成熟するにつれて、コンテンツ配信の仕組みは純粋な運ではなく、アルゴリズムロジックにますます依存するようになりました。 Xiaohongshu のフィットネス ブロガーも、自分のコンテンツが「少し過激な」場合、通常投稿するコンテンツよりもアクセス数が増えると明かしました。 このスポーツブロガーによると、プラットフォーム側は「境界線上のコンテンツがトラフィックを集める可能性がある」とは決して認めていないものの、彼女が何度か試みた後、少なくとも彼女の意見では、「境界線上のコンテンツは通常公開されるコンテンツよりもはるかに多くのトラフィックを生み出す」とのことだ。 フィットネスブロガーは、小紅書だけでなく、Douyin、Kuaishou、WeChat動画チャンネルなどの他のショート動画プラットフォームでも同様の問題が発生していると述べた。「これらのプラットフォームに水着AIショート動画を投稿してみたところ、トラフィックは非常に良好でした。」しかし、フィットネスブランドのイメージを考慮し、最終的にはこのスタイルを追求することを断念した。 ソーシャルメディアプラットフォームの運営に携わる内部関係者も、一般的に言えば、内部エコシステムが特定のコンテンツに対するトラフィックサポートを提供し、アカウントがプラットフォームのサポートによって急速に注目を集めることができると述べた。 前述の関係者は、「トラフィックサポートの基準には、キーワードマッチング、興味関心に基づくレコメンデーション、そしてインタラクションや滞在時間といった様々な基準ディメンションが含まれます。例えば、ユーザーの「いいね！」、お気に入り、コメント、そしてノートに費やした時間は、そのコンテンツがより多くの人に推奨されるかどうかを直接左右します」と述べています。 このため、バイラルコンテンツは「ランダム」であるという誤解が生じていますが、実際には、あらゆるバイラルヒットの背後には明確なトラフィックロジックが存在します。もちろん、前述の関係者は、「フェイクトラフィック」もトラフィック誘導の重要な手段であると述べています。 AIを活用した境界線上の写真撮影の急増を支持する声があるかどうかという質問に対して、前述の人物は「何とも言えないが、プラットフォームのアルゴリズムに問題があるのは確かだ」と述べた。 03 細心の注意を払う必要があります。基準をすり抜けた AI 生成写真コンテンツが大量に存在することや、AI を商業目的で利用するコースの販売など、すべてはプラットフォーム監視の抜け穴という 1 つの問題を示しています。 そして、これが起こったのは初めてではありません。 小紅書を例にとると、ここ数年、同プラットフォーム上でのポルノや違法取引などの問題が世間の注目を集めている。 2020年11月、小紅書は、露骨で挑発的な内容を含む、女性の裸体の露骨な写真や動画を掲載していたとして摘発された。2021年9月には、CCTVによって、未成年者の身体のプライバシーを侵害する多数の動画が掲載されていたとして摘発された。 さらに広く知られているのは、2023年8月に「小紅書の『旅行パートナーオールインクルーシブ』は売春について語る」と題された記事がネット上で大きな騒動を引き起こし、小紅書に掲載された「パートナー探し」を装った旅行パートナーの投稿が実際には売春に関わっていると主張したことだ。 小紅書は毎回調査し対処すると表明しているが、実際の結果は理想的とは言えない。 2025年、TikTokが禁止の危機に瀕していたにもかかわらず、多くのアメリカ人ユーザーが小紅書に殺到し、ほぼ一夜にして、多くの海外ブロガーが小紅書プラットフォームに挑発的な情報や写真を投稿しました。 これにより、小紅書のコンテンツエコシステム監視体制の弱点が再び露呈しました。当時、業界関係者の中には、小紅書は異なる法的環境におけるコンテンツ監視要件に適応し、コンテンツ違反による法的リスクを回避するために、審査基準をさらに精緻化する必要があると指摘する人もいました。 小紅書も対策を講じている。今年2月13日、小紅書の公式アカウント「Potato Manager」は、昨年12月以降、美容・パーソナルケア、食品、3Cデジタル製品、ライフスタイルサービスなど15業種にわたる1,695のブランドに対し、違法なマーケティング行為を行ったとして、ガバナンスチームがペナルティを科したと発表した。 しかし、現状から判断すると、小紅書は「意志はあるが、できない」状態にあるようだ。 Douyinに関しては、ポルノ関連のコンテンツを規制するための度重なる努力にもかかわらず、これまでのところプラットフォームのエコシステムを効果的に改善することができていない。 実際には、こうした問題の繰り返しは、プラットフォームのイメージと評判を損なうだけでなく、ユーザーの信頼を著しく損なうことになります。特に、規制がますます厳しくなる今日、プラットフォームが有害コンテンツの拡散を効果的に抑制する方法は、依然として喫緊の課題です。 しかし、あるアルゴリズムエンジニアは、「実際には、主要な主流アプリはすべてAIラベリング機能を導入し、AI生成画像や動画の審査を強化しています。しかし、現状から判断すると、その結果は概ね平凡です。特に、ますます高度化するAIツールに直面した場合、プラットフォーム自体でさえそれらを真に区別できない場合もあります」と語っています。 もちろん、政府も対策を講じている。2024年9月、中国サイバースペース管理局は「AI生成・合成コンテンツ識別弁法（意見募集稿）」に関する意見募集通知を発出し、プラットフォームやサービスプロバイダーに対し、透かしを追加するなどしてAI生成コンテンツを明確に識別するよう義務付けた。 ただし、これには依然としてプラットフォームからの強力なサポートが必要です。 以前、中国社会科学院大学法学院准教授でインターネット法治研究センター所長の劉暁春氏は、「プラットフォームがAIを使って暴力的または侮辱的なコンテンツを出力するのを防ぐには、さまざまな技術的手段を講じることができる。出力側では、サービス提供者が審査とさらなるレビューを行うべきだ」と述べている。 しかし、多くのユーザーの懸念に対し、プラットフォームの監督は明らかに不十分です。少なくとも現時点では、プラットフォームとエコシステム全体に対するユーザーの不信感を変えることはできません。 「あなたはAIと同じくらい美しい」―女の子にとって、これは抗えない褒め言葉です。AI技術の進歩は後戻りできず、関連アプリケーションは確かに人々の生活をより良くしてきました。 「しかし、境界線上のポルノだけを見ても、私たちや私たちの次の世代が、ありとあらゆるポルノコンテンツや低俗な嗜好に依然として悩まされているとすれば、それはおそらく、人類が技術の進歩とプラットフォームの利益追求行動に対して支払っている痛い代償なのでしょう」とシャオ・ランは率直に語った。 「私たちは依然として、AIが悪意を持って利用されるのではなく、善のために使われることを願っています。」シャオランとリン姉さんは、「プラットフォームを批判しているわけではありませんが、プラットフォームが監視を強化し、ネットユーザーに真にクリーンな空間を提供してくれることを願っています。」と述べています。 これらすべては、プラットフォーム、テクノロジー企業、規制当局、そして社会全体がコンテンツ制作に対して基本的な敬意と尊敬の念を維持するという前提に基づいています。 文 | シャオ・ティン 編集 | ラオ・ヤン |
