Haozao

制限と副作用: AI マーケティングの「ダークサイド」とは何でしょうか?

虚偽情報の生成によるブランド信頼の危機、コンテンツの均質化とSEO順位の混乱、スマートビディングのブラックボックス効果、低品質コンテンツによるトラフィックハイジャック、知的財産権やデータプライバシーに関する法的リスクなど、AIマーケティングの副作用は過小評価されています。本記事では、AIマーケティングの限界とリスクを深く掘り下げ、新たな窮地を回避しながらテクノロジーを活用する方法を探り、マーケティング業界の健全な発展に向けた洞察と警告を提供します。

Google AI は最近、本当に恥ずかしい思いをしています。

スーパーボウル開催中、Googleは全米50州の中小企業50社のケーススタディを通して、GeminiAIが企業の成長にどのように貢献できるかを紹介し、より多くの潜在顧客にAIマーケティングを検討・試用してもらうことを目指しました。しかし、あるチーズ販売業者がAIで生成した商品説明文に「ゴーダチーズは世界のチーズ消費量の50~60%を占めています」と記載したことで、広く懐疑的な声が上がりました。目の肥えたチーズ愛好家たちは、この数字は明らかに不正確だと指摘しました。

そのため、広告主は、マーケティングに AI を使用することが想像していたほど効率的でも簡単でもないのではないかと懸念しています。

動画広告からの抜粋

これは、AIマーケティングにおける明白な問題の一つに過ぎません。しかし、その陰でAIマーケティングの暗い側面がますます明らかになりつつあります。均質化されたAI生成コンテンツの蔓延、SEOの秩序を乱し、最終的には検索エンジンマーケティングを阻害する効果のないコンテンツ、そして実質的に「盗作」であるAI生成コンテンツの増加などです。これらのコンテンツは、インターネット情報の信頼性を損なうだけでなく、広告ネットワークへのアクセスを獲得し、多額の広告収入を得ています。

AIマーケティングの副作用は明らかに過小評価されています。ロードアイランド大学のマーケティング教授は、過去10年間に15の主要なマーケティングジャーナルに掲載された290件の論文のうち、AIマーケティングの潜在的な「ダークサイド」に言及したのはわずか33件だと述べています。

ChatGPTからDeepSeekまで、AIは急速に進歩しています。Eastcom Marketingの目論見書によると、AIマーケティング業界の市場規模は2020年の209億元から2024年には530億元に拡大し、年平均成長率は26.2%に達すると予測されています。AIマーケティングが本格的に展開される前に、「問題が発生する前に予防する」、そしてAIマーケティングの「ダークサイド」について議論する絶好の機会と言えるかもしれません。

事実や価値観に反するコンテンツを作成すると、ブランドの信用を損なう可能性があります。

上記のGoogleの例は、AI生成コンテンツを取り巻く正確性の問題を改めて浮き彫りにしています。AIGCはコンテンツ制作コストを大幅に削減しますが、AIGCコンテンツの人手によるレビューと追跡は依然として重要です。結局のところ、誤ったコンテンツやユーザーの価値観に反する「事故」は、ブランドが苦労して築き上げた評判と信用を失わせる可能性があるのです。

昨年、コカ・コーラが初めてAIで制作したクリスマスCM「ホリデー・マジック・イズ・ヒア」は、ソーシャルメディアで激しい批判を浴びました。ユーザーからは「活気がない」「魂がない」「創造性が全くない」「ホラー映画のワンシーンのように不気味」といった批判の声が上がりました。
もう一つの痛ましい例は、2016年にMicrosoftがTwitter (X) でチャットボットTayをリリースしたことです。しかし、数時間後にTayは様々な人種差別的・性差別的な発言をし、その後オフラインになりました。ブランドが顧客サービスコストを削減し、より良いユーザーエクスペリエンスを提供するためにAIを導入しようとしたマーケティングシナリオを想像してみてください。ところが、AIが意味不明な発言をし、顧客を不快にさせ、最終的に莫大な損失をもたらすのです。これは、AIマーケティングの制御性が現時点では完全に信頼できるレベルに達していないことを反映しています。

均質なAIコンテンツはブランドの独自性を損なう

正確なコンテンツであっても、現時点では AIGC をマーケティング コンテンツの中心に据えるべきではありません。

「マーケターがコンテンツ生成に人工知能をますます活用するにつれ、均質化が進んでいます。これは、差別化と信頼性を求めるブランドの目標とは全く相反するものです」と、3Xマーケティングの創設者ジェン・イリフ氏は述べています。

マーケティングは創造性、革新性、そして独創性にかかっています。生成AIに過度に依存すると、これらの要素が失われ、単調なコンテンツにつながる可能性があります。もしすべての広告キャンペーンが同じプロセスに依存し、すべてのメッセージが似たようなレトリックから生まれ、洗練されたデジタルアバターによって消費者がブランドを区別することが困難になったとしたら、ブランドの独自性は失われてしまうでしょう。

経営陣が AI コンテンツにおける自社の成果に満足している場合、最前線の営業スタッフにこうしたノイズの多い資料を「大量送信」するように簡単に依頼し、ユーザーに過度の迷惑をかけ、ブランドの信用を損なう可能性があります。

Jin Dian、Florasis、Fotile、MG Masks のデジタル ヒューマン

誰のことを思い出しましたか?

無効なコンテンツは SEO の順序を乱し、検索エンジンのランキングの低下につながります。

もちろん、AIコンテンツが粗悪であれば、ユーザーを直接不快にさせるだけでなく、間接的に「プラットフォーム」を不快にさせ、ブランドの利益を損なうことにもなります。

例えば、AIが生成したマーケティング資料の中には、情報価値に欠け、プラットフォームユーザーの検索意図に合致しないものがあります。その結果、ユーザーはクリック後すぐにページを離脱し、直帰率が非常に高くなり、SEOパフォーマンスに悪影響を及ぼします。一部のブランドは、AI生成コンテンツを作成する際に、キーワードを詰め込みすぎたり(ブラックハットSEO) 、SEOランキングの向上を目指して均質なコンテンツを大量に公開したりすることで、検索エンジンからペナルティを受けています。
つまり、低品質、繰り返し、または寄せ集めの AI マーケティング コンテンツは、プラットフォームによってスパムとみなされ、ランキングの低下につながる可能性があります。

インテリジェント入札システムはブラックボックスであるため、広告主がそのロジックを理解するのは困難です。

ユーザーが水面上で肉眼で確認できるクリエイティブ コンテンツを超えて、広告およびマーケティング業界における AI のより大きな影響は、配置プロセス、つまり広告配置の自動化にあります。

大手プラットフォームやサービスプロバイダーは、「インテリジェント」な広告技術を導入しています。例えば、オーディエンスターゲティングでは、ターゲットグループの自動マッチング、ユーザーの興味関心の正確な予測、必要に応じたオーディエンス規模の調整などをサポートしています。また、入札では、セルフサービスの広告掲載と入札戦略の調整を可能にしています。例えば、ByteDanceの広告プラットフォームであるUBMaxは、自動広告掲載製品を発表しました。

2023年には、アリババのアリママ氏もAIGB(AI Generated Bidding)を提案し、自動入札問題を生成的逐次決定問題としてモデル化しました。一方、最近急騰しているApplovinは、AIを活用した予測モデリングを活用し、広告主がより効率的に広告を配信できるよう支援しています。

メリットは明白です。投資家は広告プランを立てたり、一日中市場を監視したりする必要さえありません。システムが取引量を自動的に計算し、最適化してくれるので、毎日システムの取引量結果を確認するだけで済みます。

しかし、広告主にとって大きな問題点は、AI入札のロジックを理解することが困難になる可能性があることです。プラットフォーム内でデータはブラックボックスのままであり、透明性が低下します。広告主がAIの意思決定ロジックを完全に理解できない場合、キャンペーンのパフォーマンスが低下した際に迅速に戦略を調整することが困難になります。一方、AIに調整を完全に任せてしまうと、判断ミスにつながり、関連性の低いユーザーへの高額入札が継続され、コンバージョン率が低下し、予算が無駄になる可能性があります。

AI が生成した低品質のコンテンツは、ひそかに「トラフィックを奪い」、「複数のアカウントを育成し」、「予算を食いつぶします」。

少し話が逸れてしまいますが、インターネット広告業界では「羊毛は羊から、豚は費用を負担」というビジネスモデルが既に一般的です。トラフィックを集めるためのコンテンツを制作してn元を費やし、あるいは直接トラフィックを集め、そのトラフィック(ユーザーのクリック)を広告主にm元で販売します。mがnより大きい限り、利益を上げることができます。Qutoutiaoが以前、コインインセンティブでトラフィックを集め、それを広告で収益化する戦略も、このロジックに基づいていました。

現在、AIは事実上nを底辺に追い込んでいる。ITブロガーの阮易峰氏の試算によると、国産AIモデルを用いた記事生成コストはわずか0.00138元で、広告収入は閲覧1回あたり約0.00145元だ。さらに、「Silicon Star」の報道によると、「ある都市で突然爆発」といったフェイクニュースを配信するアカウントエージェンシーは、ピーク時には1日に4,000~7,000件のフェイクニュース記事を生成し、1日あたり1万元以上の収益を上げているという。この会社の実質的な支配者である王茂萌氏は、このようなエージェンシーを5社運営し、合計842のアカウントを管理している。

一部のブラックマーケットグループは、AIGC(AI生成コンテンツ)モデルを用いて均質化されたコンテンツを大量に生成しています。小紅書(Little Red Book)は過去3ヶ月で320万件以上のブラックマーケットアカウントを処理し、AIGCモデルを用いてアカウントを育成する無秩序な行為を明確に指摘しました。一方、今日頭条(Toutiao)の「2024年ガバナンスレポート」によると、同プラットフォームは年間を通じて93万件以上の低品質AIコンテンツをブロックし、781万件以上の均質化された投稿にペナルティを科しました。

上記はトラフィック所有者の視点です。では、広告主である広告主の視点に目を向けてみましょう。そう、誰もが苦労して捻出した予算が、結局は質の低いAIコンテンツに使われてしまう可能性があるのです。

これにより、知的財産権やデータのプライバシーに関連する法的紛争が発生する可能性があります。

もちろん、AIGC をマーケティングに活用する際の最大のリスクは、知的財産と著作権の状況が不明確であることです。

「Deep Echo」は関連分野の弁護士に詳細なインタビューを行いました。既存の判例をすべての状況にそのまま適用することはできません。著作権の帰属を判断する基準は、AI生成コンテンツの全プロセスにおいて発揮された人間の知性と独創性の割合です。ユーザートレーニングの精度が高く、選択肢が多ければ多いほど、生成されたコンテンツの著作権を取得できる可能性が高くなります。

したがって、ブランドは(少なくとも現時点では)リサーチ、インスピレーション、または微調整のために生成 AI を使用する必要がありますが、AI によって生成されたテキスト、画像、または音声コンテンツを盲目的に直接使用すべきではありません。

一方で、一部の金融機関では既にAI技術をマーケティングに活用しており、顧客の権限を超えた顧客データの利用や、顧客の同意なく第三者とデータを共有するなど、法的問題につながる可能性があります。

組織の課題: AI がミスを犯した場合、組織に責任を負わせるにはどうすればよいでしょうか?

上記の議論はビジネス面に焦点を当てていますが、AIがマーケティングに深く統合されることで広告主の組織運営に生じる課題を無視することはできません。次のようなジレンマに直面している、あるいは近いうちに直面することになるかもしれません。

  • 消費者データが容易に入手できるようになった今、大規模モデルを一から構築する必要があるのでしょうか?既成の大規模モデルサービスを購入する場合、どのように「AIアセット」を蓄積していくのでしょうか?
  • 人間と機械の合理的な協働ワークフローを構築するにはどうすればよいでしょうか?どのタスクをAIに委任でき、人間の「監督者」を設けるべきでしょうか?AIとその協働者のパフォーマンス評価目標をどのように設定すればよいでしょうか? AIのミスに対する責任をどのように問うべきでしょうか?
  • AIアシスタントの時代において、「サービスプロバイダー」にはまだ価値があるのでしょうか?もしあるとしたら、その価値は何でしょうか?
  • AIドリブンマーケティングには、データ、テクノロジー、マーケティングといった部門間の緊密な連携が不可欠です。しかし、部門間のサイロ化やコミュニケーション不足は、AI技術の効果的な活用を阻害する可能性があります。ブランドは「組織を改革」し、既得権益を打破し、AIドリブンの協働型ワークモデルに組織構造を適応させる決意をしているでしょうか?
  • どうすれば、チームが「AI の問題」について一致して考え、衝突を減らし、論争を解決できるでしょうか?
  • ...

これはAIマーケティングを否定するものではありません。実際、AIは既にマーケティング業界のあらゆる側面に浸透しています。AIが将来、クリエイティブワークにさらなる輝きをもたらし、最適化の専門家を煩雑なインフラ作業から解放し、ブランドの効率と品質を真に向上させ、時間とコストを節約してくれることを期待しています。

しかし、良いことが起こる前に「慎重」であり続けることも同様に重要です。

著者|ヤ・ラン