AIで作られたクリエイターは見分けにくくなっている
AI生成の人格がよりリアルになり、見た目もより普通になり、日常的なフィードの流れにより自然に溶け込むようになるにつれて、ソーシャルプラットフォームは新たな信頼性の問題に直面している。The Verge がこのトレンドを報じたように、かつては明らかに合成された目新しい存在に見えたバーチャルインフルエンサーが、今では主流のクリエイター文化に近づきつつある。
初期のバーチャルインフルエンサーが目立っていたのは、洗練され、高価そうで、人工物だと一目で分かったからだ。ローンチにはしばしば大々的なマーケティング、スタジオ品質の制作、そしてデジタル起源そのものを魅力に変える美学が伴った。その区別は薄れてきている。新しい世代は、日常のSNSの視覚言語に近づいている。憧れの旅行、レストラン投稿、イベントへのチェックイン、ライフスタイルの更新といった、対象が実在しないかもしれないことをすぐには示さないコンテンツだ。
この変化が重要な理由
この変化は、画像生成が上手くなったというだけではない。ソーシャルプラットフォームは、アイデンティティ、開示、信頼に関する一連の前提に依存している。利用者は、出会うすべてのプロフィールを検証するわけではない。顔の不一致、作り込み過ぎたビジュアル、奇妙なキャプション、露骨なブランディングといった手がかりに頼っている。そうした手がかりが弱まるほど、解釈の負担はプラットフォームから受け手へ移る。
その結果、モデレーションはより難しくなる。合成クリエイターのアカウントが効果を発揮するのに、未来的に見える必要はない。多くの場合、最も説得力のある出力は、むしろ地味なものだ。もっともらしい顔、ありふれた休暇写真、普通のファッションコンテンツ、そして人間の投稿行動を模したエンゲージメントのパターン。それだけでフォロワーを集め、アフィリエイトリンクを伸ばし、意見形成に影響を与えられるが、外から技術的に判別するのは容易ではない。
見せ物から常在コンテンツへ
The Verge はこれを、目立つデジタル有名人から、タイムラインに違和感なく溶け込む背景的なSNS人格への移行として描いている。この進化が重要なのは、クリエイターエコノミーの商業ロジックが量、一貫性、ニッチなターゲティングを報いるからだ。AIシステムはこの3つすべてを支えられる。合成ペルソナが継続的に投稿し、受け手の好みに適応し、一貫したアイデンティティを保てるなら、セレブ級の規模がなくても商業的価値を持つ。
文化的な変化も起きている。初期のバーチャルインフルエンサーは、実験や人工物として語られることが多かった。新しい波は、自分から存在を誇示することにあまり関心がないように見える。偽物だと有名になるのではなく、十分に信じられることで機能する。その分、代理店、マーケター、あるいは信用を作り出そうとする機会主義的な運営者が導入しやすくなっている。
プラットフォームには厳しい選択が残る
SNS企業にとって問題なのは、AI生成アカウントが存在すべきかどうかだけではない。利用者が目にしているものについて、十分な情報に基づいた判断ができるかどうかだ。開示基準が弱いまま、あるいは一貫しないままであれば、既にスパム、エンゲージメント目的の量産、なりすましによって形作られている環境を、さらに曖昧にしかねない。
ラベル付けは明白な対処法だが、完全ではない。ラベルは検出か自主開示に依存し、どちらも失敗しうる。モデルが進歩するほど検出は難しくなる。自主開示は、そもそもこうしたアカウントを機能させているインセンティブと衝突する。親しみや憧れを感じさせるよう設計されたペルソナは、その合成的な性質が前面に出た瞬間に、魅力の一部を失うかもしれない。
その結果、プラットフォームにはより構造的な課題が残る。真正性を強制するのか、示唆するのか、それとも単なる利用者の責任として扱うのかを決めなければならない。どれも痛みなしでは済まない。厳格な取り締まりは誤検知や終わりのない境界事例を招く。軽い開示は無視されるかもしれない。何もしなければ、なぜそうなっているのかを利用者が常に理解できないまま、フィードがより人間味を失っていく感覚を加速させる恐れがある。
次に来るもの
このトレンドのより大きな意味は、AI生成のアイデンティティが、もはや明白な実験の域にとどまっていないということだ。SNSの通常運用レイヤーに入ってきている。だからといって、洗練されたアカウントがすべて偽物という意味でも、AIペルソナがすべて欺瞞的だという意味でもない。ただ、真正性を見極めるための昔ながらの近道は、もはや信頼しにくくなっている。
合成クリエイターが人間と見分けにくくなるにつれて、競争の軸は画像品質からプラットフォームの統治へ移る。問われているのは、AI人格が注目を集められるかどうかではない。ゆるやかな信頼の上に築かれたネットワークが、説得力のある人工の人物を大量に受け入れながら、利用者を引きつけてきた社会契約をさらに弱めずに済むのか、という点だ。
- AIインフルエンサーは、より人工的に見えなくなり、フィードに自然に溶け込んでいる。
- その結果、プラットフォームにとって開示、モデレーション、信頼の管理が実質的に難しくなる。
- クリエイターメディアのビジネス上のインセンティブは、拡張可能な合成ペルソナを後押しする。
この記事は The Verge の報道に基づいています。元記事を読む。
Originally published on theverge.com
