LinkedIn、ユーザーが「AIスロップ」に見える投稿を報告できるようにする
LinkedInは、人工知能によって生成されたと考えられ、低品質または不自然に見える投稿をユーザーが直接フラグできる新しい報告オプションの展開を進めている。同社はこのオプションを投稿の三点メニュー内に配置し、ユーザーは内容を「AIスロップに見える」としてマークできるようになった。
この変更が注目される理由は二つある。第一に、プロフェッショナル向けソーシャルプラットフォームでますます目立つようになった問題に対して、ユーザーが使える具体的な仕組みを追加したことだ。ありきたりで定型的な、AI支援の投稿がフィードを埋め尽くす状況である。第二に、LinkedInはこれを小さなモデレーション調整として扱っていない。最高製品責任者のHari Srinivasan氏によれば、「AIスロップ」を減らすことは最重要課題の一つであり、新しい報告フローは、プラットフォームがコンテンツをどう検出し、順位付けし、表示するかを調整する、より広い取り組みの一部だ。
職業上のアイデンティティ、評判、業界内の会話を軸に構築されたネットワークでは、単純なエンゲージメント量よりも投稿の質のほうが重要だ。LinkedInの問題は、一部のユーザーがAIライティングツールを試しているというだけではない。大量のコンテンツが、互換性のある使い回しの表現に見え、機械的で、実体験から切り離されているように感じられることだ。それが大規模に起きると、そもそもプロフェッショナルなネットワーキングを有用にしていた信頼が損なわれるおそれがある。
不自然な内容に対するユーザーシグナル
新しく追加された報告ボタンは、ユーザーとLinkedInのランキングシステムの間にフィードバックループを作る。元資料で説明されているテストでは、このオプションをクリックすると投稿が非表示になり、感謝メッセージが表示される。これは、LinkedInが自動検出だけに頼らず、明示的なフィードバックを収集していることを示している。
Srinivasan氏は、このシグナルが同社の「モデルを調整し、より良いフィードを作る」助けになると述べた。つまりLinkedInは、この機能を個別投稿の削除や順位低下のためだけでなく、ユーザーが不自然または価値が低いと感じるものを、より広く理解するために使っていると考えられる。
これは重要だ。コンテンツ品質の問題は、一つのルールだけでは解決しにくい。多少AIの助けを借りて書かれた投稿が必ずしも誤解を招くとは限らず、完全に人間が書いた投稿でもスパム的である可能性はある。LinkedInは、ユーザーのフィードバックと、低品質コンテンツに関連するパターンを探す分類器を組み合わせる、より行動ベースのアプローチを目指しているようだ。
なぜ今LinkedInが動くのか
今回の展開は、AI生成の文章がLinkedIn上で一般化してきたことを示す証拠が増えている中で行われた。元記事は、404 Mediaが報じたAI検出ツールPangramの調査結果として、LinkedInの長文投稿の41％が完全にAI生成だと判定されたことを挙げている。AI検出ツールには通常の注意点があるにせよ、この数字は同社がより強く動いている理由を説明する一助になる。
プラットフォームの課題は、いくつかのぎこちない投稿にとどまらない。LinkedInは、求人情報、採用の物語、マネジメントの助言、パーソナルブランディングの語りが強く促される場所になっている。生成AIはこの環境にあまりにもよく適合する。既にプラットフォームが評価する形式で、洗練され、自信に満ちた文章を短時間で生み出せるからだ。その結果、フィードは活発で洗練されて見えても、より個人的でなく、より信頼しにくく感じられる可能性がある。
この信頼性の低下が特に目立つのは、LinkedInのアイデンティティが実名、経歴、職業上の立場に結びついているからだ。ユーザーは通常、投稿が実際の視点、経験、専門性を反映していることを期待する。フィードが一般的なAI文章で埋まり始めると、プラットフォームの中核的な価値提案が圧迫される。
単なる報告ボタン以上のもの
LinkedInの対応はユーザー報告に限られない。Srinivasan氏は、同社が「AIスロップ、あるいは一般的に低品質なコンテンツ」かどうかを識別する新しい分類器を強化していると述べた。狙いは、その種の素材がおすすめ投稿や、ユーザーのネットワーク外からのコンテンツに表示される量を減らすことだ。
この言い回しは重要だ。ここで問題にしているのは、単なるモデレーションではなく配信だ。LinkedInは、ユーザー体験を変えるために、弱い投稿やAI色の強い投稿をすべて削除する必要は必ずしもない。推薦システムでの増幅を抑えられれば、境界的なケースをすべて削除判断にしなくても、フィードをより関連性の高いものにできる。
同社はまた、他のユーザーが「その投稿は不自然に見える、あるいはAIに大きく依存している」と感じていることを本人に示す方法もテストしている。これが拡張されれば、プラットフォームは見えないアルゴリズム上のランキングを超え、可視化された社会的フィードバックへと移行することになる。特に、認識や信頼性がキャリア成果と密接に結びつくネットワークでは、こうした変化が投稿行動を変える可能性がある。
同時にLinkedInは、AIを使って投稿を「強化」する機能を廃止している。代わりに、ユーザーの言葉の校正だけを行い、声色は変えないツールに置き換える予定だ。これは大きな製品方針の転換である。より洗練された、プラットフォームに最適化されたコンテンツの生成を助けるのではなく、元の表現を保ちながら軽い補助を提供したいとLinkedInは述べている。
プラットフォームが抱えるより大きな問題
LinkedInの動きは、生成AI時代にデジタルプラットフォームが直面する、より広い緊張関係を反映している。AIツールは投稿コストを劇的に下げられる一方で、公開される情報の平均的な価値も下げうる。推薦システムが迅速に調整されなければ、フィードは反復的でもっともらしいが、社会的には空疎な素材で飽和する可能性がある。
プロフェッショナル向けプラットフォームは、他より早くその圧力を感じるかもしれない。なぜならユーザーが求めるのは娯楽よりもシグナルだからだ。採用トレンド、市場の変化、技術的専門性、プロジェクトの更新、実際の運用上の教訓である。洗練されて見えてもほとんど何も語らないコンテンツは、この環境では特に有害だ。
LinkedInは事実上、コンテンツの真正性がいまや単なる文化的な不満ではなく、製品とランキングの問題であると認めている。異例なほど平易な表現の報告カテゴリを作り、自動分類器を拡張し、フィードバックシグナルを試し、少なくとも1つのAIライティング機能を削除することで、合成的なプロフェッショナル投稿の洪水に対して自社を再配置しようとしている。
この取り組みが成功するかは実装次第だ。ユーザー報告にはノイズが混じる。自動システムは文体をスパムと誤認することがある。正当なユーザーの中には、今後もAI下書きツールに依存し続ける人がいるだろうし、LinkedInは編集支援と、大量生産的または欺瞞的に感じられるコンテンツを区別する必要がある。だが戦略の方向性は明確だ。フィード品質はAI生成の埋め草によって損なわれていると同社は考えており、今やユーザーがすぐ理解できる製品用語でそれを口にする覚悟がある。
その意味で、今回の展開は単なる変わったメニュー項目以上のものだ。大手プラットフォームが、インターフェース、ランキングシステム、執筆ツールのすべてに明示的な反AIスロップ制御を同時に組み込む初期例である。ユーザーにとっては、不自然なコンテンツに直接対抗する手段を提供する。プラットフォームにとっては、生成テキストがより安価でより広く行き渡る中でも、ソーシャルネットワークが信頼を維持できるかを試す実験だ。
この記事はThe Vergeの報道に基づいています。元記事を読む。
Originally published on theverge.com
