コンテンツセキュリティ製品運用（インターネット製品マネージャーとして、コンテンツセキュリティ監視にどのように対処するか？）

インターネット製品マネージャーとして、コンテンツセキュリティの監視にはどのように取り組んでいますか?

短編動画やライブ放送の爆発的な発展により、UGCコンテンツがますます多く制作されるようになり、コンテンツの監督に大きな圧力がかかっていますが、インターネットは無法地帯ではありません。このため、NetEase Yidunは6月17日（水）20:00から21:30まで、WeChatグループでこのような詳細な議論を特別に開始しました。この記事は議論の要約であり、皆さんのお役に立てば幸いです。

6月、NetEase YidunとEveryone is a Product Managerは、2週間にわたるWeChatグループインタラクティブQ&Aアクティビティを開催しました。私たちは、NetEase Yidun のコンテンツ セキュリティ専門家を特別に招待し、コンテンツ セキュリティ システムの構築について議論しました。期間中、質の高いコンテンツが数多く制作されました。前回のインタラクティブ Q&A へのリンクは、http://996.pm/7p84w です。

6月17日、私たちは再びNetEase Yidunのゲスト@Wang Bo氏を招待し、特別イベントグループの学生向けにコンテンツ共有セッションを開催し、コンテンツ監督への対応方法などのトピックに焦点を当てました。

以下は、NetEase Yidun Content Security のシニア プロダクト マネージャーである Wang Bo 氏のスピーチの記録です。これは、ゲストの共有コンテンツに基づいて「Everyone is a Product Manager」チームによって編集され、編集者によって改訂されました。

みなさんこんにちは。私の名前は王波です。私は2016年にNetEaseに入社し、NetEase Yidunの商業化と製品化のプロセスを0から1まで完全に経験しました。

この共有は主に、製品マネージャー、コンテンツ セキュリティの問題に遭遇した製品運用担当者、またはコンテンツ セキュリティ システムの構築方法を学習したい学生に適しています。私の共有が、NetEase Yidun が製品化プロセスで遭遇した中核的な問題と、その問題を解決する方法に関する私たちのアイデアを理解するのに役立つことを願っています。

この共有は主に次の 3 つの部分に焦点を当てます。

まず、コンテンツガバナンス、特にブラック業界とグレー業界において誰もが直面する中心的な問題を共有します。

2つ目は、Yidunのコア設計要素と将来志向のコンテンツセキュリティシステムを構築するための重要なポイントです。

3 番目に、人間と機械のコラボレーション シナリオ向けに、および手動レビューの効率を向上させるために Yidun が開発したインテリジェント レビュー システムについて説明します。

近年、我が国はコンテンツ セキュリティ ガバナンスにおいていくつかの中核的な特徴を示しています。

1つ目は、規制当局の管轄範囲が広く、政策や規制がますます充実し、さまざまな部門がさまざまな分野の規則や規制を頻繁に発行していることです。例えば、「インターネットオーディオ・ビデオ情報サービス管理条例」、「未成年者向け番組管理条例」、「インターネット未成年者個人情報保護条例」などの関連法規は、より充実しつつあります。

第二に、政府は法律や規制に違反する企業に対する処罰にも非常に厳しく、より的を絞った特別なガバナンス措置を講じてきました。例えば、5月に開始されたばかりの「若木保護作戦」「クリーンネット作戦」「クリアブライト作戦」は、いずれもネットワークセキュリティをターゲットとした特別なガバナンス活動です。

厳重な政策監視下でも、インターネット上の違法コンテンツは後を絶たないままに出現していることがわかります。これらのスパムは、ニュースコンテンツ、ユーザーコメント、アバターニックネームなど、さまざまなビジネスタイプをカバーしています。どのようなコンテンツ公開シナリオでも、違法コンテンツの嫌がらせを避けることは困難であり、特に製品が一定の規模に達し、毎日のアクティブユーザー数に達すると、スパムの侵入があることがわかります。また、当初の単純なセンシティブな単語から、現在のフォント分割、特殊記号の混乱、画像に埋め込まれた違法なテキスト情報、音声に混在するポルノコンテンツなどまで、さまざまなシナリオで多くの種類とバリエーションの違反があることもわかります。

NetEase Yidun の製品化プロセスでは、多くのテキストのバリエーションも受け取りました。それらのいくつかは建物の床の形をしていました。このフロアだけのコメントを見る限りでは問題なかったのですが、123階を繋げると問題がありました。これは、より複雑なスパム対策シナリオです。画像に透かしを入れるという形式もありました。最近、イメージ分野でブラック産業やグレー産業が発見されました。彼らは、機械による検出を回避するために、違法な情報を隠しチャネルに保存します。

上で述べたゴミの変種に似たシナリオの多くでは、私たちは常にルールに反して戦っており、対戦相手もチェスのエスカレートするゲームで継続的に抵抗しています。その背後には、実は非常に奥深く成熟した黒と灰色の産業チェーンが隠れています。私たちが直面している敵は、単なる実在の人間ではなく、ギャング集団や成熟したブラック産業チェーンでもあります。次に、ポルノ産業チェーンを例にとり、ポルノ産業チェーンがどのように運営されているかを深く分析します。

上の写真のようなポルノなどのブラック産業やグレー産業をポルノ産業と呼びます。 2008年以降、トラフィックが爆発的に集約され、類似の広告、ポルノ、ギャンブルなどの情報が徐々に大規模に出現し、この分散した産業チェーンが産業化へと変わり始めました。グループの規模は以前に比べて10倍に拡大しました。専門家の調査によれば、2008年にはこの産業チェーンにはすでに約10万人の従業員がいたと控えめに見積もられています。

当時は、誰もが主要なトラフィック ハニーポットに固執しており、手数料は主にクリック料金またはクリック単価に基づいていました。ポルノ業界の傾向が現れ始めてから、テキストゴミが画像ゴミに変わり始め、それがより秘密的になり、画像内のテキスト違反のシーンが徐々に現れ始めたことがわかりました。

インターネットの継続的な発展に伴い、フォーラムからWeibo、RenrenからWeChatに至るまで、トラフィックは徐々にPCからモバイル側に移行し、トラフィック配当の波も引き起こしました。トラフィック ハニーポットの移行に伴い、黒とグレーのプロダクション カラー トラフィックも大量に発生しました。彼らは徐々に2つの分野に分かれ、1つはWeChatに参入し、もう1つはビデオに参入しました。

私たちとこれらのブラック産業やグレー産業との間のゲームは、猫とネズミのゲームのようなものです。幸いなことに、当社は技術を継続的に改善してきました。新たな技術の出現があるたびに、我々はそれを武力で抑えるための新たな抵抗技術を持つことになる。その中には、現在我々が使用している人工知能技術も含まれ、これは反撃のための最良の武器である。

上の写真は、2019年にネットユーザーに与えられた解答用紙ともいえる。合計3412億件の情報をフィルタリングし、524.4億件の有害情報を削除しており、これは現在市場で比較的優れた結果となっている。 Yidun の商用化は 2016 年に始まったばかりですが、なぜ NetEase Yidun はスパム対策で 20 年の経験があると宣伝するのでしょうか?

実際、Yidun は NetEase が設立された当初からそのプロトタイプが存在し、NetEase のセキュリティ部門として設立されました。 NetEase は、中国でスパム対策に特化した専門チームを最初に設立した企業の 1 つです。一方、NetEase MailやBlogなど、NetEaseが新たに開発した事業には、スパム対策が当然必要だからです。一方、私たちのボスであるディンは、製品の清潔さにこだわり、製品に悪い情報が掲載されることを許さないからです。これは、NetEase Cloud Music、私たちの返信、ニュース クライアント上の比較的友好的で口調のコメントからわかります。

そのため、Yidun は 1998 年に設立されました。現在は杭州研究所傘下のセキュリティ チームに所属しており、中国で最も古いテクノロジー主導のコンテンツ セキュリティ チームの 1 つです。 20年以上前、私たちは機械的な手段でコンテンツのセキュリティの問題を解決する計画を立てました。継続的な努力により、NetEase では NetEase Cloud Music や NetEase Yanxuan など、多くの優れたコンテンツベースの製品が誕生しました。私たちのチームは、テクノロジー、製品、サービス、その他の面で徐々に国内有数のコンテンツ セキュリティ部門へと成長してきました。 Yidunが正式に製品として海外に発売されたのも2016年末でした。

Yidun は市場に出てからほぼ 4 年になりますが、製品化の過程でブラック業界やグレー業界との対立や、ユーザーからの要求の増加など、多くの問題に直面してきました。私たちは、これが相互ゲームの状態であることに気づき、また、現在行っていることは十分ではないことにも気づき、第3世代の技術アップグレードを生み出し、コンテンツセキュリティシステム全体を未来志向のコンテンツセキュリティシステムにアップグレードしました。

コンテンツ セキュリティ運用における 20 年近くの経験に基づき、優れたコンテンツ セキュリティ システムは、上図に示す 4 つの部分から構成され、ボトムアップで構築する必要があると考えます。まず、インテリジェント駆動型アルゴリズムによってサポートされる必要があります。次のレベルでは、さまざまな部門、アルゴリズム、操作間の統一された連携が必要になります。次のレベルでは、さまざまなニーズやシナリオに合わせたパーソナライズされたカスタマイズのサポートが必要です。将来を見据えたコンテンツセキュリティシステムの構築には、トップレベルではユーザーや規制当局を含むさまざまな部門が協力する必要があります。

コンテンツセキュリティシステムのトーンを設計する際、その中核となったのは人工知能アルゴリズムでした。当社のインテリジェント コンテンツ エンジンは、情報爆発の時代におけるコンテンツ セキュリティの最も基本的な基盤を備えています。

ネットワークの発展とインターネットデータの急速な増加に伴い、当社の人工知能技術の発展も徐々に拡大しています。現在、当社はユーザー行動のビッグデータ分析と人工知能検出に代表されるコンテンツ検出技術手段の第3段階を形成しています。特に、ディープラーニングを通じて画像を認識し、意味を分析する人工知能の分野は、Yidun の多くのコンテンツ検出分野に応用されています。

第 2 部の中核となる設計要素は、統一されたリンクの必要性であり、これは次の側面から説明されます。

ポジションリンク:

コンテンツのセキュリティを確保するには、アルゴリズムの研究、サービス開発から戦略的な運用、顧客運用、手動レビュー、技術サポートまで、複数の職種が連携する必要があります。全体的なコンテンツ セキュリティのクローズド ループを完了するには、各リンクをシームレスに接続する必要があります。

ポリシーの解釈:

国が発行した法律や規制に対するイドゥンの対応プロセスを紹介します。

ポリシー モデルの更新:

Yidun は、国の政策に対応するだけでなく、モデルの技術的更新に関しても対応する対応テストを実施します。たとえば、新しいサンプルがオンラインに表示されたら、モデルはすぐに応答する必要があります。現在、当社のモデルは毎週定期的に反復を実行でき、年間の反復回数はほぼ 100 回に達する可能性があります。

反復プロセスは、図に示す 4 つのステップに大まかに分けられます。まず、操作を通じてユーザーのフィードバックデータを収集するか、違法なデータを積極的にクロールし、それをラベリング プラットフォームに転送してラベリングし、その後、ディープラーニングのトレーニングのためにアルゴリズム エンジニアに送信し、リリース前の検証のためにモデルを更新し、最終的にオンラインになります。

フルリンクコンテンツセキュリティリスク管理製品:

オペレーションとアルゴリズムの連携に加え、ソースからのコンテンツセキュリティリスクを制御するために、チェーン全体にわたるリスク制御の連携にも注意を払う必要があります。

国内のソーシャルプラットフォーム上での現象を例にとると、これは現在当社の顧客が直面している典型的なケースでもあります。過去には、さまざまなホットなイベントの際に、直接ポルノ発言を投稿したり、ポルノサイトや連絡先を提供したりするポルノアカウントが常に多く存在していました。これらのフォームは、コンテンツ セキュリティ システムによって比較的簡単に検出され、ブロックされました。しかし、現在では対立の形態はアカウントのプロフィール写真をセクシーな写真に変更するなど変わり、投稿される内容も普通のコメントがほとんどとなっている。個人のプロフィール写真には、依然としてポルノ的な内容が暗示されているものが多くあります。

対立的なシナリオでは、コンテンツ次元での検出のみを実行するだけではまったく不十分です。検出効果が低いだけでなく、多くの死角が残る可能性があり、ビジネスに潜在的なコンテンツ違反のリスクをもたらすことになります。そのため、違法コンテンツのほとんどは異常なユーザーによって投稿されているため、コンテンツエコロジーのガバナンスにおいては、コンテンツ自体に対処するだけでなく、支援するための徹底した防御システムを確立する必要があると考えています。コンテンツエコロジーのガバナンスは、企業とブラック産業およびグレー産業との直接的な対立です。コンテンツ検出の手段のみを採用すると、受動的な状況に陥るのは比較的単純かつ容易です。

そのため、イベント前、イベント中、イベント後のチェーン全体をカバーする、コンテンツ リスク管理のための比較的包括的なソリューションを導入しました。これは、テキスト、画像、音声、ビデオ コンテンツ検出エンジンに基づく不正防止リスク制御エンジンを統合することと同じです。多次元のユーザー行動を利用して、コンテンツのリスク管理に影響を与える可能性のあるすべてのリンクを理解し、事前に予測することができます。コンテンツ違反が発生する前にリスクを認識し、ソースから対策を講じてコンテンツのセキュリティリスクを軽減できます。

3 番目の部分は、業界または個人に合わせたカスタマイズです。実際の製品実践では、異なるシナリオにおける単一製品の戦略は異なることがわかりました。同じテキストであっても、ユーザープロファイルシナリオ、コメントシナリオ、集中砲火シナリオではレビュー基準や要件が異なります。当社は、さまざまなセグメント化された機能シナリオに対応する包括的な戦略的ソリューション セットを開発しました。基礎となる機能に加えて、垂直産業分野に対応するベンチマーク顧客がおり、それに基づいてカスタマイズされたソリューションを開発できます。

ライブ放送のシナリオを例にとると、ライブ放送のシナリオでは、当社の業界全体のカスタマイズ戦略は、アンカーの実名認証から共有アンカーのブラックリスト、最終放送、ライブ放送ルームでのコメントの集中砲火、アバター監視、ライブ放送のホットスポット監視まで、ソースから制御することです。各リンクには比較的詳細な業界戦略をカスタマイズしています。

ライブブロードキャスト監査を行う場合、集中砲火やギフト、データ量の変動など、ビデオ自体のコンテンツなど、さまざまなビジネスタイプが監査インターフェースにそれぞれ影響を及ぼします。カスタマイズされた機能を通じて、ライブ放送で起こり得るリスクをユーザーに事前に知らせることができます。生放送ルーム内での弾幕内容に問題があったり、ギフト数が異常に急増したりした場合は、違反のリスクが比較的高い可能性があることを事前に察知することができます。途中のライブ中継には細心の注意を払い、事前にリスクに対処する対策を準備しておくべき理由があります。

私たちは、時代の変化に合わせた情報共有プラットフォームを構築したいと考えています。共有プラットフォームの受益者は全員ネットユーザーです。私たちは有害情報の通報プラットフォームを構築し、監視と通報におけるネットユーザーの役割を十分に発揮したいと考えています。また、当社は関係する政府、企業、規制当局と協力して情報を共有し、コンテンツ セキュリティ コミュニティを設立して皆様と議論することで、情報管理能力を高め、ブラック インダストリーやグレー インダストリーに対する理解を深めていきます。

現実のシナリオでは、機械がカバーできないシナリオを埋めるために手動レビューが必要な問題が依然として多く発生します。

ご存知のとおり、人工知能の認識は特徴認識に基づいています。例えば、お尻の写真全体を人工知能に認識させれば、認識しやすくなります。写真を複数の部分に分割して順序をシャッフルすると、機械が認識できなくなります。しかし、人間の脳には復元プロセスがあり、それが画像を復元し、これがお尻の画像であるかもしれないと認識するのに役立ちます。しかし、現在の技術的手段は依然として特徴認識に基づいています。画像が非常に小さな断片に分割され、重要な特徴が失われると、AI が認識することが難しくなります。

現実のシナリオでは、ブラック業界やグレー業界も常に学習し、進化していることがわかります。彼らは、当社の AI レビュー メカニズムをテストするために、わざとセンシティブなコンテンツを公開し、まずパターンを把握してから写真を処理して送信することがよくあります。マスクの方法としては、敏感な場所をぼかしたり隠したりすることや、単に画像を分割して重要な特徴を消すことなどが考えられます。以前の識別ロジックと一致しない限り、機械を騙すのは簡単です。現在の解決策は、肉眼でのみ識別することです。

このことから、人間と機械の連携は今後も長く必要とされる監査手法であることがわかります。

当社の AI は現在、処理効率と精度において比較的良好な結果を達成していますが、依然として手動での再確認が必要な違法の疑いのあるコンテンツがいくつか存在します。調査中、Yidun は、監査管理における普遍的な監査基準が欠如しているため、監査人が運用するバックエンドも比較的限界的な内部バックエンドであり、ほとんどの監査人が監査オペレーティングシステムを使用する際に、操作が面倒、インタラクティブなエクスペリエンスが使いにくい、さらには多くの操作を複数のバックエンドにジャンプして処理する必要があるなど、多くの問題に遭遇していることも発見しました。

上記の問題を踏まえて、NetEase は独自の新しいレビュー システムを構築するというアイデアも生まれました。 NetEase には独自の監査チームがありますが、同様の問題は常に存在していました。そこで、全員の作業効率を向上できる新たな監査システムを設計し、この監査管理ツールを製品化することにしました。私たちは、この製品を、多くの監査シナリオと互換性があり、企業ユーザーに真の力を与えることができる、高度に統合されたオープン システムにしたいと考えています。

豊富で包括的

新しいインテリジェント監査管理システムについては、まず、豊富で包括的なものであり、豊富な監査コンテンツが含まれていることを望んでいます。これを基に、超高速監査、分類監査、ブラインドレビューを含む 3 回のレビューと 1 回の校正などの監査プロセスも追加し、監査時間制限が異なる複数の監査プロセスのレビュー要件に適応します。

インテリジェントかつ効率的

従来の監査システムは単にデータの量をレビューするだけですが、当社の監査システムには、Yidun のインテリジェント エンジン全体が装備されています。各監査ロジックは、インテリジェント エンジンのパワーに基づいて構築されます。これが人件費を節約し、使いやすいインターフェースを作成する鍵となります。

軽量で柔軟性がある

監査シナリオは企業によって異なり、各企業が直面する監査上の問題もそれぞれ異なります。当社のシステムは、単一の監査シナリオに限定されません。柔軟な適応のために、ビルディングブロックのようにさまざまなシナリオを組み合わせることができるカスタマイズされたモジュール設計を採用しています。

温度とともに

私たちのレビュー システムがよりユーザーフレンドリーになることを望んでいます。そのためには、まず優れたインタラクティブ デザインを検討する必要があります。私たちは、さまざまな種類の監査の規模に関する的を絞った調査を実施しました。 1 つの画面に何本のビデオを収められるかを調査しました。通常の人が識別できる最小視覚閾値は 0.5 です。 22 インチ 1920*1080 解像度のディスプレイでは、16 チャンネルを同時に監視しても目が疲れにくくなり、監査効率も高まります。デフォルトの推奨チャネル数を 16 に設定します。

実際、全体的なシステム設計にもいくつか興味深いものを追加しました。毎日レビューされる内容には、ポルノ、暴力、テロなど比較的センシティブな情報が含まれます。レビュー担当者の精神状態を適切に調整するために、当社のシステムには同様のメダル、インセンティブ、ポイント システムも追加されました。評価とランキングを通じて、全体的な表示方法がより面白くなり、人材成長システムの改善を促進しました。

NetEase Yidun がより多くの企業を支援し、ブラック企業やグレー企業による侵害からあなたのビジネスとユーザーを保護することを願っています。明瞭でクリーンなサイバースペースを構築するのは、NetEase Yidun だけの責任ではありません。明確でクリーンなサイバースペースを構築するには、全員が協力する必要があります。

以上が私が皆さんにお伝えしたい内容です。以下、ご質問を抜粋してお答えします。

Q1: コミュニティベースの製品では、ブラック産業が大量に流入することがよくあります。コンテンツを削除し、現在のアカウントを禁止することは一時的な解決策にすぎません。プラットフォームは根本から問題にどのように対処すべきでしょうか?

このシナリオでは、単にコンテンツの観点から保護したり、アカウントを禁止したりするだけでは効果がありません。より立体的な防護対策が必要です。まず、アカウント登録とログインのシナリオでリスク管理を行い、小規模アカウントの一括登録やログインを防止する必要があります。リスク管理および保護の具体的な技術的手段については、Yidun の登録保護またはログイン保護製品を参照してください。

第二に、ユーザーが投稿や返信をする際には、一つの行動に使用したデバイス環境情報、ビジネス情報、公開コンテンツなど、複数の次元に基づいてモデル化して判断する必要がある。さらに、リアルタイムの行動の参照として使用するために、ユーザーの過去の行動の多次元ポートレートを作成する必要があります。

Q2: 先生、Yidun はどのようにしてアルゴリズムとルールを最適化するのでしょうか?アルゴリズムはどのようなシナリオで主に使用されるのか、ルールはどのようなシナリオで主に使用されるのか、そしてアルゴリズムとルールはどのように連携するのか?アルゴリズムはどのように最適化されますか?

アルゴリズムによって得られた出力結果を判断に直接使用することはできないため、アルゴリズムとルールを分離することはできません。例えば、アルゴリズムは写真に写っている顔が特定の人物であることを認識できますが、その人物が写っているかどうかはルールに基づいた判断が必要です。

サンプル数を増やすことでアルゴリズムの効果を最適化できます。また、お客様から誤判定が多いとの報告があった場合も、Yidun で分析を実施します。アルゴリズムの出力に問題がある場合は、アルゴリズム エンジニアが介入してパラメータを調整し、トレーニング用の類似サンプルを探します。戦略上の問題であれば、戦略を調整する必要があります。すべての調整が完了したら、履歴データを使用して再度実行し、結果を比較します。誤判定問題が他の誤判定を引き起こすことなく解決されれば、システムは正式に開始される予定だ。

Q3: AI はどのようにしてコメント、ライブ チャット、ゲーム チャットなどのコンテンツの問題を識別し、さまざまな形式の広告をブロックできるのでしょうか。

このようなバリエーション広告のサンプルを分析する場合、当社の監査人または戦略マネージャーは、その特徴的な点を見つけようとします。たとえば、88有你88 は正規表現と特定のルールでカバーできます。

2 番目の広告の組み合わせと同様に、各段落は単独で見ると問題ありませんが、組み合わせると問題が発生します。現在、私たちは関連レビューの戦略を採用しています。ルールと検査戦略を策定する際には、デフォルトでそれに関連付けられている投稿と ID を渡し、一意に特定された関連投稿 ID を使用して、テキストの上下にある複数の関連するコンテンツの段落を特定し、それらを組み合わせて検査に合格します。次に、同様の問題を解決するために、いくつかのシナリオをキャプチャできるかどうかを確認します。

さらに、1 つのルールが万能薬であることは絶対になく、すべてのシナリオをカバーできるわけではありません。多くの場合、追跡を行うには特定のオペレーターが必要です。必要に応じて、不正防止リスク管理と組み合わせて部分的なリコールを実施することもできます。

Q4: 監査人育成制度について、Yidun の実践について詳しく紹介していただけますか?例えば、先ほど述べたメダルやランキングなどですが、Yidun は監査員向けのトレーニングや試験のプラットフォームをどのように提供しているのでしょうか?

レビューチームのメンバーの離職率の高さと仕事内容の退屈さを考慮して、NetEase Yidun は主に興味深いセクションを追加することでレビュー担当者の成長を促しています。

全体的な成長インセンティブ システムは、監査人がタスクの形で業務を実行することに重点を置いています。監査人は、日常業務中に独自のタスク プールとそれに応じた作業負荷を持ちます。監査人が指定された時間内にタスクを迅速に完了するか、または指定時間を超えて完了できる場合、それに応じた報酬を受け取ります。さらに、監査人は公開ランキングを通じて、仕事を完了するモチベーションを高めることができます。

監査員向けのトレーニングおよび試験プラットフォームに関しては、当社の内部監査チーム自体にそのような要望があります。監査人が役職に就く場合も昇進する場合も、監査プラットフォームのサポートが必要です。研修中、経験豊富な監査人の共有内容の一部が監査プラットフォームに掲載され、監査人が必要な情報を見つけて監査の効率を向上するのに役立ちます。監査のこの側面に関する知識に関しては、国の法律や規制にも知識共有プラットフォームを見つけるためのいくつかのチャネルがあります。

Q5: Yidun における機械レビューと手動レビューの割合はどのくらいですか?

それは主にサンプルの割合によって決まります。実際には、企業によってゴミ率や監査基準は異なります。 Yidun は現在、約 1,000 社のビジネス データに接続しているため、手動レビューの割合は 1% 未満です。

Q6: ユーザーエクスペリエンスに影響を与えずにプラットフォームのセキュリティリスクを軽減するにはどうすればよいでしょうか?

全体的なセマンティクスが適切である場合は、不要なユーザー エクスペリエンスの損失を減らすために、送信する前にキーワードをアスタリスクに置き換えることをお勧めします。また、法令を根拠としたものは発信してはいけません。その他の中間点は状況によって異なります。特別な期間には送信しない方がよいでしょう。特別な期間以外は、ビジネス側が独自にコンテンツの密度をコントロールできます。

本日私がお伝えしたいのは、以上です。また、ご質問への回答もお伝えします。ありがとう！

この記事は、NetEase Yidun Content Security のシニアプロダクトマネージャーである Wang Bo 氏のスピーチの書き起こしであり、ゲストの共有コンテンツに基づいて Everyone is a Product Manager チームがまとめたものです。

タイトル画像はインターネットから引用