コンテンツセキュリティ運用（NetEase Yidun ゼネラルマネージャー Zhu Haoqi 氏：デジタルコンテンツセキュリティの「夜警」になろう）

NetEase Yidun ゼネラルマネージャー Zhu Haoqi: デジタルコンテンツセキュリティの「夜警」になろう

ネットイース・ジーチー副総経理兼ネットイース・イードゥン総経理の朱浩奇氏

安全を確保するには、見られることが必要です。

あらゆる技術の発展は諸刃の剣であり、インターネットも例外ではありません。

新世代情報技術の発展に伴い、インターネットは私たちの生活に欠かせないものとなり、ネットユーザーが情報を取得するチャネルは絶えず拡大し、生産効率と日常生活の利便性が大幅に向上しました。

しかし一方で、個人情報を盗むなどのハッカー攻撃や、AIによる顔の改変を利用した詐欺、噂の流布などの問題も発生しています。

ハッカー攻撃があった場合、「シールド」による保護が必要です。こうしてNetEase Yidunは2016年に誕生しました。

NetEase の社内業務にサービスを提供するセキュリティ部門から、外部の顧客にサービスを提供する完全に商業化されたブランドまで、NetEase Yidun は、エンターテイメントとソーシャルネットワーキング、ゲーム、電子商取引、金融、小売、政府、企業など、複数の業界向けに業界カスタマイズされたセキュリティソリューションを次々と立ち上げてきました。同時に、「顧客の内なる成長を支援する」というサービスコンセプトを堅持し、 AIGCコンテンツセキュリティ、海外安全・コンプライアンス、インターネット上の未成年者保護など、数十のシナリオベースのセキュリティソリューションを継続的にリリースしています。現在、Yidun は、Bilibili、Zhihu、Autohome、China Merchants Bank、CCTV.com などのデジタルビジネスに携わる企業を含む数千の企業にサービスを提供しており、Xiaopeng、NIO、Xiaomi などの産業企業にもサービスを提供しています。

累計検出データは3兆件を超え、1,000億以上のプラグイン脅威を阻止し、1,800以上のモバイルセキュリティリスクに対処してきました。 NetEase Yidun は 7 年間にわたり、インターネットを通じて 99% 以上のネットユーザーにデジタル コンテンツのリスク管理の恩恵をもたらしてきました。この 7 年間で、PGC と UGC は急速に進化し、デジタル コンテンツ リスク管理業界も急速に発展しました。その中で、NetEase Yidun は参加者であり、プロモーターでもあります。

ニュースがないのは良いニュース

「ネットワークセキュリティに携わる人々にとって、ニュースがないことは良いニュースだ」と、NetEase YidunのゼネラルマネージャーであるZhu Haoqi氏は、自身の職業上の特徴をこのように表現した。 「しかし、今年はセキュリティ業界がもっと大きな発言力を持つ必要があると思う。」

マルチメディア情報技術の発達は「情報爆発」をもたらしましたが、その結果生じる大量のジャンク情報もユーザーに迷惑をかけることになります。一方、インターネットサービスを提供する企業も、登録ユーザーの信頼性やユーザーが投稿したコンテンツのコンプライアンスを検証する必要があります。政策レベルでは、政府も「クリーンなサイバー空間」を維持するためのシステムや政策を必要としている。

ユーザー、企業、政府の共通のニーズを満たすには、専門的なデジタル コンテンツ セキュリティ サービスを提供できる人材が必要です。

Yidun は、20 年以上にわたり NetEase の社内業務にサービスを提供してきた中で蓄積された技術と経験に基づき、市場に初めて専門的なセキュリティ サービスを開始しました。

Yidunは発売されるとすぐに、多数の法人顧客から満場一致の賞賛を受けました。 Yidun は長年にわたり、デジタル コンテンツ セキュリティ業界のリーダーとして活躍してきました。絶え間ない技術革新と深い市場洞察力を組み合わせることで、マルチモーダルデジタルコンテンツ認識、インテリジェントリスク管理、生体認証、セキュリティ強化など、コンテンツセキュリティ、ビジネスセキュリティ、アプリケーションセキュリティの3つの主要分野で10を超える製品とサービスを立ち上げました。

同時に、Yidunは業界標準化の構築にも積極的に参加しており、 「ネットワークおよび情報セキュリティ管理者の国家職業技能標準」や「ネットワークガバナンス能力評価仕様：有害情報コンテンツ識別サービスシステム」など、多くの国家標準や業界標準の起草と編集を主導し、参加しています。

中国の新世代デジタルコンテンツリスク管理ブランドとして、Yidun はデジタルビジネスを展開する顧客に専門的で信頼性の高いセキュリティ サービスを提供するとともに、業界全体にシナリオ属性を備えた高水準のソリューションを提供し、あらゆる面で顧客のビジネスのコンプライアンス、安定性、セキュリティを確保します。

商業化の過程で、Yidun は作品から製品、そして商品へとプロセスを経てきました。

「技術検証に合格してから製品化されるまでには長い道のりがある」と朱浩奇氏は語った。

Yidunは2015年に初めてディープラーニング技術を使用して画像認識モデルのトレーニングを行いましたが、商用化には使いやすさ、安定性、費用対効果など多くの条件を考慮する必要があります。

製品には、さまざまな画像形式のサポート、弱いネットワーク環境で画像を安定して送信する機能、基盤となる GPU やその他のハードウェアを共有および高速化する機能、さらにはカスタム画像トリミング、圧縮、領域検出、スマート ラベリングなどの機能のサポートを追加する必要があります。どの機能にも、非常に専門的な知識と技術的な入力が必要です。

「商品化は、製品自体の機能に磨きをかけるだけでなく、市場でのポジショニング、製品のプロモーション、チャネルの構築、顧客リードの発見、顧客関係の維持など、無視できない一連の日常的な努力を伴います。」

オフィス内でデマンドデザインを行うだけでは十分ではありません。 「当社の音声認識モデルは、音声の中断や一時停止を自動的に識別できるため、音声をインテリジェントにセグメント化し、ASR テキスト翻訳を実行できる機能を設計しました。ただし、お客様が実際に必要としているのは、シンプルで大まかな、万能の 10 秒の分割機能です。レビュー シナリオでは、データ構造の標準化によってもたらされる効率性の向上の方が重要だからです。AI は早期警告とプロンプトの支援のみを必要とし、データ構造を簡単に変更することはできません。」顧客のニーズをより深く理解するために、Yidun は社内で「最前線に行く」という実践を提唱しています。これは、顧客の最新のニーズをリアルタイムで理解して発見し、そのニーズを満たすために製品とテクノロジーをアップグレードすることを意味します。

「 ToB 製品は人によって異なります。特に、製品の生命線であるセキュリティ ビジネスに携わっている場合はそうです。そして、セキュリティ ビジネスは実際には見落とされやすいことがわかりました。セキュリティ担当者 (ホワイト ハット) は常に「隠れた隅」で目立たないようにしていますが、実際には、エンド ユーザーとエンタープライズ ユーザーの両方が「セキュリティ」についてもっと知る必要があります。」

治安機関は大抵の場合冷静だが、ひとたびニュースになると、企業が攻撃されたという「悪いニュース」になることが多い。そのため、朱浩奇氏は、セキュリティ情報のタイムリーな同期と「存在感」の向上により、顧客がセキュリティサービスの重要性と厳格なサービス姿勢をより深く認識できるようになると考えています。

良いワインであっても、よく知られていなければ評価されない時代です。 「ニュースがないことは良いニュース」であるセキュリティ業界でさえ、より「目立つ」必要がある。

闇夜の守護者となれ

「警備業は他のどの業種よりも難しい。警備業は『対決が強い』業種だからだ。我々は常にブラック業界やグレー業界と戦っている」

ホワイトハットとして、イードゥンはスキルを磨き続けており、ブラック産業やグレー産業の反対者も忙しくしている。

たとえば、過去には、「ゾンビ デバイス」がシステムにプラグインをインストールして、チケットの取得、クーポンの収集、広告の掲載など、さまざまなタスクの完了を支援していました。これは、デバイス システムのプラグイン プロセスを検出することで識別できます。

今や闇市場は「より賢く」なっている。いかなる方法でも改ざんされていない「クリーン」なデバイスを、データ ケーブルを介して「プラグイン」を実行するマシンに接続し、このプラグイン マシンを使用してデバイス情報を制御および改ざんします。直接監視されているデバイス自体には問題がないため、この問題を特定することは困難です。

より徹底的な方法は、「クラウドソーシング」モデルを利用して不正行為をすることです。たとえば、数百人のグループに赤い封筒を送り、全員にタスクを割り当てます。このタイプのアカウントとデバイスは識別がより困難であり、データは実名とシステム情報に基づいて完全に本物です。

新たな闇市場の手法に対抗するため、Yidun は自社の技術を絶えず向上させています。 「プラグインによる不正行為」の手段を発見した後、Yidun の最新技術はすでにそのような状況を識別できるようになりました。

Yidun は、「クラウドソーシング」不正モードに対応して、これに対抗するための新しい DCRN アルゴリズムも開発しました。 2023年末、アントグループと浙江大学が共催したIEEE ICDMコンテストにおいて、このアルゴリズムは国内外の数十チームを破り、総合指標で1位を獲得し、調整ランドスコア（ARI）評価指数で0.5006を達成し、2位（0.425）と3位（0.368）の対戦相手を大きく上回りました。技術防衛段階では、方法の革新性と産業応用価値において優れた成績を収め、コンテストで唯一の一等賞を獲得しました。

セキュリティビジネスの難しさは、長期にわたる激しい対決だけでなく、ユーザーのプライバシー保護とデータの正確性の監視との間の微妙なバランスにもあります。

Yidun はユーザーのプライバシーの維持に細心の注意を払っています。 Yidun は、公式 Web サイトおよび顧客との協力契約において、非常に詳細なプライバシー指示を定めています。工業情報化部のプライバシー遵守要件に従い、 Yidun が収集するすべてのフィールドは公開され、ユーザーの同意を得て工業情報化部の要件に準拠した場合にのみ取得できます。

ユーザーのプライバシーを保護すると問題が発生します。収集するデータが少なすぎると、判断ミスにつながる可能性があります。

この問題を解決するために、Yidun はデータ次元の変更の収集とグレーディング検証方法という 2 つの方法を採用しました。

データ収集の次元に関して、Yidun は個人のプライバシーデータではなく行動データを使用します。行動データとは何ですか?簡単に言えば、アプリを開いた後のユーザーの軌跡です。 「行動データは、逆スクリーニングを行うのに役立ちます。正常なユーザーは、アプリのホームページから特定のアクティビティページをクリックしますが、異常ユーザーはゾンビデバイスによって直接制御されているため、これらの正常な行動の軌跡はありません。タスクを完了する必要があるページで直接「フラッシュ」します。したがって、行動データはプライバシーに関係のないデータであり、異常ユーザーを正確にスクリーニングするのに役立ちます。」

検証方法のグレーディングも別のアプローチです。 Yidun は、支払い時の顔認証、賞品受け取り時の本人確認、異常なネットワーク環境での番号認証など、情報検証を必要とするいくつかの手順を必要なビジネスプロセスに組み込みます。

「セキュリティは常に当然のことと考えられていますが、実際にはオンライン コンテンツのセキュリティは業界全体の実務者の努力の結果です。学者は以前、メディアの普及が加速したため、悪いニュースを聞くことが多くなり、私たちは闇夜の守護者のように、危険なコンテンツがユーザーに届く前に効果的に識別、マーク、スクリーニングを行っていると指摘しました。」

過去2年間で加速してきたAI技術について、朱浩奇氏は、一方では人工知能技術の向上により、コンテンツ認識の精度と処理速度が向上するとも述べた。一方、大規模な言語モデルの開発により、機械は現在のルールの範囲を超えるコンテンツを生成することが多くなり、これもセキュリティ事業の複雑さを増大させます。 「どんな技術も諸刃の剣であることを認識すべきです。積極的に探求する一方で、それに応じた最新のルールも必要です。」

時代の流れに遅れず、AIを活用してセキュリティを強化する

「前を向いて後ろを振り返らない」という言葉も、あらゆるホワイトハットに当てはまります。

Yidun の事業は主にコンテンツ セキュリティ、ビジネス セキュリティ、アプリケーション セキュリティ、最新のセキュリティ エキスパート サービスで構成されており、これらはインターネットの発展とともに出現し続ける企業のデジタル サービス ニーズでもあります。インターネットの配当が徐々に上限に達するにつれ、Yidunのビジネスも2.0の時代に突入しました。

新しい環境は新しい機会をもたらします。朱浩奇氏は、過去には企業が十分なキャッシュフローを持っていたため、すべての製品を自社で開発する傾向が強かったと述べた。しかし、ほとんどのインターネット企業が高速成長から高品質の成長へと移行し始めると、より多くの企業が非中核事業を売却し、セキュリティなどの基盤事業をサプライヤーに引き渡し始めました。これは実は、Yidun にとって珍しい機会なのです。

「企業がコスト意識を強めると、コンプライアンス要件も高まります。そのため、デジタルコンテンツのセキュリティに対する需要が徐々に発見され、拡大します。インターネットの配当が徐々に停滞期に入るにつれて、企業経営者は「内部の強さ」を養うことに重点を置くようになり、これはまさにYidunにとってのチャンスです。」

また、過去2年間で海外進出は多くの企業にとってキーワードとなっており、Yidunもサービス提供企業に続いて海外市場へ進出しています。 「現在、当社の主な海外顧客は中東、東南アジア、北米に集中しています。」 Yidun は、ネットワーク環境が弱い、または海外のネットワーク環境にある顧客のニーズを満たすために、アジア、ヨーロッパ、北米にサービス ノードを展開し、セキュリティ サービスの精度と適時性を高めています。

「現在、Yidunの海外顧客獲得チャネルは、主に古い顧客からの紹介です。国内の顧客が海外ビジネスを展開している場合は、海外のセキュリティビジネスのフォローアップも担当します。今後、Yidunは海外市場の拡大とさらなる開拓に積極的に取り組んでいきます。国によってコンテンツセキュリティポリシーの重点は異なります。たとえば、タイではインターネット上で王室について議論するコンテンツが許可されておらず、アラブ地域では女性のスカーフなどのキーワードに敏感です。Yidunは、現地のポリシーを特定する経験と、これらのタグをタイムリーに特定するコンピューティングパワーの両方を備えているため、海外市場の発展に非常に楽観的です。」

市場の変化に直面しても、Yidun は前向きで楽観的です。 Yidun は技術革新にも積極的に取り組んでいます。

実際、Yidun はコンテンツを効果的に識別するために人工知能と機械学習を使用しています。 Yidunは、2023年の初めに突然普及したAIGCビッグモデルテクノロジーとアプリケーションに驚いていません。すぐに、Yidunは、ビッグモデルアルゴリズム層とアプリケーション層を包括的にカバーするAIGCコンテンツセキュリティソリューションを発表しました。長年にわたる研究開発への投資と AI 技術への深い追求を経て、Yidun は成果を実感しています。

「現在、AIビッグモデルがYidun製品にもたらす最大の改善点は、機械の「認知能力」の向上です。」

従来の機械学習では、アルゴリズムエンジニアが事前に有害コンテンツの特徴を抽出し、それを機械に入力して、機械がこれらの特徴を持つコンテンツを抽出して識別できるようにする必要があります。大規模モデルとAIGC技術の発展により、NetEase Yidunは従来の単一認識技術に基づいて「プロンプトワード」機能を追加できるようになりました。この「プロンプトワード」は人間が理解できる指示に似ています。たとえば、Yidun は、大きなモデルに「女性の裸の太ももを含む写真と、絵文字を含むスパム広告」という指示を入力できます。このようにして、大規模モデルは指示に基づいて、より潜在的にリスクの高いコンテンツを自動的に思い出すことができます。

Yidun は、コンテンツ セキュリティの日常的なメンテナンスに加えて、ライブ コンテンツのセキュリティも監視できます。日常的なコンテンツメンテナンスと比較すると、ライブストリーミングの主な難しさは、プラットフォームごとにルールが異なるためルールが複雑になること、リアルタイム要件によるメンテナンスコストが増加すること、技術的な正確性に対する要件が増加することです。

これらの実際的な問題点を克服するために、Yidun 技術チームは「最前線に行く」というコンセプトを堅持し、さまざまな協力ライブ ブロードキャスト プラットフォームと綿密な交流を行い、さまざまなプラットフォームの最新のルールを迅速に把握します。ライブ放送技術メーカーと協力してキーフレーム検出技術をカスタマイズし、伝送帯域幅を最小限に抑えてコストを管理します。同時に、Yidun は自社開発モデル向けの推論加速フレームワークを立ち上げました。このフレームワークは Yidun のビジネスに合わせてカスタマイズされており、同じハードウェア条件下でスループットを 2 倍以上にすることができます。

技術の継続的なアップグレードに伴い、Yidun は、アイドル状態のライブ放送、休止中のライブ放送、ライブカメラの前に写真やビデオを置くアンカーなどの「不正行為」を識別するなど、さまざまな新しい認識モデルも導入しました。市場と技術の変化を受け入れ、Yidun は時代とともに前進しています。

さらに、Yidunは現在、ビッグモデル技術と組み合わせて、デジタルコンテンツリスク管理業界向けのビッグモデルの研究開発に全力で投資しており、今年中に一般公開される予定です。 AI時代において、朱浩奇が何度も語ってきたように、 「NetEase YidunはAI技術の研究開発と応用に力を入れ続け、AI時代のデジタルコンテンツセキュリティの『夜警』であり続けます。」