リスクコントロール製品運用（見落としがちな製品設計分野について簡単に解説）

見落とされがちな製品デザイン分野について簡単に説明します

製品設計の分野では、リスク管理は見落とされがちですが、それがもたらす影響も大きく、収益の損失や製品への壊滅的な打撃を引き起こす可能性もあります。この記事ではリスク管理の基本的な内容を詳しく説明していますので、お役に立てれば幸いです。

リスク管理、またはリスクコントロールとは、一般的に、製品機能の設定において、技術と運用を通じて、政策、違法な業界、プラットフォーム、競争などによるリスクを回避し、製品収益の損失や壊滅的な打撃を回避することを指します。

ポルノ、政治、未成年者に関する内容、社会に悪影響を及ぼす噂など、国家関係機関によって明示的に禁止されている内容を指します。このような内容は社会に悪影響を及ぼします。報告され、規制当局が介入した場合、その会社の製品は影響を受けます（棚から撤去されたり、是正を命じられたりなど）。

抽選会の当選金額の水増し、新規登録数の水増しなど、数量や報酬の水増しなどの不正行為により、新規ユーザー獲得やアクティベーション促進の観点からプラットフォームの利権を異常に獲得することを指します。これらの行為は、製品の運営戦略のROIを低下させ、満足のいく戦略結果をもたらしません。

サードパーティプラットフォーム（Android App Store、Apple Store、サードパーティプラットフォームへの掲載など）との連携に依存し、他のプラットフォームのルールを遵守することで利益を上げる製品を指します。違反行為があった場合、商品の棚からの撤去、機能制限などのプラットフォームペナルティが課せられ、商品の正常な動作に影響を及ぼす可能性があります。

主にユーザーがスクリプトやプラグインなどを通じて異常なユーザー操作を実行し、製品のユーザーエコロジーを破壊することを指します。たとえば、ゲーム プラグインやオンライン収益製品におけるタスクの自動完了などです。これらの行為は、一方では一般ユーザーの利益を損ない、他方ではプラットフォームの運営コストを増加させます（ゲームプラグイン/スクリプトはゲームコンテンツの損失を加速させ、オンライン収益プラットフォームは平均利益コストを増加させます）。

これは主に、他の競合プラットフォーム上の悪質なコンテンツを指し、商業的な手段を使用して公式企業または協力企業の信用を傷つけ、ブランドの利益に損害を与えます。これは通常、インターネット荒らしを利用して否定的な世論を広めるなどのコンテンツ プラットフォームで発生します。

このカテゴリは分類がより難しく、プラットフォームの種類に応じてさまざまなカテゴリがあります。たとえば、Taobao の「Ferryman」システムは、高リスクセマンティクス、手動スクリーニング、マーチャントレポートなどを通じて自殺傾向のあるユーザーを特定し、適切な介入を提供するように設計されています。

ライブストリーミングプラットフォーム、グラフィックコミュニティ、ビデオプラットフォーム、ソーシャルプラットフォーム、およびプレーヤーがテキスト、画像、ビデオ、オーディオなどのコンテンツをカスタマイズできるその他の製品（Weibo、Bilibili、Tieba、WeChat、Douyinなど）では、さまざまなポルノ、政治、広告コンテンツが簡単に作成されます。プラットフォーム上のユーザー数が増えるほど、リスクの高いコンテンツが生成され、大規模に公開されるリスクが高まります。

たとえば、ゲーム内の画面が異常なコンテンツでいっぱいになると、通常のプレイヤーのゲーム体験が大きく損なわれます。登場するコンテンツが法律で禁止されている場合、報告され、規制当局が介入し、ゲームが世論の否定的な影響を受ける可能性があります。

画像出典: Baidu 検索

したがって、製品が大きくなるほど、監査チームとリスク管理対策の数も増えます。たとえば、Weibo、Bilibili、Weibo などの大規模なプラットフォームには、非常に優れた監査チームがあります。

画像出典: Baidu 検索

主に電子商取引、O2O、インターネット金融、新興産業などの分野に集中しています。電子商取引、O2O、新興産業製品の運営では、新規ユーザーが注文するとXX割引、新規ユーザーが登録するとXX紅封筒、友達を招待するとXX紅封筒などのアクティビティを通じて報酬を発行し、ユーザー増加の目標を達成することがよくあります。インターネット金融業界は、融資、詐欺、マネーロンダリングなどの業界に深く関わっています。このタイプのコンテンツはそれほど多くないので、詳しくは話しません。

画像出典: Baidu 検索

ブラック産業の存在により、異常な手段でこれらの報酬を得ることが可能となっている。たとえば、登録をスワイプすると新規メンバー用の赤い封筒を入手できます。また、招待状をスワイプすると新規メンバー用の赤い封筒を入手できます。おそらく会社は100万人民元の払い戻しを意図していたが、結局そのお金の60％を違法行為に流してしまったのだろう。これらの異常な動作により、製品のユーザー成長コストが増加し、製品の収益が減少します。したがって、リスクの予防と管理対策を合理的に設計することが非常に重要です。

一般的に、アクティビティに参加できるアカウント数の上限、アクティビティに参加できる IP / デバイス数の上限、リベートの使用条件など、ルールの設計を通じて一連の制限を課すことができます。これらの措置により、ブラック産業が利益を得ることがさらに困難になる可能性があります。しかし、闇産業の専門性、プロ意識、ギャング性、偽装性などにより、これらを根本的に防止し、制御することは困難な場合が多いです。

一部の商品は供給量がすべてのユーザーのニーズを満たせないことが多く、先着順、予約、抽選などにより購入が制限されます。しかし、ダフ屋はスクリプトやその他の手段で商品を入手し、それをより高い価格で転売します。このプロセスは通常のユーザーの購入体験を損なうものであり、プラットフォームはユーザーが支払った追加金額から利益を得ることはできません。

このタイプの製品は、通常、ゲーム、特にマルチプレイヤー オンライン ゲームを指します。一部のプレイヤーはプラグインを使用して不正行為を行い、他の通常のプレイヤーに簡単に勝ち、通常のプレイヤーの通常の体験に影響を与え、通常のプレイヤーに損失をもたらします。そのため、プラグインが横行すると、ゲームのユーザー離れが進み、メーカー全体の収益にも大きな影響が出てしまいます。

危険なコンテンツの中には、国の法律や規制に違反するものもあります。製品に関連コンテンツが存在し、関連部門の注目を集めた場合、壊滅的な災害を引き起こす可能性があります。たとえば、Fanfou.com は、敏感な政治的出来事に触れたため 2009 年に閉鎖され、大きな発展の時期を逃してしまいました。

リスク管理は、国の状況下での重要な開発方向です。私の国は人口が多く、リスクの内容が多く、影響も大きい国です。時事ニュースなどが掲載されると、違法で危険な内容が集中的に噴出しやすく、悪影響が大きくなりやすい。そのため、我が国は近年積極的に推進しているトラブル解消のための特別是正運動や、新たな国家「インターネット返信コメントサービス管理規定」（ニュースコメントの掲載前に内容の審査を義務付ける）など、政策においてこの分野の管理を非常に重視している。

プラットフォーム内でのユーザーアクティビティを刺激するために、製品内でのコンテンツ公開の閾値は非常に低く設定されていることがよくあります。例えば、写真や動画などのコンテンツの場合、プラットフォームは便利なツールも設計するため、テキスト、写真、音声、動画などのコンテンツの制作コストは極めて低くなります。これにより、リスクの高いコンテンツの制作も大幅に促進されました。たとえば、WeChatが以前開催したカスタム絵文字コンテストでは、ネットユーザーはネイティブ絵文字要素のみを使用して多くの違法コンテンツを作成することができました。

さらに、最近ではAICGコンテンツの増加により、コンテンツ制作コストがさらに削減されました。現時点では、すでに「政治的に正しくない」要素を含むコンテンツが多数存在します。悪意を持って利用された場合、規制に違反する可能性があります。

画像出典: Baidu 検索

ブラック産業やグレー産業、サードパーティプラットフォーム、スクリプトプラグイン、競合製品などのコンテンツは、規制当局から次元削減のストライキを受けることはありませんが、プラットフォーム上の通常のユーザーに影響を与え、ユーザーの喪失につながり、プラットフォーム全体の収益を減少させる可能性があります。

例えば、競合製品メーカーがスタジオに製品内に広告を掲載して競合製品にユーザーを誘導するよう依頼した場合、これはユーザーの喪失と収益の減少につながります。例えば、ブラックマーケットスタジオは偽の注文をすることで当社の営業活動から利益を得ており、その結果、全体の収益が減少しています。

画像出典: Baidu 検索

王永輝の「インターネットリスク管理プラットフォームの実用化」によれば、リスク管理は次の特徴にまとめられます。

1.専門性：ブラック業界は、各メーカーの予防および制御措置に対抗し、各メーカーの抜け穴から利益を得るために、ブラックカード、キャットプール設備、自動管理ソフトウェア、コード受信プラットフォーム、グループ制御システム、エージェント、不正行為ソフトウェアを開発しており、これらはすべてブラック業界の発展の専門性を反映しています。

2. プロフェッショナリズム: ブラック業界では明確な分業体制が敷かれており、組織化が進んでいます。すでに大企業となっている企業も多く、顧客獲得を担うプリセールス職とクラッキングを担う技術職を抱えています。

3. 複雑な利害関係の連鎖: 各ブラック産業環境には異なる利害関係者が関与しており、上流と下流の関係が存在します。一部のグループは、ブラック機器、ユーザー情報、携帯電話番号の提供を担当し、一部のグループはメーカーを直接利用することに責任を負っています。例えば：

1) 情報収集者: 一般的に、携帯電話、ID カード、ソーシャル アカウントなどを通じて収集される情報のソースを指します。

2) 認証コードサプライヤー：主にSMS認証コードと言語認証コード機能の提供を担当し、安価な人力で識別と配布を行うコーディングプラットフォームも備えています。

3) 技術研究開発担当者：主にシミュレータ、携帯電話パラメータ、位置情報などの情報、キーウィザードの修正、クラッキング、開発を担当します。

4) ブラッシングエージェント/スタジオ：ブラッシング戦略のカスタマイズ、顧客サービスと人材の確保を担当します。

5) ブラシハンド：さまざまなチャネルを通じて接続された安価な労働力を指します。

4. ギャングの形成: ブラック業界の活動はすべて、ユーザーの行動を模倣して利益を上げることです。全体の利益を拡大するためには、一定規模の犯罪組織が形成されるのは必然です。犯罪の規模が大きくなるとプラットフォームの損失は増える一方で、違法行為に対する規制が受けやすくなる。

5. 偽装: ブラックマーケットの運営は一般ユーザーの行動を模倣するため、メーカーが誤って一般ユーザーに危害を加える可能性があります。

これらの特徴を踏まえると、リスク管理ビジネスは、基本的に、敵は明確で自分たちは暗闇、敵は多数で自分たちは少数のビジネスです。問題を根本的に解決するのは難しく、コストも非常に高くなります。

ブラック産業の目的は企業から利益を得ることなので、利益があるところには自然とブラック産業も生まれます。例えば、滴滴出行業界では、新規登録ドライバーの利益を得るために、新規登録ドライバーになりすまし、運行データや注文データを改ざんするブラック業界が存在します。たとえば、ダフ屋は希少なチケットの価格をつり上げ、それによって数倍の利益を上げます。

「資本論」にもあるように、「100%の利益があれば、資本家はリスクを取るだろう…」十分な利益があれば、十分なブラック産業が集まるだろう。ブラック産業は主に新製品、新規事業、大プロモーション期間、活動期間など利益率が高い期間に注力します。

リスク管理は大きな影響を及ぼしますが、リスク管理システムの利点は明らかではありません。 100 万個のコンテンツの中から 1 つの違法コンテンツを検出するには、100 万個のコンテンツすべてを確認する必要があり、この 1 つの違法コンテンツが報告される確率はわずかです。

このプロセスでは、AI は補助的な役割しか果たせず、意思決定において人間に完全に取って代わることはできません。これは、AI の認識には遅延と理解能力の弱さ (ほのめかしを含む内容は理解できず、誤判断が発生する) という特性があるためです。その結果、AI は予備的なスクリーニングの役割しか果たせず、依然としてリスクのあるコンテンツを見逃してしまうことになります。製品の安全性を確保するためには、セーフティネットと AI サンプル収集を提供する人材が依然として必要です。全体として、コストは依然として比較的高いレベルに留まります。

製品設計と優先順位計画の観点から見ると、リスク管理は MVP 機能ではなく、ROI が低くなります。製品の初期段階では、構築にそれほど労力は必要ありません。

収益性の観点から見ると、リスクは収入の損失を止めることはできますが、収益を増やすことはできません。リスク管理システムは、製品の売上を伸ばす上で何ら役割を果たすことができません。したがって、リスク管理を積極的に展開することは賢明な選択ではありません。

リスクを完全に排除することはできないため、最小限の労力で最大の効果が得られることを行わなければなりません。チームにとって許容できるコストを使用し、許容できる範囲内でリスクを軽減し、監督の準備をします。

AI技術には遅延や理解力の低さなどの弱点があるものの、リスク内容の範囲をスクリーニングし、低コストでほとんどのリスクを軽減することができます。 100 万個のコンテンツをレビューするには 50 人必要になる場合があります。 AI が低リスクのコンテンツの 90% を除外できる場合、それをレビューするために必要なのは 5 人だけです。

AIの理解能力が発達するにつれて、その弱点は徐々に緩和され、人件費はさらに削減されるでしょう。

リスク管理技術は汎用性が高く、1 つのリスク管理システムを複数の製品に使用できます。中小規模の製造業者の場合は、サードパーティのリスク管理システムへの接続を検討できます。大規模な製造業者の場合は、カスタマイズされたビジネスニーズを満たすために独自のリスク管理プラットフォームを構築する必要があります。

この記事はもともと @冰淇淋 によって Everyone is a Product Manager に掲載されました。許可なく転載することは禁止します。

タイトル画像はCC0ライセンスに基づいてUnsplashから引用しています

この記事で述べられている意見は著者自身の意見のみを表しており、人人士品夢家プラットフォームは情報保存スペースサービスのみを提供します。