WildberriesやOzonのセラーは、プロキシの予算を「目分量」で設定することが多く、3〜4倍の過剰支出をするか、1週間で終わるほど安いパッケージを購入してしまいます。10,000商品の月間モニタリングに必要なトラフィック量を正しく計算し、その負荷に適したプロキシの種類を選び、データの質を損なうことなく節約できる方法を解説します。
なぜ10,000商品をモニタリングするのか、100ではなく
100〜200商品の場合、競合の価格を手動で1日1回確認することができます。しかし、カタログが数千SKUに増え、競合が1日に5〜10回価格を変更する場合(特にWildberriesやOzonのセール中)、手動モニタリングはフィクションに変わります — データは収集する間に古くなります。
10,000商品は、いくつかのカテゴリを持つ中規模のセラーや、5〜10のクライアントのためにモニタリングを行うエージェンシーにとって典型的なボリュームです。この規模には自動化が必要です:商品カード、カテゴリページ、マーケットプレイスのAPIに対して1日に数万回アクセスするスクリプトやパーシングサービスが必要です。そして、ここで最も重要な質問が浮かびます — どのようにリクエストを送信して、作業開始から2時間以内にIPがブロックされないようにするか。
Wildberries、Ozon、Avitoはパーシングから積極的に防御しています:CAPTCHAを設置し、応答速度を制限し、データセンターのIPを大量に禁止します。したがって、モニタリングの予算は、サーバーと開発の支払いだけでなく、プロキシに対する別の支出項目でもあり、しばしば「目分量」で計算すると最も予測不可能なものになります。
月に実際に必要なリクエスト数
予算計算の最初のステップは、物理的に必要なHTTPリクエストの数を理解することです。これは、モニタリング戦略に組み込む価格更新の頻度によって異なります。
| 更新頻度 | 1商品あたりの月間リクエスト数 | 10,000商品のリクエスト数 |
|---|---|---|
| 1日1回 | 30 | 300,000 |
| 1日4回 | 120 | 1,200,000 |
| 1時間ごと(1日24回) | 720 | 7,200,000 |
WildberriesやOzonのほとんどのセラーには、1日4〜6回の更新で十分です — これは、朝と夕の価格戦争を過剰なプロキシプールの負荷なしでカバーします。毎時間のモニタリングは、高競争のニッチ(電子機器、化粧品)で、大規模なセールイベント(ブラックフライデーなど)の間にのみ必要です。
トラフィック計算の公式
プロキシが「重さ」を持つトラフィックは、リクエスト数だけでなく、何をパースしているかにも依存します:商品カード全体(画像やスクリプトを含むHTMLページ)か、マーケットプレイスのAPIからのJSONレスポンスのみか。
公式:
トラフィック(GB) = リクエスト数 × 平均レスポンスの重さ(KB) / 1,048,576
平均レスポンスの重さは、方法によって大きく異なります:
- 商品カードへのAPIリクエスト(JSON) — 15〜60 KBのレスポンス
- 商品カードの完全なHTMLページ — 300〜900 KBのレスポンス
- ページネーション付きのカテゴリ/検索ページ — 500〜1500 KBのレスポンス
マーケットプレイスの内部APIを通じて直接パースする場合(これが望ましい — 重さが少なく、速度が速く、CAPTCHAのリスクが低い)、10,000商品の場合、1日4回の更新で1,200,000リクエスト × 40 KB ≈ 45.8 GBの月間トラフィックが得られます。完全なHTMLページをパースする場合、同じリクエスト数は600〜900 GBの「重さ」を持ち、データ収集方法だけで15〜20倍の差が生じます。
データセンター、レジデンシャル、モバイルプロキシ:どれを選ぶべきか
プロキシの種類は、コストと成功リクエストの割合(success rate)に直接影響します。マーケットプレイスのモニタリングにとってこれは重要です:プロキシが禁止される頻度が高いほど、再試行が増え、計算式を超えた実際のトラフィック消費が増加します。
| プロキシの種類 | WB/Ozonでの成功率 | 使用するタイミング |
|---|---|---|
| データセンターのプロキシ | 40〜60%(簡単に大量に禁止される) | 低頻度のモニタリング、テスト実行、小規模カタログ |
| レジデンシャルプロキシ | 85〜95% | 10,000商品以上の主要な選択肢、毎日のモニタリング |
| モバイルプロキシ | 90〜98% | 厳しいニッチでの高頻度モニタリング、強化された保護を回避 |
データセンターのプロキシはGBあたりの価格が魅力的に見えますが、実際にはWildberriesやOzonでは、成功率が数時間のアクティブなパーシングの後に低下します — マーケットプレイスはホスティングプロバイダーのIPアドレス範囲を特定し、大量にアクセスを制限します。結果として、再試行に費やされるトラフィックに対して支払うことになり、実際の成功したリクエストには支払わないことになります。
レジデンシャルプロキシは、実際の家庭ユーザーのIPを使用するため、マーケットプレイスには通常のサイト訪問者として認識されます。10,000商品の安定したモニタリングには、価格と信頼性の最適なバランスです。モバイルプロキシはさらに高い成功率を提供しますが、通常は高価です — 問題のあるカテゴリやセールのピーク時に特定のケースで接続するのが賢明です。
予算計算の3つのシナリオ
10,000商品のモニタリングにおける3つの典型的なシナリオを分析し、データ収集方法と更新頻度がトラフィックの最終量にどのように影響するかを示します。
シナリオ1:APIを通じたコスト効率の良いモニタリング
1日4回の更新、マーケットプレイスの内部APIを通じたパース(JSON、~40 KBのレスポンス)、成功率90%のレジデンシャルプロキシ。
- 基本リクエスト数:1,200,000件/月
- 10%の再試行を考慮:1,320,000リクエスト
- トラフィック:1,320,000 × 40 KB ≈ 50.4 GB/月
シナリオ2:HTMLページ収集による中程度の負荷
1日6回の更新、商品の完全なカード(HTML、~500 KBのレスポンス)をパースして、価格だけでなく、在庫、レビュー、検索順位も取得します。
- 基本リクエスト数:1,800,000件/月
- 再試行を考慮(15%):2,070,000リクエスト
- トラフィック:2,070,000 × 500 KB ≈ 987 GB/月
シナリオ3:ピークシーズンの高頻度モニタリング
毎時間の更新(1日24回)をAPIを通じて行い、さらにカテゴリページをパースして順位を追跡し、問題のあるカテゴリにはモバイルプロキシを使用します。
- 商品のリクエスト:7,200,000件/月(40 KBあたり)
- カテゴリページのリクエスト:300,000件/月(800 KBあたり)
- トラフィック:(7,200,000 × 40 KB) + (300,000 × 800 KB) ≈ 274.7 + 228.9 ≈ 503.6 GB/月
シナリオ間の違いは明確に示しています:データ収集方法が更新頻度よりも予算に強く影響します。HTMLパースからAPIを介した作業に移行することで、同じ商品量と同じチェック頻度でトラフィック消費を10〜20倍削減できます。
データを失うことなくトラフィック消費を減らす方法
モニタリング予算をコントロールし、データの最新性を失うことなく維持するためのいくつかの実用的なテクニックがあります。
- HTMLではなくAPIをパースする。 マーケットプレイスが内部APIを通じてデータを提供している場合(商品カードを開いたときにブラウザでネットワークリクエストを分析することで確認できます)、それを使用してください — レスポンスの重さが10〜20倍減少します。
- 商品の優先順位を分ける。 10,000 SKUすべてが同じ重要性を持っているわけではありません。競争が激しいロコモティブ商品は毎時間モニタリングし、他は1〜2回/日で十分です。これにより、リクエストの総量が40〜60%削減されます。
- 静的データをキャッシュする。 商品の名前、説明、仕様はあまり変わらないため、週に1回収集すれば十分です。毎時間更新が必要なのは価格と在庫のみです。
- プロキシのローテーションを賢く設定する。 各リクエストでIPを頻繁に変更すると、CAPTCHAや再試行が増加します。1つのIPから5〜10リクエストごとのローテーションが通常は匿名性と成功率のバランスを最適に保ちます。
-
gzipでトラフィックを圧縮する。 スクリプトやパーシングサービスが
Accept-Encoding: gzipヘッダーを送信することを確認してください — これにより、JSONレスポンスの重さが60〜70%削減されます。
予算計算でのよくある間違い
10,000商品のモニタリング予算を計画する際、セラーは定期的に同じ間違いを犯し、過剰支出や逆に月の中頃にトラフィックが不足することになります。
- 再試行を考慮しない。 データセンターのプロキシを使用する場合、リクエストの40〜50%がCAPTCHAやブロックで終了する可能性があり、実際のトラフィック消費は計算より1.5〜2倍高くなります。
- すべてを同じ頻度でモニタリングする。 10,000商品が「念のため」に毎時間更新される場合、予算は実際のビジネスに役立つことなく何倍にも増加します。
- 季節性を忘れる。 セール期間中(11.11、ブラックフライデー、新年)には、競合が価格をより頻繁に変更し、それに伴いマーケットプレイスのパーシングに対する保護が厳しくなり、再リクエストの数が増加します。
- 予算を計算する際に余裕を持たない。 ページ構造の変更やCAPTCHAの一時的な増加に備えて、計算されたトラフィック量の20〜30%の余裕を持つことが賢明です。
モニタリング開始前のチェックリスト
- 異なる商品グループ(VIP / 通常 / 低優先度)の価格更新頻度を決定した
- HTMLページの代わりにマーケットプレイスのAPIを通じてパースできるか確認した
- 「リクエスト × レスポンスの重さ」の公式で基本トラフィック量を計算した
- 再試行やCAPTCHAに備えて20〜30%の余裕を追加した
- タスクに応じたプロキシの種類を選択した:主要なボリュームにはレジデンシャル、問題のあるカテゴリにはモバイルを使用
- IPの合理的なローテーションを設定した(各リクエストではなく、5〜10リクエストごとに)
- レスポンスの重さを減らすためにリクエストでgzip圧縮を有効にした
- セールやプロモーションのピーク期間に追加予算を確保した
結論
月に10,000商品のモニタリング予算は固定された数字ではなく、具体的な決定の結果です:価格をどのくらいの頻度で更新するか、どのようにデータをパースするか、どのタイプのプロキシを使用するか。リクエスト数 × レスポンスの重さの公式に基づく正確なトラフィック計算と再試行の余裕を考慮することで、モニタリングの実際のコストを事前に理解し、月の中頃に不快なサプライズを避けることができます。
Wildberries、Ozon、Avitoの安定したモニタリングのために、中規模および大規模ボリュームでは、レジデンシャルプロキシから始めることをお勧めします — これは許容可能なトラフィックコストで高い成功率を提供します。特定の商品カテゴリがマーケットプレイスの強化された保護の対象となる場合は、全カタログではなく、特定の問題のあるカテゴリのためにモバイルプロキシを接続することが賢明です — これにより、データの質を損なうことなく予算を管理できます。