マーケットプレイスで販売している場合やオンラインショップを運営している場合、競合の価格は1日に何度も変動することを知っているでしょう。手動での監視は時間の無駄であり、利益を逃すことになります。データの自動収集はこの問題を解決しますが、サイトやマーケットプレイスは積極的にパーサーをブロックしています。この記事では、価格監視を設定する方法を解説し、あなたのリクエストが決して検出されず、ブロックされないようにします。
なぜサイトは価格監視をブロックするのか、そしてどのように検出されるのか
監視を設定する前に、サイト側の保護のロジックを理解することが重要です。マーケットプレイスやオンラインショップは、競合が自社の価格を監視したいことをよく知っており、これに対抗しています。保護は同時に複数のレベルで機能します。
リクエストの頻度分析
一般的な購入者は、数分または数時間ごとに商品ページにアクセスします。パーサーは1つのIPアドレスから毎分数百のリクエストを送信します。アンチボットシステム(Cloudflare、Imperva、DataDome)は、このような異常をすぐに検出し、IPをブロックします。これが、自動データ収集で1つのアドレスを使用することがほぼ不可能な理由です。
IPアドレスの所属確認
各IPアドレスには独自の履歴と所属があります。データセンターのアドレス(AWS、Google Cloud、Hetzner)はデータベースで簡単に識別されます — サイトは、これらのアドレスからボットやパーサーが動作していることを知っており、すぐにブロックします。居住者のIP — 実際の家庭ユーザーに属するもの — は、はるかに少ない疑念を引き起こします。
行動分析
現代の保護システムは、IPだけでなく行動も分析します:スクロールの速度、マウスの動き、アクション間の間隔、ページリソースの読み込み順序。リクエストが厳密にスケジュール通りに行われ、ランダムな間隔がない場合 — これはブロックの信号です。
ジオロケーション制限
一部のプラットフォームは、地域によって異なる価格を表示します。たとえば、Wildberriesはモスクワとノボシビルスクで異なる価格を表示することがあります。特定の地域の価格を監視する場合、あなたのプロキシはその地域のIPを持っている必要があります — さもなければ、関連性のないデータを得ることになります。
知っておくべきこと:
WildberriesとOzonは、同時に複数の保護レベルを使用しています。プロキシだけでは不十分です — 正しいローテーション、正確なリクエストヘッダー、パーシングツールの適切な設定が必要です。
価格監視に適したプロキシ:タイプの比較
すべてのプロキシが価格監視に同じように役立つわけではありません。選択は、監視するサイト、データの更新頻度、割り当てる予算によって異なります。各タイプを詳しく見ていきましょう。
| プロキシタイプ | 信頼性のレベル | 速度 | 最適な用途 | コスト |
|---|---|---|---|---|
| 居住者プロキシ | 非常に高い | 中程度 | Wildberries、Ozon、保護されたサイト | 中程度 — 高い |
| モバイルプロキシ | 最大 | 中程度 | 厳しい保護のあるプラットフォーム、モバイル版サイト | 高い |
| データセンター | 低い | 高速 | 深刻な保護のないサイト、小規模な店舗 | 低い |
居住者プロキシ — 大多数のタスクに最適な選択
居住者プロキシは、実際の家庭ユーザーのIPアドレスを使用します。サイトの観点から見ると、通常の購入者がアパートやオフィスからアクセスしているように見え — 疑念はありません。これにより、Wildberries、Ozon、Avito、その他のほとんどのプラットフォームでの監視に最適です。主な利点は、ジオロケーションを選択できることです:特定の都市や地域のIPを取得できるため、地域価格の正確な監視にとって重要です。
回転式居住者プロキシは、各リクエストごとにIPアドレスを自動的に変更します。これは、1つのアドレスが一時的に制限されても、次のリクエストが別のIPから送信されることを意味します — 監視が中断されることはありません。
モバイルプロキシ — 最も保護されたプラットフォーム向け
モバイルIPは、携帯電話会社(MTS、ビライン、メガフォン)のアドレスです。これには1つのユニークな特性があります:1つのモバイルIPの背後には、数千の実際のユーザーが存在する可能性があります(オペレーターのNATを介して)。そのため、サイトはモバイルアドレスをブロックすることは非常に稀です — 実際の購入者に影響を与えるリスクが非常に高いためです。攻撃的なアンチボット保護のあるプラットフォームを監視していて、居住者プロキシが定期的にブロックされる場合は、モバイルプロキシに切り替えてください。
データセンターのプロキシ — 簡単なタスク専用
データセンターのプロキシは高速で安価ですが、簡単に識別されます。ほとんどの主要なマーケットプレイスは、数分の集中的な作業でそれらをブロックします。これらは、深刻な保護のない小規模なオンラインショップの監視や、パーシングスキームの事前テストに適しています。
Wildberries、Ozon、Avitoなどのプラットフォームでのデータ収集の特徴
各主要プラットフォームには独自の保護の特徴があります。これらの特徴を理解することで、監視を適切に設定し、リソースを無駄にしないようにできます。
Wildberries
Wildberriesは、ロシアで最もパーシングが難しいマーケットプレイスの1つです。プラットフォームは、JavaScriptを介してコンテンツの動的読み込みを積極的に使用しており、これはつまり:単純なHTTPリクエストでは価格を取得できず、ページはブラウザによって完全にレンダリングされる必要があります。さらに、WBはページの構造やAPIエンドポイントを頻繁に変更し、パーサーを壊します。
Wildberriesには、ロシアのIPを持つ回転式居住者プロキシが最適です。リクエストの頻度は、1つのIPあたり3〜5秒ごとに1回以下が望ましいです。また、実際のユーザーの行動を模倣することも重要です:ランダムな間隔、正しいブラウザのヘッダー(User-Agent、Accept-Language)。
Ozon
Ozonは、Cloudflareに基づく保護システムと独自のアンチボットソリューションを使用しています。プラットフォームはTLSフィンガープリント(接続のデジタルフィンガープリント)を分析します — これはつまり、良好なプロキシを使用していても、リクエストが実際のブラウザからのものとして見えない場合、ブロックされる可能性があることを意味します。Ozonには、ブラウザを完全にエミュレートするツール(ヘッドレスChrome、Playwright)を使用することをお勧めします。
Avito
Avitoは中程度の保護を持っていますが、データセンターのIPを積極的にブロックします。ロシアのアドレスを持つ居住者プロキシは安定して機能します。Avitoの特徴は地域性です:価格や広告は都市によって大きく異なります。特定の地域で競合を監視する場合は、その地域のIPを持つプロキシを必ず使用してください。さもなければ、データは関連性がなくなります。
Yandex.Marketおよびその他のアグリゲーター
Yandex.Marketは高度なボット検出システムを使用しています — これは、会社のリソースを考えると驚くべきことではありません。プラットフォームは行動、リクエストの頻度、接続の特性を分析します。安定した監視には、リクエスト間の間隔が5〜10秒以上の回転式居住者プロキシが必要です。
ジオロケーションに関するアドバイス:
ロシアのマーケットプレイスを監視する際は、常にロシアのIPを持つプロキシを使用してください。外国のIPは異なる価格、異なる品揃えを提供する可能性があり、ジオロケーションレベルでブロックされることもあります。
コードなしで価格監視のための既製のツール
コードを書くことができない人にとっての良いニュースは、競合の価格監視を数時間で設定できる既製のサービスやツールが存在することです。あなたがする必要があるのは、プロキシを接続し、何を追跡するかを指定することだけです。
価格監視の専門サービス
Priceva、Competera、その他の類似のロシアのサービスなどのプラットフォームは、既製のソリューションを提供します:競合のページのURLを追加し、チェックのスケジュールを設定し、便利な形式でレポートを受け取ります。多くのサービスは独自のプロキシの接続をサポートしており、これはジオロケーションとIPアドレスの品質を制御したい場合に重要です。
ノーコードパーサー:Octoparse、ParseHub、Apify
OctoparseとParseHubは、ドラッグアンドドロップインターフェースを持つビジュアルパーサーです。ページの要素(価格、商品名、在庫)を「クリック」するだけで、ツールがそれらを抽出する方法を自動的に理解します。両方とも、標準形式のhost:port:login:passwordを介してプロキシの接続をサポートしています。Apifyは、人気のあるサイト、マーケットプレイスをパーシングするための既製の「アクター」(テンプレート)を持つより強力なプラットフォームです。
Googleスプレッドシート + IMPORTXML/IMPORTHTML
簡単なタスク — 深刻な保護のない10〜20ページの監視 — には、Googleスプレッドシートの組み込み機能を使用できます。IMPORTXMLとIMPORTHTMLを使用すると、ウェブページからデータを直接スプレッドシートに引き込むことができます。欠点:プロキシをサポートせず、単純な静的ページでのみ機能します。マーケットプレイスにはこの方法は適していません。
手動監視のためのアンチデテクトブラウザ
異なる地域から手動で定期的に価格を確認する必要がある場合 — たとえば、エカテリンブルクの購入者に対してあなたの商品がどのように見えるかを確認する場合 — Dolphin Anty、AdsPower、GoLoginなどのアンチデテクトブラウザは便利なツールになります。必要なジオロケーションを持つブラウザの個別プロファイルを作成し、必要な都市のIPを持つプロキシを接続し、競合のページを開きます。各プロファイルは、個別のユニークなユーザーのように見えます。
価格監視のためのプロキシ設定:ステップバイステップガイド
人気の監視ツールへのプロキシ接続の実際の設定を例にとって説明します。原則はほとんどのノーコードソリューションで同じです。
ステップ 1: プロキシのデータを取得する
プロキシを購入した後、接続のためのデータを次の形式で受け取ります:ホスト(IPまたはドメイン)、ポート、ログイン、パスワード。回転式居住者プロキシの場合、通常は1つのエンドポイントが提供されます — 各リクエストごとに自動的にIPが変更されるゲートウェイのアドレスです。これらのデータをメモしておいてください — 次のステップで必要になります。
ステップ 2: プロトコルを選択 — HTTPまたはSOCKS5
ほとんどのパーシングツールは両方のプロトコルをサポートしています。HTTPプロキシはユニバーサルなオプションで、どのツールでも機能します。SOCKS5はより柔軟なプロトコルで、あらゆるタイプのトラフィックをサポートし、プロキシの使用を隠すのに優れています。価格監視には、ツールがサポートしている場合はSOCKS5をお勧めします。
ステップ 3: Octoparseでの設定(例)
Octoparseで、メニューSettings → Proxy Settingsに移動します。モードCustom Proxyを選択します。プロキシのデータを入力します:ホスト、ポート、ログイン、パスワード。Test Connectionをクリックします — ツールがプロキシの動作を確認し、新しいIPアドレスを表示します。テストが成功した場合 — プロキシが接続されました。これで、すべてのパーサーのリクエストがそれを介して送信されます。
ステップ 4: ローテーションと遅延を設定する
これは非常に重要なステップで、多くの人が見落とします。良好なプロキシを使用していても、攻撃的なパーシングは検出されます。次のパラメータを設定してください:
- リクエスト間の遅延:WildberriesとOzonの場合は最低3〜5秒、保護が少ないサイトの場合は1〜2秒
- IPのローテーション:10〜20リクエストごとにIPを変更するか、5〜10分ごとに変更する
- ランダムな間隔:固定の遅延の代わりにランダムな間隔を使用する(例:3〜8秒の間隔)
- User-Agent:実際のブラウザ(Chrome、Firefox)の最新のUser-Agent文字列を使用する
ステップ 5: 起動前のテスト
本格的な監視を開始する前にテストを行います:10〜20ページのパーシングを実行し、すべてのデータが正しく収集されているか、ブロックがないかを確認します。リクエストの一部が403エラー(アクセス禁止)やCAPTCHAを返す場合は、遅延を増やし、ローテーション設定を確認してください。
価格解析時のよくある間違いとその回避方法
価格監視に関するほとんどの問題は、同じ間違いから生じます。最も一般的なものを見ていきましょう。
間違い 1: すべてのリクエストに1つのIPを使用する
良好な居住者IPを持っていても、それを数百のリクエストに連続して使用しないでください。短時間に過剰なリクエストを行うIPはブロックされます。ローテーションプロキシや複数のIPアドレスのプールを使用し、負荷を分散させてください。
間違い 2: ジオロケーションの無視
競合の価格をモスクワで監視している場合、ノボシビルスクやドイツのIPを使用していると、誤ったデータを得ることになります。Wildberries、Ozon、Avitoでは、価格や配達条件は地域によって異なります。常に、あなたのタスクに合ったジオロケーションのプロキシを選んでください。
間違い 3: リクエストの頻度が高すぎる
データをできるだけ早く取得したいという欲求は、パーサーが0.1〜0.5秒ごとにリクエストを行うことにつながります。このような活動はすぐに検出されます。価格は毎秒変わるわけではありません — 通常、1時間ごとまたは数時間ごとに確認するだけで十分です。頻度を下げることで、監視の安定性が大幅に向上します。
間違い 4: 複雑なプラットフォームに安価なデータセンターのプロキシを使用する
多くの人が最も安価なデータセンターのプロキシから始め、Wildberriesが5分でブロックする理由に驚いています。重要なマーケットプレイスには、居住者またはモバイルプロキシが必要です。プロキシの節約は、ブロックとの戦いに時間を失うことになります。
間違い 5: プロキシの稼働状態を監視しない
プロキシは一時的に機能しないことがあり、高い遅延やエラーを返すことがあります。これを監視しないと、監視が静かに「壊れる」可能性があります — データの更新が停止し、数日後にそれに気付くことになります。ツールでエラーのアラートを設定するか、定期的に手動でデータの有効性を確認してください。
さまざまなタスクのための効果的な監視スキーム
自転車を発明することなく、セラーやマーケターの典型的なタスクのための具体的なスキームを見ていきましょう。
スキーム 1: Wildberriesでの競合価格の監視 — セラー向け
タスク:Wildberriesでの50〜100の競合商品価格を追跡し、2〜4時間ごとに更新します。
ツール:専門サービス(Pricevaまたは類似)またはWB用の既製のアクターを持つApify。
プロキシ:ロシアのIPを持つ回転式居住者プロキシ。負荷を分散させるために50アドレス以上のプール。
設定:リクエスト間の遅延は5〜8秒、ランダムな間隔、15リクエストごとにIPをローテーションします。
結果:競合の価格に関する最新のデータを2〜4時間ごとに取得し、価格が5%以上変動した場合に自動アラートを受け取ります。
スキーム 2: Avitoでの地域価格の監視 — ローカルビジネス向け
タスク:特定の都市(例:クラスノダール)でのAvitoの競合価格を監視し、1日ごとに更新します。
ツール:Avito用に設定されたテンプレートを持つOctoparseまたはParseHub。
プロキシ:特定の都市または地域のIPを持つ居住者プロキシ。重要:IPはローカル価格を取得するために必要な都市に対応している必要があります。
設定:1日1回の実行、遅延は3〜5秒、静的IP(低頻度の場合は攻撃的なローテーションは不要)。
結果:地域の競合価格に関する毎日のレポート、ExcelまたはGoogleスプレッドシートへのエクスポート。
スキーム 3: 競合の広告提案の監視 — マーケター向け
タスク:競合のサイトや広告でのプロモーション、割引、特別オファーを追跡します。
ツール:サイト用のパーサー(Apify)と広告を追跡するための監視ツールの組み合わせ。
プロキシ:ターゲット市場のジオロケーションを持つ居住者プロキシ。異なる地域の広告を監視する場合は、複数の地域のプロキシが必要です。
設定:1日2〜3回のチェック、新しいセッションごとにIPをローテーションします。
結果:競合のマーケティング活動に関する迅速な情報、彼らのプロモーションに迅速に対応する能力。
スキーム 4: 海外マーケットプレイスでの価格監視 — 輸入業者向け
タスク:AliExpress、Amazon、eBayでの供給者や競合の価格を追跡します。
ツール:AmazonやAliExpress用の既製のアクターを持つApify、または専門の監視サービス。
プロキシ:ターゲットマーケットプレイスの国のIPを持つ居住者プロキシ(Amazon用のアメリカ、AliExpress用の中国またはアメリカ)。これは重要です。なぜなら、価格は訪問者の国によって異なる可能性があるからです。
設定:6〜12時間ごとの更新、遅延は5〜10秒、20リクエストごとにIPをローテーションします。
価格監視を開始する前のチェックリスト:
- ✅ タスクに適したプロキシタイプを選択(マーケットプレイス用の居住者プロキシ)
- ✅ プロキシのジオロケーションがターゲット市場に対応している
- ✅ IPのローテーションが設定されている
- ✅ リクエスト間の遅延が設定されている(最低3〜5秒)
- ✅ 完全な起動前に10〜20ページでテスト済み
- ✅ エラーや価格変動時のアラートが設定されている
- ✅ 更新スケジュールが決定されている(必要以上に頻繁ではない)
結論
競合の価格を自動的に監視することは、単なる便利さではなく、競争上の優位性です。Wildberries、Ozon、Avitoなどのプラットフォームで価格がどのように変動するかを知ることで、競合のダンピングに対抗して価格を下げたり、高需要の時期に価格を上げたり、適切なタイミングでプロモーションを開始したりできます。これらすべてが、売上と利益率に直接影響します。
安定した監視の鍵は、適切に選ばれたプロキシとツールの適切な設定です。ほとんどのロシアのマーケットプレイスにとって最適な選択は、ロシアのIPを持つ回転式居住者プロキシです:それらは実際のユーザーのように見え、ジオロケーションの選択をサポートし、攻撃的なアンチボットシステムによってブロックされません。
特にパーサーを厳しくブロックするプラットフォームで作業している場合や、最大の安定性が必要な場合は、モバイルプロキシを検討してください:それらは非常に稀にしかブロックされず、1つのモバイルIPの背後には数千の実際のユーザーが存在する可能性があります。
小さく始めましょう:競合の20〜30の重要なポジションの監視を設定し、スキームをテストし、データの安定性を確認してから、スケールアップします。適切に設定された価格監視は、作業の最初の月にすでに回収されます。