リクナビNEXTから求人情報をスクレイピングする

Sunday, April 08, 2018 10:44 AM

以前、Indeed.comから求人情報のスクレイピングする方法を紹介しました。今回はOctoparseを使って、日本最大級の転職求人サイト「リクナビNEXT」から求人情報をスクレイピングしようと思います。「リクナビNEXT」はベテラン経験者から若手未経験者まで、550万人以上の転職希望者が利用している、実績ある転職サイトです。この例を通じて、仕事を探している方にお役に立てれば何よりです。

 この例に使うURL:

https://next.rikunabi.com/lst/?leadtc=n_ichiran_panel_submit_btn&__m=15282569740404138988492750285585

(「リクナビNEXT」サイトで予め職種と勤務地を選択しても、その特定のURLを新しいページで開くなら、以上のURLになります。ですから、職種と勤務地を選択したい場合はOctoparseの内蔵ブラウザで選択してください。)

 

以下はチュートリアルの主な手順です。[タスクファイルをダウンロードする ]

1) 「Webページを開く」 - 内蔵ブラウザで対象のWebページを開く

2)  ページ遷移のループを作る - 複数のページからデータを取得する

3) 「ループアイテム」を作る - 各ページ上のデータを取得する

4)  データを抽出する - 抽出したいデータを選択する

5)  データカスタマイズ - 余計なデータを削除する

6)  抽出タスクを始める - タスクの実行を行いデータを取得する

 

 

1) 「Webページを開く」 - 内蔵ブラウザで対象のWebページを開く
  • 「カスタマイズモード」を選択し、タスクを作ります。 自由度の高い「カスタマイズモード」は、複雑なウェブサイトを対応できます。
  •  URLを入力して「URLを保存する」をクリックします。
  • 「ワークフロー」をオンにするとタスクの作りはやすくなります。 

2) ページ遷移のループを作る - 複数のページからデータを取得する
  • ページ遷移にある「 > 」ボタンをクリックし、「操作ヒント」パネルから「単一要素をクリックする」を選択します。
3) 「ループアイテム」を作 - 各ページ上のデータを取得する
  •   ステップ2では、2ページ目に移動しました。ですから、「Webページを開く」をクリックして1ページ目に戻ります。
  • 「ページネーション」をクリックします。
  •   ページにある一番目の仕事のタイトルをクリックすると、Octoparseは同じページに残るURLを自動的に識別します。
  • 「操作ヒント」にある「すべて選択」をクリックします。
  • 「各URLをループクリップする」をクリックします。

 

4) データを抽出する - 抽出したいデータを選択する
  • 「ループアイテム」をクリックします。
  • 「ループアイテム」にある1番目のデータを選択し、「要素をクリックする」をクリックして、詳細ページを開きます。
  • 「求人情報」をクリックして、「操作ヒント」パネルから「要素をクリックする」を選択して、詳細の求人情報が出てきます。

 

  • 必要なデータをクリックし、「操作ヒント」にある「データを抽出する」を選択します。
  • フィールド名を編集します。

 

ヒント!

仕事の内容、求めている人材などの情報を抽出するなら、近くの2箇所のデータを関連付ける方法でも抽出できます。

 

 

5) データカスタマイズ - 余計なデータを削除する

  場合によっては、必要なデータが不要な文字列と一緒になることがあります。たとえば、会社名を抽出したいですが、それをクリックして横にある「企業ページ」も一緒に抽出されます。この場合、まずすべてを抽出し、不要な文字列を削除するために抽出したデータを再フォーマットする必要があります。 

  「会社名」にある不要なデータを削除する

  • 「会社名」データを選択し、「データフィールドをカスタマイズする」をクリックします。
  • 「抽出データを再フォーマットする」と「ステップを追加する」を選択し、「置き換える」をクリックします。
  • 「置き換える」に 「    企業ページ」を入力、「計算する」をクリックします。
  • 「OK」をクリックします。

6) 抽出タスクを始める - タスクの実行を行いデータを取得する

 

  • 「保存する」をクリックします。
  • 「抽出開始」をクリックします。

 

 

この記事は役に立ちましたか?もしご不明な点がございましたら、いつでもお問い合わせください!

btn_sidebar_use.png
btn_sidebar_form.png