【scalaでスクレイピング】scalaでjsoupを使う

【scalaでスクレイピング】scalaでjsoupを使う

jsoup は Java のライブラリでHTMLの解析がおこなえます。

URLからWebページを取得できますし、CSSセレクタで
タグの検索とかできます。

そして、何より文字コードの判定を自動でしてくれて、
ほぼ文字コードの変換処理いらずです。

これは、ほんとに助かります。

まだまだUTF-8じゃないサイトもあって、
スクレイピングの悩みのもとですから!!

jsoupのインストール

build.sbtに下記を記述するだけです。

scalaでの゙jsoupの使用例

・URLへのアクセス

・ユーザエージェントを指定して、URLへアクセスする

・POST通信でのアクセス

まとめ

・jsoupは、Javaのライブラリで、もちろんscalaでも使用できます
・文字コードの判定も結構自動でやってくれます
・何より簡単に扱えます

以上です!

関連記事

コメントは利用できません。

ピックアップ記事

  1. 2014/5/14

    会社の形態

ピックアップ記事

  1. 2016-6-24

    目指せリア充!今流行っているSNS3選!!

    みなさんこんにちは!インターンの押田です。突然ですがみなさんはSNSを活用していますか?僕はTwit…

ピックアップ記事

  1. 2016-8-11

    jqueryでtableを整形する便利プラグインDataTables!

    jqueryとDataTablesでお手軽table操作Webページで動的なデータの表を作ることって…

ピックアップ記事

  1. 2018-7-2

    【Report1】IMフォーラム★ゴールドスポンサーとして協賛&登壇

    IMフォーラム★ゴールドスポンサーとして協賛&登壇広報宣伝部のエバンジェリスト 黒田美穂 こと “く…
ページ上部へ戻る
Top