概要
Rowvanaは、ブラウザで見えている内容を読み取り、行と列に整理します。ほとんどの作業は、次のいずれかに当てはまります。
画面に見えているものがすべてです。ログインが必要なページや、JavaScriptで作られたページでも動作します。収集したデータはブラウザ内に保存され、Rowvanaのサーバーには送信されません。
インストールして開く
- Chrome ウェブストアで Rowvana を開き、Add to Chrome を押します。
- Chrome のツールバーにあるパズルアイコンをクリックし、Rowvana をピン留めすると、1クリックでアクセスできるようになります。
- 任意のウェブページを開き、Rowvana のアイコンをクリックします。Rowvana は右側の Chrome のサイドパネルに開き、ページ内を移動している間も開きっぱなしになります。
開始にあたってアカウントは必要ありません。無料プランはサインアウトしたままでもご利用いただけます。スクレイパーの保存、無料トライアルの開始、またはプランの購入時にのみアカウントが必要になります(アカウントとプランをご覧ください)。
- トップバー: データ収集中または準備完了時の行カウンター · 🔔 通知 · ☀/🌙 ライトまたはダークモード · ⤢ Rowvana を別ウィンドウで開く · Sign in またはあなたのプロフィール画像。
- タブ: Scrape · Results · Scrapers · Settings。
- ボタンの機能がわからない場合: マウスを合わせると、すべての操作ボタンに簡単なヒントが表示されます。
アップデートは自動的にインストールされます。Chrome が数時間ごとに新しいバージョンを確認するため、お客様側で何か作業を行う必要はありません。
はじめてのスクレイピング:見つける → 確認する → 収集する → ダウンロードする
練習には、このために作られたサイト books.toscrape.com がおすすめです。RowvanaはSimpleモードで起動するため、コードやセレクターが表示されることはありません。
1. 見つける
- リストのあるページを開き、Rowvanaを開きます。"Turn this page into a spreadsheet"が表示されます。
- 紫色の ✨ Find data on this page を押します。Rowvanaがページのメインのリストを選択し、たとえば "Found 20 items on this page" と表示します。アイテムはページ上で青い枠線で囲まれます。
- 目的のリストではありませんか?プレビューの下にある Not the right list? → Other list でページ上の次のリストやテーブルに切り替えることができ、Pick on page で自分でアイテムをクリックして選ぶこともできます。
- "No list found on this page": 最初に検索を行うかカテゴリを開くか、スクロールすると読み込まれるページの場合は少しスクロールするか、自分でアイテムを選択してください。
- "Rowvana can't read this page": Chromeの仕様上、独自のページ(
chrome://、ウェブストア、新しいタブなど)は拡張機能で読み取ることができません。通常のウェブサイトを開いてください。 - スタート画面のTemplatesは、ショップの検索ページの製品、Google Mapsの場所、ページ内のあらゆるテーブルなどをすばやく開始するための機能です。
2. 確認する
- Preview · first 3 of 20 では、Excelでの見栄えのまま行が表示されます。Show on page を押すと、再びアイテムが枠線で囲まれます。
- ページ自身のラベルやコンテンツから、列の名前が自動的に付けられます(タイトル、価格、元の価格、評価、レビュー、リンク、画像など)。価格、評価、レビュー数は実際の数値として取得されるため(「S$1,299.00」→ 1299)、Excelで並べ替えや計算が可能です。
- ある列がほとんど空の場合、たとえば "Rating is empty in 12 of 20 items" と表示され、Fix it on the page や Leave it out を選ぶことができます。
3. 収集する
下部のバーに取得できる内容が表示されます(「5 columns · this page」など)。緑色の ▶ Collect 20 items を押します。複数ページや詳細ページが有効な場合は、▶ Collect data と表示されます。
- 実行中には、これまでに収集された行数、完了したページ数、残り時間が表示されます。Rowvanaを閉じても問題ありません(タブを開いたままにし、Chromeを起動しておいてください)。
- Stop を押すと、そこまでに収集されたすべての行が保持されます。
4. ダウンロードする
- 完了すると、列、ページ、時間とともに "20 rows ready" と表示されます。緑色の Download Excel を押すか、CSV · JSON · Copy を選んでください。
- ページが時間内に読み込まれなかった場合は、"with gaps" と不足している内容が表示されます。Download available rows で残りのデータを取得できます。
- Save this setup を押すと、次回のスクレイパー設定が保存されます。← Back to the setup で設定画面に戻ります。
Start over は上部行にある ↺ ボタンです(⋯ メニュー内にもあります)。このスクレイパーのアイテム、列、ページ設定がクリアされます(保存したスクレイパーや結果は残ります)。
列を整える
プレビューの下にある Edit columns を開きます。各列には1つの行があります:
- チェックボックス: 列のチェックを外すと、除外されます。Left out の下に移動します。もう一度チェックすると戻ります。
- 名前: クリックして名前を変更します。⋮⋮:ドラッグして順序を変更します。
- 行を指し示すと、Rowvanaはページ上のすべてのアイテム内にあるその値を緑色で囲みます。
- ⋯ メニュー: 名前を変更 · 完全なテキストを取得(最初に「Show more」を開きます) · 数値のみ · 画像ファイルを保存 · ページ上で変更 · 削除。
- + Add a column, click it on the page:1つのアイテム内で抽出したい要素をクリックすると、Rowvanaがすべてのアイテムからそれを見つけ出します。
安全なCSV。 =、+、-、または @ で始まるウェブページのテキストは、ExcelやGoogle Sheetsで数式として実行される可能性があります。Rowvanaは、CSVおよびコピーにおいて、そのようなテキストの前に ' を追加します。-12.5 などの通常の数値はそのままになります。
More pages
Need more data? (Optional)を開き、More pagesをオンにします。Rowvanaがこのサイトの2ページ目の表示方法を自動的に判別し、"✓ Found page numbers in the address"のように表示します。
- Up to [10] pagesを設定します。バーに、取得できる行数の目安が表示されます。
- 判定が間違っている場合は、Changeを押してNext · Numbers · Scroll · Load moreの中から選択してください。NextとLoad moreの場合はページ上のボタンを直接指定でき、Numbersの場合は2ページ目のアドレスを貼り付けます。
- スクロールするにつれて読み込まれるページ(Google MapsやSNSのフィードなど)では、Scrollを使用します。
- 読み込みが間に合わなかったページはスキップされて実行が続けられ、完了画面でお知らせします。
各商品の詳細ページからデータを取得する
ショップサイトでは、一覧ページには名前と価格しか表示されていないことがよくあります。ブランド、出品者、説明文、仕様などは、個別の商品ページに掲載されています。Rowvanaはそれらのページを1つずつ開き、選んだ項目を追加することができます。
- ステップ 2 と同様に一覧を設定します。
- Need more data? を開き、Open each item's page をオンにします。Rowvanaが商品のリンクが含まれている列を表示します(例:"✓ Each item has its own page (column “Link”)")。間違っている場合は Change を押してください。
- Open the first item for me を押し、そのページで取得したい詳細(価格、ブランド、出品者など)をクリックします。それぞれがチップになり、×で削除できます。
- 取得するアイテム数を Open up to [20] から選びます。おおよその所要時間が表示されます。
- ▶ Collect data を押します。
- ページはバックグラウンドタブで1つずつ開くため、現在のタブはそのままで操作できます。
- 読み込めなかったページがある場合でも、その行の一覧データは保持され、完了画面に件数が表示されます。
- ディレクトリやリスティングの場合は、Also collect emails & phones from each item's page にチェックを入れます。
- まずは20件で結果を確認してから、件数を増やしてください。
Google Maps とディレクトリサイト
Google Maps では、結果をクリックしても新しいページは開かず、住所、電話番号、ウェブサイト、営業時間などが書かれたパネルがリストの横に開きます。Rowvana は、各結果をクリックしてパネルを読み込み、次の項目へ進むことができます。
- Google Maps で検索を行い(例:dentist in Leeds)、左側に結果のリストが表示される状態にします。特定の場所の詳細ページではなく、検索結果の一覧画面を開いておいてください。
- Rowvana を開き、Places from Google Maps テンプレートを選択するか、✨ Find data on this page を押します。
- Open each item's page をオンにします。Google Maps の場合は "In a panel here" と表示されます。これで Rowvana が各結果をクリックしてパネルの情報を読み取ります。
- More pages をオンにします。Google Maps では、Rowvana が結果リストをスクロールしてさらに多くのデータを読み込みます。
- ▶ Collect data を押し、完了したら Download Excel を押します。
スクロール中は Maps のタブを手前に表示したままにしてください。 Chrome はバックグラウンドのタブの動作を遅くするため、Google が新しい結果の読み込みを止めてしまうことがあります。
数千件のデータが必要ですか? Google は 1 回の検索につき約 100〜120 件の結果しか表示しません。「dentist in Leeds city centre」、「… in Headingley」などエリアごとに検索を分けてスクレイパーを保存し、それぞれの検索で実行してください。
Emails & phones
開始画面の More ways to collect から、Emails & phones を選択します。すべてのプランでご利用いただけます。
- サイトのページを開き、Find emails & phones を押します。
- Also check the site's Contact page はデフォルトでオンになっています。このページにメールアドレスや電話番号がない場合、Rowvanaがバックグラウンドタブで「お問合せ(Contact)」ページを確認します。
- 各メールアドレスと電話番号には Copy ボタンがあります。Copy all もあり、Save to Results をクリックすると、URL、ページタイトル、メールアドレス、電話番号を含む1行が作成されます。
Rowvanaは、リンク内、テキスト内、および偽装された形式(「name [at] site [dot] com」など)のアドレスを見つけます。画像名やサンプルのアドレスは除外されます。電話番号は、ベンガル数字を含め、多くの形式やスクリプトで認識されます。
複数のサイトを一度に処理するには、a list of URLs を使用します。ディレクトリ内の各アイテムに対しては、Emails & phonesのチェックボックスをオンにした状態で Open each item's page を使用します。
連絡先情報は個人データです。正当な利用目的があるもののみを収集し、サイトの利用規約や、お住まいの地域のプライバシー法・迷惑メール対策法を遵守してください。
List of URLs
すでにリンクをお持ちですか?開始画面の More ways to collect から List of URLs を選択します。
- リンクを1行に1つずつ貼り付けるか、Upload .txt or .csv を行います。Rowvanaが数え上げ、重複やリンク以外のものは除外します。
- 各ページから収集する内容を選びます:
- Emails & phones:URLごとに1行。
- Details you pick:Rowvanaが最初のリンクを開きます。欲しい詳細をクリックすると、すべてのURLから同じ項目が読み取られます。
- The list on each page:Rowvanaが最初のリンクからリストを見つけます。列を確認すると、すべてのURLが結果ページのように読み取られます。
- Collect from N URLs を押します。
各URLは、ご利用プランの1回あたりの実行ページ数(無料版:5ページ)において1ページとしてカウントされます。読み込めないURLはスキップされ、エラーにはなりません。
結果とダウンロード
Resultsタブには、最後に収集したデータが保存されます(サイト名、行数、列数、処理時間の概要行、「Filter rows」での検索機能、および最初の200行)。ダウンロードには常にすべてのデータが含まれます。
| Excel | 太字で固定されたヘッダー行とフィルター付きの、本格的な .xlsx ファイルです。数値は数値として保存されます。 |
|---|---|
| CSV | UTF-8エンコーディングのため、日本語などの文字もExcelで正しく表示されます。 |
| JSON | プログラムで使用するためのすべてのデータです。 |
| Copy | タブ区切り形式:Google Sheetsにそのまま貼り付けられます。 |
| Clear | 結果を削除します(事前に確認画面が表示されます)。設定内容は保持されます。 |
無料プランでは、1回のダウンロードで最大500行まで取得できます。これより多い行数がある場合は、ダウンロード前にRowvanaがお知らせします。
保存済みスクレイパー
保存済みスクレイパーには、抽出項目、列、追加ページ、詳細ページの設定がすべて保持されます。完了画面の Save this setup または ⋯ メニューから保存できます。保存には無料のアカウントが必要です。
- Scrapers タブには、Run、Load、および ⋯(名前の変更、削除)とともにリストが表示されます。
- Run for this site: スクレイパーが保存されているサイトを開いている場合、上部にカードが表示され、1クリックで実行できます。
- Templates は、すぐに使える開始用テンプレートです。Practice on a demo site には、練習に安全な2つのデモサイトが含まれています。
- Export all / Import scraper: スクレイパーを別のパソコンに移行したり、
.rowvana.jsonファイルとして共有したりできます。- ファイルには設定のみが保存されます。アカウント、プラン、プロキシ、APIキーは一切含まれず、サイトのログイン用トークンも削除されます。
- インポートする前に、スクレイパーがどのサイトを開くかを確認するメッセージが表示されます。
- インポートしたスクレイパーは、お使いのプランの範囲内で実行されます。
Advanced モード
Simple | Advanced の切り替えスイッチは、Scrape タブの上部にあります。どちらのモードでも同じスクレイパーを編集するため、内容を失うことなく自由に切り替えることができます。
- すべてのコントロール: マッチ数と Test が付いたアイテムセレクター、各列のセレクター(CSS、XPath、JSON)、取得する対象(テキスト、リンク、画像、その他の属性)、ページ数とアイテム数の正確な指定。
- ⚡ Auto-setup: list + item panel: 1回押すだけで Google Maps のようなサイトを設定できます。リストを見つけて最初のアイテムをクリックし、パネルの構造を学習して2つ目のアイテムを確認します。
- Fast mode: read the site's own data: 多くのサイトは、リストを裏側でデータとして読み込んでいます。Fast mode はそのデータを監視し、ページに一致するものを選択して直接読み込みます。通常よりも高速で、より多くの列を取得できることがよくあります。Find the API を押し、通常どおりサイトを操作してから、Check again を押してください。このようなデータを持たないサイトもあります。その場合は通常の方法を使用してください。
- Get the full text: 読み取る前に、フィールド自身の「Show more」を開きます。
Settings
- Appearance: Auto · Light · Dark。上部バーの ☀/🌙 ボタンでも切り替えられます。
- Account & plan および Help & feedback: 問題の報告、アイデアの送信、ガイド、メールでのお問い合わせ。
- Scraping:
- Respect robots.txt (デフォルトでオン): サイトがボットのアクセスを求めていないページは読み取られず、Rowvanaがその理由をお伝えします。
- Page load timeout (30秒): 読み込みが停止したページはスキップされます。
- Wait between item pages (1秒がほとんどのサイトで安全です)。
- Images: ダウンロードした画像ファイルの保存先(Downloads内のフォルダ、または選択したフォルダ)。
- Advanced: for experienced users:
- Proxies (プロキシリストまたはプロキシサービス): 多くのページ閲覧後にブロックするサイト用です。
- API keys: 各キーには Site が設定されており、そのサイトにのみ送信されます。
- Developer mode は、私たちに送信できる詳細なログを書き込みます。
- Danger zone: Reset Rowvana… (クリアする項目にチェック)とアカウントの削除。
プロキシとAPIキーは、お使いのパソコンのこのChromeプロファイル内に保存されます。Rowvanaのサーバーに送信されることはありませんが、このパソコンを使用する他の人が見ることが可能です。
アカウントとプラン
アカウントなしの無料版: 1回の実行につき最大5ページ、1回のダウンロードにつき最大500行まで、データの収集、プレビュー、ダウンロード、コピーが可能です。
無料アカウントを作成すると、スクレイパーの保存機能や、有料プランの無料トライアルが利用できるようになります。Sign in with Google、またはメールアドレスとパスワード(Create an account、8文字以上)でサインインしてください。メールアドレスで登録する場合は、トライアルを開始または購入する前に、こちらからお送りするメール内のリンクからアドレスを確認してください。Forgot password? をクリックすると、再設定用のリンクが送信されます。
- 有料プランでは、制限が引き上げまたは撤廃され、詳細ページデータの取得、Maps panels、Fast mode、画像ファイル、プロキシなどの機能が追加されます。詳細と価格は料金ページをご覧ください。
- ご加入のプランに含まれていない機能には、そのプラン名が表示された小さなバッジが付きます。
- プロフィール画像 → メニュー: プランとその有効期限、Manage plan、Report a problem、Sign outが表示されます。画像の周りのリングは、プランの期間がどれくらい残っているかを示しています。
- 1つのアカウントにつき、同時に利用できるパソコンは1台までです。別の場所でサインインすると、こちらのセッションはサインアウトされますが、Sign in hereをクリックすれば元に戻せます。
- アカウントのデータはブラウザ内にそれぞれ個別に保存されます。サインアウトしても、ワークスペースが空になるだけでデータは削除されません。
ヘルプとよくある問題
- 🔔 通知: 新しいバージョン、オファー、プランのリマインダー、お送りいただいた問題報告への返信。新しい通知があるときは、ベルのアイコンとツールバーのアイコンに数字が表示されます。
- 問題の報告 (Settings → Help & feedback、アカウント画像のメニュー、またはエラー画面):
- 何が起きたかをご記入ください。
- Include technical detailsにチェックを入れたままにしてください。What's included?に、送信される内容が正確に記載されています。
- スクレイピングしたデータ、プロキシ、キーが送信されることは一切ありません。
- 返信は、メールおよびベルのアイコンからお届けします。
データが違うリストを選んでしまう
列が空欄になっている、または内容が違う
More pagesがオンになっているのに、最初のページしか取得できない
Google Mapsの取得が数件の結果で止まってしまう
サイトに "Access denied" やCAPTCHAが表示される
Rowvanaを閉じると実行は止まりますか?
ベンガル文字などのスクリプトがExcelで文字化けする
それでも解決しない場合は?
上手に使うためのコツ
- まずはプレビューで確認してから、多くのページを収集しましょう。
- まずは少量から:20件ほどの詳細ページで試してから、数値を増やしましょう。
- サイトに負担をかけないように:詳細ページ間の待機時間は1秒以上に設定しましょう。
- よく使うスクレイパーは保存しておき、次回はワンクリックで実行しましょう。
- ログインが必要なサイトは、事前にご自身でログインしておいてください。Rowvanaはお使いのブラウザのセッションを利用します。
- サイトのルールを守りましょう:利用規約を確認し、robots.txtを尊重し、個人情報の取り扱いには十分注意してください。