リンク抽出:ページ内のすべてのリンクを取得
URLを入力するか、HTMLを貼り付けます。すべてのリンクを、完全なURL、アンカーテキスト、内部・外部の種類、nofollow・sponsored・ugcのフラグとともに取得し、絞り込み、重複の削除、CSV出力ができます。
| URL | アンカーテキスト | 種類 | rel | × |
|---|
このリンク抽出ツールは、Webページからすべてのリンクを取り出し、整ったリストにします。各URLは絶対URLに直され、 人がクリックするアンカーテキスト、リンクが内部か外部か、nofollow、sponsored、ugcが付いているかも分かります。 URLを入力すれば公開中のページを取得し、HTMLを貼り付ければ、ブラウザの中だけで非公開のまま抽出できます。 結果は絞り込み、重複の削除、CSV出力ができ、無料で、登録も不要です。
Webサイトからリンクを抽出する手順
- モードを選びます。WebページのURLは、ページを代わりに取得します。貼り付けたHTMLは、すでに手元にあるソースコードを処理します。
- ページのアドレスを入力し(またはHTMLを貼り付け)、リンクを抽出を押します。リダイレクトは追跡され、リンクは最終的なアドレスを基準に解決されます。
- 概要を確認します。リンクの総数、一意のURL、内部、外部、そしてnofollow、sponsored、ugcの件数が表示されます。
- 絞り込みます。種類とrelのフィルタと検索ボックスを使います。重複するURLを削除のチェックを外すと、ページ上の順番で、すべての出現を確認できます。
- 結果を持ち帰ります。URLをコピーする、スプレッドシート用にCSVをダウンロードする、一括URLオープナー(英語)に送ってタブで開く、のどれかを選べます。
URLからか、貼り付けたHTMLからか:どちらを使うか
URLモードは、公開ページ向けの手軽な方法です。ブラウザは、あるWebサイトが別のサイトのページを読むことを許していません(同一オリジンポリシー)。 そのため、ページはMarqlyのサーバーが取得し、リンクの一覧だけを返します。 HTMLはサーバーが届けるとおりに読み取り、JavaScriptは実行しません。検索エンジンのクローラーが、描画の前に最初に目にするものと同じです。
HTMLを貼り付けるモードは、サーバーに一切接続しません。次のような場合に使ってください。
- ページがJavaScriptでリンクを組み立てている。ページを開き、開発者ツールで
<html>要素を右クリックして、outer HTMLのコピーを選び、ここに貼り付けると、描画されたとおりのリンクが得られます。 - ページにログインが必要、またはあなたのセッションにだけ内容を表示している。
- サイトが自動化されたリクエストをブロックしている。ボットには403やチャレンジのページを返すサイトもありますが、あなた自身のブラウザなら、ページを読み込んでソースを渡せます。
- HTMLがそもそもWebページではない。メールのテンプレート、保存したファイル、エクスポート、CMSの断片などです。
貼り付けモードでベースURLを入れると、/pricingや../docsのような相対リンクが、完全なアドレスになります。 HTMLに独自の<base href>があれば、ブラウザと同じように、そちらが優先されます。
各列の意味
URL
リンク先を、ブラウザと同じ方法で解決した絶対URLです。相対パスはページのアドレス(または<base>要素)を基準に、&のようなHTMLエンティティはデコードされます。#commentsのようにページ内を移動するだけのリンクは、 そのページ自身のURLにフラグメントを付けたものになります。
アンカーテキスト
リンクの表示されている文字です。文字のない画像リンクでは、画像のaltテキストを使い、それもなければ、リンクのaria-labelかtitleを使います。 空のセルは、リンクにアクセシブルなテキストがまったくないことを意味します。スクリーンリーダーの利用者にとっても、 アンカーテキストでリンク先を理解する検索エンジンにとっても、直す価値があります。
種類:内部、外部、その他
内部のリンクは、先頭のwww.を無視して、ページと同じホストを指します。外部のリンクは、それ以外のすべてを指します。同じドメインの別のサブドメインも、別のホストなので外部です。その他には、Webではないリンク(mailto:、tel:、javascript:など)が入ります。 ベースURLなしの貼り付けモードでは、相対リンクを解決できませんが、相対リンクは常に自分のサイトを指すため、内部として数えます。
rel:nofollow、sponsored、ugc
rel属性は、サイトがリンク先のページとどんな関係にあるかを、検索エンジンに伝えます。Googleの外部リンクの扱いに関する案内が、 3つの値を定めています。
- sponsored:広告や有料の掲載。
- ugc:コメントやフォーラムの投稿など、ユーザーが作ったコンテンツの中のリンク。
- nofollow:ほかの値が当てはまらず、サイトとしてリンク先と関連づけられたくない場合。
値はスペースまたはカンマで区切って組み合わせられ(rel="ugc nofollow")、抽出ツールはどちらの形式も読み取ります。 3つのどれもないリンクはfollowedと表示します。noopenerやnoreferrerなど、そのほかのrelの値も列には表示されますが、 この状態は変わりません。それらは、検索エンジンではなく、ブラウザのセキュリティやリファラーの情報に関わるものだからです。
×(出現回数)
重複を削除しているとき、同じURLがページに何回現れるかを示します。料金ページの回数が3なら、たいていヘッダー、本文、フッターのリンクです。 アンカーテキストには最初の出現のものが使われます。重複削除のチェックを外すと、すべての出現が、それぞれのテキストとともに表示されます。
リンクをCSVに出力する
CSVをダウンロードは、現在の絞り込みに合うリンクを、url、anchor_text、type、rel、occurrencesの列で保存します。 Excel、Googleスプレッドシート、Numbersで開けます。アンカーテキストは自分では管理できないページから来るため、=、+、-、@で始まるセルには、先頭にアポストロフィを付け、 スプレッドシートが数式として実行するのを防いでいます。
リンク抽出ツールの主な使い道
- SEO監査。ページの内部リンクを数え、リンクされていない重要なページを見つけ、 有料リンクやアフィリエイトのリンクに
sponsoredが付いているかを確認します。 - リンク切れの発見。ページの外部リンクを抽出し、リンク切れチェッカーに貼り付けて、エラーを返すものを調べます。 怪しいものは、リダイレクトチェッカーでたどってください。
- 資料集め。「おすすめの資料」のページ、ニュースレターのアーカイブ、カンファレンスのスケジュールを、 並べ替え、絞り込み、順に確認できるリストにします。
- コンテンツの移行。古いページを移す前にすべてのリンクを一覧にして、 消えようとしているURLを指すリンクが残らないようにします。
- メールのテンプレートの確認。ニュースレターのHTMLを貼り付けて、すべてのリンクが正しい行き先を指し、 正しいトラッキングパラメータが付いているかを確かめます。パラメータを取り除くなら、URLクリーナーを使ってください。
制限事項と注意点
- 抽出するのは
<a href>のリンクだけです。イメージマップのエリア、JavaScriptで移動するボタン、プレーンテキストで書かれただけのURLは、HTMLの意味ではリンクではないため、含まれません。 - 非表示のマークアップは無視します。URLモードでは、コメント、スクリプト、スタイル、テンプレートの中のリンクは、訪問者が見ることもクリックすることもないため、対象外です。
- URLモードのサイズ上限:HTMLは最初の2MB、リンクは1ページあたり最大5,000件です。ページが途中で打ち切られたときは、ステータス行でお知らせします。
- 公開ページのみ。取得ツールは、プライベートネットワークのアドレス、パスワードが埋め込まれたURL、80と443以外のポートを拒否し、HTMLの応答だけを読み取ります。PDFや画像のURLは受け付けません。
- 1ページずつ。これはクローラーではありません。サイト全体を調べるなら、気になるページを1つずつ実行するか、サイトマップから始めてください。
プライバシー
貼り付けたHTMLは、お使いのブラウザが解析し、ブラウザの外に出ることはありません。URLモードでは、Marqlyのサーバーが ユーザーエージェントMarqlyLinkExtractor/1.0でページを要求します。応答はリンクを集めるために1度だけ読み取られ、 ページも結果も保存されません。絞り込み、重複の削除、出力は、常にお使いのブラウザの中で行われます。
取っておきたいリンクを残す
リンクのスプレッドシートは、ある時点のスナップショットで、たいていはフォルダの中で古くなっていきます。抽出したリンクの中に、 あとで戻ってきたいものがあれば、Marqlyに保存してください。ブックマークはどれもタイトルとタグを保ち、 自分で整理するボードに入り、ブラウザ拡張機能とiOS・Androidのアプリに同期されます。無料プランは100件まで保存でき、Proは無制限で、全文検索と意味検索が加わるので、 書かれていた内容から、ページを探せます。すでに数千件のリンクを保存しているなら、先に重複ブックマーク検出で整理してください。
よくある質問
Webサイトからすべてのリンクを抽出するには?
ページのアドレスをリンク抽出ツールに貼り付けて、「リンクを抽出」を押します。ページを取得し、すべてのリンクを、完全なURL、アンカーテキスト、内部か外部かの種類、rel属性とともに一覧にします。絞り込み、重複の削除、コピー、CSVでのダウンロードもできます。処理は1ページずつです。サイト全体なら、大切なページか、サイトマップにあるページを1つずつ実行してください。
画面で見えているリンクと比べて、足りないリンクがあるのはなぜですか?
URLモードは、サーバーが返すHTMLを読み取るだけで、JavaScriptは実行しません。そのため、ページの読み込み後にスクリプトが追加するリンク(無限スクロール、多くのシングルページアプリ、一部のメニューなど)は含まれません。ページを開き、ブラウザの開発者ツールで描画後のページのHTMLをコピーして、「HTMLを貼り付け」モードに貼り付ければ、そうしたリンクも取得できます。
内部リンクとはどのようなリンクですか?
ページと同じホストへのリンクです。先頭のwww.は無視するため、example.comとwww.example.comは、互いに内部リンクになります。blog.example.comのような別のサブドメインは、検索エンジンや解析ツールがふつう別のサイトとして扱うため、外部リンクとして表示されます。mailto:、tel:、javascript:のリンクは「その他」にまとめます。
nofollow、sponsored、ugcとは何ですか?
サイトが外部へのリンクに付ける、rel属性の値です。Googleの案内では、広告や有料の掲載にはsponsored、コメントやフォーラムの投稿などユーザーが作ったコンテンツの中のリンクにはugc、それ以外の値が当てはまらない場合にnofollowを使うとされています。値は組み合わせられ、たとえばrel="ugc nofollow"のように書けます。3つのどれも付いていないリンクは、followed(通常)と表示します。
貼り付けたHTMLは、サーバーに送られますか?
いいえ。「HTMLを貼り付け」モードでは、すべてがブラウザ内蔵のHTMLパーサーで処理され、何もアップロードされません。サーバーが関わるのはURLモードだけです。ブラウザは、Webページが他のサイトを直接読むことを許さないため、Marqlyのサーバーがそのページを取得し、見つけたリンクを返します。ページも結果も、コピーは保存しません。
ログインが必要なページからも、リンクを抽出できますか?
URLモードではできません。取得はあなたのCookieなしで行われるため、ログアウト状態のページが見えます。ログインしてページを開き、ブラウザの開発者ツールからHTMLをコピーして、「HTMLを貼り付け」を使ってください。ベースURLとしてそのページのアドレスを入力すれば、相対リンクも解決されます。
制限はありますか?
URLモードでは、1ページにつきHTMLを2MBまで、リンクを5,000件まで読み取ります。また、自動化されたスクリプトが他の人の利用を妨げないよう、1分あたりのリクエスト数に上限があります。リクエストが多すぎるという表示が出たら、1分待ってください。貼り付けたHTMLには、サーバー側の制限はありません。表に表示されるのは最初の1,000行ですが、コピーとCSV出力には、条件に合うすべてのリンクが含まれます。





