Quickstart

APIキーを環境変数に入れ、公開Base URLへ送信します。結果には request_id、取得サマリー、Credits が含まれます。

cURLJSON responsestore_artifact=false

コピーしやすい形

Base URL とAPIキーを分けて扱います。

保存は明示

結果ファイル保存はデフォルト無効です。

調査しやすい

request_id をサポートとログ確認に使います。

URLFetchNormalizeExtractJSON"title":..."links":...
Quickstart - /v1/scrape
curl -sS -X POST https://api.crawl-hub.shian.space/v1/scrape \
  -H "Authorization: Bearer $CRAWL_HUB_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"url":"https://jp.mercari.com/item/...","params":{"mode":"html_json","work_type":"auto","include_html":false,"store_artifact":false}}'
{"request_id":"req_...","resolved_site":"mercari","fetch_summary":{"status":"completed","attempts":1},"cost_units":2,"data":{"title":"...","price":12800}}

クイックスタート

APIキーを作成し、URLを送ってHTMLまたはJSONを取得します。

Base URL

https://api.crawl-hub.shian.space

最初のrequest

curl -X POST https://api.crawl-hub.shian.space/v1/scrape -H "Authorization: Bearer $CRAWLHUB_API_KEY" -H "Content-Type: application/json" -d '{"url":"https://example.com/item/1","params":{"mode":"html_json","work_type":"auto","include_html":false,"store_artifact":false}}'

取得サマリー

{"request_id":"req_...","resolved_site":"mercari","fetch_summary":{"status":"completed","attempts":1},"cost_units":2,"data":{"title":"...","price":12800}}

未対応ドメイン

未対応または高リスクのドメインは、暗黙に取得せず審査または制限の対象になります。

OpenAPIリファレンス