Bỏ qua tới nội dung
TakoAPI
Quay lại kỹ năng

gpu-cluster-monitor

bởi sounderliu

Web & Frontend Development
295Lượt tải do clawskills.sh công bố
0Lượt xem
0 lượt thíchĐăng nhập để thích kỹ năng này
—Chưa có đánh giá
Đánh giá của bạn

Tóm tắt

A high-performance engineering tool for deep web scraping.

Mô tả

Kỹ năng này làm gì

A web scraping tool that runs inside a Docker container using Crawlee and Playwright to extract content from sites with anti-bot protections. Targets JavaScript-heavy platforms like YouTube and X/Twitter. Outputs structured JSON with status, content type, and raw data.

Running Playwright inside Docker bypasses bot detection that blocks standard HTTP-based scrapers on protected sites.

Khi nào nên dùng

  • Extracting transcripts from YouTube videos
  • Scraping posts or threads from X/Twitter
  • Getting raw text from JavaScript-rendered pages
  • Feeding scraped content directly into LLM pipelines
  • Collecting video descriptions in bulk from YouTube

Quy trình ví dụ

ĐẦU VÀO

User asks: Get the transcript from this YouTube video URL

AGENT
  1. 1

    Validates the YouTube video ID from the provided URL

  2. 2

    Runs the Docker container with the target URL as argument

  3. 3

    Crawlee and Playwright load the page and intercept transcript data

  4. 4

    Parses the JSON output from stdout for status and data fields

ĐẦU RA

JSON object with status SUCCESS, type TRANSCRIPT, videoId, and full transcript text

Yêu cầu

  • Docker installed and running on the host machine

Cài đặt

clawhub install sounderliu/gpu-cluster-monitor

Chạy lệnh CLI, hoặc dán prompt vào Claude Code, Cursor, Codex hay coding agent bạn đang dùng.

Liên kết