Bỏ qua tới nội dung
TakoAPI
Quay lại kỹ năng

ollama-model-tuner

bởi gblockchainnetwork

DevOps & Cloud
436Lượt tải do clawskills.sh công bố
1Lượt xem
0 lượt thíchĐăng nhập để thích kỹ năng này
—Chưa có đánh giá
Đánh giá của bạn

Tóm tắt

Optimize Ollama models/prompts using local datasets, eval metrics, and iterative tuning.

Mô tả

Kỹ năng này làm gì

Tunes Ollama models locally using custom datasets, prompt engineering, and LoRA fine-tuning. Supports A/B testing prompts, customizing Modelfiles, and benchmarking model performance against eval metrics. No cloud services or external APIs required.

Runs the entire tuning loop on local hardware, so sensitive training data never leaves the machine and there are no per-token API costs.

Khi nào nên dùng

  • Fine-tuning a local llama3 model for document classification
  • A/B testing system prompts to find the best performer for a chatbot
  • Adding a LoRA adapter trained on company-specific terminology
  • Benchmarking response quality before and after Modelfile changes
  • Iterating on prompt templates using a local JSONL eval dataset

Quy trình ví dụ

ĐẦU VÀO

User asks: tune llama3 on my support ticket dataset for intent classification

AGENT
  1. 1

    Load JSONL dataset from ./data.json

  2. 2

    Run scripts/tune.py with --model llama3 and --task classification

  3. 3

    Apply prompt templates from prompts/system.md

  4. 4

    Execute eval loop and record accuracy metrics

  5. 5

    Output tuned Modelfile and benchmark report

ĐẦU RA

Fine-tuned Modelfile with updated system prompt and eval metrics summary

Yêu cầu

  • Ollama 0.3+ installed locally

Cài đặt

clawhub install gblockchainnetwork/ollama-model-tuner

Chạy lệnh CLI, hoặc dán prompt vào Claude Code, Cursor, Codex hay coding agent bạn đang dùng.

Liên kết