HomeBlogTranscribePlansAPI Keys

Ollama: 토큰에 대한 비용을 지불하지 않고 YouTube 비디오를 요약합니다

jq를 통해 YouTube 스크립트를 로컬 Ollama 모델로 파이핑하는 터미널 파이프라인

Ollama를 통해 YouTube 비디오를 한 셸 파이프로 요약할 수 있습니다: HTTP를 통해 스크립트를 가져오고, jq를 사용하여 텍스트를 추출하고, 로컬 모델에 공급합니다. OpenAI 청구서 없음, 스크립트 fetch 자체를 제외한 기계를 떠나는 데이터 없음. 파이프, 이를 작동하게 하는 컨텍스트 윈도우 수학 및 단점입니다.

한 줄

먼저 공유 데모 키를 가져오세요 (또는 자신의 것을 가져오세요. 아래에 더 자세히):

API_KEY=$(curl -s https://youtube2text.org/api/demo-key | jq -r .apiKey)

그 다음:

curl -s "https://youtube2text.org/api/transcribe?url=https://www.youtube.com/watch?v=VIDEO_ID&maxChars=12000" \
  -H "x-api-key: $API_KEY" \
  | jq -r .result.content \
  | ollama run llama3.1 "Summarize this video transcript in five bullet points:"

API는 {"result": {"videoId", "title", "pubDate", "content", ...}}를 반환합니다. jq -r .result.content는 이를 원본 텍스트로 분리하고 Ollama는 파이핑된 stdin을 프롬프트 인수에 추가합니다. 30초 후 요점이 있고 YouTube는 IP에서 요청을 본 적이 없습니다. 스크립트 fetch는 youtube2text.org를 통해 진행됩니다. 이는 자신의 기계에서 스크래핑할 때 차단되는 부분을 처리합니다.

maxChars=12000인 이유

이것은 사람들이 잘못하는 숫자입니다. Ollama는 기본적으로 4096 토큰 컨텍스트로 모델을 실행하고 모든 것이 경쟁합니다: 프롬프트, 스크립트 및 모델의 출력. 대략 4자 = 토큰 규칙에서 12,000자의 스크립트는 약 3,000토큰이며, 요약을 위한 여유가 있습니다. API의 기본 상한선 150,000자에서 전체 90분 팟캐스트를 파이프하면 Ollama는 앞에서 조용히 자르므로 모델은 마지막 10분을 요약하고 자신감 있게 나머지를 무시합니다. 오류 없음, 잘못된 답입니다.

하드웨어에 RAM이 있으면 양쪽을 함께 올립니다:

OLLAMA_CONTEXT_LENGTH=16384 ollama serve

그다음 maxChars를 약 50000까지 범프하세요. 두 숫자를 잠금 단계로 확장하거나 조용한 자르기로 돌아갑니다.

쉘 함수로 만드세요

yt-summary() {
  curl -s "https://youtube2text.org/api/transcribe?url=$1&maxChars=12000" \
    -H "x-api-key: $API_KEY" \
    | jq -r .result.content \
    | ollama run llama3.1 "Summarize this video transcript in five bullet points:"
}

yt-summary "https://www.youtube.com/watch?v=VIDEO_ID"

프롬프트를 실제로 필요한 것으로 교체합니다. "언급된 모든 도구 추출", "작업 항목 나열", "독일어로 번역". 동일한 파이프, 다른 지시. 강의를 구조화된 노트로 변환하는 경우 강의 비디오에서 공부 노트에 더 긴 워크플로가 있습니다.

개인 정보 보호 및 비용 사건

기계를 떠나는 것은 하나뿐입니다: youtube2text.org에 대한 스크립트 요청입니다. 비디오의 콘텐츠, 프롬프트 및 모델의 출력은 모두 로컬로 유지됩니다. 내부 훈련 비디오, 경쟁사 연구 또는 클라우드 LLM로 배송하지 않을 콘텐츠를 요약하는 모든 사람에게 이것이 전체 피치입니다. 비용 측면: LLM 추론은 영원히 무료입니다. 유일하게 미터링되는 조각은 스크립트 가져오기입니다.

단점

정직한 제한: 8B 모델이 한 시간 긴 비디오의 제한된 조각을 요약하면 것을 놓칩니다. maxChars는 고정 예산에서 자르고 llama3.1은 4k 컨텍스트에서 깊은 합성을 하지 않습니다. 맞는 것의 능숙한 압축을 하고 있습니다. 빠른 "이 비디오가 내 시간의 가치가 있는가" 분류의 경우 탁월합니다. 장기 콘텐츠 전반에 걸친 연구급 추출의 경우 더 큰 모델을 실제 컨텍스트 윈도우로 실행하거나 모든 것을 적절히 인덱싱하세요. YouTube 채널 위의 RAG를 참조하세요.

또한: 데모 키는 공유되고 IP당 월 5개 비디오로 제한됩니다. 위의 한 줄이 아직 가입하기 전에 작동하도록 존재합니다. 타이어를 차는 것을 지나서 자신의 키를 얻으세요. 무료 계층도 월 5개 비디오이지만 당신 것이고, $5.99는 50을 구입합니다.