한국어
한국어 English 日本語 中文

llms

여러 계정을,
주소 하나로.

Claude·Codex·API 키를 서버에 묶고, failover부터 quota-first까지 라우팅합니다. 쓰는 도구에는 route URL과 sk-gt만 넣으면 됩니다.

설치하고 연결하기 라우팅 종류 보기

goodtek 호스팅 · 특정 IDE에 묶이지 않음

Product

호스팅된 멀티 어카운트 LLM 허브.

llms는 goodtek가 운영합니다. 여러 제공자 계정·쿼터·failover를 서버에서 묶고, 호출하는 쪽에는 OpenAI·Anthropic 호환 엔드포인트 하나만 남깁니다. 셀프호스트가 아니라, 바로 붙이는 제품입니다.

  1. 01

    계정 연결

    llms add로 OAuth 또는 API 키를 등록합니다. 시크릿은 서버 볼트에만 남습니다.

  2. 02

    라우트 발행

    프리셋을 고르면 고정 URL이 생깁니다. 정책이 바뀌어도 클라이언트 설정은 그대로입니다.

  3. 03

    도구에 붙이기

    IDE·CLI·봇·스크립트 — Base URL과 sk-gt만 넣으면 끝입니다.

Routing

실제로 고를 수 있는 라우팅.

llms route create 위저드에서 프리셋 다섯 가지를 고릅니다. 429·인증 실패 전에는 TTFT 버퍼 후 다음 계정으로 넘깁니다.

failover
sequential

계정 순서대로 시도. 1번이 막히면 2번. 워크·개인 계정 백업에 가장 흔합니다.

기본 추천
balance
round_robin

요청마다 계정을 돌아가며 씁니다. 비슷한 한도의 계정을 고르게 소진할 때.

균등 분산
prefer-primary
weighted 80/20

주 계정을 더 자주 쓰고, 보조는 가끔. 완전 백업보다는 소프트 선호.

가중치
quota-first
quota_aware

잔여 %가 높은 계정을 먼저 고릅니다. Codex 다중 구독처럼 한도가 보이는 풀에 맞습니다.

라이브 사용 중
parallel
race · API-key only

건강한 API 키 계정을 동시에 치고 첫 TTFT만 채택합니다. OAuth/구독 계정은 기본 제외.

옵트인

라이브 예시 라우트: codex-quota-first, openrouter-direct · URL 형태 /r/<slug>/v1

Quota

잔여량은 보드에서 바로.

연결이 끝나면 홈·status에 계정별 잔여 %와 리셋 시각이 뜹니다. 라우팅 전에 한도를 보고, 소진되면 cooldown으로 표시됩니다.

확인 방법

캐시된 값만 보려면 llms status. 프로바이더 usage를 다시 읽으려면 --refresh.

  • Codex / Claude OAuth — 프로바이더 usage API로 quota_remaining_pct · quota_reset_at
  • API 키 계정 — soft-cap 기준 사용량 휴리스틱 %
  • 쿨다운 — 429 등은 보드에 표시되고 풀에서 잠시 제외
$ llms status --refresh
codex:goodtek   ● ok   quota 91% ████████░░ reset ~5d
codex:technfin ● ok   quota 62% ██████░░░░ reset ~5d
status board
WHAT YOU SEE
health ● / ○ / ✖ ok · cooldown · error
quota bar 0–100% remaining headroom
reset ~Nd provider window
routes strategy slug → /r/…/v1

Attach

클라이언트가 알아야 할 전부.

어디서 연결할지 몰라도 됩니다. OpenAI 호환(또는 Anthropic Messages) Base URL을 받는 도구면 동일합니다.

Base URL https://llms.goodtek.xyz/r/<slug>/v1 API Key sk-gt-…  (llms route key)

사람용 설치: /install · 기계용: /install.md · /install.sh

설치 가이드 install.md

요금

한 번 트라이얼. 이후 Starter 또는 Pro.

허브(라우팅, 쿼터 보드, route URL, sk-gt)에 대해 결제합니다. 업스트림 LLM 비용은 본인 계정에 그대로 남습니다. 카드는 Polar, USDT/JPYC는 Unifi Pay.

Trial

$0 · 7일, 1회

  • 계정 3 · 라우트 2 · 키 2
  • 40 RPM · soft 토큰 5M
트라이얼 시작

Starter

$5 / 월

  • 계정 5 · 라우트 3 · 키 3
  • 60 RPM · soft 토큰 10M
구독

Pro

$9 / 월

  • 계정 20 · 라우트 15 · 키 10
  • 120 RPM · soft 토큰 50M
구독

FAQ

자주 묻는 질문

검색·답변 엔진이 인용하기 쉬운 형태로 정리했습니다.

llms가 뭔가요?

goodtek가 호스팅하는 멀티 어카운트 LLM 허브입니다. 여러 제공자 계정을 서버에 묶고, 클라이언트에는 route URL과 sk-gt만 남깁니다.

어떤 라우팅을 고를 수 있나요?

failover(순차), balance(라운드로빈), prefer-primary(가중 80/20), quota-first(잔여 % 우선), parallel(API 키 race)입니다.

잔여 쿼터는 어떻게 보나요?

llms status로 캐시를 보고, llms status --refresh로 Codex/Claude OAuth usage를 다시 읽습니다.

어떤 클라이언트에 붙이나요?

OpenAI 호환 또는 Anthropic Messages Base URL을 받는 IDE·CLI·봇·스크립트면 됩니다. 특정 IDE에 묶이지 않습니다.

셀프호스트가 필요한가요?

아니요. 기본 제품은 https://llms.goodtek.xyz 호스팅입니다.