llm 0.32rc2

원문 제목: Release: llm 0.32rc2 원문 URL: https://simonwillison.net/2026/Jul/30/llm-rc2/ 발행일: 2026-07-30

번역

RC1에 이어 이번 RC2는 의존성 문제를 해결하고 두 가지 멋진 새 기능을 추가했다.

• 사용자가 직접 기본 모델을 설정하지 않은 경우, 기본 모델이 이제 GPT-5.6 Luna로 바뀌었다. 이전에는 GPT-4o mini였다. Luna는 훨씬 더 나은 최신 모델이지만, 약간 더 비싸다. Luna의 가격은 입력 백만 토큰당 $0.20, 출력 백만 토큰당 $1.20이며, 4o mini는 $0.15/$0.60이었다. 원한다면 llm models default gpt-4o-mini로 되돌리거나, 더 저렴한 GPT-5 nano($0.05/$0.40)로 llm models default gpt-5-nano를 사용해 전환할 수 있다. #1576

• 새로운 llm openai endpoint 명령어가 추가되어, 모델을 미리 설정하지 않고도 임의의 OpenAI 호환 엔드포인트에 프롬프트, 채팅, 모델 목록을 실행할 수 있다. 이러한 호출은 기록되지 않는다. #1565

llm openai endpoint 명령어는 정말 멋지다. OpenAI Chat Completions 형식을模방하는 엔드포인트를 테스트할 만한 뚜렷한 CLI 도구가 없어서 답답했기 때문에, LLM 자체에 이 기능을 추가하기로 결정했다.

LLM을 설치하지 않고도 사용할 수 있다. 다음은 LM Studio 로컬 모델에 대해 프롬프트와 도구를 실행하는 uvx one-liner다.

uvx --pre llm openai endpoint http://127.0.0.1:1234/v1 \
  T llm_version -T llm_time --td \
  -m google/gemma-4-31b 'what is the current LLM version? And the time?'

Output here.

핵심 요약 (20줄)

1. RC1에 이어 RC2는 의존성 문제를 해결하고 두 가지 새 기능을 추가했다.
2. 사용자가 기본 모델을 설정하지 않으면 기본 모델이 GPT-5.6 Luna로 바뀌었다.
3. 이전 기본 모델은 GPT-4o mini였다.
4. Luna는 더 최근이고 훨씬 나은 모델이지만, 약간 더 비싸다.
5. Luna의 가격은 입력 백만 토큰당 $0.20, 출력 백만 토큰당 $1.20이다.
6. 4o mini는 $0.15/$0.60이었다.
7. 원한다면 gpt-4o-mini로 되돌리거나 더 저렴한 GPT-5 nano로 전환할 수 있다.
8. 새로운 llm openai endpoint 명령어를 추가했다.
9. 이 명령어는 모델을 미리 설정하지 않고 OpenAI 호환 엔드포인트를 사용할 수 있다.
10. 이러한 호출은 LLM 로그에 기록되지 않는다.
11. Simon은 Chat Completions 형식 엔드포인트용 CLI 도구가 부족해 답답했다.
12. 그래서 LLM 자체에 이 기능을 추가하기로 결정했다.
13. LLM을 설치하지 않고도 uvx one-liner로 사용할 수 있다.
14. LM Studio 같은 로컬 모델에 대해 프롬프트와 도구를 실행할 수 있다.
15. 예제 명령어는 uvx --pre llm openai endpoint http://127.0.0.1:1234/v1 ... 형태이다.
16. 실제 출력 예시는 GitHub PR 코멘트에서 확인할 수 있다.
17. 이 기능은 로컬 모델 실험과 프롬프트 테스트를 훨씬 편리하게 만든다.
18. RC2는 LLM CLI의 개발-테스트 워크플로우를 개선하는 중요한 단계이다.
19. 앞으로 더 많은 OpenAI 호환 서비스와의 통합이 기대된다.
20. 이번 릴리스는 LLM을 단순한 API 클라이언트를 넘어 유연한 도구로 만든다.