ollama만 치면 에이전트가 뜬다: v0.32 변경점과 N100·RTX 4060에서 로컬 모델 유지하는 설정

터미널에 ollama만 치는 습관이 있으셨다면, v0.32부터는 다른 화면을 보시게 됩니다. 도움말이 뜨던 자리에 에이전트 세션이 열립니다.

정작 신경 쓸 대목은 화면이 아닙니다. 그 에이전트가 기본으로 잡는 모델이 내 PC에서 돌지 않는다는 쪽입니다.

0.32 라인에서 실제로 바뀐 것, 그리고 로컬 모델만 쓰도록 되돌리는 명령어를 정리했습니다.

⚠️ 주의: 이 글의 v0.32 동작 서술은 2026-08-02 기준 Ollama 공식 릴리스노트와 공식 문서를 근거로 합니다. 제 장비에서 v0.32를 직접 돌려 확인한 내용이 아니며, 확인하지 않은 부분은 본문에 그대로 표시했습니다.

📚 관련 글: Qwen 3.6 27B 풀어봤더니 - 397B를 이긴 27B 모델, 내 N100에선 어디까지 갔나

📑 목차

1. ollama 명령어: v0.32부터 그냥 치면 에이전트가 열립니다
2. glm-5.2:cloud: 기본 모델이 내 PC에서 돌지 않습니다
3. 로컬 모델 유지: 명령어 3가지와 확인 절차
4. ollama 버전별 변경: 0.32 라인 여섯 태그 정리
5. 지원 축소 경고: 구형 에이전트 모델 6종
6. N100 16GB와 RTX 4060 8GB: 어디까지 현실적인가
7. 결론: 업데이트 전 확인할 3가지

1. ollama 명령어: v0.32부터 그냥 치면 에이전트가 열립니다

2026년 7월 11일 공개된 Ollama v0.32.0 릴리스노트의 첫 줄은 이렇게 적혀 있습니다. "새 대화형 에이전트 경험: ollama를 실행하면 이제 코딩과 작업 위임을 돕는 에이전트가 실행됩니다."

릴리스노트에 함께 실린 터미널 출력이 변화를 더 정확히 보여줍니다.

❯ ollama
Ollama 0.32.0

▸ Chat, Code, & Work (glm-5.2:cloud)
    Chat with models, code, search the web, and delegate real work

인수 없이 실행한 ollama가 채팅, 코드 작성, 웹 검색, 작업 위임을 하는 진입점이 됐습니다. 모델 실행기에서 터미널 에이전트로, 성격이 한 칸 옮겨간 셈이죠.

기존 명령어가 사라진 것은 아닙니다. run, pull, ls, ps, stop, serve는 공식 CLI 문서에 그대로 남아 있고, 바뀐 것은 아무 인수도 주지 않았을 때의 기본 동작 하나입니다.

짚어둘 점이 하나 있습니다. 2026-08-02 기준으로 공식 문서 색인에는 이 기능을 설명하는 별도 페이지가 없습니다. CLI 문서를 훑어도 관련 항목이 보이지 않죠. 사용 방식이 바뀐 변경인데 설명 문서가 비어 있다는 건 좀 거슬리는 부분입니다. 지금 근거로 삼을 수 있는 1차 자료는 사실상 릴리스노트뿐입니다.

2. glm-5.2:cloud: 기본 모델이 내 PC에서 돌지 않습니다

위 터미널 출력의 괄호를 다시 보시면 glm-5.2:cloud가 적혀 있습니다. 에이전트가 기본으로 고른 모델이고, 뒤에 붙은 cloud가 핵심이죠.

Ollama 클라우드 모델 문서의 설명은 이렇습니다. "클라우드 모델은 강력한 GPU 없이 실행할 수 있는 새로운 종류의 모델입니다. 대신 클라우드 모델은 Ollama의 클라우드 서비스로 자동 오프로드됩니다."

같은 문서는 계정이 필요하다는 점도 명시합니다. "Ollama의 클라우드 모델은 ollama.com 계정이 필요합니다." 로그인 명령은 ollama signin이죠.

정리하면 이렇습니다. 로컬 실행을 위해 설치한 도구인데, 인수 없이 실행했을 때의 기본 경로가 외부 서버를 거치는 모델로 잡혀 있습니다. 그럼 이 기본값을 로컬로 바꿔둘 수는 없을까요? 답은 3번 항목에 적었는데, 결론만 먼저 말씀드리면 깔끔한 방법은 없었습니다.

(저는 처음에 cloud 접미사를 그냥 별칭 정도로 여겼습니다. 문서를 읽고 나서야 실행 위치가 아예 다르다는 걸 알았죠. 이 부분은 좀 아쉽습니다. 터미널 출력만 보면 로컬인지 아닌지 직관적으로 구분되지 않으니까요.)

⚠️ 주의: 사내 소스코드, 계약서, 개인정보가 섞인 디렉터리에서 에이전트를 무심코 띄우면 프롬프트가 로컬에 머문다고 가정하기 어렵습니다. v0.32.1 릴리스노트는 에이전트의 웹 검색과 페치가 인증이 필요할 때 ollama signin을 안내하도록 바뀌었다고 적고 있습니다. 외부와 통신하는 경로가 에이전트 안에 여러 개 있다는 뜻입니다.

여기에 더 성가신 제약이 하나 붙습니다. 커뮤니티 분석 글들에 따르면 glm-5.2는 Ollama 라이브러리에 로컬 태그가 없고 ollama pull glm-5.2는 매니페스트 오류로 실패합니다(출처: 2026년 여름 작성된 GLM-5.2 실행 가이드 다수, 공식 문서에는 이 서술이 없어 직접 확인은 필요). 즉 기본 모델을 그대로 로컬로 내려받아 쓰는 선택지가 없습니다. 로컬을 원하면 모델 자체를 바꿔야 합니다.

3. 로컬 모델 유지: 명령어 3가지와 확인 절차

되돌리는 방법은 어렵지 않습니다. 습관을 세 군데만 바꾸시면 됩니다.

1

인수 없는 ollama 대신 모델을 지정해 실행합니다. 클라우드 접미사를 붙이지 않는 것이 로컬 실행입니다. 공식 문서의 예시가 그대로 기준입니다.

ollama run gemma4          # 로컬 실행
ollama run gemma4:cloud    # 클라우드 경유

2

Claude Code 같은 외부 도구와 붙여 쓰실 때는 모델을 명시합니다. --model 플래그가 이 용도입니다.

ollama launch claude --model qwen3.5
ollama launch droid --config

3

지금 뭐가 물려 있는지 확인합니다. 내려받은 목록은 ollama ls, 실행 중인 모델은 ollama ps로 봅니다. 이름 뒤 접미사만 훑어도 클라우드 경유인지 구분됩니다.

✅ 팁: 로그인을 하지 않는 것 자체가 방어선이 됩니다. 계정 연결이 없으면 클라우드 모델과 에이전트 웹 검색은 인증을 요구하며 멈춥니다. 반대로 이미 로그인해 두셨다면 ollama signout으로 정리하실 수 있습니다.

진입점 자체를 예전으로 되돌리는 설정값이 있는지는 확인하지 못했습니다. 릴리스노트와 CLI 문서 어디에도 그런 플래그나 환경변수가 적혀 있지 않죠. 지금으로서는 "인수 없이 실행하지 않기"가 가장 확실한 회피책입니다. 매번 모델 이름을 붙여야 하니 조금 귀찮은 방식이긴 합니다.

4. ollama 버전별 변경: 0.32 라인 여섯 태그 정리

3주 사이에 태그가 여섯 번 붙었습니다. 그럼 어느 버전으로 올리는 게 맞을까요? 판단하실 수 있게 표로 정리했습니다.

버전	공개일	알아둘 변경
v0.32.0	2026-07-11	인수 없는 ollama가 에이전트 실행, Codex App 통합이 ChatGPT로 이름 변경, 구형 에이전트 모델 경고 도입
v0.32.1	2026-07-16	Gemma 4 도구 호출 개선, MLX 캐시 누수 수정, 에이전트가 현재 작업 디렉터리를 인식, 웹 검색 인증 안내 추가
v0.32.2	2026-07-20	철회됨. 공식 안내는 0.32.3 이상 사용
v0.32.3	2026-07-23	멈추던 모델 다운로드 수정, Claude Code Channels 복구, Windows ARM64 CUDA 지원, Linux CUDA/ROCm iGPU 메모리 사용량 감소
v0.32.4	2026-07-25	Apple GPU에서 Laguna 지원, Qwen3 MoE 디코딩 수정
v0.32.5	2026-07-27	NVFP4 모델 출력 품질을 떨어뜨리던 MLX Metal 버그 수정

🚫 경고: 철회된 태그가 하나 섞여 있습니다. 릴리스 페이지에서 v0.32.2에는 "철회됨, 0.32.3 이상을 사용하세요"라고 붙어 있습니다. 사내 이미지나 스크립트에 버전을 고정해 두셨다면 이 태그만 피하시면 됩니다.

표를 보시면 성격이 갈립니다. 앞쪽은 사용 방식이 바뀐 업데이트고, 뒤쪽은 대부분 버그 수정과 하드웨어 지원 확대죠. 다운로드가 멈추는 문제가 0.32.3에서 잡혔다는 점을 감안하면, 지금 올리실 분에게 실용적인 하한선은 여기입니다.

💡 핵심: 사용 방식이 바뀐 건 첫 태그였고, 안정성 수정은 그 뒤 패치에 모여 있습니다. 철회된 태그만 피해서 올리십시오.

5. 지원 축소 경고: 구형 에이전트 모델 6종

조용히 지나가기 쉬운 항목이 하나 더 있습니다. 릴리스노트 표현으로는 "구형 에이전트 모델을 실행하기 전에 경고합니다"인데, 대상으로 적힌 이름은 다음과 같습니다.

• CodeLlama
• Qwen2.5 및 Qwen2.5-coder
• Llama 3.x 계열
• Mistral
• StarCoder
• 기본 DeepSeek-R1 태그

목록에 들어간 모델은 ollama launch 진행 전에 지원 축소 경고를 띄웁니다. 실행이 막힌다는 서술은 릴리스노트에 없고, 경고를 띄운 뒤 계속 진행하는 흐름이죠.

참고로 Gemma 계열은 이 목록에 없습니다. 0.32.1에서는 Gemma 4의 도구 호출과 다중 턴 추론을 오히려 개선했으니, 방향이 반대인 셈이네요.

바꾸실 생각이라면 세대를 한 칸 올리는 쪽이 자연스럽습니다. 코딩 용도라면 Qwen 3.6 계열이 대안이 됩니다. 저는 Qwen 3.6 27B를 N100에서 돌려본 기록을 따로 정리해 뒀습니다. 어떤 양자화를 받아야 하는지 헷갈리시면 양자화 Q4·Q5·Q8 차이와 VRAM별 추천표 쪽이 더 직접적인 답이 됩니다.

Llama 3.x를 쓰고 계셨다면 결정을 조금 미루셔도 됩니다. 경고는 ollama launch라는 통합 실행 경로에 붙은 것이고, ollama run으로 쓰던 사용법이 막혔다는 내용은 릴리스노트에 없습니다.

6. N100 16GB와 RTX 4060 8GB: 어디까지 현실적인가

기본값이 클라우드로 잡힌 이유는, 사실 단순합니다. 에이전트가 쓸 만한 크기의 모델은 개인 장비에서 무겁죠.

제가 가진 장비 기준을 그대로 말씀드리면 이렇습니다. N100 미니PC 16GB에서 7B급 Q4_K_M 모델은, 초당 3~5토큰 수준이었습니다. 홈서버로 1년 굴리며 측정한 값이고, 전기세까지 같이 정리한 글에 배경을 적어 뒀습니다. RTX 4060 8GB에서는 VRAM 8GB를 넘기는 지점부터 폴백이 걸리는데, 그 내용은 양자화 글에서 다뤘죠.

초당 3~5토큰은 질문 하나에 답을 받는 용도로는 씁니다. 파일을 읽고 고치고 명령을 돌리는 작업으로 넘어가면 꽤 답답해집니다. 한 작업에 모델을 여러 번 호출하니 체감 지연이 곱해지는 탓입니다. 그렇다면 로컬 에이전트는 어느 지점부터 쓸 만해질까요?

구간	현실적인 모델 크기	에이전트 용도 적합성
VRAM 없음, RAM 16GB (N100급)	7B~8B Q4	단발 질의응답 위주. 다단계 작업은 대기시간 부담
VRAM 8GB (RTX 4060급)	7B~14B Q4	짧은 코드 수정은 가능. 긴 컨텍스트에서 폴백 주의
VRAM 16GB 이상	14B~32B Q4	로컬 에이전트가 실용 영역에 들어오는 지점
그 위	클라우드 또는 대형 MoE	기본값이 클라우드로 잡힌 이유가 여기에 있음

위 표에서 모델 크기와 VRAM 대응은 제 두 장비 실측과 N100 16GB로 109B MoE 한계를 재본 기록을 근거로 잡았습니다. v0.32 에이전트 자체를 이 장비들에서 돌려본 결과는 아직 없습니다. 확인하면 수치를 따로 붙이겠습니다.

미니PC를 새로 보고 계신 분이라면 N150과 N100 차이를 정리한 글이 참고가 됩니다. 결론만 미리 말씀드리면, 로컬 LLM 목적에서 두 칩의 차이는 기대만큼 크지 않았습니다.

7. 결론: 업데이트 전 확인할 3가지

v0.32는 기능이 늘어난 업데이트라기보다 진입점의 성격이 바뀐 업데이트입니다. 그래서 올리기 전에 확인할 것도 성능이 아니라 습관 쪽입니다.

하나는 습관입니다. 인수 없이 ollama를 치던 분이라면 그 자리가 클라우드 에이전트로 바뀝니다. 다음은 로그인 상태죠. ollama signin을 해두셨다면 외부 경유 경로가 이미 열려 있습니다. 남은 하나는 작업 위치입니다. 민감한 디렉터리에서 세션을 띄우지 않도록 정해두시는 편이 안전한데, 0.32.1부터 현재 작업 디렉터리가 컨텍스트로 넘어가기 때문입니다.

즉시 해볼 것을 순서대로 적었습니다.

• 현재 버전을 ollama --version으로 확인합니다.
• 올리실 거면 철회된 태그를 건너뛰고, 0.32.3 이상으로 갑니다.
• 내려받은 목록에서 클라우드 접미사가 붙은 모델을 ollama ls로 골라냅니다.
• 계정 연결이 필요 없다면 ollama signout으로 끊습니다.
• 지원 축소 목록에 걸린 모델을 쓰고 있다면 대체 모델을 한 개 받아 둡니다.

자주 묻는 질문

v0.32로 올리면 기존 명령어를 못 쓰게 되나요?

그렇지 않습니다. 기존 run·pull·ls·ps·stop·serve는 공식 CLI 문서에 그대로 남아 있습니다. 달라진 것은 인수를 주지 않고 실행했을 때의 기본 동작 하나입니다.

에이전트를 로컬 모델로만 쓰는 방법은 무엇인가요?

클라우드 접미사 없는 이름으로 실행하시면 됩니다. 예를 들어 ollama run gemma4는 로컬이고, 뒤에 :cloud를 붙이면 클라우드 경유가 됩니다. 외부 도구와 붙이실 때는 ollama launch claude --model qwen3.5처럼 --model로 모델을 지정하십시오. 다만 기본 진입점 자체를 예전으로 되돌리는 설정은 릴리스노트와 문서에서 찾지 못했습니다.

내 프롬프트가 외부로 나가는지 어떻게 확인하나요?

모델 이름의 접미사를 보시는 것이 가장 빠릅니다. 클라우드 모델은 Ollama 클라우드로 자동 오프로드된다고 공식 문서가 명시하고 있고, ollama.com 계정과 ollama signin이 필요합니다. 로그인하지 않은 상태라면 클라우드 모델과 에이전트 웹 검색은 인증을 요구하며 진행되지 않습니다.

출처: Ollama 릴리스 노트(v0.32.0~v0.32.5), Ollama CLI 문서, Ollama 클라우드 모델 문서. 모두 2026-08-02 확인 기준입니다.

관련 글

→ Qwen 3.6 27B 풀어봤더니 - 397B를 이긴 27B 모델, 내 N100에선 어디까지 갔나

→ Llama 4 Scout 로컬 실행 완전 분석 - 109B MoE, N100 16GB 벽 넘을 수 있나