모든 글

Ollama: 소개

Ollama v0.40.6의 로컬 모델 실행, VS Code 연동과 문서 기반 비교를 살펴봐요.

마지막 업데이트

메뉴나 지원 기능이 달라졌다면 아래 자료 확인일과 현재 앱 버전을 함께 봐주세요.

앱 · APP
공식 자료를 읽고 정리했어요 · 직접 실행한 후기는 아직 없어요 자료 확인일:

내 컴퓨터에서 모델을 돌리고 싶은데, 내려받은 모델을 터미널과 편집기에 어떻게 연결해야 할지 막막할 수 있어요. Ollama는 오픈 모델을 로컬이나 클라우드에서 실행하고, 앱과 개발 도구가 그 모델에 요청을 보낼 수 있게 연결하는 플랫폼이에요. 모델 자체와 모델을 실행하는 프로그램을 구분하면 어떤 역할을 하는지 이해하기 쉬워요. 이 글은 공식 자료를 읽고 정리했으며 직접 설치하거나 성능을 측정한 후기는 아니에요. 공식 README

이번에 살펴보는 버전은 무엇이 달라졌나요?

이 시리즈는 Ollama v0.40.6을 다뤄요. 공식 공개일은 2026년 10월 16일 UTC이고, 자료 확인일과 원고 수정일은 2026년 10월 20일이에요. 릴리스에는 Windows에서 고아 러너가 남는 문제를 막는 변경, q2_0 텐서와 파일 형식 지원 등이 기록돼 있어요. 러너는 모델을 실행하는 작업 프로세스로 생각하면 돼요. 이번 변경이 어떤 컴퓨터에서 얼마나 빨라지는지를 측정한 자료는 아니므로 속도 향상 수치로 바꿔 말하지 않을게요. 공식 릴리스

발표일이 최근 7일 안이고 실행 프로그램과 모델 형식에 관련된 변경이 있어 선정했어요. 이미 유명할 것이라고 추측해서 고른 것은 아니에요. 2026년 10월 20일 확인한 공개 GitHub 기록은 별 184,245개와 포크 18,458개였어요. 저장소를 살펴보거나 복사한 활동의 흔적이지, 실제 사용자 수나 결과 품질 점수는 아니에요. 날짜가 다른 현재 화면에서는 숫자가 달라질 수 있어요. 관측에 사용한 GitHub 공식 기록

모델과 실행 도구를 따로 생각해 봐요

Ollama를 설치했다고 해서 그 프로그램이 곧 하나의 AI 모델이 되는 것은 아니에요. 공식 README의 예제는 모델 이름을 지정해 실행하고, REST API나 Python·JavaScript 라이브러리로 요청을 보내는 흐름을 보여줘요. REST API는 다른 프로그램이 메시지를 전달하고 응답을 받는 연결 통로예요. 모델 선택과 연결 방식이 별개의 결정이라는 점이 핵심이에요. 모델 실행과 API 예제

이를테면 터미널에서 모델과 대화하는 일, VS Code Chat의 모델 선택기에 연결하는 일, 내가 만드는 앱에서 API로 호출하는 일은 서로 다른 출발점이에요. 소개 글에서는 이 역할을 구분하고, 실제 메뉴를 따라가는 과정은 연결된 사용법 글에서 다뤄요. AI가 개발에 쓰였다는 주장과도 구분해야 해요. 확인한 자료는 모델 실행과 AI 기능 연결을 설명하며, Ollama 자체가 AI로 개발됐다는 이력을 증명하지는 않아요.

어떤 환경과 연결을 지원하나요?

공식 다운로드 안내에는 macOS, Windows, Linux와 Docker 이미지가 나와 있어요. 빠른 시작 문서는 로컬 모델은 API 키 없이 실행하는 경로와, 계정·키를 사용하는 클라우드 요청 경로를 따로 설명해요. 로컬 실행을 고를지 클라우드 서비스를 이용할지 먼저 정하면 필요한 설치와 인증 과정을 덜 헷갈릴 수 있어요. 설치 안내 · 빠른 시작

VS Code 연동 문서는 VS Code 1.127 이상, 실행 중인 Ollama, 사용할 모델을 준비하라고 안내해요. 공식 Ollama 확장을 설치한 뒤 Chat 입력창 아래의 모델 선택기에서 Ollama 항목을 고르는 방식이에요. 문서에서 지원한다고 적혀 있는 것과 이 글에서 실제 기기에서 연결에 성공했다는 것은 다른 이야기예요. 이번에는 직접 실행한 결과나 호환성 점수를 제공하지 않아요. VS Code 요구 사항과 메뉴

앱 비용과 모델 이용 조건은 어떻게 다른가요?

확인한 저장소의 프로그램 소스에는 MIT 라이선스가 적용돼요. 다만 프로그램 소스의 재사용 허용이 개별 모델의 이용 조건이나 모든 클라우드 기능의 무료 제공을 뜻하지는 않아요. 모델 파일의 라이선스, 내려받는 용량, 사용할 기기의 자원, 연결 서비스의 이용 제한을 따로 확인해야 해요. 로컬 요청에 키가 필요 없다는 문서 설명도 전기나 장비 비용까지 없다는 뜻으로 읽으면 안 돼요. 로컬과 클라우드 요청 구분

이번에 확보한 문서만으로 클라우드 요금표 전체와 각 모델의 상업적 이용 조건을 확인하지는 못했어요. 그래서 정액 요금이나 무제한 사용을 보장하지 않아요. README에는 프라이버시에 관한 개발사의 소개 문구가 있지만, 그것을 모든 확장·연결 모델·입력 데이터의 안전을 검증한 결과로 취급하지 않을게요. 실제로 어떤 모델을 선택했고 요청이 어디로 향하는지 확인하는 과정이 남아 있어요. 프로그램 소개 · 운영 관련 FAQ

기존 추론 도구와 무엇을 비교하면 좋을까요?

비교 대상으로 함께 읽은 llama.cpp는 C/C++ 기반의 모델 추론 프로젝트예요. 해당 README에는 사전 빌드, 소스 빌드, Docker 등 설치 경로와 Hugging Face 모델을 내려받아 실행하는 예제가 있어요. Ollama README는 llama.cpp를 지원 백엔드로도 소개해요. 따라서 두 제품을 완전히 무관한 경쟁 앱처럼 놓고 승자를 정하기보다, 내가 원하는 모델 관리와 연결 방식이 무엇인지 살펴보는 편이 도움이 돼요. llama.cpp 공식 문서 · 지원 백엔드

제 문서 기반 판단으로는 편집기 연결과 모델 관리 흐름을 먼저 익히고 싶다면 Ollama의 안내부터 읽어볼 만해요. 빌드 방식과 추론 엔진의 하드웨어 지원을 더 직접 다루고 싶다면 llama.cpp 문서가 다른 출발점이 될 수 있어요. 어느 쪽이 더 빠르거나 정확한지는 같은 모델·설정·입력으로 실행한 기록이 있어야 말할 수 있어요. 연결된 비교 글에는 그때 기록할 결과물과 완료 조건을 따로 정리했어요.

다음에는 작은 입력 하나로 연결을 확인해 봐요

사용법 글의 목표는 VS Code Chat에서 로컬 모델을 선택하고, 가상의 과일 수량 목록을 요약하는 응답을 받아보는 것이에요. 정답은 사람이 계산할 수 있게 작게 잡았어요. 응답이 도착했는지와 수량이 맞는지는 따로 확인해요. 모델이 답을 만들었다는 사실만으로 답의 정확성이 증명되지는 않기 때문이에요.

실제 화면은 개발자 저장소의 공개 자료를 사용해요. 아래 이미지는 예전 VS Code 설정 화면의 예시이며, 우리가 실행하거나 촬영한 결과가 아니에요. 현재 문서의 확장 설치 순서와 오래된 이미지의 Add Models 메뉴를 섞지 않도록 사용법 글에서 차이를 설명해 둘게요. 메뉴, 입력 예시, 결과 재확인까지 이어서 보고 싶다면 같은 시리즈의 사용법과 문서 비교 글로 넘어가 주세요.

Ollama documentation reading guide

BumbleV가 만든 자료 안내 그림이며 실제 앱 화면이나 실행 결과가 아니에요. 그림의 근거가 된 공식 발표 · CC BY 4.0 · 2026-10-20

소개

한 가지 작업 따라 하기

공식 문서로 비교하기

Ollama developer interface example
개발자 저장소에 공개된 실제 화면 예시예요. 본문의 작업을 직접 실행한 결과는 아니며 현재 버전과 화면이 다를 수 있어요. 원본·출처 및 재사용 조건 · 2476d5ead197 · MIT · 2026-10-20 · Copyright (c) Ollama The above copyright notice and this permission notice shall be included in all AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER

참고 자료