모든 글

Jan: 인터넷 연결 없이도 쓸 AI를 내 PC에 두고 싶다면

GitHub의 오픈소스 AI 앱 Jan을 살펴봐요. 로컬 모델과 클라우드 모델의 차이, Hub 화면, 컴퓨터 사양과 첫 활용법을 설명해요.

마지막 업데이트

메뉴나 지원 기능이 달라졌다면 아래 자료 확인일과 현재 앱 버전을 함께 봐주세요.

앱 · APP
공식 자료를 읽고 정리했어요 · 직접 실행한 후기는 아직 없어요 자료 확인일:

AI에게 짧은 글 하나 다듬어 달라고 할 때마다 꼭 외부 서버로 보내야 할까요? Jan은 이 질문에서 시작해 보면 이해하기 쉬워요. 모델을 내 PC에 내려받아 대화하는 앱이에요. 명령어 창부터 배우기보다 모델을 고르고 대화하는 화면부터 보고 싶은 분에게 소개하고 싶어요.

정식 v0.8.7 릴리스는 2026년 10월 20일에 공개됐어요. 이 글은 해당 버전의 저장소와 공식 문서를 읽고 쓴 안내예요. 직접 설치해 응답 속도나 한국어 성능을 측정하지는 않았어요.

프로그램과 모델은 따로예요

Jan을 설치하는 것은 AI와 대화할 프로그램을 준비하는 일이에요. 그 안에서 실행할 모델도 필요해요. 공식 빠른 시작 문서는 첫 실행 때 기본 모델을 준비하는 흐름과, Hub에서 다른 모델을 내려받는 방법을 안내해요. 모델마다 용량, 사용 메모리, 언어와 작업 특성이 달라질 수 있어요. 빠른 시작

쉽게 생각하면 Jan은 책상이고 모델은 그 책상에서 일을 하는 도구예요. 책상을 바꾼다고 도구의 능력까지 저절로 좋아지지는 않죠. 같은 앱이라도 작은 모델로 문장을 다듬을 때와 큰 모델로 긴 글을 읽을 때의 부담이 달라요.

Jan의 새 대화 화면과 상단 모델 선택기를 보여주는 공식 화면
상단 모델 선택기와 가운데 입력란을 먼저 보세요. 사이드바의 여러 기능을 한꺼번에 익힐 필요는 없어요. 개발자 공개 화면이며 이 글의 실습 결과는 아니에요. 원본·크게 보기 · Apache-2.0 · 제작자·이용 조건

Hub에서는 이름보다 내 컴퓨터에 맞는지 보세요

Hub는 모델을 찾아 내려받는 곳이에요. 공식 모델 관리 문서는 기기 적합도를 Fits, May be slow, Won’t fit으로 구분하고, 모델의 변형을 고르는 흐름을 설명해요. 여기서 Fits는 기기에 들어갈 가능성을 판단하는 표시이지 답변 품질 인증은 아니에요. 모델 관리

Jan Hub의 여러 로컬 모델, 용량과 Fits 표시를 보여주는 공식 화면
용량과 Fits 표시를 같이 살펴보세요. 화면 속 특정 모델의 다운로드 수나 용량은 그 예시에만 해당해요. 개발자 공개 화면이며 이 글의 실습 결과는 아니에요. 원본·크게 보기 · Apache-2.0 · 제작자·이용 조건

모델 이름 뒤의 GGUF, Q4 같은 글자가 처음에는 낯설 수 있어요. GGUF는 모델 파일 형식이고, 양자화 표시는 저장과 실행 부담을 줄이는 표현 방식과 관련돼요. 첫 시도부터 이 설정을 전부 외우기보다 앱이 보여 주는 적합도와 권장 변형을 참고해 하나만 고르는 편이 좋아요. 한국어를 쓰려면 선택한 모델의 언어 안내도 확인해 주세요.

‘로컬’은 선택한 실행 경로를 말해요

로컬 모델은 내 컴퓨터에서 답을 만들어요. 모델을 내려받을 때는 인터넷이 필요하고, 준비가 끝난 뒤에는 외부 연결을 쓰지 않는 텍스트 작업을 해볼 수 있어요. 반대로 Jan에서 외부 모델 제공업체를 선택하면 외부 서버에서 처리돼요. 같은 앱 안에서도 두 경로를 구분해야 해요. 로컬·클라우드 설명

검색 도구, 외부 연결, 추가 도구 호출도 별도예요. 로컬 모델을 골랐다는 사실만으로 웹 검색까지 오프라인이 되는 것은 아니에요. 사용법 글에서는 모델을 준비한 뒤 검색이 필요 없는 짧은 메모를 다듬는 작업으로 시작할 거예요.

로컬 모델 다운로드 후 내 PC에서 텍스트를 처리하는 경로와 클라우드 제공업체를 이용하는 경로의 구분
범블비가 사용 순서를 설명하려고 만든 안내 그림이에요. 실제 앱 화면이나 측정 결과가 아니에요. 크게 보기

사양은 설치 전에 한 번만 확인해요

확인할 항목 공식 안내에서 볼 내용
Windows Windows 10 이상, CPU·GPU 지원 조건 확인
메모리·저장 공간 Windows 안내는 RAM 8GB 최소·16GB 권장, 여유 공간 10GB 이상 제시
Mac Apple Silicon, macOS 13.6 이상 안내. Intel Mac은 지원 대상이 아니에요
모델 크기 기기 적합도와 실제 여유 메모리를 함께 확인

이 숫자는 특정 큰 모델이 모두 돌아간다는 보증이 아니에요. 운영체제와 다른 프로그램도 메모리를 사용하므로 남는 공간이 중요해요. 모델 파일 크기만 보고 필요한 전체 메모리를 판단하지 않는 편이 좋아요. Windows 안내 · Mac 안내

어디에 써보면 좋을까요

저라면 짧은 메모를 공지문으로 바꾸기, 이미 적어 둔 할 일 정리하기, 공개된 설명을 쉬운 말로 다시 써보기부터 하겠어요. 원본과 결과를 나란히 보면서 빠진 정보나 추가된 내용을 확인하기 쉽기 때문이에요. 최신 뉴스나 웹 조사가 필요한 질문은 첫 오프라인 실습에 잘 맞지 않아요.

Jan의 코드는 Apache-2.0으로 공개돼 있어요. 내려받는 모델은 따로 이용 조건을 확인해야 하고, 외부 제공업체를 연결하면 그쪽 비용도 생길 수 있어요. 로컬 실행에는 모델 저장 공간과 PC 자원이 들어가요. 코드 라이선스

프로젝트나 추가 도구 등 더 넓은 기능도 있지만, 처음에는 “설치 → 모델 준비 → 한 번 대화 → 결과 확인”이면 충분해요. 이어지는 사용법에서는 짧은 가상 행사 메모를 공지문으로 바꾸고, 연결을 끊은 상태에서도 같은 작업이 끝나는지 확인해 볼게요.

어려운 질문보다 고치기 쉬운 입력이 좋아요

처음부터 긴 소설이나 여러 파일을 주기보다, 다섯 줄짜리 메모에서 무엇이 바뀌는지 보는 편이 편해요. “더 잘 써줘”보다 “정중하게 네 문장으로, 날짜와 준비물 유지”처럼 결과의 모양과 남길 정보를 함께 적어 보세요. 원하는 결과와 실제 답을 비교할 기준이 생겨요.

모델이 잘못된 날짜를 넣으면 그 답이 자연스럽다는 이유로 넘기지 말고 원문을 다시 보여 주세요. 내 PC에서 실행된다는 장점과 내용이 정확하다는 판단은 별개예요. 로컬 모델도 잘못 답할 수 있으니, 짧고 정답을 아는 작업으로 자기 기준을 만드는 것이 먼저라고 생각해요.

한번 다운로드한 모델을 계속 쓸 수 있다는 점도 로컬 실행을 살펴볼 이유예요. 다만 여러 모델을 모으는 일 자체가 목표가 되면 저장 공간만 늘어날 수 있어요. 내가 자주 하는 문장 정리 한 가지가 되는지 확인한 뒤 다른 모델을 추가해도 충분해요.

처음 모델을 정했다면 이름과 변형을 메모해 두세요. 나중에 답이 달라졌을 때 앱 업데이트 때문인지, 선택한 모델이 바뀐 것인지 구분하는 데 도움이 돼요.

이 도구의 다른 글

소개 · 한 가지 작업 따라 하기 · 선택 기준과 비교

참고 자료