모든 글

AnythingLLM 사용법: 안내문 하나 넣고 답을 확인해 보기

공식 설치 파일 선택부터 TXT 첨부, 문서 질문, 잘못된 답 확인까지. 처음 시작하는 분을 위한 AnythingLLM 문서 대화 실습이에요.

마지막 업데이트

메뉴나 지원 기능이 달라졌다면 아래 자료 확인일과 현재 앱 버전을 함께 봐주세요.

앱 · APP
공식 자료를 읽고 정리했어요 · 직접 실행한 후기는 아직 없어요 자료 확인일:

오늘 목표는 간단해요. 짧은 안내문 하나를 넣고, 날짜와 준비물을 정확히 찾는지 확인하는 것이에요. 기능을 다 켜는 것보다 이 작은 작업이 먼저 되면 다음 단계가 훨씬 편해져요.

이 글은 v1.18.0 릴리스와 공식 문서를 바탕으로 만든 따라 하기예요. 아래 예상 답은 우리가 만든 연습용 문서에서 사람이 확인한 정답이며, AnythingLLM을 실행해 얻은 출력은 아니에요.

1. 설치 파일부터 맞춰 볼게요

공식 v1.18.0 배포 페이지의 Assets를 열어 주세요. GitHub 계정이나 소스코드 다운로드는 이 실습에 필요하지 않아요.

컴퓨터 이 버전의 설치 파일
일반적인 Windows x64 PC AnythingLLMDesktop.exe
Windows ARM PC AnythingLLMDesktop-Arm64.exe
Apple Silicon Mac AnythingLLMDesktop-Silicon.dmg
Intel Mac AnythingLLMDesktop.dmg
Linux x64 AnythingLLMDesktop.AppImage
Linux ARM64 AnythingLLMDesktop-Arm64.AppImage

Windows는 설치 범위에서 Current User를 고르세요. 공식 안내는 모든 사용자용 설치를 권장하지 않아요. Mac은 자기 칩에 맞는 DMG를 선택하고, Linux는 운영체제에 맞는 실행 권한과 설치 안내를 확인해 주세요. Windows 설치 설명 · 운영체제별 시작점

2. 모델 하나를 준비해요

Desktop의 초기 설정에서 내 PC에서 실행할 기본 모델 제공업체와 다운로드할 모델을 선택할 수 있어요. 작은 모델부터 시작하고 다운로드가 끝날 때까지 기다려 주세요. 모델은 답을 만드는 부분이고, 프로그램 설치와 모델 다운로드는 별도예요.

내 PC로 시험하려면 외부 API 키를 넣는 제공업체 대신 로컬로 실행되는 모델인지 확인해 주세요. 설치 시점에 따라 내장 엔진 안내가 바뀔 수 있으므로 엔진 이름을 억지로 맞추기보다 앱에서 제공하는 로컬 설정을 따르는 편이 좋아요. 이미 Ollama를 따로 쓰는 분은 별도 Ollama 제공업체로 연결하는 경로도 있어요. 이번 실습은 추가 서버 설치 없이 Desktop에서 시작해요. 내장 모델 설정

공식 자료의 일반 권장 구성은 RAM 16GB와 8코어 CPU예요. 여유가 적다면 큰 모델을 여러 개 내려받기 전에 작은 모델 하나와 짧은 문서로 확인하세요. 첫 다운로드 시간과 이후 답변 시간도 구분해서 보면 좋아요. 요구 사항

3. 연습용 안내문을 저장해 주세요

메모장 같은 텍스트 편집기에 아래 내용을 붙여 넣고 UTF-8 형식의 workshop.txt로 저장해 주세요. 예시 속 행사는 실재하는 일정이 아니에요.

주말 만들기 모임 안내
행사일: 2026년 11월 14일 토요일
시간: 오전 10시부터 낮 12시까지
장소: 커뮤니티실 B
신청 마감: 2026년 11월 10일 오후 6시
준비물: 노트북, 충전기
참가비: 무료
문의: 안내 데스크

본문을 직접 넣는 이유는 정답이 분명한 자료로 시험하기 위해서예요. 글자가 그림으로 들어간 스캔 PDF는 텍스트 추출 문제까지 더해지므로, 첫 시도에는 TXT가 편해요.

workshop.txt를 첨부하고 날짜·준비물·없는 정보를 질문한 뒤 원문과 대조하는 실습 안내
범블비가 사용 순서를 설명하려고 만든 안내 그림이에요. 실제 앱 화면이나 측정 결과가 아니에요. 크게 보기

4. 작업 공간을 만들고 파일을 붙여요

왼쪽의 New Workspace에서 연습용 작업 공간을 만든 뒤, 그 안의 대화를 열어 주세요. 이름은 “문서 연습” 정도면 충분해요. 그 대화창에 workshop.txt를 끌어다 놓거나 입력란의 + 버튼에서 첨부하세요.

파일 이름이나 첨부 목록이 보이는지 확인해 주세요. 파일을 저장만 해 놓은 상태와 AI 대화에 첨부한 상태는 달라요. 공식 문서는 대화에 붙인 자료가 해당 작업 공간과 스레드 범위를 가진다고 설명해요. 다른 새 대화에서도 자동으로 보일 거라고 생각하면 헷갈릴 수 있어요. 문서 첨부 방법

AnythingLLM의 New Workspace와 작업 공간 설정 톱니바퀴를 표시한 개발자 화면
New Workspace로 방을 만들고, 기존 방 이름 옆 톱니바퀴에서 설정을 볼 수 있어요. 그림의 Sample은 개발자 예시 이름이에요. 개발자 공개 화면이며 이 글의 실습 결과는 아니에요. 원본·크게 보기 · MIT · 제작자·이용 조건

5. 질문은 한 번에 하나씩 해볼게요

첫 질문을 아래처럼 넣어 보세요.

첨부한 workshop.txt만 보고 답해 주세요.
신청 마감은 언제인가요? 날짜와 시간을 적어 주세요.
답을 확인할 수 있는 원문 문장도 함께 적어 주세요.

예상 정답은 2026년 11월 10일 오후 6시예요. 근거 문장에 같은 정보가 들어 있는지도 확인해 주세요. 답변 문장이 자연스러운지보다 원문과 맞는지가 먼저예요.

다음은 “준비물을 모두 적어 주세요”라고 물어봐요. 노트북, 충전기 두 항목이 나와야 해요. 마지막으로 문서에 없는 질문을 하나 넣어 보세요.

주차비는 얼마인가요?
첨부 문서에 없으면 '문서에서 확인할 수 없어요'라고 답해 주세요.

이 문서에는 주차 안내가 없어요. “참가비 무료”를 보고 주차비도 무료라고 답했다면 틀린 것이에요. 없는 정보를 구별하는 질문이 필요한 이유예요.

문서 위주로 답하도록 설정하고 싶다면 작업 공간 톱니바퀴의 Chat Settings에서 Query 모드를 살펴보세요. 새 작업 공간은 Agent 모드가 기본일 수 있어요. Query 설정도 오류를 완전히 막아 주지는 않으며, 위 정답 대조가 최종 확인이에요. 대화 모드

AnythingLLM의 현재 첨부 파일과 사용 문맥 분량을 보여주는 개발자 화면
내 파일이 목록에 들어 있는지 확인하는 데 참고하세요. 숫자와 파일 이름은 개발자 예시이며, 이 실습의 실제 사용량이 아니에요. 개발자 공개 화면이며 이 글의 실습 결과는 아니에요. 원본·크게 보기 · MIT · 제작자·이용 조건

6. 긴 파일을 넣다가 경고가 나오면

이번 짧은 TXT에서는 문맥 한도를 넘지 않는 구성을 목표로 해요. 다른 큰 파일을 넣다가 Context Window Warning이 나온다면 그대로 넘기기보다 문서를 줄이거나, 검색해서 쓰는 임베딩 방식이 필요한지 판단하세요.

공식 안내에 따르면 Continue Anyway를 선택하면 한도에 맞추면서 일부 내용이 빠질 수 있어요. Embed는 문서를 작업 공간에서 검색할 수 있게 만드는 다른 경로예요. “글자 전체를 읽었다”와 “관련 문단을 찾아 왔다”는 결과가 달라요. 한도 경고 설명

AnythingLLM의 문맥 한도 경고와 Cancel, Continue Anyway, Embed File 선택지
이 화면은 긴 문서를 추가했을 때의 공식 예시예요. 표시된 토큰 수를 우리 TXT 실습의 측정치로 읽지는 마세요. 개발자 공개 화면이며 이 글의 실습 결과는 아니에요. 원본·크게 보기 · MIT · 제작자·이용 조건

7. 답을 보관하고 다시 확인해요

답변을 복사해서 별도의 메모에 원문과 함께 저장해 보세요. 자동 파일 생성 기능을 켠 실습이 아니므로 답변이 문서 파일로 저절로 저장됐다고 생각하지 않는 게 좋아요. 앱을 닫았다가 같은 대화로 돌아와 첨부와 답을 확인하고, 새 대화를 만들었을 때도 자료가 필요한지 구별해 보세요.

완료 기준은 세 가지예요. 마감 날짜와 시간이 맞고, 준비물 두 개가 빠지지 않고, 주차비는 확인 불가로 남아야 해요. 이 세 항목이 맞으면 다음에는 자신이 자주 보는 짧은 설명서로 바꿔 볼 수 있어요.

막힌 부분 먼저 확인할 것
모델 답변 자체가 안 나와요 모델 다운로드 완료 여부와 현재 제공업체 설정
파일을 못 봤다고 해요 지금 대화의 첨부 목록과 작업 공간
없는 내용을 대답해요 원문 문장 요구, 질문 분리, Query 설정
한국어 문서 검색이 약해요 직접 첨부와 RAG를 구분하고 임베딩 모델의 언어 지원 확인

특히 기본 임베딩 모델은 영어 중심이라는 안내가 있어요. TXT 직접 첨부 실습과 한국어 문서 수백 개의 검색 결과를 같은 성능으로 생각하지 마세요. 기본 임베딩 모델

이 도구의 다른 글

소개 · 한 가지 작업 따라 하기 · 선택 기준과 비교

참고 자료