Ollama 설치 — 내 PC에서 도는 무료 LLM (선택)
팀별로 Anthropic API 키를 하나씩 제공하므로 Ollama가 필수는 아닙니다. 다만 키 없이, 기관 밖으로 한 글자도 내보내지 않고 개체 추출을 해 보고 싶은 팀은 설치해 보세요. 온톨로지 그라운더(PC 설치판)가 localhost:11434를 자동으로 찾아 「Ollama (로컬)」 공급사로 붙습니다. 웹으로 접속하는 구술기록관리시스템(ap.alab.kr)은 서버가 여러분 PC의 Ollama에 닿을 수 없어 로컬 LLM을 못 씁니다 — 그 경우 팀별 API 키를 쓰세요.
1) Ollama 설치
•
•
설치 확인: 브라우저로 http://localhost:11434 — Ollama is running이 보이면 정상입니다.
2) 모델 받기
앱의 API 설정 → Ollama (로컬) 카드에서 「모델 받기」 버튼을 누르면 진행률을 보며 내려받습니다(터미널 불필요). 터미널을 쓰신다면 ollama pull <모델명>도 같습니다.
모델 | 크기 | 권장 메모리 | 실습에서 |
Exaone 3.5 : 2.4b
exaone3.5:2.4b | 1.5 GB | 8 GB 이상 | 권장 — 한국어 구술문에 쓸 만하고 가볍습니다. 실측: 첫 호출 약 24초, 한 단락에서 개체 7~10건 |
Qwen3
qwen3 | 5.2 GB | 16 GB 이상 | 여유 있는 PC용. 실측에서는 한 단락에 3~5분이 걸리고 개체를 뽑지 못한 경우가 있었습니다 — 시간이 넉넉할 때만 |
Gemma 3 : 26b
gemma3:26b | 16.8 GB | 32 GB 이상 | 실습 시간 안에는 권장하지 않습니다. RAM 16GB 기기에서는 메모리 초과로 중단됐습니다(실측) |
고르는 기준은 내 노트북의 메모리(RAM)입니다. 모델 크기가 RAM의 절반을 넘으면 느려지고, 넘치면 중단됩니다. 앱도 기기 메모리를 재서 위험하면 미리 경고합니다. 잘 모르겠으면 Exaone 3.5 : 2.4b 하나만 받으세요.
로컬 소형 모델은 결과 편차가 큽니다 — 같은 문장에 매번 같은 답을 주지 않습니다. 그래서 그라운딩에서 LLM은 제안자일 뿐이고, 채택 여부는 사람이 정합니다. 편차를 직접 보는 것도 실습의 일부입니다.
교육장 무선망에서 1.5GB를 동시에 여러 대가 받으면 느립니다. 가능하면 전날 미리 설치·다운로드해 오시길 권합니다.