리눅스에서 ollama AI 모델(LLM) 저장 디렉토리 변경

리눅스에서 설치 스크립트를 이용한 ollama 설치와 기본적인 사용 방법은 이전 게시물을 참조하자. 아래의 링크다.

리눅스 민트 22 XFCE에서 ollama 설치 및 LLM 구동

ollama에서 AI 모델을 다운로드하면 기본적으로 /usr/share/ollama/.ollama/models 디렉토리에 저장된다. 그런데 거대언어모델(LLM)이 꽤 큰 공간을 차지하기 때문에 SSD/HDD가 2개 이상 장착되어 있을 경우나 1개라도 파티션을 분할해 놓은 경우에 좀 더 여유가 있는 저장 공간에 저장하는 것이 더 유리할 수 있다. 예를 들어 모델 디렉토리를 /data/ollama_models로 변경하려면 터미널창에서 아래와 같이 작업하면 되겠다.

ollama 서비스를 중지하고 작업을 진행한다.

# ollama service 중단
sudo systemctl stop ollama

모델 디렉토리를 /data/ollama/models로 이동.

# 디렉토리 생성
mkdir /data/ollama_models

# 모델 디렉토리의 데이터를 새 디렉토리로 이동
sudo mv /usr/share/ollama/.ollama/models /data/ollama_models

변경된 디렉토리로 연결되는 심볼릭 링크(symbolic link)를 생성해 준다.

# symbolic link 생성
cd /user/share/ollama/.ollama
sudo ln -s /data/ollama_models/models models

# ollama 서비스 시작
sudo systemctl start ollama