리눅스에서 ollama AI 모델(LLM) 저장 디렉토리 변경 - 2 (systemd 서비스에 환경 변수 지정)

이전에 리눅스용 ollama에서 심볼릭 링크(symbolic link)를 이용해서 AI 모델 저장 디렉토리를 변경하는 방법을 정리했는데(이전 게시물을 참고하자. 여기로) 좀 더 유연한 다른 방법이 있다. systemd의 ollama 서비스 설정에 환경변수(environmental variable)를 지정해 주는 것이다.

systemd 서비스에 환경변수를 지정하는 방법인데 ollama 서비스를 예시로 사용하는 경우라고 보면 되겠다. ollama의 모델 디렉토리를 지정하는 환경변수는 OLLAMA_MODELS이다. 이 변수값을 지정하면 된다.

우선 /etc/systemd/system/ollama.service 파일을 루트 권한으로 편집한다. 이 파일이 서비스 설정 파일이다. 내용은 아래와 같이 되어 있을 것이다.

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=..."

[Install]
WantedBy=default.target

위의 내용에서 [Service] 항목에 Environment 설정으로 PATH가 이미 추가되어 있는 것이 보일 것이다. 그 다음 줄에 Environment 설정을 아래와 같이 하나 더 추가한다. 예를 들어 ollama 모델 저장 디렉토리를 /data/ollama_models/로 설정하고 싶다면 아래의 내용을 추가하자.

Environment="OLLAMA_MODELS=/data/ollama_models/"

설정 파일을 저장한 후 ollama 서비스를 재기동한다.

sudo systemctl restart ollama

AI 모델 저장 디렉토리뿐만 아니라 다른 환경변수도 필요에 따라 위의 설정 파일에 추가해서 설정할 수 있다.