일단 ollama에 대한 기본적인 내용은 이전 게시물을 참고하자. 아래의 링크다.
리눅스 민트 22 XFCE에서 ollama 설치 및 LLM 구동
ollama를 구동하면 웹서버가 실행되고 이 웹서버는 TCP 포트 11434번을 사용한다. ollama 서비스가 실행중인 상태에서 웹브라우저로 http://localhost:11434에 접속해 보면 "Ollama is running"이라는 메시지가 나올 것이다.
만약 이 포트 번호를 변경하고 싶다면, 환경변수(environmental variable)를 이용해서 지정해 주어야 한다. 해당되는 환경변수는 OLLAMA_HOST이다. systemd 서비스 실행 설정에 환경변수를 추가하기 위해 루트 권한으로 /etc/systemd/system/ollama.service 파일을 편집하자.
sudo vi /etc/systemd/system/ollama.service
예를 들어 포트 번호를 5555번으로 변경하고 싶다면 이 파일의 "[Service]" 항목에 아래의 내용을 추가로 작성한다. IP주소는 루프백(loopback) 주소인 127.0.0.1을 사용.
Environment="OLLAMA_HOST=127.0.0.1:5555"
변경 사항을 반영하기 위해 서비스를 재시작한다.
sudo systemctl restart ollama
이와 관련된 좀 더 자세한 내용은 이전 게시물을 참조하자. 아래의 링크다.
리눅스에서 ollama AI 모델(LLM) 저장 디렉토리 변경 - 2 (systemd 서비스에 환경 변수 지정)
'리눅스' 카테고리의 다른 글
리눅스 wget에서 다운로드 중단된 파일을 이어서 받기 (0) | 2025.02.23 |
---|---|
오드로이드 M1S에 2TB NVME SSD 장착 (0) | 2025.02.20 |
리눅스에서 ollama AI 모델(LLM) 저장 디렉토리 변경 - 2 (systemd 서비스에 환경 변수 지정) (0) | 2025.02.14 |
ollama 리눅스 버전 오프라인 설치 (1) | 2025.02.11 |
리눅스에서 ollama AI 모델(LLM) 저장 디렉토리 변경 (0) | 2025.02.05 |