openclaw와 Ollama llm 연결 오류

openclaw에서 "Ollama API error 500: {"error":"model requires more system memory (20.3 GiB) than is available (8.3 GiB)"}" 오류가 발생함. 해결 방법은?

 

 

OpenClaw에서 Ollama 메모리 부족 오류가 발생했습니다. 시스템 메모리(8.3GB)가 모델 요구량(20.3GB)보다 적어서 발생하는 문제입니다.

---

즉시 해결 방법

1. 더 작은 모델 사용 (추천)

OpenClaw 설정에서 모델을 경량화된 버전으로 변경:

Table

 

 

현재 모델대체 모델필요 메모리

Llama 3.1 70B	Llama 3.1 8B	~6 GB
Qwen 2.5 72B	Qwen 2.5 7B	~5 GB
Mixtral 8x22B	Mixtral 8x7B	~13 GB → Phi-4 4.5B (~3 GB)
DeepSeek-R1 32B	DeepSeek-R1 7B	~5 GB

OpenClaw 설정 변경:

plain

설정 → 모델 설정 → Ollama 모델 태그 변경
예: llama3.1:70b → llama3.1:8b

---

2. Ollama 양자화(Quantization) 적용

모델 정밀도를 낮춰 메모리 사용 감소:

bash

# Ollama에서 양자화된 버전 실행
ollama run llama3.1:8b-q4_0    # 4-bit 양자화 (가장 작음)
ollama run llama3.1:8b-q8_0    # 8-bit 양자화 (중간)

Table

 

 

접미사크기 감소질필요 메모리

q4_0	~75%	보통	원본의 25%
q5_0	~65%	양호	원본의 35%
q8_0	~50%	우수	원본의 50%

---

3. 가상 메모리(Swap) 임시 확보

bash

# macOS
sudo dd if=/dev/zero of=/private/var/vm/swapfile bs=1g count=16
# 또는
sudo swapoff -a && sudo swapon -a

# Linux
sudo fallocate -l 16G /swapfile
sudo chmod 600 /swapfile
sudo mkswap /swapfile
sudo swapon /swapfile

⚠️ 주의: SSD swap은 GPU 메모리 부족 해결 못 함, 속도도 매우 느림

---

4. OpenClaw 설정 최적화

Ollama 환경 변수 설정:

bash

# macOS: ~/.zshrc 또는 ~/.bash_profile
export OLLAMA_CONTEXT_LENGTH=2048    # 기본 4096 → 2048 감소
export OLLAMA_NUM_GPU=1              # GPU 레이어 수 제한
export OLLAMA_MAX_LOADED_MODELS=1    # 동시 모델 1개로 제한

# Ollama 재시작
killall ollama
ollama serve

---

근본 해결책

Table

 

 

방법설명비용

RAM 업그레이드	32GB 이상 권장	하드웨어 구매
외부 Ollama 사용	RAM 큰 서버에 Ollama 설치 후 원격 연결	서버 비용
OpenClaw API 모드 전환	Kimi API 직접 사용 (Ollama 우회)	API 사용량 과금

---

OpenClaw에서 Kimi API 직접 사용

Ollama 대신 Moonshot API를 직접 호출하도록 설정:

plain

OpenClaw 설정 → API 설정 → Custom Endpoint
- Base URL: https://api.moonshot.cn/v1
- Model: kimi-k1.5 또는 kimi-latest
- API Key: [Moonshot 콘솔에서 발급]

이 경우 로컬 메모리 제한 없이 Kimi 서버 리소스를 사용합니다.

---

요약

Table

 

 

우선순위조치효과

1	8B/7B급 소형 모델로 변경	즉시 해결
2	q4_0/q5_0 양자화 버전 사용	품질 약간 감소
3	Kimi API 직접 사용	최고 품질, 과금 발생
4	하드웨어 업그레이드	장기적 해결

어떤 모델을 현재 사용 중이신가요? 그에 맞는 구체적인 대체 모델을 추천해 드리겠습니다.

 

 

 

 

 

Ollama API error 404: {"error":"model 'llama3.1:latest' not found"}

 

 

Ollama에 llama3.1:latest 모델이 설치되지 않아서 발생하는 오류입니다.

---

즉시 해결 방법

1. 모델 다운로드 (Pull)

bash

# 터미널에서 실행
ollama pull llama3.1:8b

# 또는 최신 태그 명시
ollama pull llama3.1:latest

다운로드 중 화면:

plain

pulling manifest
pulling 8eeb52b6... 100% ▕████████████████▏ 4.7 GB
verifying sha256 digest
writing manifest
success

---

2. 설치된 모델 확인

bash

ollama list

출력 예시:

plain

Copy

NAME                    ID              SIZE      MODIFIED
llama3.1:8b             8eeb52b6...     4.7 GB    2 minutes ago
qwen2.5:7b              972a12a3...     4.4 GB    3 days ago

llama3.1이 보이지 않으면 Step 1을 먼저 실행해야 합니다.

---

3. OpenClaw 설정 확인

OpenClaw에서 모델 이름이 정확히 일치하는지 확인:

Table

 

 

OpenClaw 설정Ollama 실제 모델명상태

llama3.1:latest	llama3.1:8b 또는 llama3.1:latest	✅ 일치
llama3.1	llama3.1:8b	⚠️ 태그 누락
llama3.1:70b	미설치	❌ 404 오류

OpenClaw 설정 변경:

plain

설정 → 모델 → Ollama 모델명: llama3.1:8b

---

메모리 제한 고려 (8.3GB 환경)

이전에 메모리 부족(20.3GB 필요) 문제가 있었으므로, 8B 이하 모델만 사용 가능:

Table

 

 

모델명령어필요 메모리상태

Llama 3.1 8B	ollama pull llama3.1:8b	~6 GB	✅ 가능
Llama 3.1 70B	ollama pull llama3.1:70b	~40 GB	❌ 불가
Qwen 2.5 7B	ollama pull qwen2.5:7b	~5 GB	✅ 가능
Phi-4 4.5B	ollama pull phi4	~3 GB	✅ 가능
Gemma 2 2B	ollama pull gemma2:2b	~2 GB	✅ 가장 작음

---

전체 해결 플로우

bash

# 1. Ollama 서버 실행 확인
ollama serve
# 또는 백그라운드에서 이미 실행 중인지 확인: pgrep ollama

# 2. 모델 다운로드 (8B 권장)
ollama pull llama3.1:8b

# 3. 설치 확인
ollama list

# 4. 테스트
ollama run llama3.1:8b
# >>> 안녕하세요 (입력 후 응답 확인)
# /bye 로 종료

---

OpenClaw 재연결

모델 설치 후 OpenClaw에서:

1. 설정 → 모델 → Ollama 모델명을 llama3.1:8b로 변경
2. 연결 테스트 또는 새 대화 시작

---

여전히 오류가 발생하면

bash

# Ollama 완전 재시작
killall ollama
ollama serve

# 또는 디버그 모드로 상세 로그 확인
OLLAMA_DEBUG=1 ollama serve

어떤 모델을 다운로드했는지, ollama list 출력 결과를 알려주시면 더 구체적으로 도와드리겠습니다.