BC250
사용기 마지막에
Ollama API로(Ollama가 그닥 좋은 선택은 아니지만 갈아타기 귀찮아서...) 디스코드 봇을 돌려봤었는데요 Gemma4가 꽤 잘 나와서 이걸로 디스코드 봇을 돌려보다가
안그래도 날도 더운데
대기전력 문제가 있더라고요.
참고로 제 환경은 우분투 26.04, 스왑 8GB, Ollama 0.20.7에
https://github.com/akandr/bc250
여기 있는 세팅을 적용해서 13GB의 GTT 메모리를(ttm.pages_limit=3407872) 설정해서 gemma4-26b:q3를 돌렸습니다.
40CU언락에 GPU 가버너,
ACPI 패치로
CPU클럭 정상화 했는데도 AC 전력 기준 아이들 60~70W, AI 연산시 120W 쯤,
온도는 아이들 48~50도, 로드시 60~…
원문 보기 →