AI) 현재 최상급 이라 평가받는 오픈소스 로컬 AI 모델 돌려보기
손주
AI) 현재 최상급 이라 평가받는 오픈소스 로컬 AI 모델 돌려보기
RTX 6000
대략 2000만원
RTX 5090
대략 700만원
RTX 6000 5장 + RTX 5090 으로 만든 로컬 환경으로
나머지 부품들 제외하고
그래픽카드로만 1억 7백만원 이상이 소요됨
이렇게 까지 쓰고 난 뒤
로컬 AI 에 대한 후기
Was it worth it? LOL, no. Absolutely not. This was a terrible idea. DO NOT DO THIS.
그럴 만한 가치가 있었냐고요? 하하, 아니요. 전혀 아닙니다. 정말 끔찍한 생각이었습니다. 절대 따라 하지 마세요.
출처
오늘의 인기 (TOP 50)
- 1
2천막의 자두가르 - Stella
1천막의 자두가르 - Stella2 - 2
240년 살아보니 깨닫는 점.jpg
240년 살아보니 깨닫는 점.jpg2 - 3
2부산의 한 대학교 근처 길거리에 누가 도마뱀 100마리 유기함
3부산의 한 대학교 근처 길거리에 누가 도마뱀 100마리 유기함2 - 4
2서른 여덟에 혼자사는 여자는 아플 때 가장 생각이 많아진다..
4서른 여덟에 혼자사는 여자는 아플 때 가장 생각이 많아진다..2 - 52
김민석, '반도체 공장 후보지' 광주 군공항서 6일 전당대회 출마선언 검토
5김민석, '반도체 공장 후보지' 광주 군공항서 6일 전당대회 출마선언 검토2 - 6
3박수홍이 분노한 이유.jpg
6박수홍이 분노한 이유.jpg3 - 72
“무섭노” 사투리 썼다 ‘일베’ 몰린 리센느 원이… “이제 막 뜨려는 거제 출신 아이돌을 도마에” 네티즌 ‘황당’ [넷만세]
7“무섭노” 사투리 썼다 ‘일베’ 몰린 리센느 원이… “이제 막 뜨려는 거제 출신 아이돌을 도마에” 네티즌 ‘황당’ [넷만세]2 - 82
충격적인 조성현 대령이 '서강대교 넘지마라' 이후 한 지시
8충격적인 조성현 대령이 '서강대교 넘지마라' 이후 한 지시2 - 92
방송사 메인 뉴스 TOP 4 - 2026년 7월 4일(260704)
9방송사 메인 뉴스 TOP 4 - 2026년 7월 4일(260704)2 - 10
2생활의 달인 부산 군만두의 달인
10생활의 달인 부산 군만두의 달인2 - 11
2완경이 아니라 폐경이 맞다는 의사.jpg
11완경이 아니라 폐경이 맞다는 의사.jpg2 - 12
2가정교육 못받은 식사습관
12가정교육 못받은 식사습관2 - 13
2이혼하려고 법정왔는데 판사가 돌아가라고함.JPG
13이혼하려고 법정왔는데 판사가 돌아가라고함.JPG2 - 14
2영국의 사형제도를 없애버린 A6 도로 살인사건.jpg
14영국의 사형제도를 없애버린 A6 도로 살인사건.jpg2 - 152
[속보]왜 어지럽히냐.에어컨 설치기사, 세입자 흉기에 사망
15[속보]왜 어지럽히냐.에어컨 설치기사, 세입자 흉기에 사망2 - 16
![[블루아카] "되고싶은 자신을 상상하는겁니다 케이!!"](https://img.kkulgag.com/thumb/128/2026/07/04/1783158127-19f2c5f3a5a36d213.webp)
2[블루아카] "되고싶은 자신을 상상하는겁니다 케이!!"
16[블루아카] "되고싶은 자신을 상상하는겁니다 케이!!"2 - 17
4영국의 사형제도를 폐지한 레전드 사건
17영국의 사형제도를 폐지한 레전드 사건4 - 18
2조나단 방송 인생 최대 위기
18조나단 방송 인생 최대 위기2 - 19
2점심으로 쭈구미 볶음 보리밥 먹고 왔네요
19점심으로 쭈구미 볶음 보리밥 먹고 왔네요2 - 202
햄버거와탕면을 먹다 갑자기 달리기하는 중국인
20햄버거와탕면을 먹다 갑자기 달리기하는 중국인2 - 21
2경제 비판하니까 경찰 출동한 국가
21경제 비판하니까 경찰 출동한 국가2 - 22
2스타벅스 간다던 사람들 근황
22스타벅스 간다던 사람들 근황2 - 23
2VPN 깔려있는데 미친거 아님?
23VPN 깔려있는데 미친거 아님?2 - 24
2특정 인사들에게만 적용되는 정부의 예외적용은 결국에 국민들의 분노와 불신
24특정 인사들에게만 적용되는 정부의 예외적용은 결국에 국민들의 분노와 불신2 - 25
4보지냐 카보베르데 국가대표 은퇴 선언
25보지냐 카보베르데 국가대표 은퇴 선언4 - 26
2"놀부는 제비 다리 고쳐 부자가 됐다는 게 믿기지 않았다"
26"놀부는 제비 다리 고쳐 부자가 됐다는 게 믿기지 않았다"2 - 27
2정성호 '보완수사권 폐지, '훌륭하신 의원나리들'이 잘 논의해야'
27정성호 '보완수사권 폐지, '훌륭하신 의원나리들'이 잘 논의해야'2 - 28
2쯔양이 운동 안하는 이유.jpg
28쯔양이 운동 안하는 이유.jpg2 - 292
성우 강희선, 오늘(4일) 별세
29성우 강희선, 오늘(4일) 별세2 - 30
2가장 한국적인 공항이라는 대구국제공항..jpg
30가장 한국적인 공항이라는 대구국제공항..jpg2 - 31
3음모론자가 천국에 갔다.
31음모론자가 천국에 갔다.3 - 32
2프리큐어)신작에서 주인공이 가장 인기 없다는 이유
32프리큐어)신작에서 주인공이 가장 인기 없다는 이유2 - 33
3이병태 언급한 민주당 국회의원
33이병태 언급한 민주당 국회의원3 - 342
일본 "한국에 기술이전받아 2035년까지 LNG선 부활 노린다"
34일본 "한국에 기술이전받아 2035년까지 LNG선 부활 노린다"2 - 35
2모델이 패션으로 묘사한 나라별 국기 특징
35모델이 패션으로 묘사한 나라별 국기 특징2 - 36
5월드컵 16강 대진표.jpg
36월드컵 16강 대진표.jpg5 - 377
'광주일고에 폭탄 설치' 협박글..경찰 작성자 추적
37'광주일고에 폭탄 설치' 협박글..경찰 작성자 추적7 - 38
2애플 아이폰18 근황
38애플 아이폰18 근황2 - 39
2'518 비하 구호' 배재고 중징계 파문.. 해외선 유소년도 '원스트라이크 아웃' 무관용
39'518 비하 구호' 배재고 중징계 파문.. 해외선 유소년도 '원스트라이크 아웃' 무관용2 - 40
2‘5·18 비하 구호’ 배재고 중징계 파문… 해외선 유소년도 ‘원스트라이크 아웃’ 무관용
40‘5·18 비하 구호’ 배재고 중징계 파문… 해외선 유소년도 ‘원스트라이크 아웃’ 무관용2 - 41
2초3 나는 우리 아이의 그림이 생동감이 있어서 너무 좋다 (주제: 소금빵 싹쓸이 하는 엄마)
41초3 나는 우리 아이의 그림이 생동감이 있어서 너무 좋다 (주제: 소금빵 싹쓸이 하는 엄마)2 - 42
2애플 : 탈중국 해야겠어. 싼 노동력 많은 인도로 가자!
42애플 : 탈중국 해야겠어. 싼 노동력 많은 인도로 가자!2 - 43
2보지냐의 본가 사진
43보지냐의 본가 사진2 - 44
2이제야 외국에서 여름 좋아하는 비율이 높은 이유가 이해된다
44이제야 외국에서 여름 좋아하는 비율이 높은 이유가 이해된다2 - 45
2의외로 한국인을 많이 죽인 동물.jpg
45의외로 한국인을 많이 죽인 동물.jpg2 - 46
2카보베르데와의 경기후 메시 인터뷰txt
46카보베르데와의 경기후 메시 인터뷰txt2 - 47
2연프에서 예비 시어머니들의 관심 쏠린 직업 (+여자 스펙 공개)
47연프에서 예비 시어머니들의 관심 쏠린 직업 (+여자 스펙 공개)2 - 48
2속보) 음주단속 피해 달아나던 SUV 바다 추락…40대 운전자 숨져
48속보) 음주단속 피해 달아나던 SUV 바다 추락…40대 운전자 숨져2 - 49
2우루과이 '탈락 충격' 같았지만 그 다음은 달랐다
49우루과이 '탈락 충격' 같았지만 그 다음은 달랐다2 - 50
5작년에 일본 경찰이 죽인 16살 소녀
50작년에 일본 경찰이 죽인 16살 소녀5