Basalt가 진짜 좋긴 하네. 5060ti인데 이정도 성능을 보여주네.. 모델만 좋아지면 되는데.. 토큰 잘 뽑을 땐 거의 100t/s 나오니까.. 굉장하긴 한듯. 프리필도 이만큼 뽑아주니 뭐 답답한게 없어 ㅋㅋ
엊그제 천교복과 270k plus가 도착해서 2, 3호기 세팅도 완료.. 지금 타오바오 통해서 배송 중인 애들만 오면 구성 가능한 n호기.. 알리에서 설몽이 싸길래 사긴 했는데.. 아무튼 남은 CPU들.. 얘네를 팔던가 해야하는데..
그리고 알리에 b860-i가 싸서 살까 말까 살까 말까 계속 고민 중.. ㅋㅋ
270k plus 와서 250k plus에서 교체한 뒤에 PA120 mini로 사용하기 위해 언더볼팅 그냥 따라서 하고 시네벤치 돌려봤는데 41000점 나오네.. ㅋㅋ..? 온도도 뭐 후면 팬(92mm)이 너무 시끄러워서 중간에 팬속 조절을 좀 했더니 온도가 튀어서 80도 후반대까지 갔는데 안 했으면 80도 초반대일듯.. ㄷㄷ
130이 아니라 180 이상이었군.. UD-IQ4_XS가 딱 좋네. 답변 퀄리티도 그렇고.. 이게 얼추 130쯤 나오니까.. 이전에 4~50쯤 나오던거에 비하면 정말 빠르네 ㅋㅋ 얘는 코딩 에이전트로도 어쩌면 좀 써볼 수 있을듯 하네..
5060ti 16GB 사서.. 4060이랑 교체 후 거기다가 Strata 설치해서 또 돌려봄.
5800x3d, 128GB, 3080ti랑 비교해서 거의 비슷한 속도가 나왔네. 약간 더 빠르긴 한데.. 큰 의미는 없는듯.
그나저나 500W 파워라서 영 불안하네.. SF850이나 SF1000을 빨리 구해야 상시 쓸 듯.. ;ㅁ;
드디어 케이스가 와서.. 미루고 미루던 Strata용 컴퓨터를 조립해봄.
5800x3d, 128GB DDR4, 3080ti tuf.. 18L급으로 조립..
평균 40tok/s 정도.. 흠.. 애매하지만 이런 사양으로 대형 모델을 돌릴 수 있다는 것 자체만 해도.. ;ㅁ;
5090에서 qwen 3.6 27b도 못 올려서 쩔쩔 맸었는데..
최근에 서린에서 파워를 싸게 팔고, 최근에 아마존에서 CPU를 싸게 팔길래 새로 하나 만들어본 컴퓨터.. 케이스 뺀 나머지는 다 남는 부품이긴 했는데.. 램, SSD 값 진짜 말도 안 되네.. 미리 사둬서 할 수 있지 아니었으면 손만 빨았겠네..
DDR4 RMA 보내놓은거 돌아오면 얘는 마크 서버로 돌려야지
