ubuntu server (1) 썸네일형 리스트형 머신러닝용 개인 PC를 맞추다 (라이젠 & RTX 3090 - Ubuntu) ChatGPT 와 같은 인공지능 서비스가 나오면서 Stable Diffusion 과 같은 생성형 인공지능과 LLaMa, Alpaca 등 대규모 언어 모델을 통한 오픈소스 프로젝트들이 정말로 하루가 다르게 쏟아져 나오는 느낌이다. 인텔 맥북을 쓰는 사용자로써는 그런 오픈소스를 돌려보는 것도 그림의 떡이라 간간히 Colab 으로 돌려보는 정도에 그쳤는데, 하다보니 조금은 욕심(?)이 생겨 자체적으로 구동을 돌릴 수 있는 홈서버를 간단하게(?) 구축해보기로 했다. 불을 지피게 된 계기는 KoAlpaca 를 보게 됨으로써 '나도 돌려볼 수 있겠다' 는 생각에.. 구성 무엇보다 VRAM(메모리 용량) 이 24G 인 그래픽카드가 필요했다. Colab 보다는 높은 VRAM 을 갖고 싶었고, 용량이 부족해서 실행을.. 이전 1 다음
