머신러닝 기록 (2) 썸네일형 리스트형 머신러닝용 개인 PC를 맞추다 (라이젠 & RTX 3090 - Ubuntu) ChatGPT 와 같은 인공지능 서비스가 나오면서 Stable Diffusion 과 같은 생성형 인공지능과 LLaMa, Alpaca 등 대규모 언어 모델을 통한 오픈소스 프로젝트들이 정말로 하루가 다르게 쏟아져 나오는 느낌이다. 인텔 맥북을 쓰는 사용자로써는 그런 오픈소스를 돌려보는 것도 그림의 떡이라 간간히 Colab 으로 돌려보는 정도에 그쳤는데, 하다보니 조금은 욕심(?)이 생겨 자체적으로 구동을 돌릴 수 있는 홈서버를 간단하게(?) 구축해보기로 했다. 불을 지피게 된 계기는 KoAlpaca 를 보게 됨으로써 '나도 돌려볼 수 있겠다' 는 생각에.. 구성 무엇보다 VRAM(메모리 용량) 이 24G 인 그래픽카드가 필요했다. Colab 보다는 높은 VRAM 을 갖고 싶었고, 용량이 부족해서 실행을.. RTX3090 vs RTX4090 Stable Diffusion 성능 확인 관련된 주제로 실제 테스트를 진행한 benchmarks 결과가 있어 가져왔다. VRAM 이 낮으면, CUDA out of memory 가 발생하여 Stable Diffusion 을 활용해볼 수 조차 없다. RTX3060 12GB 으로 잠시 돌려봤을 때도 만족할 수준이었는데, 역시 성능이 올라갈 수록 성능은 극대화 되는 것을 볼 수 있었다. RTX4090 이 아른아른거려서 잠시 기록으로.. 출처 : https://www.tomshardware.com/news/stable-diffusion-gpu-benchmarks 이전 1 다음
