최근 우연히 openclew 와 ollama 를 보다 보니까,
쓸데 없이 5070 ti 16기가 짜리라도 하나 사야하나 하는 생각이 들더라구요? (멍..)
실제로 구매할 수 있는지는 모르겠는데
다나와 최저가 검색 160만원 정도.. ㄷㄷㄷ 글픽 카드 비싸군요ㅎ
(또는 맥 램 24기가 짜리 맥미니 사면 200만원 정도 되나요..? 이걸로 램 부족하죠?ㅎ)
게임도 안 하는데, 그냥 올라마 돌려 보는 용도로 글픽 카드 사는 건..
현 시점에서 웃기는 일이될까나요ㅎㅎ
(여담이지만, 지인한데 이 얘기 했더니
그럴 돈 있으면 하이닉스 주식이나 사라.. 라고 하던데요ㅎㅎㅎㅎㅎ)
구글 계정으로 GCP 결제 정보 등록하면 10만원인가 30만원인가 크레딧 줍니다.
그리고 로컬 환경에 큰 기대를 하지 않는 것이 좋습니다.
ChatGPT나 Gemini가 항공모함이라면 로컬은 종이배나 모터보트 수준입니다.
로컬에서 돌릴려면 최소 3090은 달아야합니다.
하고 싶을 때 해야합니다.
1 년전 요맘때 이런 목적으로 컴터 맞추려고 하다가 어영부영 시기를 놓치고 나니, 남은건 눈물...
(맥북32기가라 30b모델도 어찌어찌 돌아는 갑니다.)
3080 12gb 짜리로 llm 로컬로 좀 돌려봤는데 시간 낭비였습니다.
그냥 그 돈으로 유료 사서 쓰세요. ㅎㅎ