회사에서 감사 프록시 붙인 codex 랑 claude code 를 쓰게는 해주는데...
이게 또 민감 정보 취급하는 업무에는 못 쓰게해서 그런 업무는 AWS bedrock + kiro 를 쓰고 있습니다.
근데 민감정보 이상의 개인정보 취급하는 폐쇄망 내에서는 방법이 없어서...
로컬AI 구축을 추진하고 있는데 기왕에 회사에서 앞장 서서 해보자는 생각에
집에서 연습 좀 해 보려고 DGX Spark 를 집에서 사서 서빙을 공부하다보니
양자화 증류 깨작깨작 해 보다가 슬슬 파인튜닝에 손을 대려고하니
뭔가 아쉬워서 1대 더 샀네요... DGX Spark 는 200Gbps 클러스터링이 가능하다고 해서 케이블이랑 샀는데
아마도 오늘 도착하지 않을까 싶네요 기대가 됩니다.
DGX Spark 질문도 받습니다.
비슷한 가격대에서 DGX Spark와 Mac Studio 512GB (언제 다시 풀릴지 모르겠지만..) 중 고민 중입니다.