회사에서 감사 프록시 붙인 codex 랑 claude code 를 쓰게는 해주는데...

이게 또 민감 정보 취급하는 업무에는 못 쓰게해서 그런 업무는 AWS bedrock + kiro 를 쓰고 있습니다.

근데 민감정보 이상의 개인정보 취급하는 폐쇄망 내에서는 방법이 없어서...

로컬AI 구축을 추진하고 있는데 기왕에 회사에서 앞장 서서 해보자는 생각에

집에서 연습 좀 해 보려고 DGX Spark 를 집에서 사서 서빙을 공부하다보니

양자화 증류 깨작깨작 해 보다가 슬슬 파인튜닝에 손을 대려고하니

뭔가 아쉬워서 1대 더 샀네요... DGX Spark 는 200Gbps 클러스터링이 가능하다고 해서 케이블이랑 샀는데

아마도 오늘 도착하지 않을까 싶네요 기대가 됩니다.

DGX Spark 질문도 받습니다.