소버린AI 및 버티컬AI에 대해 여러 차례 언급드린 바 있습니다.
여러 분야에서 AI가 어떤 식으로 활용 될 것인지 대략적인 그림은 그려지지만,
해당 기업들의 실제 대응 내용은 외부에서 알기 어려운데,
이번 공급 소식으로 드러나게 되었습니다.
이전 글에서 이야기 한 것처럼 모든 산업이 챗봇을 필요로 하는 것은 아닙니다.
구글이 단백질을 연구하고 신약 개발에 많은 힘을 들이는 소식을 들으면서도,
그것을 국내로 연결 해서 생각하지 않더군요.
예를 하나 들어 볼까요.
위 그림에 나오는 AI팩토리... 이걸 외부 서비스를 인터넷으로 연결 된 환경에서
운용 된다는 것은 생각하기 어렵습니다.
그리 오래 되지 않은 얼마 전 알리바바에서 Qwen의 비전 특화 모델이 나오자
세계 개발자들의 관심을 받은 적이 있습니다.
위 그림에도 나오듯이 로봇 운용에서도, 자율 주행 관련해서도, 온갖 활용을
기업들도 염두하고 있었는데, GPU 확보의 어려움으로 제대로 된 진행이 안 되어 왔다고 추정해 볼 수 있습니다.
또한 딥시크 R1이 개발 되었을 때 거기에 사용 된 그래픽카드 숫자는
현재 LLM에 힘을 쏟을 네이버쪽하고 비교해 보아도 적은 숫자였고,
심지어 블랙웰 만큼의 성능도 아니었습니다.
즉, 과거와 달리 요즘 시대에는 어느 한 기업이 6만장을 갖게 되면,
LLM 개발에 날개를 달게 된 것 과 마찬가지라는 것입니다.
또한 이런 세부 분야의 활용에는 아직까지 쿠다가 필요합니다.
엔비디아 외의 답안지는 아직 생각하기 어렵다는 것입니다.
정부도 사용한다는데 사용처에 표기되지 않았다면 말할 수 없는 그런곳 아닐까요??ㅎㅎ
기업별로 배분된 블랙웰 GPU 시스템 21만대가 이미 투자가 결정된 AI 데이터센터 건설시 모두 투입될 것으로 보이는데, 삼성전자 5만대는 이번에 삼성SDS가 구미 삼성전자 부지에 짓기로 한 8조원대 AI 데이터센터로 갈 것으로 보이고, 네이버 클라우드 6만대는 포항 홍해읍의 AI 융복합 산업단지에 들어설 NHN 클라우드 연합의 AI 컴퓨팅센터에 구축될 겁니다. SK 그룹 5만대는 울산 국가산업단지에 구축할 7조원대 SK-AWS AI 데이터센터로 들어갈 것 같네요.
나머지 현기차에 배분된 GPU 5만대가 크게 주목받고 있는데, 이번에 현기차가 AI 데이터센터를 국내에 신규로 짓기로 발표했기 때문입니다. 감히 예상하자면 이건 광주 첨단 3지구로 들어갈 것으로 봅니다. 이번에 광주가 국가 AI 컴퓨팅센터를 유치하기로 해서 첨단 3지구에 1.5만평 정도 부지를 조성하고 인근에 120MW급 변전소를 신규 건설해놨으니 AI 데이터센터 구축 준비는 다 끝낸 상태입니다. 그런데 해남과의 경쟁에서 탈락해서 지역 민심이 흉흉한데, 현기차 정의선 회장이 어제 APEC 행사장에서 이재명 대통령에게도 큰 빚을 졌다라고 고마움을 표시하기도 했으니 지역 배려 차원에서 광주로 갈 것으로 생각합니다. 광주가 국가 AI 컴퓨팅센터 탈락 직후에 모 대기업이 광주시와 AI 데이터센터 유치 관련 협의중이라는 뉴스가 있었는데, 이게 아마 현기차 그룹이었던 것으로 추정됩니다. 광주는 현재 모빌리티 AI 사업에도 적극 투자하고 있어서 현대차 AI 데이터센터와도 컨셉이 잘 맞습니다.
나머지 정부가 구매하는 5만대는 대부분이 전남 해남군 솔라시도에 들어설 국가 AI 컴퓨팅센터에 조달되고(H100 기준 5만대 구축 목표였으니 아마 2~2.5만대 투입 예정일듯?) 나머지 수량을 대학과 국가 연구소로 적절히 배분하여 내려갈듯 합니다.
AI 3대 강국이라는거 이렇게 쉽게 달성 가능한 것이었습니까?ㄷㄷㄷ
이 기사는 '대'로 세는군요..
국내기업 AI기업 퓨리오사에서 만들고있는 gpu?에 대해서
엔비디아 것과 비교하여 그 성능적인 비교우위성이 있는지
그리고 퓨리오사의 미래 성장가능성에 대해서는
어떻게 전망하시는지 궁금합니다
어떤 분들은 주식을 위한 퓨리오사사의
언플이라는 분도 계시고 실체가 없는 회사라 평하며
퓨리오사에 대해 부정적 평가를 하는 분들도 계시눈거같아서요
음... 퓨리오사에 대한 정보가 제가 많이 없습니다.
그러니 일반론으로 말할 수 밖에 없음을 양해 바랍니다.
우선 AI학습에 대해 알아야 합니다. 길고 복잡한 것은 생략하고...
어떤 한 칩을 설계한다고 생각해 봅니다.
학습을 위한 구조를 만들겠죠. 그리고 그 학습을 위해 필요한 주변 자원도 최대한 효율을 끌어내야겠죠.
소위 말하는 CPU와 GPU간의 거리를 좁히거나 공유하는 메모리를 두거나...뭐 이런 것들입니다.
물리적 거리를 줄이기 위해 메모리를 쌓아 올리는 것들...
이 모두가 효율을 올리기 위한 방법들이고요.
그런데, 중심에 해당하는 이 연산 부분이 학습과 추론에서 조금 갈립니다.
그러니까 두 가지 모두 충족하면서, 효율까지 높고, 나아가 그걸 다루는 도구인 쿠다까지 갖춘 것이
엔비디아 GPU입니다
퓨리오사의 것은 (최신 업데이트는 안 되어 있으니 감안해 주시고요) 이 추론 영역 특화입니다.
그러니까 FP32라던지 이런 부분을 제외한...FP4와 같은 추론에 적합한 구성을 갖춘...
구글에서 직접 개발해서 사용중인 칩도 이런 추론 특화 영역에 맞춘 것이고,
아마존, MS, 구글, OAI에서 만들었거나 만들겠다고 하는 것들도 다 이런 추론 영역입니다.
퓨리오사는 예전부터 이 추론 특화 칩을 만들어 데이터센터 운용에서 중요한 축 중 하나인
전력 소모도 줄이면서 추론에서의 효율을 추구한다고 했던 것 같습니다.
과거에는 거대한 스케일로 모델을 만드는 비중이 높았다면,
앞으로는 만들어진 모델을 서비스 하는 비중이 역전 된다고 보았을 때,
각 기업들이 추론 특화 칩을 만드려는 것은 어찌 보면 당연한 일입니다.
최근에는 구조 설계에서 특별한 선택을 한 퀄컴이 주목 받기도 했습니다.
불과 며칠 전 뉴스입니다.
바로 LPDDR5... 즉 삼성 SK가 납품하는...... 위에서 주변 부 효율의 핵심인
HBM 이 들어가지 않는 서버랙 단위의 제품이었는데,
혁신적 설계로 비록 데이터가 오가는 통로는 좁지만,
물리적 양을 대폭 늘려서 추론에서는 더 나은 전력 소모와 대규모 서비스에
적합한 설계였습니다.
이렇게 도입 비용 줄이고, 전기 덜 먹고, 대규모 서비스에 더 효율적인...
그런 추론 전용 시스템을 갖추는 것... 이런 쪽으로 보시면 되지 싶습니다.
TPU가 추론 학습 전부 되긴 합니다만...
사용 목적은 좀 다릅니다.
그래서 구글도 엔비디아 칩을 사고 있고 앞으로도 살 것입니다.
AI현황을 이해하는데 정말 큰 도움이 됐습니다
천문공님께서도 즐거운 주말되세요^^
공식입니다.