제가 알기론, 퓨리오사AI는 LG와 별 상관이 없습니다. 다만 LG AI연구원이 엑사원에 대한 POC를 수행하였고 유의미한 결과를 얻은것으로 홍보하였으나 개인적으로는 의문이 드는 부분이 많긴 합니다.(과연 추론 서비스가 가능한 데이터센터급에서의 환경이었는가 ?)
개인적인 생각이나, 현재도 충분한 지원을 받고 있다고 알고 있습니다.(회사매출 대부분, 정부지원사업으로 충당하는 것으로~) 부족하다고 계속 언론홍보등을 하고 있으나, 과연 이게 맞는것인가 개인적으로는 의문입니다. 저는 NPU보다는 차세대 PIM등으로 빨리 전이해야 한다고 생각하고 있거든요~ 그쪽 기술이 씨가 말랐다는...
솔직히 지금 당장 뒤가 없기 때문에 일단은 엔비디아랑 협력해서 최대한 제일 범용성 높은 무기를 받아내는게 우선이죠. 그리고 범용성은 떨어져도 전성비가 아주 높은 리벨리온, 퓨리오사를 하이브리드로 활용 하는 방안으로 가는게 최우선이죠. 전기료 무시 못하니까요. 물론 엔비디아는 자사의 생태계 솔루션으로 발 들여놓은 다음에 못 빠져 나가게 하는 수법임에 분명하죠. 하지만 전력과, 전기료 문제로 우리나라의 AI칩인 리벨리온, 퓨리오사를 분명히 쓸겁니다.
일단, 저는 이런 주제에 대해 논하는걸 매우 즐거워합니다. 말이 날카롭거나 그런건 제가 표현을 잘 못해서 그러니거니 이해를 먼저 부탁드릴께요
* 먼저 mericrius님이 주신 글에 대해서는 RNGD가 퓨리오사AI기준 2세대 칩인긴 한데요..연산자 타입이 무엇인지, 비교환경은 어떠했는지가 중요하겠죠 ? 공정하게 벤치마킹을 하려면~~ 이미 구글의 TPU는 대규모로 상용화했는데, 가성비/전성비/공성비가 엄청나게 뛰어난 TPU로 왜 GPU를 전략적으로 대체하지 않는건지?를 생각해볼 필요가 있어 보입니다.
@엑스베이스님 일단 데이터센터에서 돌릴려면요~~ 돌릴수가 있어야겠죠? 유의미하게 ? 제가 항상 고려하는 관점이예요. 일단 학습은 포기했고, 추론에 특화되어 있다고 하면, 왜 아직도 이렇게 값싸고 좋은 AI반도체 기반으로 AI추론서비스를 하고 있지 않을까요 ? 일반적으로 CAPEX에 대한 회수기간을 5년, 최대 7년으로 보고 대다수의 CAPEX의 비용을 GPU가 차지하고 있다면 보면, 국산 AI반도체로 1년, 아니 6개월만 돌렸어도(아니 서비스했어도) GPU대비 투자비용을 몇배나 뽑았을수 있음에도 불구하고.
대규모 AI추론 서비스를 하려면요. 과연 AI반도체 칩 성능만 좋으면 되는건가 ?? 생각해봐야 하지 않을까요 ?
저는 분명히 조만간 국산 AI반도체 기반 대규모 AI추론 서비스를 시작할껍니다. 기술적 방향성, 국민적 여론, 정치적 지원등등 모두를 종합적으로 고려해보면요 다만 눈에 보이지 않지만, 누군가가 반드시 어느정도 감당해야 할 FallBack, 매몰비용등은 고려해야할텐데~~ 과연 지금 이 방향성이 맞는지가 고민될뿐입니다.
바삭한나쵸님 엔비디아는 학습용 추론용 다 사용 가능하지만 학습용에 더 특화됐죠. 물론 용도별로 또 나누지만요. 국산 AI 칩들은 추론용이죠. 보통 이미지, 언어모델 등 추론 등에 특화됐고 학습용으로는 엔비디아를 지금 따라가기가 어려우니 추론 쪽을 택해서 전성비 높은쪽 개발로 가닥 잡아서 방향을 틀어버린거구요.
AI서버, 공장, 디지털트윈, 피지컬AI 등 다 활용해야하는데 당장 다 범용으로 활용할려면 엔비디아칩이 필요하죠. 그리고 그 보다 더 중요한건 우리나라 산업구조가 참 AI가 성장하기엔 좋은 발판인데 그 위에 올라갈 SW, 아키텍쳐 등이 떨어진다는겁니다. HW만 갖춰져봐야 피지컬AI를 어떤식으로 연결하고 발전 시킬지 효율을 올릴지가 중요하죠.
뭔가 천재적으로 위에서 지시해줄 사람도 필요하구요. 수십억대의 고연봉 전문인력들을 데려오는게 중요하다고 보구요. 이게 우리나라에서 시작이되야 합니다. 미국, 중국 처럼. 이게 되야 또 의대보다 이공계쪽으로 분위기가 많이 바뀌기도 할테구요.
지금 당장은 아무 생각없이 엔비디아칩을 쓰는게 맞습니다. 국산국산 하다가 아무것도 못하구요. 일단 학습을 해야지 추론을 하죠. 국산은 국산 나름대로 하이브리드 전략으로 써야하는게 맞구요. 그 나름대로 그 영역에서 전성비 월등한 추론용칩으로 계속 발전 하면 됩니다. 그럼 그 나름대로 효율적으로 쓰면 되구요.
개인적인 생각이나, 현재도 충분한 지원을 받고 있다고 알고 있습니다.(회사매출 대부분, 정부지원사업으로 충당하는 것으로~)
부족하다고 계속 언론홍보등을 하고 있으나, 과연 이게 맞는것인가 개인적으로는 의문입니다.
저는 NPU보다는 차세대 PIM등으로 빨리 전이해야 한다고 생각하고 있거든요~ 그쪽 기술이 씨가 말랐다는...
참고로, 지금으로부터 2개월전에는 GPU가 대수녀, 국산 NPU로 쫘악 깔자..라는 이야기가 대다수였습니다.
그런데, 지금은 ?어떤가요? 솔직히 관심있게 해당 이슈를 지속적으로 모니터링한 사람으로 많이 혼란스러운 상태랍니다.
* 먼저 mericrius님이 주신 글에 대해서는
RNGD가 퓨리오사AI기준 2세대 칩인긴 한데요..연산자 타입이 무엇인지, 비교환경은 어떠했는지가 중요하겠죠 ?
공정하게 벤치마킹을 하려면~~
이미 구글의 TPU는 대규모로 상용화했는데, 가성비/전성비/공성비가 엄청나게 뛰어난 TPU로 왜 GPU를 전략적으로 대체하지 않는건지?를 생각해볼 필요가 있어 보입니다.
@엑스베이스님
일단 데이터센터에서 돌릴려면요~~ 돌릴수가 있어야겠죠? 유의미하게 ?
제가 항상 고려하는 관점이예요.
일단 학습은 포기했고, 추론에 특화되어 있다고 하면, 왜 아직도 이렇게 값싸고 좋은 AI반도체 기반으로 AI추론서비스를 하고 있지 않을까요 ?
일반적으로 CAPEX에 대한 회수기간을 5년, 최대 7년으로 보고 대다수의 CAPEX의 비용을 GPU가 차지하고 있다면 보면, 국산 AI반도체로 1년, 아니 6개월만 돌렸어도(아니 서비스했어도) GPU대비 투자비용을 몇배나 뽑았을수 있음에도 불구하고.
대규모 AI추론 서비스를 하려면요. 과연 AI반도체 칩 성능만 좋으면 되는건가 ?? 생각해봐야 하지 않을까요 ?
저는 분명히 조만간 국산 AI반도체 기반 대규모 AI추론 서비스를 시작할껍니다.
기술적 방향성, 국민적 여론, 정치적 지원등등 모두를 종합적으로 고려해보면요
다만 눈에 보이지 않지만, 누군가가 반드시 어느정도 감당해야 할 FallBack, 매몰비용등은 고려해야할텐데~~ 과연 지금 이 방향성이 맞는지가 고민될뿐입니다.
* 그렇다고 하지 말자는건 아닙니다~~
안녕하세요. 매우 전문가처럼 보이셔서
궁금한것좀 여쭈어볼려고 합니다
cxl의.미래는 어떻게 보시나요?
nv link에 밀릴것 처럼 보여서요
엔비디아는 학습용 추론용 다 사용 가능하지만 학습용에 더 특화됐죠. 물론 용도별로 또 나누지만요. 국산 AI 칩들은 추론용이죠. 보통 이미지, 언어모델 등 추론 등에 특화됐고 학습용으로는 엔비디아를 지금 따라가기가 어려우니 추론 쪽을 택해서 전성비 높은쪽 개발로 가닥 잡아서 방향을 틀어버린거구요.
AI서버, 공장, 디지털트윈, 피지컬AI 등 다 활용해야하는데 당장 다 범용으로 활용할려면 엔비디아칩이 필요하죠. 그리고 그 보다 더 중요한건 우리나라 산업구조가 참 AI가 성장하기엔 좋은 발판인데 그 위에 올라갈 SW, 아키텍쳐 등이 떨어진다는겁니다. HW만 갖춰져봐야 피지컬AI를 어떤식으로 연결하고 발전 시킬지 효율을 올릴지가 중요하죠.
뭔가 천재적으로 위에서 지시해줄 사람도 필요하구요. 수십억대의 고연봉 전문인력들을 데려오는게 중요하다고 보구요. 이게 우리나라에서 시작이되야 합니다. 미국, 중국 처럼. 이게 되야 또 의대보다 이공계쪽으로 분위기가 많이 바뀌기도 할테구요.
지금 당장은 아무 생각없이 엔비디아칩을 쓰는게 맞습니다. 국산국산 하다가 아무것도 못하구요. 일단 학습을 해야지 추론을 하죠. 국산은 국산 나름대로 하이브리드 전략으로 써야하는게 맞구요. 그 나름대로 그 영역에서 전성비 월등한 추론용칩으로 계속 발전 하면 됩니다. 그럼 그 나름대로 효율적으로 쓰면 되구요.
엘지는 그냥 가전 회사인데 뭘 끼고 말고...
AI시대 대응이 너무 취약해요.
그냥 가전회사
2. 반도체는 삼성, 로봇은 현대로 해서 ai 로봇의 우위를 선점하고자 했다는 생각도 들고
3. 어짜피 미국내에서 뽑아먹을거 한계치를 다 확인한 후에 다음스텝을 위한 투자가 아닌가 싶습니다.
공공분야에서 LG CNS 가 일 많이 하고 있죠
NPU 만드는 "많은" 회사 언급하면서 그리 무시당할 곳은 아니라고 봅니다.