구글이 자사 TPU를 판매한다는 소식을 봤는데요.
퓨리오사, 리벨리온 둘다 열심히하는 회사이기는 한데
추론에 집중하고 있는 상황에서
구글이 자사 TPU를 시장에 풀어버리면 과연 대적이 가능할지... 걱정이네요.
구글이 자사 TPU를 판매한다는 소식을 봤는데요.
퓨리오사, 리벨리온 둘다 열심히하는 회사이기는 한데
추론에 집중하고 있는 상황에서
구글이 자사 TPU를 시장에 풀어버리면 과연 대적이 가능할지... 걱정이네요.
A sana mens sana in corpore sano
국내 LLM, NPU 가 경쟁력이 있을까 싶습니다. 보안이나 애국심에 쓰게 되면 몰라도요.
우선 투입자금, 인재풀, 빅데이터환경, 시장 어느 것 하나 받쳐주는 것이 없습니다.
있다고 해봐야 이재명 대통령님의 지원 의지 정도가 아닐까 합니다. ㅜㅜ
LLM은 성능은 좀 떨어져도 공짜로 풀어버리면 용도에 맞게 쓸곳이 있을거 같은데, NPU는 아래 댓글처럼 전성비가 안나오면 공짜로 풀어도 손해라.... 쉽지 않을거 같아서요...
그나마 경쟁상대라면 Groq, Cerebras 등의 추론용 시장이 있는데, 이미 경쟁상대들은 수년간 자사칩으로 대규모 서비스 경험이 쌓여있어요.
(거기다가 Groq 는 엔비디아가 30조에 사실상 인수를 했죠)
근데 퓨리오사 같은 회사는 이제 LLM 돌릴 수 있다...수준의 걸음마 단계에요.
미래의 ai 끼리의 해킹 대전에서 대 활약할 기업이라고 봅니다