OpenAI가 올 해 말 자체 칩을 테스트한다네요.
조회 2,026 · 공감 0 · 댓글 16
브로드컴과 함께 개발한 700와트를 먹는 칩이 엔비디아 GB300을 레이턴시와 전성비에서 앞섰다고 하네요.
절대 성능을 이기면 엔비디아 직원들이 루팡 짓을 했다는 뜻이니 전성비를 강조한다는건 엔트리 모델 서비스에 테스트한다는거겠죠.
모두의공원 최근 글
- 삼성 가전 견적 봐주실 분!! [1]
- [오늘자 베이킹] 우리 통밀 40% 사워도우.jpg [4]
- 1995년에는 이게 성폭력이 아니였었나봐요. [1]
- 임대지어봤자 아무소용 없습니다 [12]
- 생명의 위협을 느끼는 위급상황일 때, 공공의료원 갈건가요? [7]
- 임대주택 환장하는 이유가 뭐 별 거 있습니까? [8]
- 실제 다주택자(아파트)는 얼마나 될까요? [18]
- 오 존박 랩 엄청 잘하는군요 [2]
- 굥 2심 사형 구형 [3]
- 이재명은 거짓말 한게 맞죠 [6]
- AI 찍먹 비교 중인데 [11]
- 충전용 배터리(공구용, 디지털기기용 등)도 규격화하면 참 좋을거 같은데 말이죠. [5]
- 공공임대 발상의 전환이 필요합니다 [17]
- AI 전공 못한걸 후회하지는 않고 [16]
- 디램 512기가 가격 26백만원 [24]
- 추첨하는걸 공급이라고 할수 있나요? [33]
- 이재명 대통령이 생각하는 지지율이 떨어지는 이유 [10]
- 80년대 후반생이 보는 70년대생들이 20대들을 보는 착각 [45]
- 경찰이 아주대 의사들에게 사과하지 않는 이유? [8]
- 이제는 의료에서도 각자도생의 시대가 된 것 같습니다. [22]
- 다이소는 진짜 축복이네요 [12]
- [단독] 해외 큰 손들, 이제 韓 채권에 눈독...블룸버그도 ‘선진국’ 승격 추진 [3]
- 필수의료는 현실이 드라마보다 더하군요 [29]
- 이대통령 임기내 공공임대 85만호 공급 ㄷㄷ [24]
- 소아과 119명 모집에 2명 지원 [43]
- 직장인 원하는 자리.jpg [29]
- 이세미 괴롭히는게 취미인 듯한 인X일보 기자의 엽기적 페북글 [2]
- 민주당은 여성표 받고 싶으면 이런 거 똑바로 해결하세요 [10]
- 리센느 멜론 TOP10 투표는 1위로 마감하네요 [6]
- 그때 AI 분야로 갔더라면. [13]
댓글 16
램값은 더 올라갈 수 있습니다. 램이 필요한 칩 제조사가 더 늘어나는거니깐요.
칩이 싸지는만큼 많이 만들테니까요.
범용인 엔비디아 대비 추론칩이 그 정도는 해줘야 하죠. 기대 보다 높아서 좋은 평가일 뿐.
그리고 제품이 실제 생산 되어 활용 될 시점에는 이미 엔비디아는 조금 더 가 있는 것이고요.
다만, 시작을 잘 했으니 그 다음도 좋게 기대해 볼 수 있고, 차기에는 개발-생산-적용이 보다 원활하겠죠.
이미 차세대 칩은 설계에 들어갔다고 하던데 실제 서비스에 적용했을때가 중요하겠네요.
전용칩으로 범용칩을 이기는 사례는 매우 많지요.
이런 전용칩은 그러면 텐서 연산에 특화된 TPU보다 더 범용성을 포기하고 연산에만 집중한 칩이라고 봐야하는건가요?
다됨 - CPU
제어력 떨어짐 병렬연산에 좋음 - GPU
그중에서도 행렬연산 위주 - TPU
그중에서도 LLM 위주 - LPU
그중에서도 SRAM 내장으로 제한된 용량 안에서 대역폭 향상 - 세레브라스 WSE (모델 용량 확장이 어려움 (불가능은X))
아예 모델 웨이트를 회로에 박아버림 - 탈라스 칩 (정확히 해당 모델과 동일한 동작만 가능)
아래로 갈수록 유연성이 떨어지고 추론성능은 올라갑니다.
Openai 칩은 lpu 계열일 가능성이 높지 않을까 싶습니다. 사실 엔비디아도 groq (일론머스크의 grok와 다릅니다.) 을 사실상 인수해서 LPU를 시스템체계에 포함하긴 했습니다.