CLIEN

본문 바로가기 메뉴 바로가기 보기설정 테마설정
톺아보기 공감글
커뮤니티 커뮤니티전체 C 모두의광장 F 모두의공원 I 사진게시판 Q 아무거나질문 D 정보와자료 N 새로운소식 T 유용한사이트 P 자료실 E 강좌/사용기 L 팁과강좌 U 사용기 · 체험단사용기 W 사고팔고 J 알뜰구매 S 회원중고장터 B 직접홍보 · 보험상담실 H 클리앙홈
소모임 소모임전체 ·굴러간당 ·주식한당 ·아이포니앙 ·일본산당 ·방탄소년당 ·MaClien ·자전거당 ·안드로메당 ·개발한당 ·이륜차당 ·AI당 ·냐옹이당 ·오른당 ·소시당 ·소셜게임한당 ·위스키당 ·와인마신당 ·바다건너당 ·PC튜닝한당 ·스팀한당 ·패스오브엑자일당 ·노젓는당 ·나스당 ·클다방 ·어학당 ·걸그룹당 ·가상화폐당 ·젬워한당 ·육아당 ·IoT당 ·날아간당 ·키보드당 ·리눅서당 ·찰칵찍당 ·달린당 ·3D메이킹 ·X세대당 ·ADHD당 ·AI그림당 ·사과시계당 ·배드민턴당 ·야구당 ·농구당 ·블랙베리당 ·곰돌이당 ·비어있당 ·FM당구당 ·블록체인당 ·보드게임당 ·활자중독당 ·볼링친당 ·캠핑간당 ·문명하셨당 ·클래시앙 ·콘솔한당 ·요리한당 ·쿠키런당 ·대구당 ·DANGER당 ·뚝딱뚝당 ·디아블로당 ·개판이당 ·동숲한당 ·날아올랑 ·전기자전거당 ·e북본당 ·갖고다닌당 ·이브한당 ·패셔니앙 ·물고기당 ·도시어부당 ·FM한당 ·맛있겠당 ·포뮬러당 ·안경쓴당 ·골프당 ·차턴당 ·총쏜당 ·땀흘린당 ·하스스톤한당 ·히어로즈한당 ·인스타한당 ·KARA당 ·꼬들한당 ·덕질한당 ·가죽당 ·레고당 ·LOLien ·Mabinogien ·임시소모임 ·미드당 ·밀리터리당 ·땅판당 ·헌팅한당 ·영화본당 ·MTG한당 ·소리당 ·노키앙 ·적는당 ·방송한당 ·그림그린당 ·소풍간당 ·심는당 ·라즈베리파이당 ·품앱이당 ·리듬탄당 ·Sea마당 ·SimSim하당 ·심야식당 ·윈태블릿당 ·미끄러진당 ·축구당 ·나혼자산당 ·스타한당 ·파도탄당 ·퐁당퐁당 ·테니스친당 ·테스트당 ·빨콩이당 ·공대시계당 ·여행을떠난당 ·터치패드당 ·트윗당 ·창업한당 ·VR당 ·시계찬당 ·WebOs당 ·WOW당 ·윈폰이당
임시소모임
고객지원
  • 게시물 삭제 요청
  • 불법촬영물등 신고
  • 쪽지 신고
  • 닉네임 신고
  • 제보 및 기타 제안
© CLIEN.NET
공지[점검] 잠시후 서비스 점검을 위해 약 30분간 접속이 차단됩니다. (금일 18:15 ~ 18:45)

새로운소식

NPU의 대실패…2년이 지나도 로컬 AI의 중심은 여전히 GPU 9

4
2025-11-22 00:05:12 182.♡.199.54
크로아츠

AI PC의 시대는 분명 도래했지만, 그 중심에는 NPU도, 마이크로소프트도 없다.


ccc.webp

Credit: Foundry



최근 몇 년 동안 ‘AI PC’라는 용어는 사실상 ‘신경처리장치(Neural Processing Unit, NPU)를 탑재한 가벼운 노트북’을 뜻하는 말에 불과했다. 인텔의 메테오레이크(Meteor Lake) 칩셋과 함께 NPU가 화려하게 등장한 지 2년이 지났지만, 여전히 AI PC는 그럴듯한 기술 시연 수준을 벗어나지 못하고 있다.


하지만 로컬 AI는 이미 현실이 되었다. 놀라울 정도로 강력하기까지 하다. 단, 이 혁신은 NPU 덕분이 아니다. 사실 NPU만 놓고 보면 로컬 AI는 실패한 것처럼 보인다. 그러나 실제로는 GPU 기반으로 실행되는 로컬 AI 도구들이 급속히 발전하고 있다.


NPU는 원래 PC와 노트북에서 본격적인 로컬 AI 시대를 여는 핵심 기술로 주목받았다. 그러나 결과적으로, NPU 중심의 AI PC 전략은 완전히 실패했다.


NPU는 로컬 AI를 실현하지 못했다

신경처리장치 자체는 분명 작동한다. 일부 흥미로운 기능이나 실험적인 요소를 구동하기도 한다. 그러나 사용자가 기대했던 것은 NPU가 주도하는 강력한 AI PC 생태계, 즉 PC에서 완전한 형태의 AI 모델이 자유롭게 돌아가는 미래였다. 그 약속은 2년이 지난 지금 거의 실현되지 않았다.


물론 윈도우에서 코파일럿+ PC 기능을 일부 사용할 수 있다. 예를 들어 윈도우 리콜은 PC 화면을 5초마다 캡처하며, 사진 앱의 이미지 생성 기능은 직접 이미지를 만들어준다. 다만 결과물은 형편없다는 평가가 많다.


(후략)

출처 : https://www.itworld.co.kr/article/4093504/npu%EC%9D%98-%EB%8C%80%EC%8B%A4%ED%8C%A82%EB%85%84%EC%9D%B4-%EC%A7%80%EB%82%98%EB%8F%84-%EB%A1%9C%EC%BB%AC-ai%EC%9D%98-%EC%A4%91%EC%8B%AC%EC%9D%80-%EC%97%AC%EC%A0%84%ED%9E%88-gpu.html
크로아츠 님의 게시글 댓글
  • 주소복사
  • Facebook
  • X(Twitter)
댓글 • [9]
Mr.UN
IP 14.♡.43.15
11-22 2025-11-22 07:40:43
·
로컬Ai의 역할 규정이 잘못된 겁니다.
문서를 읽고 만들면서 사용자의 업무를 돕는 능력은 절대 로컬 Ai가 경쟁할 수 없는 영역입니다.
carwow
IP 1.♡.14.165
11-22 2025-11-22 09:07:57
·
@푸하핫님 잘 몰라서그러는데 애플이 그거 하겠다는건가요?
Mr.UN
IP 14.♡.43.15
11-22 2025-11-22 13:21:06
·
@carwow님 애플이 바라봤던 독립적 온디바이스Ai라는 방향성은 틀리지 않았다고 봅니다. 애플이 스스로의 목을 조른 문제는 애플기기의 대다수가 램4GB 였다는 점입니다.
애플은 3B정도 파라미터수에 0.7~1B MoE+ 2비트 미만의 양자화를 통해 2GB이내의 메모리 할당만으로 구현할 수 있다고 오판했죠. 오판의 이유는 영어로 테스트가 진행되었기 때문일 겁니다.
아시아권 언어는 3비트 이상이 되어야 최소한의 성능이 유지되고 4비트가 되어야 비로소 안정된다는 사실을 간과한 걸로 예상됩니다. 즉 최소 3~ 4GB의 램을 Ai에 고스란히 내주지 않으면 제대로된 글로벌 서비스를 하기 어렵다는 것을 늦게 알아챈 것이며, 그 결과가 온라인 연동을 전제로한 하이브리드 제미나이를 쓰지 않으면 안 되는 상태에 빠진 겁니다. 애플이 자립하려면 아이폰의 대부분이 8GB램을 가진 상태가 되어야 하므로 아마도 2028년 후반은 되어야 뭘해도 할 수 있을 걸로 봅니다.
느아아아
IP 59.♡.5.79
11-22 2025-11-22 09:50:39
·
pc에서 실패했다고 npu가 실패했나요..
이미 스마트폰이나 차량용 ecu등 많은 임베디드영역에서 npu가 크게 활약하고 있는데요
STREETDJ
IP 211.♡.130.139
11-22 2025-11-22 12:27:27
·
현재 ollama 나 lm studio 같이 gpt oss나 gemma3 혹은 qwen 같은 로컬 학습모델을 사용하는 로컬 llm에 있어서는 npu가 무쓸모인건 사실입니다. cpu와 gpu는 충분히 성능이 나오는것 같고 현재는 대역폭 높은 메모리가 중요한 시기라고 생각합니다.
gravity
IP 211.♡.91.225
11-22 2025-11-22 17:05:54
·
링크된 기사 읽어보니 아직 NPU에는 CUDA(와 개발자 풀)이 없어서 그런거 아닌가 싶네요.
macman
IP 114.♡.154.99
11-22 2025-11-22 21:15:54 / 수정일: 2025-11-22 21:18:37
·
npu는 기술이 성숙된뒤에나 적용해야 되는 부분인거 같은데요
현재 아키텍처가 미친듯이 바뀌는중이고 미친듯이 발전중이라
특정연산 몰빵한 npu는 단기적으로나 장기적으로나 오히려 병목이 되지 않을까 합니다.
vangade
IP 125.♡.169.212
11-25 2025-11-25 02:03:22 / 수정일: 2025-11-25 02:04:09
·
지금의 NPU는 ML용이고 알게 모르게 잘 쓰이고 있습니다. 그 어떤 CPU에 포함된 NPU 제조사도 LLM 용으로 만들지 않았습니다. ML돌리는 용도가 가장 크고 그 중에서도 이미지, 영상 처리에 가장 큰 효율을 내는것 같습니다
불휘나무
IP 157.♡.0.60
12-19 2025-12-19 00:57:27 / 수정일: 2025-12-19 01:06:06
·
NPU가 과연 무쓸모일까요? LLM관점에서도 보면 제 Ryzen AI 9 노트북 NPU가 55TOPS를 처리할 수 있고 또 커뮤니티 지원이 강화되면서, NPU를 지원하는 FastFlowLM을 돌려보면 복잡한 연산은 NPU가 하고 그 외 부분은 iGPU가 처리해서 효율적으로 돌아갑니다. 간단한 테스트로 1411 token 을 입력했는데 분석 속도가 361 t/s 정도 나오네요. 쓸만하죠. 머리만 좋은게 아니라 Block FP16을 지원하면서 할루시네이션 현상도 많이 줄어든 것 같습니다. 다만, 메모리 대역폭이 120GB/s라 출력에 병목이 있기는 합니다. 하지만, Nvidia GPU에 비해 전력 사용량이 1/10이고, NPU나 iGPU를 빡세게 돌려도 CPU온도가 60도에서 왔다갔다 합니다. 제 관점에서는 CUDA를 제외한다면 요즘 NPU탑재 AI 노트북들의 아키텍쳐는 아주 밸런스가 좋은 것 같습니다.
새로운 댓글이 없습니다.
이미지 최대 업로드 용량 15 MB / 업로드 가능 확장자 jpg,gif,png,jpeg,webp
지나치게 큰 이미지의 크기는 조정될 수 있습니다.
목록으로
글쓰기
글쓰기
목록으로 댓글보기 이전글 다음글
아이디  ·  비밀번호 찾기 회원가입
이용규칙 운영알림판 운영소통 재검토요청 도움말 버그신고
개인정보처리방침 이용약관 책임의 한계와 법적고지 청소년 보호정책
©   •  CLIEN.NET
보안 강화를 위한 이메일 인증
안전한 서비스 이용을 위해 이메일 인증을 완료해 주세요. 현재 회원님은 이메일 인증이 완료되지 않은 상태입니다.
최근 급증하는 해킹 및 도용 시도로부터 계정을 보호하기 위해 인증 절차가 강화되었습니다.

  • 이메일 미인증 시 글쓰기, 댓글 작성 등 게시판 활동이 제한됩니다.
  • 이후 새로운 기기에서 로그인할 때마다 반드시 이메일 인증을 거쳐야 합니다.
  • 2단계 인증 사용 회원도 최초 1회는 반드시 인증하여야 합니다.
  • 개인정보에서도 이메일 인증을 할 수 있습니다.
지금 이메일 인증하기
등록된 이메일 주소를 확인하고 인증번호를 입력하여
인증을 완료해 주세요.