애플 임원 "새 아이폰 팔 계획 아냐...구형 모델은 느려 유용하지 않다"
...
19일(현지시간) IT매체 맥루머스에 따르면 아이폰 구형 모델에서 인텔리전스를 지원하지 않는 것은 대규모 언어 모델 추론 작업을 제대로 수행하기 위해선 기기의 성능과 대역폭 등이 뒤받침되어야 하기 때문이라고 애플이 밝혔다.
이 같은 사실은 IT 블로거 존 그루버가 진행한 데어링파이어볼(Daring Fireball)이라는 토크쇼에서 공개됐다. 이 토크쇼에는 존 지아난드레아 애플 AI•머신러닝 책임자, 그렉 조스위악 최고 마케팅 책임자, 크레이그 페더리기 소프트웨어 엔지니어링 책임자 등 애플 고위경영자들이 참여했다.
이날 토크쇼에서 지아난드레아는 "이 모델을 런타임에 실행하는 것을 추론이라고 한다. 대규모 언어 모델의 추론은 엄청나게 계산 비용이 많이 든다. 따라서 이러한 모델을 실제로 유용할 만큼 빠르게 실행하기 위해서는 기기의 대역폭과 애플 뉴럴 엔진의 크기, 기기의 성능이 결합되어야 한다. 이론적으로는 매우 오래된 기기에서도 이러한 모델을 실행할 수 있지만 너무 느려서 유용하지 않다”고 밝혔다.
...
이에 존 그루버가 “새 아이폰을 팔려는 계획이 아니냐”고 묻자 그렉 조스위악 마케팅 책임자는 “"아니요, 전혀 그렇지 않다"고 답해다. 조스위악은 "만약 그렇다면 가장 최신 아이패드와 맥을 사용하는 것만으로도 충분히 똑똑했을 것”이라고 덧붙였다.
크레이그 페더리기 애플 소프트웨어 엔지니어링 책임자는 새로운 기능에 대한 애플의 첫 번째 조치는 “해당 기능을 가능한 한 이전 장치에 다시 적용하는 방법을 찾는 것”이라고 밝혔다. 하지만, 애플 인텔리전스에 관해서는 "이 정도 성능의 모델을 아이폰에서 실행하는 것은 매우 특별한 일”이라고 말했다.
아이폰15 프로 모델에는 아이폰15, 아이폰15 플러스에 적용된 A16 칩보다 최대 2배 빠른 16코어 뉴럴 엔진을 탑재한 A17 프로 칩을 탑재해 초당 거의 35조 번의 작업을 수행한다. 페더리기는 장치에 탑재된 램 용량도 새로운 AI 기능에 필요한 시스템의 또 다른 측면이기 때문에 애플 인텔리전스에 호환되는 모든 장치에 최소 8GB 램이 있다는 것은 아마도 우연이 아닐 것이라고 설명했다.
번역이 해괴하게 되었는데, 새 제품을 팔고 싶은 거였다면 최신 아이패드와 맥부터만 Apple Intelligence를 구동할 수 있도록 했을 것인데 왜 기존에 팔린 M1부터도 쓸 수 있겠느냐는 말입니다.
ai 실시간 통화통역, ai 일반 통역기능 다 들어갔는데, 특별히 느린거 모르겠고 잘만되요.
ai는 삼성이 앞서가네요.
https://zdnet.co.kr/view/?no=20240415133709
삼성전자가 2년 전 출시한 스마트폰에도 온디바이스 인공지능(AI) 기능을 적용한다. 온디바이스 AI는 인터넷이 연결되지 않은 환경에서도 기기 자체에서 AI 기능을 활용할 수 있다.
업데이트 후에는 ▲실시간 통역과 화면에 동그라미를 그리면 실시간 검색이 가능한 ‘서클 투 서치’ ▲글쓰기를 도와주는 ‘매직 리라이트’ ▲생성형 편집, 생성형 배경화면 등 갤럭시의 AI 기능을 사용할 수 있다.
와이파이 데이터 다 꺼도 물체만 간단하게 선택 하면 알아서 그림자 까지 다 지워주고 주변 배경으로 감쪽같이 채워주네요.
다만 ai로 없던 이미지 만들어주는건 넷트웍 필요로 합니다. 생성형 ai는 이미지가 랜덤으로 생겨 썩 쓸모는 없네요.
번역기능 말고는 아무 것도 없어요
애플 구형기기 미 지원은 거창한 기술적 문제가 아니라 단순한 메모리 부족이 원인으로 보이네요.
일단 상주ai 기능으로 써클 서치가 현재로서는 돌아가겠네요
앱상관없이 호출됩니다
메모리 부족이 원인인 건 맞습니다. 그건 이미 다른 댓글에서도 저도 주장했고요. 메모리 부족이 된 원인을 얘기하는 겁니다
기술적 차이는 없어요. 결국 램문제로 갤럭시는 구형이 아닌 구구형 까지 되고, 아이폰은 최신형도 안되는거죠
이 발언은 갤럭시는 os상주 온디바이스 ai가 아니라는 글입니다.
오독하셨습니다. 쉬운 얘기라고 생각했는데 (심지어 나중에는 이해하시기 쉽게끔 원 댓글을 살짝 수정해서 더 자세하게 풀어썼음에도) 전혀 파악을 못하시는 것 같아요. 그러니 설명해드릴게요. 원 댓글은 무슨 내용이냐면요⋯
⋯갤럭시는 온디바이스 AI를 제공하지만 적어도 현재까지는 통역이나 이미지 편집처럼 특정 개별 기능 위주로 제공하는 반면, 애플 인텔리전스는 모든 앱에서 사용자 관련 정보를 긁어모아 정리하고, 유저가 질문할 시 개인화된 답변 및 기능 실행을 제공한다는 뜻입니다. 물론 애플 인텔리전스도 통역, 이미지 편집, 통화요약 같은 개별 기능을 제공하나 이는 곁가지이고, 시리의 업그레이드 버전, 즉 개인화된 비서 역할이 중심에 있다는 거죠. 그래서 방향성이 다르다고 했던 거고, 당연히 OS에 상주하면서 계속 정보를 습득하고 인덱싱해야 하는 후자가 램을 더 많이 잡아먹을 수 밖에 없다는 뜻입니다.
물론 갤럭시와 안드로이드도 이 기능을 도입하겠지만 (당연합니다. 스마트폰에 탑재된 인공지능에 기대할 수 있는 핵심 역할이니까요. 시리와 구글 어시스턴트가 처음 등장했을 때 많은 사용자들이 상상했던 모습이기도 하고요. 이미지 검색 이런 개별 기능 수준이 아닌 보다 근본적인) 애플만큼 대대적으로 발표했거나, 현재 돌아가고 있는 건 아니니까요
갤럭시도 앞으로 나오는 ai는 더 많은 기능이 추가 되겠죠.
일단 구구형에 ai번역기능 들어간게 어디 입니까? 아이폰은 그 쉬운 ai번역도 못넣어 준답니까?
그 쉬운 AI 번역은 구형 아이폰에도 이미 들어와 있습니다
물론 그와 별개로 램크루지의 업보라는 점은 저부터 먼저 주장하고 다녔을 정도로 동의하는 내용입니다.
님이 말씀하시는것도 다 os 특정 기능입니다.
구글도 siri ai 에 해당하는 아스트라 ai가 나오네요. open ai 해당하는것도 있구요.
다 os단에서 처리합니다.
애플이 무슨 넘사벽의 기술을 가진건 아닙니다.
1.1. 서클 투 터치나 통번역 같은 게 모든 앱을 아우르는 기능은 아닙니다.
1.2. 기기 전체에서 정보를 추출하여 인덱싱하고 정리해서 유저가 원할 때 언제든 개인화화여 답변해주는 것과 동일한 단계로 취급될 기능은 더더욱 아니고요.
2.1. 애플이 넘사벽의 기술을 가졌다고 한 적도(제 의견은요... 오히려 그 반대라고 생각합니다 AI 성능으로 애플을 신뢰하지 않아요. 적어도 아직까지는요), 구글에서 나오지 않는다고 한 적도 없어요.
2.2. 하지만 지금은 적용이 안 됐네요. 안드로이드에서는요. 안드로이드에서도 적용되면 그만큼 상주하는 램 용량이 더 늘어날테니 몇몇 구형 폰에서는 지원되지 않겠죠. 아마도요.
3. 말씀하신 간단한 AI 번역은 XS 같은 구형 아이폰에서도 됩니다. 실시간 통번역 같은 건 애플 인텔리전스 지원 대상이 아니면 안 될 확률이 있지만요.
1.2 그건 안드로이드 차기버전에서 지원 되겠죠.
2.1 글쎄요 님 글은 그렇게 보입니다.
2.2 그건 안드로이드 업데이트를 몇회까지 지원하느냐 안하느냐에 달린거죠. 구구형 s22도 아직 2번의 안드로이드 업데이트가 남아 있어, 안드로이드 기능이 추가될 가능성이 더 큽니다. 삼성폰은 신형이나 구구형이나 메모리 양은 똑같습니다. s22가 원래 ai가 지원된다고 홍보하던 폰이 아니란걸 아셔야 합니다.
3. 그건 온디바이스가 아니네요. 넷트웍으로 하는 서드파티 번역앱은 10년전 폰에서도 잘 작동하죠.
생각해보니 서클 투 서치는 모든 앱을 아우르는 건 맞긴 하네요. 다만 1.2.에서 언급했던 만큼 동일한 수준으로 취급될 기능은 아니라는 생각입니다. 서클 투 서치가 구글 기능인 거 모르는 사람 클리앙에 없을 테고요.
그리고 이런 수준의 통합 개인화 AI는 아직 갤럭시에 현재 적용이 되지 않았다는 점도 똑같고요. 애초에 이 댓글타래가 왜 이리 길고 지루하게 이어졌는지를 생각해보시길 바랍니다. 이 부분에 대한 제 의견을 제대로 파악 못하시고 부정확했다고 지적하셨기 때문이예요.
램크루지의 자업자득이라는 의견 자체는 처음부터 일치했고, 나머지 부분에 대한 의견은 지속적으로 피력했으니 여기까지 하겠습니다. 갈수록 동어반복이 되어가는 것 같아서요.
신형마져 ai를 완전히 버려버린 애플을 욕해야죠.
갤럭시는 온디바이스로 엑셀 워드 다양한 편집기 앱에서 다 번역 글쓰기 까지 됩니다.
애플이 내세우는 ai는 시리 ai 인데 님이 말한게 시리 ai이며, 그외 기능 다 구글보다 못합니다.
시리 ai같은경우 안드로이드 어시스턴스를 대체하는 제미나이 같은건데 제미나이는 10년전 폰에서도 됩니다.
ai에서 애플이 한참 뒤처지네요.
그런데 오히려 이런 상황에서 소비자들이 더 기변을 많이 할 것 같다는 예측 덕에 주가가 올랐다는거 보면 참 알다가도 모를 일입니다.
삼성보단 잘해줄걸로 생각했던 내가 잘못이지..
니들이 그렇게 만든거 아니냐 ??? ㅋㅋㅋㅋㅋ
심지어 신형인 아이폰 15 유저들은 진짜 기분 더럽겠네요.
AI는 특히나 조급해보이고요.
NPU는 예전부터 잘 개발하고 있는 줄 알았는데..
예전에 시리 처음 나왔을때 그 당시 현역이던 아이폰4에선 안되고 아이폰4s부터 지원 했었는데 딱 그 느낌입니다. 한결 같아요
아이폰 15의 가용 램 용량은 5.53GB고요.
간을 보건 말건 15프로 외 모델 지원은 사실상 불가능하다고 봐야 합니다. 기적의 최적화라도 되지 않는 한은요.
local LLM 7b모델 최대 양자화 해도 16gb 이상의 실리콘 맥북에서만 되는데,
애플 인텔리전스가 8gb 에서 실행하는 것도 쉽진 않았을거 같습니다.
아이폰 14, 15를 기획할 때, 애플 인텔리전스가 어느정도 계획에 있었다면 메모리에 그렇게 인색하지는 않았을텐데,
너무 메모리 아끼다가 발목을 잡은거 같습니다.
저도 비슷하게 느꼈네요.
간만에 토론이란걸 보다니 저 두 분에게 감사를