
한국과학기술원(KAIST·카이스트)은 유민수 전기및전자공학부 석좌교수 연구팀이 AI 에이전트가 얼마나 많은 계산 자원과 전력을 사용하지는지를 세계 최초로 분석한 결과를 내놨다고 5일 밝혔다.
.
.
.
연구팀은 AI 에이전트가 쓰는 전력량을 데이터센터 규모에서 분석했는데, 700억 개의 매개변수를 가진 LLM 기반 AI 에이전트가 질문 한 건을 처리하는 데 평균 348.41와트시(Wh)를 사용했다.
그냥 질문 / 답변 하는 방식보다 훨씬 더 많이 쓰는군요.
도구 사용 결과 대기시간으로
낭비하는 시간이 최대 54.5%....ㄷㄷ
전체적으로
어마어마 하네요.
(일상 기기 비교는 제가 이해를 돕기 위해 첨부한 내용입니다.)