AI 에이전트가 생성형 AI보다 최대 136배 많은 전력을 소비한다는 분석이 국내 연구진에 의해 확인됐다. KAIST 전기및전자공학부 유민수 석좌교수 연구팀은 실제 사례를 통해 AI 스스로 판단하고 행동하는 에이전트의 전력 비용을 정량화했다.

이번 결과는 AI 에이전트의 도입이 가져올 인프라 설계의 방향을 바꿀 수 있다는 관측을 낳고 있다.연구에 따르면 700억 개 파라미터를 갖춘 상용 거대언어모델 기반의 AI 에이전트가 질의 한 건당 평균 348.41와트시의 전력을 소비했다.

이는 같은 맥락의 생성형 AI 질의응답보다 최대 136배 높은 수치다. 연구팀은 GPU가 실행 시간의 절반 이상을 대기하는 비효율도 확인했다고 밝혔다.

이로써 에이전트 기반 서비스의 비용 구조가 크게 달라질 가능성이 제기된다.또한 하루 기준으로는 AI 에이전트에 의한 137억 건의 질의가 발생할 경우 데이터센터 전력 수요가 약 198.9GW에 이르는 것으로 추정됐다.

패널은 현재 전력 인프라의 규모를 훨씬 넘어서는 수치로, AI 서비스의 확산이 전력망에도 파장을 일으킬 가능성이 있다며 공동 설계의 필요성을 강조했다. 제시된 사례는 에이전트와 전력 인프라의 통합 설계가 향후 AI 보급 시대에 중요해질 것임을 시사한다.