향후 10년 동안 AI 기술은 주로 특정 작업을 자동화하거나 해당 작업을 수행하는 작업자의 생산성을 높이는 데 초점이 맞춰질 것이며
비용 효율적으로 자동화가 가능한 영역은 전체 업무의 약 4.6%에 불과하다는 분석이다.

애쓰모글루 교수는 “이 수치를 평균 인건비 절감 효과 27%와 결합하면 향후 10년간 총요소생산성^{Total factor productivity} 효과는 0.66%를 넘지 않을것”이라며 “학습하기 어려운 작업의 복잡성에 맞춰 조정하면 0.53%로 낮아질 수 있다. 이는 10년간 GDP에 약 0.9%의 영향을 미친다는 의미”라고 했다. 그는 이어 “AI가 20~30년 후 혁명을 일으킬 가능성은 열려 있지만, 여전히 인간이 운전석에 앉아 있을 것”이라며 “인간의 개입 없이 모든 것이 가능한 진정한 초지능은 30년 이후에도 가능성이 희박하다”고 강조했다. 이어 “초지능과 사악한 AI가 큰 위협이 될 것이라고 생각하지 않지만, 인류가 저지르는 실수로 인한 비용은 비대칭적으로 클 수 있다”며 “AI 기술 발전에 대한 과대광고를 자제하고 더 나은 규제 도구를 포함, 신중한 접근 방식을 취하는 것이 중요하다”고 덧붙였다.

골드만 삭스의 이 보고서만 회의적인 게 아니다. 생성형 AI업계 자체에서도 수익성 이슈가 수면 위로 떠오르고 있다.

현재 오픈AI의 기업 가치는 800억 달러를 웃돈다. 오픈AI는 7번의 투자 라운드를 통해 110억 달러 이상의 금액을 모았다. 마이크로소프트의 클라우드 서비스 ‘애저’^Azure 할인 혜택도 누리고 있다. 오픈AI는 35만 개 서버 중 29만 개를 챗GPT 전용으로 운영 중이다. 업계는 오픈AI가 파산을 피하기 위해 향후 12개월 이내에 추가 투자를 유치할 것으로 전망했다.

오픈AI는 7월 18일 비용 효율에 집중한 ‘GPT-4o 미니’^{GPT-4 Omni Mini}를 내놨다. GPT-4o 미니는 GPT-3.5 터보를 대체할 수 있는 비용 효율적인 폐쇄형 AI 모델이다. GPT-3.5 터보 대비 60% 이상 저렴한 비용과 낮은 지연시간을 활용해 여러 모델 호출을 연결하거나 병렬화하는 애플리케이션에 적합하다. 빠른 실시간 텍스트 응답으로 고객과 상호작용해야 하는 고객 지원이나 상담용 챗봇 등이다.

콜센터, 컨택 센터는 현재 생성형 AI기술이 가장 빠르게 적용되는 분야다. AI 에이전트를 활용한 인건비 절감 및 효율성 개선 효과가 보고되고 있기 때문이다. 상대적으로 규모가 작은 모델이라는 점은 스마트폰 등 온디바이스AI에 적용하기에 유용하다. 오픈AI가 애플과 협업에 나선 만큼 향후 애플 아이폰 음성 비서용으로 GPT-4o 미니가 활용될 수 있다는 관측도 나온다. 오픈AI는 모델 역량을 높이면서 비용을 낮추는 작업에 집중하고 있다. 생성형 AI 수익성을 높이는 작업에 들어간 것으로 해석된다.

오픈AI의 숨가쁜 생성형 AI 서비스 오픈 속도에 긴장하고 있는 또 다른 기업은 구글이다. 구글은 2분기 실적 콘퍼런스 콜에서 AI 투자 성과에 대한 질문 공세에 시달렸다. 투자사, 증권사 분석가들은 순다 피차이 CEO에게 “분기당 120억 달러에 달하는 AI 투자가 언제부터 성과를 내기 시작할 것인가”라는 질문을 쏟아냈다. 피차이 CEO는 AI에 돈이 많이 들어가는 것을 인정하면서도 “AI 붐이 둔화되더라도 회사가 확보한 데이터 센터와 AI 반도체는 다른 용도로 활용할 수 있다”고 말했다. AI 거품이 꺼지더라도 AI를 위해 투자한 자산을 다른 서비스로 돌릴 수 있다는 뉘앙스를 풍겼다. 구글은 여전히 검색과 광고로 수익을 내고있다.

기존 컴퓨터 프로세서는 머신러닝 모델을 실행할 수 있지만 느리다. 현재 대부분의 훈련과 추론에는 그래픽 프로세서 유닛^GPU이 이용된다. GPU는 본래 3D 게임을 위해 고안됐는데, 동시에 여러 간단한 계산을 수행할 수 있기 때문에 AI 애플리케이션의 표준이 됐다.

LLM이나 이미지 생성 모델은 매우 복잡한 구조를 가지고 있으며, 이를 학습시키기 위해서는 대량의 데이터와 높은 연산 능력이 필요하다. 이러한 모델들은 수백만 개의 파라미터를 포함하고 있어 GPU의 강력한 병렬 처리 능력이 필수다. 여기에 인터넷과 다양한 디지털 플랫폼에서 생성되는 데이터의 양이 급증하고 있다. 이로 인해 AI 모델이 학습할 수 있는 데이터셋이 방대해졌고, 이를 처리하기 위해 더 많은 GPU 리소스가 필요하다. 사용자 요구에 따라 생성형 AI 서비스는 실시간 응답을 제공해야 하는 경우가 많다. 이러한 실시간 처리를 가능하게 하기 위해서도 높은 성능의 GPU가 필수다.

산업 전반으로 AI 도입이 확대되면서 필요한 컴퓨팅 파워는 계속 더 늘어난다. 금융, 헬스케어, 제조업 등 다양한 산업에서 AI의 도입이 활발히 이루어지고 있다. 각 산업에서 생성형 AI를 활용하기 위한 수요가 증가하면서 GPU의 필요성도 자연스럽게 커지고 있다.

야누스는 “전력 수요 증가는 국지적으로 집중될 가능성이 높다. 예를 들어 북부 버지니아의 경우 데이터 센터가 집중돼 있어 향후 10년 동안 전력 용량을 두 배로 늘려야 할 가능성이 있다”고 분석했다.

이어 “미국 전력 회사는 거의 20년 동안 부하 증가를 경험하지 못했고, AI 기술의 발전 속도에 대비하거나 그에 맞출 능력도 갖추지 못했다”며 “전력 인프라 구축에 수년의 시간이 필요한데, 규제 등까지 고려하면 심각한 전력 부족에 처할 가능성이 높다”고 덧붙였다.

야누스는 네덜란드 암스테르담이 최근 에너지 절약을 위해 유휴 서버를 끄지 않는 데이터 센터에 벌금을 부과하는 새로운 규정을 발표했다는 점도 언급했다. 미국에서도 비슷한 일이 일어날 가능성이 있다는 것이다.

야누스는 이어 “중장기적으로 가장 큰 제약은 전력이 될 것이라는 데 모두가 동의하고 있다”며 “기업들은 전기가 엄청나게 중요한 재화라는 사실을 깨닫고 전력 부족에 관심을 쏟고 있지만, 이를 해결하는 건 훨씬 더 어려운 과제”라고 덧붙였다.