토큰 생성 경쟁의 변화(빨리→많이)와 피지컬 AI로의 확장

토큰 생성 경쟁의 변화

초기 AI 경쟁은 얼마나 빠르게 답을 생성하는지가 핵심이었다.
즉, 토큰을 더 빠르게 생성하는 것이 중요했다.
GPU 성능 향상과 모델 최적화도 대부분 이 목표에 맞춰 발전했다.

하지만 최근에는 경쟁의 기준이 달라지고 있다. 이제는 '얼마나 빨리'보다 '얼마나 많이 처리하는가'가 더 중요해지고 있다.

그 이유는 에이전틱 AI 때문이다.

에이전틱 AI는 하나의 질문을 해결하기 위해 여러 번 생각하고, 검색하고, 계산하는 과정을 반복한다.
그만큼 사용하는 토큰도 크게 늘어난다.

일반 챗봇 : "오늘 서울 날씨 알려줘." → 한 번 답변

• 에이전틱 AI : "다음 주 일본 여행 일정 짜줘." → 항공권 검색 → 호텔 비교 → 일정 작성 → 비용 계산 → 최종 정리

하나의 요청 안에서도 수많은 추론이 발생하면서 사용하는 토큰 수가 크게 증가한다.

결국 AI 경쟁은 더 빠른 AI에서 더 많은 연산을 안정적으로 처리하는 AI로 바뀌고 있다.

---

총 토큰 처리량 증가와 데이터센터 변화

토큰 사용량이 늘어나면서 데이터센터를 설계하는 기준도 달라지고 있다.

예전에는 응답 속도와 지연시간이 가장 중요했다.
하지만 지금은 동시에 얼마나 많은 연산을 처리할 수 있는지가 더 중요한 경쟁력이 되고 있다.

복잡한 AI 서비스는 수많은 사용자의 요청을 동시에 처리해야 한다. 또한 여러 단계의 추론을 계속 수행해야 하기 때문에 시스템은 오랫동안 높은 성능을 유지해야 한다.

AI 비서가 동시에 수백만 명의 일정을 관리하고, 이메일을 작성하고, 자료를 검색한다면 단순히 빠른 GPU보다 많은 작업을 동시에 처리할 수 있는 인프라가 더 중요하다.

이 때문에 GPU 수를 늘리는 것뿐 아니라 메모리(HBM), 네트워크, 저장장치 등 데이터센터 전체 인프라 투자가 확대되고 있다.

---

피지컬 AI의 등장

AI는 이제 컴퓨터 화면 안을 넘어 현실 세계에서도 사용되기 시작했다. 이를 피지컬 AI 라고 한다.

피지컬 AI는 로봇, 자율주행차, 산업용 자동화 설비처럼 실제 물리적 환경에서 움직이는 AI를 의미한다.

이들은 주변을 계속 관찰하고 즉시 판단해야 한다.

• 자율주행차는 보행자를 인식하면 즉시 브레이크를 밟아야 한다.
• 공장 로봇은 사람의 움직임을 감지하고 즉시 작업을 멈춰야 한다.
• 물류 로봇은 실시간으로 최적의 이동 경로를 계산한다.

이처럼 피지컬 AI는 계속 데이터를 받고 즉시 계산해야 하기 때문에 일반 챗봇보다 훨씬 많은 연산이 필요하다.

최근에는 산업용 로봇뿐 아니라 의료, 물류, 서비스 분야까지 AI 로봇 도입이 빠르게 확대되고 있다. 피지컬 AI는 이제 기술 시연을 넘어 실제 산업 현장에서 활용되는 단계에 들어서고 있다.

---

클라우드와 엣지가 함께 성장

피지컬 AI가 늘어나면서 컴퓨팅 구조도 바뀌고 있다.

대규모 AI 학습은 여전히 데이터센터(클라우드)에서 수행한다. 하지만 실제 실행은 로봇이나 자동차 같은 현장(엣지)에서 이뤄지는 경우가 많다.

즉, 클라우드와 엣지가 서로 역할을 나누는 구조가 만들어지고 있다.

• 데이터센터 : 자율주행 AI를 학습
• 자동차 : 학습된 AI를 이용해 실시간으로 운전

이 과정에서 센서 데이터가 계속 생성되고 이동한다.

따라서 데이터센터뿐 아니라 네트워크, 스토리지, 엣지 디바이스까지 모두 컴퓨팅 수요가 증가하고 있다.

---

피지컬 AI가 만드는 반도체 수요

피지컬 AI는 반도체 산업의 시장도 크게 넓히고 있다.

과거에는 스마트폰과 PC가 주요 시장이었다면 앞으로는 로봇, 자율주행, 스마트팩토리 등 거의 모든 산업에서 AI 반도체가 필요해질 전망이다.

자율주행차 한 대에는 GPU뿐 아니라 AI 칩, 이미지 센서, 레이더, 통신칩, 메모리 등 다양한 반도체가 함께 들어간다.

특히 AI 연산이 늘어나면서 GPU뿐 아니라 HBM(고대역폭 메모리), 저전력 AI 칩, 센서 반도체, 통신칩의 수요도 함께 증가하고 있다.

이는 반도체 산업 전체의 성장으로 이어질 가능성이 높다.

---

컴퓨팅 수요의 구조적 성장

결국 AI 산업은 '더 빠른 AI' 경쟁에서 '더 많은 연산을 처리하는 AI' 경쟁으로 변화하고 있다.

여기에 피지컬 AI까지 확산되면서 AI는 현실 세계에서도 계속 연산을 수행하게 된다.

쉽게 말하면

예전에는 AI가 질문을 받으면 한 번 계산하고 끝났다.

앞으로는 AI가 스스로 계획을 세우고, 여러 번 추론하고, 실제 로봇이나 자동차까지 움직이게 된다.

그만큼 필요한 컴퓨팅 성능과 반도체도 계속 늘어날 수밖에 없다.

따라서 앞으로의 컴퓨팅 수요 증가는 일시적인 현상이 아니라 구조적인 성장일 가능성이 높다.

에이전틱 AI가 연산량을 늘리고, 피지컬 AI가 적용 범위를 현실 세계로 확대하면서 데이터센터와
엣지 인프라, 그리고 반도체 산업 전반의 중장기 성장세를 뒷받침할 것으로 예상된다.

https://www.threads.com/@jeilove172026?hl=ko