칩에 구애받지 않는 추론 엔진이 로봇의 반응 시간을 90% 단축했다

인피니젠스 AI(Infinigence AI)는 칭화대학교 및 상하이 교통대학교와 협력하여 월요일, 로봇이 비전-언어-행동 모델의 결정을 물리적 동작으로 전환하는 데 걸리는 시간을 278밀리초에서 26밀리초 미만으로 단축시켰으며, 이는 10분의 1 수준으로 단축된 것으로, 세 기관은 이 성과가 신체화된 AI 시연과 실제로 풀타임 근무를 수행하는 로봇 사이에서 남아 있던 마지막 미해결 병목 현상 중 하나를 제거했다고 밝혔습니다. APXInf라고 명명된 이 엔진은 GitHub에서 무료로 다운로드 및 수정할 수 있으며, 이미 업계에서 널리 사용되고 있는 두 가지 비전-언어-행동 모델인 Physical Intelligence의 Pi 0.5와 X Square Robot의 WALL-OSS를 지원하며, 다음 세 가지 하드웨어 대상에서 구동됩니다: NVIDIA의 RTX 4090, Jetson Orin, Jetson Thor 칩입니다. FP8 정밀도에서 38.46 헤르츠의 추론 주파수를 자랑하는 이 엔진은 이제 로봇이 걷고, 물건을 잡고, 경로를 수정하는 데 필요한 연속적인 실시간 제어 루프를 충분히 빠르게 지원할 수 있습니다. 이는 많은 신체 기반 AI 데모가 무대 위에서는 인상적이었지만 공장 현장에서는 신뢰성이 떨어지게 만들었던 눈에 띄는 끊김 현상을 없앴습니다.

2023년 베이징에서 칭화대학교 전자공학과 출신 팀이 분사하여 왕유(Wang Yu) 교수가 이끄는 인피니젠스 AI(Infinigence AI)는 텐센트, 바이두, 레노버, 샤오미 등 투자자로부터 22억 위안(약 3억 2,300만 달러) 이상을 유치했으며, 자체 모델을 구축하기보다는 대규모 AI 모델이 하드웨어에서 실제로 어떻게 실행되는지를 최적화하는 인프라 기업으로 자리매김하고 있다. 이러한 포지셔닝은 APXInf가 왜 존재하는지 이해하는 데 중요하다. 인피니젠스는 모델 성능 면에서 피지컬 인텔리전스(Physical Intelligence)나 X 스퀘어 로봇(X Square Robot)을 능가하려고 시도하는 것이 아니다. 대신 이 회사는 데이터 센터 컴퓨팅 예산의 극히 일부, 제한된 전력 범위, 그리고 클라우드 챗봇 사용자가 감내할 수 없는 수준의 지연 시간을 가진 로봇에 유능한 모델이 탑재된 후 어떤 일이 일어나는지와 같은, 더 좁고 덜 화려한 문제를 해결하려고 노력하고 있다.

결코 눈치채지 못할 것이다.

왜 수백 밀리초의 지연은 로봇을 고장 나게 하지만 챗봇은 괜찮은가

APXInf가 목표로 삼는 특정 오류 양상은, 신체화된 AI 공급업체의 실제 적용 준비 상태를 평가하는 구매자가 도입 계약을 체결하기 전에 반드시 이해해야 할 부분이다. 응답하는 데 300밀리초가 더 걸리는 클라우드 기반 언어 모델은 채팅 창에 글을 입력하는 사람에게는 감지할 수 없는 지연만을 초래한다. 반면, 결정을 관절 움직임으로 변환하는 데 300밀리초가 더 걸리는 로봇의 제어 루프는 데모를 미완성처럼 보이게 만드는 딱 그런 종류의 갑작스럽고 불연속적인 움직임을 만들어내며, 이는 데모를 미완성처럼 보이게 할 뿐만 아니라, 더 심각한 경우 움직이는 물체를 집는 그리퍼가 1/100초라도 늦게 닫힐 때 다단계 조작 작업이 완전히 실패할 수도 있습니다. 인피니젠스(Infinigence)가 제시한 문제의 핵심은, 클라우드에서 잘 작동하던 모델이 실제 로봇에 탑재되면 완전히 다른 일련의 문제들에 직면하게 된다는 점이다. 즉, 즉시 부팅될 수 있는지, 제한된 온보드 칩에서 사용 가능한 모든 연산 자원을 최대한 활용할 수 있는지, 지연 시간이 병목 현상이 되지 않을 만큼 충분히 낮게 유지되는지, 개발 환경에서 흠잡을 데 없이 작동하던 모델이 연속 운영에서도 안정적인지 여부 등, 이는 지난 2년 동안 수많은 휴머노이드 및 산업용 로봇 프로그램을 정체시킨 실험실 결과와 실제 배포 가능한 제품 간의 격차를 정확히 설명해 줍니다.

APXInf가 이 격차에 제시한 해법은 단일 알고리즘 기법보다는 세 가지 엔지니어링적 선택에 기반을 두고 있다. 속도 향상은 모델의 파이프라인 전반에 걸친 종단 간 최적화, 계산 그래프, 개별 커널 연산에 걸친 종단 간 최적화와, 팀이 ‘Agent4Kernel’이라 부르는 맞춤형 융합 연산자 기법을 결합한 결과에서 비롯된 것이며, 단일 모델 연산을 고립적으로 최적화한 데서 나온 것이 아닙니다. 이것이 바로 결과적으로 달성된 10.7배의 지연 시간 감소가, 특정 처리 단계에서 선별된 벤치마크 수치가 아닌 전체 루프에 걸친 수치로 유지되는 이유입니다. 안정성은 Rust로 구축된 최소한의 런타임과 시스템

메모리 안전성을 보장한다는 점 때문에 특별히 선택된 프로그래밍 언어를, 시스템 프로그래밍을 전공하지 않은 로봇 공학 개발자들도 도구를 쉽게 사용할 수 있도록 파이썬 인터페이스로 감싼 조합으로, 이는 초기 테스트 단계가 아닌 근무 시작 몇 시간 후 로봇 제어 시스템을 마비시킬 수 있는 메모리 누수, 경합 조건, 예측 불가능한 충돌을 방지하기 위한 것이다. 팀이 ‘민첩성(agility)’이라고 부르는 세 번째 특성은, 소위 ‘에이전트 기반 엔지니어링(agentic engineering)’ 접근 방식을 활용하여 새로운 비전-언어-행동 모델을 엔진에 더 빠르게 통합할 수 있게 합니다. 이는 새로운 체화 모델의 출시 속도가 계속 가속화될 것이며, 오늘날의 모델 아키텍처에 고정된 추론 엔진은 1년 이내에 구식이 될 것이라는 명백한 내기입니다.

벤치마크 수치 이면에 숨겨진 생태계 전략

APXInf는 독립적인 프로젝트로 등장한 것이 아닙니다. 이는 RLinf라는 기존 오픈소스 프레임워크를 확장한 것으로, 인피니전스와 칭화대학교는 2025년 9월 이를 ‘훈련 후 체화형 AI 모델을 위해 특별히 구축된 최초의 대규모 강화 학습 프레임워크’라고 설명하며 공개했습니다. 이전 버전은 체화형 모델 구축의 훈련 및 평가 측면을 담당했다면, APXInf는 이제 배포 측면을 담당하여 개발자들에게 모델 훈련부터 행동 검증, 물리적 로봇의 온보드 칩에서 실행에 이르기까지 단일하고 연속적인 오픈소스 파이프라인을 제공한다. 로봇 공학 스타트업이나 산업 자동화 구매자가 자체 구현형 AI 스택에 대해 ‘자체 개발 대 외부 구매’ 결정을 평가할 때, 이러한 종단 간 연속성은 개별 벤치마크 수치보다 더 중요한 신호라고 할 수 있습니다. 이는 현재 많은 로봇 공학 팀이 훈련과 배포를 위해 서로 호환되지 않는 별도의 도구를 억지로 결합해야 하는 상황을 초래하는 전환 및 통합 비용을 낮추기 때문입니다.

Infinigence가 출시와 함께 공개한 로드맵은 이것이 일회성 연구 결과물이 아닌 인프라로 자리매김할 것임을 재확인시켜 줍니다. 개발팀은 다음과 같이 밝혔습니다.

이 회사는 이미 APXInf를 조정하여 알리바바의 Qwen과 엔비디아의 Groot를 비롯한 추가 모델 계열은 물론, 더 광범위한 범주의 비전-언어 및 월드 모델을 지원하도록 하고 있으며, 하드웨어 지원 범위를 엔비디아의 칩 라인업을 넘어 중국산 반도체, 중국산 로봇 운영체제, AMD 프로세서까지 확대하겠다고 약속했다. 이러한 다중 칩 전략은, 수많은 중국 AI 인프라 기업들이 단일 칩 공급업체의 지속적인 공급에 회사의 기술 스택을 전적으로 의존하기보다는 하드웨어에 구애받지 않는 툴을 구축하도록 이끈 바로 그 수출 통제 및 공급망 불확실성에 대한 직접적인 대비책이다. 오늘날 Pi 0.5나 WALL-OSS를 중심으로 배포 계획을 수립하는 로봇 구매자는, 이미 주류 NVIDIA 하드웨어에서 실행되는 도구를 확보하게 되며, 향후 지정학적 또는 공급 제약으로 인해 하드웨어 교체가 불가피할 경우 이식성을 보장하겠다는 명확한 약속도 함께 받게 됩니다.

인피니젠스가 라이선스 판매 대신 기여자를 모집하는 이유

인피니젠스는 이번 첫 번째 릴리스를 완성된 제품이 아닌 출발점으로 명확히 규정했으며, 회사는 외부 기여자들을 모집하고 있습니다. 이미 Jetson급 하드웨어에 Pi 0.5를 통합 중인 로봇 공학 팀, RTX 4090 또는 Orin 프로젝트를 진행 중인 개발자, 그리고 새로운 체화 모델을 위한 배포 파이프라인을 구축 중인 모든 이들에게 GitHub 저장소에 직접 이슈를 등록하고 코드 변경 사항을 제출해 줄 것을 요청하고 있습니다. 이러한 개방형 기여 자세는 단순한 예의 차원이 아닌 의도적인 전략적 선택입니다. 추론 엔진의 장기적인 가치는 실제로 얼마나 많은 하드웨어 구성, 모델 아키텍처, 그리고 극한 사례에 대해 테스트되었는지에 달려 있으며, Infinigence는 이처럼 빠르게 변화하는 로봇 산업이 향후 1년 동안 만들어낼 모든 칩, 모델, 작업의 조합을 내부적으로 검증할 수는 없습니다. 개방형 기여를 통해 이러한 검증을 크라우드소싱하는 것은 PyTorch나 Hugging Face의 Transformers와 같은 프레임워크를 업계 표준으로 만든 것과 동일한 전략입니다.

이는 원래 개발자들이 단독으로 테스트할 수 있었던 범위를 훨씬 뛰어넘는 것이며, 폐쇄적이고 특정 공급업체에 종속된 대안보다 기본 인프라가 될 가능성에 대한 더 신뢰할 만한 장기적 투자입니다.

이것이 신체 기반 AI(Embodied-AI) 공급업체를 평가하는 팀들에게 주는 변화

구매자나 통합업체에게 실질적인 검증 기준은 APXInf의 벤치마크 수치가 Infinigence의 자체 테스트에서 유효한지 여부가 아니라, 특정 시설에서 특정 작업을 수행하는 특정 로봇에서 그 수치가 유지되는지 여부입니다. 추론 엔진 성능 주장은 역사적으로 팀이 측정하는 정확한 모델 변형, 양자화 수준 및 워크로드 패턴에 따라 민감하게 달라져 왔기 때문입니다. 헤드라인에 언급된 26밀리초 수치의 배경이 되는 FP8 정밀도는 표면적으로 26밀리초라는 수치를 뒷받침하는 이 설정은 속도 향상을 위해 수치적 정확도를 일부 희생하는 것이므로, 조달 팀은 APXInf 기반 배포를 제안하는 공급업체에게 모든 구성에 걸쳐 최상의 FP8 수치를 보증으로 받아들이기보다는, 실제 애플리케이션에 필요한 정밀도 수준에서 동일한 지연 시간 및 안정성 수치를 보여줄 것을 요청해야 합니다. 이러한 주의 사항은 근본적인 성과를 폄하하기보다는, 진지한 구매자가 생산 일정을 확정하기 전에 반드시 확인해야 할 구체적인 실사 사항을 명확히 하는 데 그 목적이 있습니다.

이 오픈소스 릴리스가 즉시 변화시키는 것은 바로 실험에 드는 비용입니다. APXInf가 등장하기 전에는, Jetson Thor에서 Pi 0.5나 WALL-OSS를 생산 등급의 지연 시간으로 실행하고자 하는 로봇 공학 팀은, 유사한 최적화 스택을 처음부터 구축할 수 있는 사내 시스템 엔지니어링 인력을 보유하거나, 이미 내부적으로 해당 문제를 해결한 업체와 유료 공급업체 계약을 맺어야 했습니다. Infinigence, 칭화대학교, 상하이 교통대학교가 이미 널리 사용되는 두 가지 모델을 대상으로 검증한 무료 오픈소스 엔진은, 이전에는 연구용 데모 단계의 유능한 모델을 동일한 성능을 발휘하는 실제 로봇으로 전환하는 데 필요한 시스템 엔지니어링 투자를 정당화할 수 없었던 소규모 로봇 공학 스타트업과 대학 연구실의 장벽을 제거해 줍니다.

엔지니어가 대기하며 재시작해 줄 필요 없이, 시간 내내 안정적으로 작업을 수행합니다.

실제 적용 시의 차이를 상상해 보십시오. 엔지니어 3명과 Jetson Thor 개발 키트 단 하나만 갖춘 창고 자동화 스타트업도 이제 GitHub 저장소를 클론하고, Pi 0.5를 로드한 뒤, 로봇 팔의 픽 앤 플레이스(pick-and-place) 사이클이 눈에 띄게 주저하던 0.25초의 지연에서 오후 한나절 만에 유연하고 연속적인 움직임으로 개선되는 과정을 지켜볼 수 있게 되었습니다. 이 지연 시간의 해소야말로, 유망한 연구용 프로토타입과 투자 유치 가능한 제품을 가르는 결정적인 차이였습니다.

이 분석은 APXInf 엔진을 설명하는 Infinigence AI, 칭화대학교, 상하이 교통대학교가 공개한 오픈소스 릴리스 및 기술 문서를 바탕으로 합니다. 본 내용은 일반적인 정보 제공을 목적으로 하며, 투자, 금융 또는 법률 자문을 구성하지 않습니다.

메인 이미지 출처: NVIDIA.