チップに依存しない推論エンジンが、ロボットの反応時間を90パーセント短縮した

Infinigence AIは、清華大学および上海交通大学と共同で、月曜日に、ロボットが視覚・言語-アクションモデルの決定を物理的な動作に変換する時間を、NVIDIAのJetson Thorハードウェア上で278ミリ秒から26ミリ秒未満に短縮する推論エンジンをオープンソース化した。これは10分の1への短縮であり、3機関によれば、この成果により、具現化されたAIの実証と、実際にフルシフトで稼働するロボットの実現を阻む、残されていた最後のボトルネックの一つが解消されたという。 APXInfと呼ばれるこのエンジンは、GitHubから無料でダウンロードおよび修正が可能で、業界ですでに広く使用されている2つの視覚・言語・行動モデル、Physical Intelligence社のPi 0.5とX Square Robot社のWALL-OSSをサポートし、以下の3つのハードウェアターゲットに対応してリリースされました： NVIDIAのRTX 4090、Jetson Orin、およびJetson Thorチップ。 FP8精度で38.46ヘルツの推論周波数を実現したこのエンジンは、ロボットが歩行、把持、進路修正を行うために必要な、連続的なリアルタイム制御ループを十分に高速に実行できるようになった。これにより、多くの身体を持つAIのデモがステージ上では印象的であっても、工場現場では信頼性に欠ける原因となっていた目に見えるカクつきが解消された。

2023年に北京で、清華大学電子工学科からスピンアウトしたチームによって設立され、王宇教授が率いるInfinigence AIは、テンセント、バイドゥ、 レノボ、シャオミなどの投資家から22億元以上（約3億2300万米ドル）を調達し、大規模AIモデルそのものを構築するのではなく、ハードウェア上で実際に動作する方法を最適化するインフラ企業としての地位を確立している。この位置づけは、APXInfが存在する理由を理解する上で重要だ。インフィニジェンスは、モデル能力の面でフィジカル・インテリジェンスやXスクエア・ロボットを凌駕しようとしているわけではない。 同社が取り組んでいるのは、高性能なモデルが、データセンターの計算リソース予算のほんの一部しか持たず、電力制限があり、クラウドチャットボットのユーザーが許容するような遅延も許されないロボットに搭載された後、何が起こるかという、より狭く、華やかさのない問題の解決である。

気づくことなどないだろう。

なぜ数百ミリ秒の遅れがロボットには致命的だが、チャットボットには影響しないのか

APXInfが対象とする特定の故障モードは、実体化AIベンダーの実用化準備状況を評価する購入者が、導入契約に署名する前に理解しておくべきものである。応答に300ミリ秒余分にかかるクラウドベースの言語モデルであっても、チャットウィンドウに入力している人間にとっては、その遅延は感知できないほど微々たるものである。 一方、決定を関節の動きに変換するのに300ミリ秒余分にかかるロボットの制御ループは、まさにデモを未完成に見せてしまうようなぎくしゃくした、 不連続な動きを生み出し、デモを未完成に見せかけるだけでなく、さらに深刻な問題として、移動中の物体をグリッパーがほんの一瞬遅れて把持した場合、多段階の操作タスクが完全に失敗する原因となり得る。 Infinigence社自身が提示する問題の枠組みによれば、クラウド上で順調に動作していたモデルも、物理的なロボットに実装されると、全く異なる一連の課題に直面することになる。即座に起動できるか、限られたオンボードシリコンから利用可能なすべての演算能力を引き出せるか、 レイテンシがボトルネックにならないほど十分に低く抑えられるか、開発環境で完璧に動作していたモデルが連続稼働でも安定しているか――といった点こそが、実験室での結果と実用可能な製品との間のギャップを的確に表しており、このギャップこそが過去2年間にわたり、数多くのヒューマノイドロボットおよび産業用ロボットプログラムの進展を停滞させてきた要因である。

APXInfがこのギャップに対する答えとして提示したのは、単一のアルゴリズム的なトリックではなく、3つの技術的選択に基づいています。速度の向上は、モデルのパイプライン全体、 計算グラフ、個々のカーネル演算にわたるエンドツーエンドの最適化に加え、チームが「Agent4Kernel」と呼ぶ独自の融合演算子技術の組み合わせによるものであり、単一のモデル演算を孤立して最適化した結果ではありません。そのため、10.7倍というレイテンシの低減は、特定の処理段階から選りすぐられたベンチマーク値ではなく、フルループ全体を通じた数値として成立しているのです。 安定性は、Rustで構築された最小限のランタイムと、システム

メモリの安全性が保証されていることを特に理由に選ばれたプログラミング言語を、Pythonインターフェースでラップすることで、システムプログラマーとしての専門教育を受けていないロボット開発者でもツールを利用できるようにしています。この組み合わせは、初期テスト中ではなく、シフト開始から数時間経ってからロボットの制御システムをダウンさせてしまう可能性のある、メモリリーク、レースコンディション、予測不可能なクラッシュを防ぐことを目的としています。 3つ目の特性は、チームが「アジリティ（俊敏性）」と呼ぶもので、いわゆる「エージェント型エンジニアリング」アプローチを採用し、新しい視覚・言語・行動モデルをエンジンに迅速に統合できるようにしています。これは、新しいエンボディド・モデルのリリースペースが今後も加速し続け、今日のモデルアーキテクチャに縛られた推論エンジンは1年以内に陳腐化するという明確な賭けです。

ベンチマーク数値の背景にあるエコシステム戦略

APXInfは単独のプロジェクトとして登場したわけではない。これは、Infinigenceと清華大学が2025年9月にリリースした既存のオープンソースフレームワーク「RLinf」を拡張したものであり、チーム自身の説明によれば、トレーニング後のエンボディッドAIモデル専用に構築された初の大規模強化学習フレームワークである。 以前のリリースは、エンボディッドモデルの構築におけるトレーニングと評価の側面を扱っていましたが、APXInfはデプロイメントの側面を担当し、モデルのトレーニングから挙動の検証、さらには物理的なロボットのオンボードチップ上での実行に至るまで、開発者に単一で連続したオープンソースのパイプラインを提供します。 ロボティクススタートアップや産業用オートメーションの導入検討者が、エンボディッドAIスタックについて「自社開発か外部調達か」を判断する際、このエンドツーエンドの連続性は、個々のベンチマーク数値よりも重要な指標であると言える。なぜなら、これにより、現在多くのロボティクスチームを悩ませている、訓練とデプロイメントのための互換性のない別々のツールを継ぎ接ぎして組み合わせる必要に起因する切り替えコストや統合コストを低減できるからである。

Infinigenceがリリースに合わせて公開したロードマップは、これが単発の研究発表ではなく、インフラとして位置づけられていることを裏付けている。同チームは次のように述べている。

同社はすでに、APXInfを改良し、アリババの「Qwen」やNVIDIAの「Groot」といった追加のモデルファミリーに加え、より広範なビジョン・言語モデルやワールドモデルにも対応できるようにしており、ハードウェアのサポート範囲をNVIDIAのチップラインナップから、中国国内製の半導体、国内製のロボットOS、およびAMDのプロセッサへと拡大することを約束している。 このマルチチップ戦略は、輸出規制やサプライチェーンの不確実性に対する直接的なヘッジ策である。こうした不確実性により、多くの中国のAIインフラ企業は、自社の技術スタックを単一のチップベンダーの継続的な供給に依存させるのではなく、ハードウェアに依存しないツールの構築を余儀なくされている。 今日、Pi 0.5やWALL-OSSを軸に導入計画を立てているロボット業界の購入者は、すでにNVIDIAの主流ハードウェア上で動作するツールを手に入れることができる。さらに、地政学的要因や供給上の制約により最終的にハードウェアの代替を余儀なくされた場合でも、移植性が明確に保証されている。

Infinigenceがライセンス販売ではなくコントリビューターを募集している理由

Infinigenceは、この最初のリリースを完成品ではなく出発点であると明確に位置付けており、同社は外部の貢献者を募集しています。 すでにJetsonクラスのハードウェア上でPi 0.5を統合しているロボティクスチーム、RTX 4090やOrinプロジェクトに取り組む開発者、そして新しいエンボディッドモデルの導入パイプラインを構築しているすべての人々に対し、GitHubリポジトリに直接イシューを登録し、コードの変更を提出するよう呼びかけている。このオープンな貢献姿勢は、単なる礼儀的なジェスチャーではなく、意図的な戦略的選択である。 推論エンジンの長期的な価値は、実際にどれだけのハードウェア構成、モデルアーキテクチャ、エッジケースに対してテストが行われたかに由来します。これほど急速に進化するロボット産業において、今後1年間に生み出されるチップ、モデル、タスクのあらゆる組み合わせを、Infinigenceが社内で検証することは不可能です。 オープンな貢献を通じてその検証をクラウドソーシングすることは、PyTorchやHugging FaceのTransformersといったフレームワークを業界標準へと押し上げたのと同じ戦略です。

これは、当初の開発者が単独でテストし得た範囲をはるかに超えており、閉鎖的でベンダーロックインされる代替案よりも、デフォルトのインフラとなるという観点で、より信頼性の高い長期的な投資対象である。

エンボディッドAIベンダーを評価するチームにとって、これがもたらす変化

購入者やインテグレーターにとっての実用的な検証基準は、APXInfのベンチマーク数値がInfinigence自身のテストで成立するか否かではなく、 特定の施設で特定のタスクを実行する特定のロボット上で、それらの数値が成立するかどうかである。なぜなら、推論エンジンの性能に関する主張は、歴史的に見て、チームが測定するモデルバリエーション、量子化レベル、ワークロードパターンによって大きく左右されてきたからである。FP8精度、 見出しの「26ミリ秒」という数値の背景にある設定は、速度と引き換えに数値の精度を多少犠牲にしている。調達チームは、APXInfベースの導入を提案するベンダーに対し、あらゆる構成においてベストケースのFP8数値を保証として受け入れるのではなく、実際のアプリケーションが要求する精度レベルにおいて、同等のレイテンシと安定性の数値を示すよう求めるべきである。 この注意点によって、その根底にある成果が損なわれるというよりは、真剣な購入者が本番環境の導入スケジュールを決定する前に、回答を求めるべき具体的なデューデリジェンス上の疑問点を明確にしているに過ぎない。

このオープンソースのリリースが直ちにもたらす変化は、実験にかかるコストです。 APXInfが登場する以前、Jetson Thor上でPi 0.5やWALL-OSSを本番環境レベルのレイテンシで実行したいロボット工学チームは、同等の最適化スタックをゼロから構築できる社内システムエンジニアリング人材を擁するか、あるいはその問題を社内で既に解決しているベンダーと有償で提携する必要がありました。 Infinigence、清華大学、上海交通大学が、広く使用されている2つのモデルに対してすでに検証済みの無料のオープンソースエンジンが登場したことで、これまで、機能的なモデルを研究用デモから、同じ動作を行うロボットへと移行させるために必要なシステムエンジニアリングへの投資を正当化できなかった小規模なロボットスタートアップや大学の研究室にとって、その障壁が取り除かれたのです。

エンジニアが再起動のために待機していなくても、何時間にもわたって確実にタスクを実行し続ける。

実際の違いを想像してみてください。エンジニア3名とJetson Thor開発キット1台しか持たない倉庫自動化のスタートアップ企業でも、GitHubリポジトリをクローンし、Pi 0.5を起動すれば、ロボットアームのピック・アンド・プレース動作のサイクルが、目に見えてぎこちない0.25秒の遅れから、滑らかで連続的な動きへと改善されるのを、たった半日のうちに確認できるようになりました。 この遅延の解消こそが、かつては有望な研究用プロトタイプと、資金調達可能な製品とを隔てていた壁でした。

本分析は、Infinigence AI、清華大学、上海交通大学が公開した、APXInfエンジンを説明するオープンソースリリースおよび技術文書に基づいています。本記事は一般的な情報提供のみを目的としており、投資、財務、または法律上の助言を構成するものではありません。

ヘッダー画像のクレジット：NVIDIA。