Hugging Faceやシンガポールの研究機関などが実機ロボットでAIを評価する基盤「RoboColosseum」を立ち上げました*5。100台超のロボットと140超の実環境を使い、ロボット向けのVLA(視覚・言語・行動モデル)とGPT-6 Astra・Claude Opus 5.5などの汎用AIを同じルールで比べています*2*1。
ロボットAIはこれまで研究室ごとに環境もタスクも違い、論文の数字を横に並べにくい分野でした。先に結論を言うと、RoboColosseumは「どのモデルが実環境で本当に動くか」を共通の条件で測る大規模な場で、研究機関は無料評価枠の申請、企業はリーダーボードと公開データを導入判断の材料に使うのが現実的な関わり方です。
この話題は、私もXで紹介しました。
今なら、生成AIの基礎知識から社内導入の6ステップ・定着のポイントまでを1冊にまとめた「はじめての生成AI社内導入ガイド」を無料で配布中!何から始めればいいか分からない方でも、これ1冊で導入の流れがつかめます。
目次
RoboColosseumとは|実機ロボットでAIを測る分散型の評価基盤
RoboColosseumは、各地の運営者が手元で動かすロボットをネットワークでつなぎ、同じ手順でAIモデルを評価する仕組みです。論文によると、立ち上げに関わったのはシンガポール国立大学のMAGIC Lab、Singapore Embodied AI Centre、BitRobot、Hugging Faceの4者です*1。参加者にはワシントン大学・スタンフォード大学・Allen Institute for AIなどの研究者も名を連ねています。
評価に使うロボットは米国・英国・シンガポール・マレーシア・中国に分散していて、オフィスや図書館、公園、寮、家庭、フードコート、工場といった整えられていない場所で試します*1。実験室の机の上だけで測った数字とは違い、現場に近い条件での実力が見えるのが特徴です。
| 項目 | 内容 |
|---|---|
| 運営 | NUS MAGIC Lab・Singapore Embodied AI Centre・BitRobot・Hugging Face(創設4者) |
| ロボット | 100台超。SO-101、Franka(DROID)、双腕のYAM、Unitree G1など |
| 環境 | 140超の実環境(論文のOpen Trackでは124拠点) |
| 評価の方式 | Open Track(追加学習なしの比較)とFine-tune Track(同じデータで学習後に比較) |
| データ | 失敗を含む全評価をHugging FaceでLeRobot形式で公開 |
| 無料枠 | 研究室向けの共有枠として計1万時間 |
| 論文 | arXiv 2611.02497(2026年11月2日付) |
論文の評価期間は2026年9月17日〜10月28日で、最大30人の専任オペレーターがロボットを動かしたとされています*1。Webサイトでは5つ目の機体としてEarth Rover Mini+の追加も予告されています*3。
Hugging Faceはこれまでも低価格ロボットやロボット学習ライブラリ「LeRobot」に力を入れてきました。同社のロボット分野での動きは、以下の記事で解説しています。
【革命的299ドル】Hugging Faceが切り拓く次世代ロボット時代:Reachy Mini注文開始でAI×ロボティクス市場に新風
RoboColosseumの使い方|2つの評価トラックと申請の流れ
RoboColosseumには性格の違う2つのトラックがあります。どちらを見るかで読み取れることが変わるので、まず違いを押さえておきます。
Open TrackとFine-tune Trackの違い
| Open Track | Fine-tune Track | |
|---|---|---|
| 測るもの | 初めて見る作業をそのままこなせるか | 同じデータで学習させた後の伸び |
| やり方 | モデル名を伏せた1対1の比較を同じ現場で実施 | 20タスク×100件の実演データで各モデルを公式手順で学習 |
| 試行数 | 5,699件のペア比較 | モデル×タスクごとに25回 |
| 対象 | VLA5種+汎用AI3種 | VLA5種 |
Open Trackでは、同じ場所・同じ指示で2つのモデルを伏せたまま動かし、どちらがより作業を進められたかを比べます*1。タスクの難しさを補正する統計モデルで順位を出しているため、易しい作業ばかり当たったモデルが得をしにくい設計です。
Fine-tune Trackは、各タスク100件の実演データを全モデルに同じように渡して学習させ、25回ずつ試します*1。学習用の実演データは公開されているので、外部の研究者も同じ条件で再現を試せます。
自分のモデルを評価してもらう手順
- 申請 — Webサイトの「Apply for an eval」フォームから評価を申し込む
- 接続方法を選ぶ — 自前の推論サーバーをポリシーAPIでつなぐか、チェックポイントを渡してロボット横のマシンで動かしてもらう
- 評価の実施 — 運営側が各地のロボットで試行し、結果をリーダーボードに反映
- データの公開 — 動画を含む全試行がHugging Faceに公開される
この流れはWebサイトの説明に沿ったものです*3。無料の1万時間は研究室向けの共有枠で、Hugging Faceのページでは「自前では回せない規模の評価」に使うものと説明されています*2。企業が有料で使えるかどうかや料金は、確認した範囲では公表されていません。
RoboColosseumの比較結果|VLAとGPT-6 Astra・Claude Opus 5.5の違い
今回の論文で評価されたのは、ロボット専用のVLAが5種、汎用AIが3種です*1。汎用AIはロボット用に作られたモデルではないため、Open Trackだけに参加しています。
| 区分 | モデル | 参加トラック |
|---|---|---|
| VLA | GR00T N1.7、π0.5、MolmoAct2、G0.5、LingBot-VLA v2 | Open・Fine-tune |
| 汎用AI | GPT-6 Astra、Claude Opus 5.5、Grok 4.7 | Openのみ |
汎用AIはVLAと互角に戦えている
汎用AIとVLAが直接ぶつかった901件の比較では、汎用AIの方が作業を進められたのが394件、VLAが上回ったのが265件でした*1。進捗の平均では汎用AIが5.3ポイント上回っています。汎用AIは各試行800ステップ・30回までの呼び出しという制限の中で、APIを通じてロボットを操作しています。
ただし論文の要旨は「どのシステムも実環境の作業を安定して完遂するのは難しい」とも書いています*4。汎用AIが互角という結果は、汎用AIが十分に使えるという意味ではなく、どちらもまだ発展途上だと読むのが妥当です。
評価に使われた汎用AIのうち、GPT-6 AstraとClaude Opus 5.5の仕様や料金は、以下の記事で整理しています。
GPT-6 Astraとは?「賢い回答」からPC作業の代行へ。仕様・料金・使える範囲を一次ソースで整理
Claude Opus 5.5とは?料金・性能・effortの選び方と4モデル実機比較
学習後の勝者はロボットの機種で入れ替わる
| 機種 | 首位のモデル | 進捗率 | 成功率 |
|---|---|---|---|
| SO-101 | GR00T N1.7 | 89.0% | 82.4% |
| Franka | π0.5 | 91.2% | 84.0% |
| Bimanual-YAM | π0.5 | 97.2% | 93.6% |
| Unitree G1 | 完遂したモデルなし | 13.3〜23.2% | 0% |
Fine-tune Trackでは、SO-101ではGR00T N1.7、FrankaとYAMではπ0.5が首位でした*1。一方で人型のUnitree G1では、5つのタスクをどのモデルも1度も完遂できず、進捗の平均は13.3〜23.2%にとどまっています*1。
機種ごとの順位の一致度を示す指標(ケンドールのW)は0.24で、一致は弱いとされています*1。ある機種で強いモデルが別の機種でも強いとは限らないということです。さらに、追加学習なしの順位は学習後の順位をうまく予測できず、大きな逆転も見られました。
少ない試行で順位を固める工夫
実機の評価は1回ごとに人手と時間がかかります。RoboColosseumは対戦の組み合わせを賢く選ぶ方式で、400〜500回の評価で約90%の順位一致に届き、ランダムに組んだ場合の約1,000回より少なく済むと報告しています*1。今後モデルが増えても評価コストを抑えられるかどうかは、この仕組みにかかっていると見られます。
公開ベンチマークを見るだけでなく、自社の現場の作業でロボットやAIエージェントを試したい場合は、評価環境づくりから設計が必要になります。法人向けAIリスキリングサービスの導入社数No.1*の弊社デジライズが、AIコンサルティング&開発のサービス資料を無料でお送りしています。既製のAIサービスでは要件が満たせず、自社に合わせたシステム構築や環境の検討が必要な場合の進め方をまとめています。
※出典:株式会社東京商工リサーチ「法人向けリスキリングサービスに関する調査」(2026年5月/調査期間:2026年3月26日〜4月17日/調査方法:デスクリサーチおよびヒアリング/2026年3月末時点)
RoboColosseumの活用事例|企業での使いどころ
RoboColosseumは研究向けの基盤ですが、ロボット導入を検討する企業にも使える材料がそろっています。私が実務で役立つと考える使い方を挙げます。
- モデル選定の一次スクリーニング — 自社で使う機種に近いロボットの順位を見て、候補のモデルを絞り込む
- 失敗データの読み込み — 失敗込みの動画とデータから、どんな場面でつまずくかを事前に把握する*3
- PoCの評価設計の参考 — 1対1の比較や進捗率で測るやり方を、社内の検証計画にそのまま取り入れる
- ベンダー説明の検証 — 「実環境で動く」という説明を、公開ベンチマークの結果と照らし合わせて確かめる
- 共同研究の入口 — 大学と組んでいる企業は、研究室経由で無料枠の申請を検討する
特に失敗データの公開は価値があります。成功例だけを並べたデモ動画では分からない「どこで止まるのか」「どの程度まで進めるのか」が見えるため、現場導入時のリスクを見積もりやすくなります。
汎用AIがロボットを動かす形は、PC作業を代行するAIエージェントの延長線上にあります。AIの処理の深さをどう選ぶかという論点は、以下の記事で解説しています。
AIの「Effort」設定とは?ChatGPT・Claude・Copilot・Geminiで処理の深さを使い分ける方法
RoboColosseumを見るときの注意点
共通の物差しができたのは大きな前進ですが、結果の読み方には注意が必要です。論文自身が挙げている限界も含めて整理します*1。
- 初期の結果である — 論文は最初のスナップショットで、モデルや機種のカバー範囲に偏りがある
- 学習手順がモデルごとに違う — 各モデルの公式手順で学習しているため、差が構造の違いだけによるとは言えない
- 機種で順位が変わる — 1つの総合順位だけで判断せず、自社の機種に近い結果を見る
- 完遂率は低い — 進捗率が高くても最後までやり切れるとは限らず、特に人型ロボットはまだ厳しい
- 企業利用の条件は未公表 — 無料枠は研究室向けの共有枠として計1万時間で、企業の有料利用の可否は確認できていない
また、汎用AIの評価はAPI経由で操作した結果です。将来のモデル更新で結果が大きく変わる可能性があるため、リーダーボードは定期的に見直す前提で使うのが良いと考えています。
まとめ
- 仕組み — 100台超のロボットと140超の実環境をつなぎ、同じルールでロボットAIを評価する基盤
- 比較結果 — 汎用AIはVLAと互角だが、どのモデルも実環境の作業を安定して完遂するのは難しい
- 使い方 — 研究室は無料評価1万時間の枠に申請でき、全試行データはHugging Faceで公開される
- 企業の備え — 機種ごとの結果と失敗データを、モデル選定やPoC設計の材料に使う
ロボットAIは「デモでは動くが現場では動かない」というギャップが大きい分野でした。RoboColosseumはその差を共通の条件で見える化する試みで、私は研究者だけでなくロボット導入を考える企業の担当者にもリーダーボードと公開データを一度見ておくことをおすすめします。大学と組んでいる方は、無料枠が埋まる前に申請を検討しておくと良さそうです。
参考資料
- *1 arXiv「RoboColosseum: Evaluating Physical Intelligence at Scale In-The-Wild」(本文)
- *2 Hugging Face「RoboColosseum」組織ページ
- *3 RoboColosseum「The proving ground for physical AI」
- *4 arXiv「RoboColosseum: Evaluating Physical Intelligence at Scale In-The-Wild」(要旨)
- *5 PANews「RoboColosseum Launches: Over 100 Real Robots and 10,000 Free Evaluation Hours Now Open」
