第2回から第9回まで、認識・状態・判断・行動・学習と、Physical AIを一つずつの技術に分けて降りてきました。ここからは第3部、実装編です。今回は、その一つずつを、一つのシステムとして束ねる話をします。
実証実験、PoCはやったが本番に進まなかった、という話は珍しくありません。原因を精度不足に求めたくなりますが、多くの場合、落ちる理由は精度の手前、システムとしての設計にあります。個々のモデルが良くても、それらを一本の流れにつなぎ、限られた計算機に載せ、危険な間違いを止める仕組みを作れなければ、現場では動きません。この回は、束ねるという技術と、束ね方を誤ったときにPoCがどう落ちるのかを、正面から扱います。
束ねるとは、一本の管線にして、環を閉じること
まず、束ねるとは何かを、はっきりさせます。第2回から第9回までの技術は、ばらばらの部品でした。センサが画像を撮り、3D再構成が形にし、欠陥検知が異常を見つけ、世界モデルが状態を覚え、VLMが見立て、計画が動きを決め、VLAが手を動かし、学習が結果を糧にする。束ねるとは、この部品を、入口から出口までの一本の流れ、パイプラインにつなぐことです。
つなぐときに、二つの技術的な難所が現れます。一つが、接口です。前の部品の出力の形と、次の部品の入力の形を、合わせなければならない。センサが出す点群の座標系と、世界モデルが期待する座標系が違えば、あいだに変換が要る。欠陥検知が出す確信度を、VLMがどう受け取るか、約束事を決めておかねばならない。部品それぞれが賢くても、あいだの約束がずれていれば、流れは途切れます。
もう一つが、遅延です。パイプラインは、部品を直列につなぐほど、全体の応答が遅くなる。第7回で見たように、動く機械は毎秒何百回も判断を出し続けねばならないのに、重い部品を数珠つなぎにすると、その速さに間に合わない。どこを速く、どこは遅くてよいか、第8回のHelixのように速さの層を分ける設計が、ここでも要ります。撮ってから判断が返るまでの時間、端から端までの遅延が、システムが使えるかどうかを分けます。
そして、いちばん大事なのが、環を閉じることです。第1回で、Physical AIは認識から行動への環だと述べ、第9回で、その環を回すほどデータが厚くなると述べました。束ねるとは、この環を、実際につなげて閉じることに他なりません。判断した結果が、記録に戻り、次の学習の糧になる。この戻りの線がつながっていないパイプラインは、直線であって環ではない。撮って判断して終わり、では、使うほど賢くなる好循環は回りません。PoCでよくあるのが、この戻りの線を後回しにしたまま、認識から判断までの片道だけを作ってしまうことです。
エッジの制約：算力・遅延・電力の三重苦
束ねたシステムを、どこで動かすか。ここに、実装編ならではの、厳しい制約が現れます。
研究や実演では、大きな計算機や、雲の上の潤沢なGPUを使えます。しかし点検・保全の現場は、電波の届かないトンネルの中、橋の裏側、プラントの奥です。雲に送って返してもらう間に、機械は次の一歩を踏み出してしまう。だから、判断の多くを、現場の機械の中、エッジで、その場で済ませねばならない。ここに、三つの制約が重なります。
一つ、算力。現場に載る計算機は、データセンターのGPUよりずっと小さい。大きなモデルは、そのままでは載りません。二つ、遅延。雲との往復を待てない以上、その場で速く答えを出さねばならない。三つ、電力です。バッテリーで動くドローンやロボットは、使える電力に限りがある。大きなモデルを高速で回せば、電池はみるみる減り、発熱もする。算力・遅延・電力、この三つが同時に効いてくるのが、エッジの三重苦です。
だから、束ねる前に、載せるための工夫が要ります。モデルを軽くする技術です。計算の精度をあえて粗くして軽くする量子化、大きなモデルの振る舞いを小さなモデルに移す蒸留、要らない枝を刈る枝刈り。第8回のVLAのような大きなモデルを、現場のエッジに載せるには、こうした軽量化を通す必要があります。ここで大事なのは、軽くすれば精度は多少落ちる、という取り引きがあること。どこまで軽くしてよいかは、次に述べる安全の設計と、切り離せません。エッジの制約を無視して、雲の上でしか動かないシステムをPoCで作ってしまうと、現場に持っていった途端に動かない、ということが起きます。
安全は精度ではなく、「兜底」で作る
束ねたシステムが、現場で受け入れられるかどうかを分ける、いちばん技術的な設計が、安全です。そして安全は、精度を上げることではなく、間違え方を設計することで作ります。
第4回で、検知は見落とす方向より、見つけすぎる方向に壊れる、と述べました。ここで思い出したいのが、国が公表した『プラントにおける先進的AI事例集』にある、出光の事例の成功基準の決め方です。これは、技術者が読むべき設計の見本です。
出光は、正解率の目標を、専門担当者の判定精度と、誤判定が次工程に与える影響を考えて設定しました。そのうえで、専門担当者の水準に達することは必須とせず、専門担当者には若干劣るがノウハウのない人員より優れる水準を最低目標としました。比較対象を、熟練者に置かなかったのです。そして、いちばん重要なのが、数値目標の書き方です。目標を八〇%とし、その中身を、腐食レベルを実際より大きく出力する誤判定と判定不能の合計が二〇%まで、腐食レベルを実際より小さく出力する誤判定は限りなくゼロに近く、と決めました。実績としてゼロを達成した、と書かれています。
これは、誤りを方向で分けた設計です。安全側に間違える、つまり危険を大きめに見積もる誤りは二〇%まで許す。危険側に間違える、つまり危険を小さく見積もる誤りは、限りなくゼロにする。精度九九%という一つの数字では、この設計は表現できません。第4回で見た再現率と適合率の取り引きを、現場の安全の言葉で書き切った基準です。
そして、この間違え方の設計を、システムの運用として作り込むのが、兜底の仕組みと、人を環に残すことです。国は同じ事例集で、AIでは解決しにくい課題を三つ、正直に挙げています。一つ、計画外停止などの真の原因を究明すること。AIは論理的な原因究明には向かない。二つ、一〇〇%の精度で劣化予測や異常診断をすること。AIは一〇〇%の精度で正解を予測することはできない。三つ、判断を伴う業務の多くを自動で代替すること。これには多くの検証が要り、特に、誤判断による人的・経済的被害のリスクについて、事前に十分な解析と低減策が要る、と。
そのうえで、国は運用の作り方まで踏み込みます。AIが異常なしと判断する閾値を適切に設定し、少しでも異常の恐れがあれば人が確認する仕組みを作る、と。これが、人を環に残すという設計です。全部を機械に任せるのではなく、危険側の判断の手前に、必ず人の確認を挟む。強化学習の世界でも、危険な行動を避けながら学ぶ安全な強化学習が研究されていますが、現場でいま効くのは、この、閾値を安全側に倒し、疑わしきは人が見る、という兜底です。安全は、モデルを賢くして到達するのではなく、間違えても致命傷にならない仕組みとして、外側から設計する。ここを飛ばしたPoCは、精度がいくら高くても、現場の信頼を得られません。
PoCが技術的に落ちる、四つの理由
以上を踏まえ、PoCが精度以外の理由で落ちる、技術的な失敗の型を、四つに切り分けます。どれも、束ね方の設計の失敗です。
一つ、データの質です。第9回で、学習の糧は現場のデータだと述べました。裏を返せば、データが揃っていなければ、どんなモデルも精度が出ません。点検記録が紙のまま、写真の撮り方がばらばら、座標や条件が記録されていない。この状態でモデルだけを試すと、精度が出ないか、出ても業務に載らない。国も、AIは業務フロー全体のデジタル化が進んでいるほど大きな効果を発揮する、と述べ、順番を明示しています。AI導入は、①業務フローのデジタル化、②要所でのAIソリューション導入、の二ステップで実施すると成功確率が高まる、と。①を飛ばして②だけを試すのが、PoCの典型的な落ち方です。第5回で、覚える器は完璧を待たず一緒に育てると述べたのは、この①を、モデルより先に始めるためでした。
二つ、分布のずれです。第4回のdomain shiftが、ここで効いてきます。PoCは、限られた良い条件のデータで試されがちです。晴れた日の、きれいな対象の、代表的な数十枚。しかし本番の現場は、汚れ、逆光、初めて見る型でできている。試した世界と、本番の世界が違えば、PoCで出た精度は、本番では出ません。第9回のSim2Realで見たリアリティ・ギャップと、根は同じです。PoCの成績を、本番の成績と取り違えることが、二つ目の落ち方です。
三つ、環が閉じていないことです。認識から判断までの片道だけを作り、結果を記録に戻す線をつながないまま、PoCを終える。すると、使うほど賢くなる好循環が回らず、一度きりの実演で終わります。第1回の環、第9回のデータ・フライホイールが回らない設計は、その場では動いて見えても、育たない。束ねるとは環を閉じることだ、と最初に述べたのは、この落ち方を避けるためです。
四つ、精度に偏りすぎることです。ここまでの三つと、根っこでつながっています。PoCの評価を、精度という一つの数字だけで測ると、接口のずれも、遅延の超過も、エッジに載らないことも、安全の設計も、環の開閉も、評価から抜け落ちる。出光の基準が精度九九%という一語では書けなかったように、束ねたシステムの良し悪しは、精度という一次元では測れません。技術者が精度だけを追い、システムとしての設計を後回しにする、四つ目の落ち方です。
現場が反発する場所も、あらかじめ分かります。イクシスの事例では、点検作業の約六割を占める外業、つまり現場作業は、作業員の得意領域で、大きな負担を感じていませんでした。そこを効率化しようとして、反発された。解決は、対象を変えることでした。現場が苦手としてミスの多かった内業、データ整理や診断や調書作成を自動化する道具にしたところ、納得を得られた。工数が多い工程と、負担に感じている工程は、同じではない。どこが重いかは積算で分かりますが、どこが嫌かは、聞かないと分かりません。束ねるシステムを、どの工程に差し込むか。この選び方もまた、技術と現場をまたぐ、実装の設計です。
おわりに
束ねるとは、第2回から第9回までの部品を、一本のパイプラインにつなぎ、環を閉じることです。難所は、部品の接口と、端から端の遅延、そして結果を次の入力へ返す戻りの線をつなぐこと。現場のエッジには、算力と遅延と電力の三重苦があり、量子化・蒸留・枝刈りといった軽量化を通さなければ、モデルは載らない。ただし、軽くすれば精度は落ちる、という取り引きが必ずついてきます。
安全は、精度を上げて到達するものではなく、間違え方を設計して作るものです。出光の成功基準のように、誤りを方向で分け、安全側は許容し、危険側は許さない。閾値を安全側に倒して疑わしきは人が見る、その兜底を、システムの外側から作り込む。国も、AIで解決しにくい三つの課題を正直に挙げています。PoCが技術的に落ちるのは、データの質、分布のずれ、環が閉じていないこと、精度への偏り。どれもモデルの選び方ではなく、束ね方の設計の失敗なのです。
次回は最終回です。基盤モデルとロボット学習の最前線、そして、熟練の判断をどう残すかという問いに、ここまで積み上げてきた枠組みで答えます。
本記事は「Physical AI 点検・保全 講座」シリーズの第10回です。次回は最終回、基盤モデルの最前線と技能伝承を扱います。スライド資料（PDF）は無料でダウンロードいただけます。
出典
- 出典：Liu et al., "A survey of model compression techniques…", Frontiers in Robotics and AI 12:1518965 (2025) Fig.1. CC BY 4.0
- 「AIでは解決しにくいプラント保安分野の課題」の原図：石油コンビナート等災害防止3省連絡会議（経済産業省・厚生労働省・総務省消防庁）「プラントにおける先進的AI事例集」（2020年11月）p.15。政府著作物・出典明示で利用可
- システム統合（パイプラインの接口・端から端までの遅延）、エッジ推論の制約（算力・遅延・電力）、モデル軽量化（量子化・蒸留・枝刈り）、安全な強化学習（safe RL）は、実装・エッジAIの一般的事項に基づく（特定製品の性能値は含まない）
- 成功基準の設計（比較対象・誤りの方向・80%＝安全側20%許容/危険側ゼロ）、AIで解決しにくい三つの課題、AI導入の2ステップ（①業務フローのデジタル化→②要所でのAI導入）、閾値を安全側に倒し疑わしきは人が確認する運用：石油コンビナート等災害防止3省連絡会議（経済産業省・厚生労働省・総務省消防庁）「プラントにおける先進的AI事例集」（2020年11月）3.1・3.2・（参考）業務フロー全体のデジタル化
- 工数の多い工程と負担に感じる工程は異なる（外業6割は得意領域・内業の自動化で納得）：同事例集（イクシスの事例）
- 本講座 第1回（認識から行動の環）、第4回（domain shift・検知の壊れ方）、第5回（器を先に育てる）、第7回（制御の速さ）、第8回（Helixの階層）、第9回（Sim2Real・データ・フライホイール）