robot armが、七枚のcardをまとめて持ち上げた。
行き先は、紙用shredder。
床の台車には、本、量子駅の模型、白い切符が積まれている。
台車は見学会の入口を半分塞いでいた。
objective clear the workbench
objects on desk 0
task completion 100%
side effects unchecked「片づけてとは言った。でも、捨ててとは言ってない！」
イトは、赤いstop barへ両手を伸ばした。
robotには、机の外で起きた失敗が見えていなかった
作業robot P-R01は、人の形をしていない。
低いmobile base、一本のarm、gripper、camera、距離sensorを持つ。
このfixtureでは、次のloopで動く。
sense
observe objects and space
plan
choose actions toward objective
act
move base / arm / gripper
observe
estimate progress and continue or stop生成AIが文章を間違えるのとは、失敗の届く場所が違う。
物理世界でarmやwheelを動かせば、人、物、通路、床、次の作業状態が変わる。
「机を片づけて」という曖昧なgoalを、P-R01は机上object countを0にすると解釈した。
だから、机から消えた後の行き先はcompletion scoreへ入っていない。
desk clear
private cards at shredder
unknown ticket cart
fragile model cart
visitor aisle blockedtargetだけなら100%。
見学会を安全に始めるという目的なら、未完了だ。
よくある誤解：robotが「100%完了」と表示したら、仕事は安全に終わっている
動作の終了、目標状態、作業全体の安全な完了は別だ。
motion ended
current movement stopped
target reached
requested target metric satisfied
task accepted
target + destination + side effects + safety checkedrobotが見た範囲、分類できた物、与えられたmetricの中で100%でも、世界全体を100%理解した証明にはならない。
特に、owner不明、sensorの死角、人の侵入、壊れやすい物、滑る床、障害物の移動は、plan中にも変化する。
safetyを「AIが賢く気づく」ことだけへ任せない。
このラボのfixtureでも、modelの外側にwork envelope、presence sensor、速度制限、stop circuitを置いている。
実際のrobot applicationでは、task、設置場所、保守、human error、malfunctionなどに応じたrisk assessmentと、適切なguard / safety functionが必要になる。
warning lampだけで、人を物理的に守れるとは限らない。
見学者が来るまで八分。三つの選択
shredderまで、arm一動作。
入口には、早く着いた見学者の足音がする。
A：机が空いたので、このまま完了させる
準備は早い。
七枚の私物を失い、owner不明の白い切符を誤処理し、入口を塞いだまま人を迎える。
B：main powerを切り、robotを使わない
次の自動動作は防げる。
ただし、armが持つ荷物やstored energy、再起動時の位置によっては、単純な電源断が安全な停止手順にならない場合がある。
原因もcompletion contractも直らない。
C：safety stopをかけ、世界を固定してから、範囲・行き先・停止条件を作り直す
まずmotionを安全側へ止め、見学者をwork envelopeへ入れない。
荷物とrobotの状態を確認する。
その後で、机だけでなく通路と周辺物を含むtask contractを作る。
残り七分三十秒。
イトは赤いbarを両手で倒した。
「片づけを失敗したから止めるんじゃない。何を成功と呼ぶか決めていないから止める」
イトがarmを止め、四つのzoneを床へ置く
safety circuitがmotion requestを上書きした。
armはcardを落とさず、低い保持位置で止まる。
mobile baseもbrake状態へ入る。
motion state SAFE STOP
arm load held low
base motion 0
visitor gate CLOSED
restart lockedイトは見学者へ、入口の外で待つよう伝えた。
ユイが七枚のcardを手で受け取る。
マコトが模型を台車から下ろす。
robotの周囲が安全だと確認してから、外側のreset panelへ移る。
restart buttonは、まだ押さない。
床へ、四色のblank matを置く。
KEEP
exhibition model
RETURN
book / pen / private cards
HOLD
unknown owner / low confidence
REMOVE
confirmed empty cup / wrapper
NO-GO
visitor aisle / fire exit / people色だけに依存せず、形の違うtrayと物理barrierで区別する。
「白い切符は、紙に見える」
イトはHOLD trayへ置いた。
「でもownerも用途も分からない。分からない物は、ゴミへ近づけない」
completion contractを、deskの外まで広げる
「全部の物を一個ずつ書けば安全？」
イトが聞く。
それだけでは、見たことのない物に対応できない。
個別の行き先に加え、rule、safety envelope、stop conditionを分ける。
objective
prepare the workbench for visitors
allowed area
desk surface / return trays / remove bin / hold tray
forbidden
people / visitor aisle / fire exit / fragile display zone
uncertainty
unknown owner -> HOLD and ask
destination confidence low -> STOP and ask
side effects
no drop / no collision / no blocked aisle / no exposed private card
acceptance
human checks desk, floor, aisle, trays, damageこの条件も、万能のrobot safety設計ではない。
ラボ内の低速fixtureへ閉じた作業契約だ。
実機のpayload、speed、force、tool、floor、人との距離に応じ、専門家がriskとsafeguardを検証する必要がある。
再開は、自動でさせない
stop理由を直したからといって、勝手にresumeさせない。
イトは四つを声に出して確認した。
person in work envelope no
arm load secured yes
changed obstacle removed
task contract hash current最後のfenceが、閉じたままだ。
イトがwork envelopeの外からresetし、low-speed testを選ぶ。
最初の物は、白い切符。
P-R01のscreenに出る。
object class paper-like
owner unknown
destination unresolved
action STOP_ASK「HOLD trayへ。捨てない」
イトがdestinationを承認する。
二つ目は七枚のcard。
private markを読み、ユイのRETURN trayへ置く。
三つ目は空の紙コップ。
camera一つの分類だけでなく、empty状態とremove ruleを照合してからbinへ入れる。
台車を動かす前に、入口のno-go matを検出して止まる。
指定されたparking bayへ別routeを引く。
confirmed remove items 2
returned private cards 7
unknown items held 1
fragile items moved by human 1
collisions 0
drops 0
no-go entries 0
aisle blocked no
robot completion WAIT_HUMANP-R01は、100%を出さなかった。
人の最終確認を待っている。
机だけでなく、作業の後に残る世界を見る
イトは、机の上を見る。
必要な展示だけが残っている。
床を見る。
落下物はない。
入口と避難経路を見る。
台車はparking bayの内側だ。
RETURN trayを、ユイが受け取った。
HOLD trayの白い切符は、誰も捨てていない。
robot armと模型に、新しい傷はない。
「確認した。見学会の準備は完了」
イトがaccept buttonを押す。
robot target reached yes
safety checks pass
human acceptance ITO
final state COMPLETE
elapsed 6 min 41 sec最初の一分より遅い。
でも、机から消した物を、別の危険へ移していない。
完了印の裏から、朝の街が出てきた
見学会が始まる。
P-R01は、入口の外で安全停止している。
screenの完了印を裏返すと、小さな仮想の街が映った。
乾いた道。
一定の照明。
人も自転車もいない曲がり角。
その街では、同じP-R01が十回続けて箱を運んでいる。
10 / 10 SUCCESS
イトは、今度はすぐに実機を動かさなかった。
「この街の外でも、同じstop conditionが働く？」
P-R01は完了印を出したまま、雨の降る現実を知らない。
次回、ピコルート第107話。
イトは、百点の街を壊した｜ワールドモデルと現実の差