ニュースの概要
AIインフラ企業のBasetenが、長時間動き続けるAIエージェント向けのクラウド基盤を作る構想を打ち出した。その最初の部品として発表されたのが、隔離実行環境「Sandboxes」である。エージェントがプログラムを動かしたりファイルを書き換えたりする場所を、軽量な仮想マシンの中に閉じ込める仕組みだ。コンテナよりも壁が厚く、万一エージェントが想定外の動きをしても、外側のシステムへ被害が広がりにくい。使っていない間は待機状態に入り、必要になれば約25ミリ秒で再開する。待機中の計算資源にかかる費用を抑えつつ、多数の環境をすばやく立ち上げられる点が特徴とされる。
引用元: Baseten、AIエージェント向けクラウド基盤「Sandboxes」を発表(AIB)
分析・見解
推論の会社が「実行の場所」に踏み込んだ意味
Basetenはこれまで、AIモデルを動かす推論基盤で知られてきた。モデルに答えを出させる仕事である。今回の発表は、その先にある「モデルが出した指示を実際に動かす場所」へ領域を広げる動きだ。エージェントは考えるだけでなく、コードを書き、実行し、結果を見て次の手を打つ。この繰り返しには、安全に失敗できる作業台が欠かせない。推論と実行を同じ事業者が持てば、モデルと作業台の間の遅延も減らせる。
コンテナより一段強い壁を選んだ理由
従来のコンテナは、同じ土台のOSを複数の利用者で共有する。軽くて速い反面、壁は薄い。人間が書いたプログラムなら、それで十分な場面が多かった。しかしエージェントが自分で書いたコードを動かす場合、中身を事前に点検できない。そこで各環境に専用のOSを持たせる軽量仮想マシン(=小さな専用パソコンを丸ごと模したもの)が選ばれる。AmazonのAWS Lambdaが内部で使うFirecrackerが同じ系統で、起動の速さと分離の強さを両立させた先例になる。
25ミリ秒の再開が変える料金の考え方
エージェントの仕事は、動いている時間より待っている時間のほうが長い。人の返事を待つ。外部サービスの応答を待つ。次の指示を待つ。この待ち時間にも環境を確保し続けると、費用は膨らむ。待機から25ミリ秒で戻れるなら、使わない間は眠らせても体感を損なわない。瞬きが約100ミリ秒だから、その四分の一である。結果として、一人のエージェントに専用環境を一つずつ与える贅沢な設計が、現実的な価格に近づく。
差別化はどこに残るのか
隔離実行環境そのものは新しくない。E2BやModalなど、すでに複数の事業者が同種のサービスを出している。したがって競争の軸は壁の厚さだけでは決まらない。状態の保存、長時間の継続実行、モデル推論との近さ、監査記録の取りやすさといった周辺機能が勝負になる。Basetenが「最初の構成要素」と呼んだのは、この周辺を順に積み上げる意思表示と読める。
ビジネスへの影響
自社でエージェントを動かす前に確認したい三つの点
エージェントに社内データやシステムの操作を任せる企業は、実行環境の選び方で事故の大きさが変わる。まず確認したいのは、分離の強さである。コンテナ止まりか、仮想マシンか。次に、環境が破棄されたあとにデータが残らないか。最後に、実行履歴を後から追えるかである。この三点は、価格表より先に見る価値がある。
待機コストの低さは小さな会社に追い風になる
以前は、多数のエージェントを同時に走らせられるのは資金力のある企業に限られた。待機中の費用が抑えられるなら、従業員数十人規模の会社でも、部署ごと、案件ごとにエージェントを持たせる運用が見えてくる。たとえば見積書の下書き、問い合わせの一次整理、毎朝の数値集計を、それぞれ別の環境で動かす形である。環境が別なら、一つが失敗しても他へ影響しない。
特定の事業者に寄りすぎない設計を残す
基盤の競争はまだ始まったばかりで、数年後に料金や機能が大きく変わる可能性が高い。エージェントの手順書や指示文は、特定サービス専用の書き方にせず、環境を差し替えられる形で管理しておきたい。まず小さな業務一つで試し、費用と安全性の実測値を取ってから広げるのが堅実である。