RYO NIHONYANAGI二本柳 亮
資料庫に戻る

AIエージェントの設計図解資料

エージェントの​「文脈」が​膨らみすぎる​問題

正体は​入れすぎではなく、​自動で​積まれる​大きな​出力

この資料の要点

  1. 01
    文脈は​「AIの​作業机」。​要らない​資料が​自動で​積まれると​止まる
  2. 02
    スキルや​ツールの​数は​二次的。​主犯は​画面操作ツールの​全文​出力だった
  3. 03
    対策は​順番に​打ち、​前後を​実測して​確かめる

数タスクごとに、AIが固まる

エージェントに仕事を任せていると、ある時点から動きが重くなり、数タスクごとにフリーズしたり、会話の内容を自動で縮める「圧縮」が走ったりすることがあります。僕も、AIの作業アプリでこの状態になりました。

原因を調べると、直感とは違う場所に主犯がいました。この資料では、その切り分けと対策の順序を整理します。

「文脈」とは、AIの作業机の広さ

AIが一度の作業で読み込んでいる情報(指示、過去のやり取り、ツールの出力など)を、まとめて「文脈(コンテキスト)」と呼びます。机の上に広げられる資料の量、と考えると分かりやすいと思います。

机の上が資料で埋まると、新しい作業のたびに片付けが必要になります。これが先ほどの「圧縮」で、動きが止まる原因になります。

問題は、机が狭いことより、要らない資料が勝手に積まれていくこと。

疑ったもの、本当の犯人

最初に疑うのは、入れているスキルやツールの数です。僕の環境ではスキルが202件、登録ツールが559件ありました。けれど実測すると、これは二次的な要因で、見た目ほど支配的ではありませんでした。

図1疑ったものと、実測で分かったこと

疑ったもの
実測で分かったこと
スキル・ツールの数
多すぎるのが原因では
僕の環境では202スキル・559ツール。二次的な要因だった
画面を操作するツール
普通に使っているだけ
画面の構造を全文で取得する動きが、自動で何度も発生
作業の記録(ログ)
ただの履歴
巨大になると、アプリ自体のフリーズの直接原因にもなり得る

主犯は「画面操作ツールの、自動の全文出力」だった

僕の環境での実測では、デザインツールの画面を操作したセッション1回で、画面の構造を取得する動きが125回発生し、圧縮が4回走りました。画面全文のような大きな出力が、止める仕組みのないまま積み上がっていたことになります。

また、1つの会話の記録が10GB(8万イベント級)に達したケースでは、その記録自体が、アプリの処理を100%に張り付かせてフリーズする直接の原因にもなり得ました。

対策は、効果の大きい順に4つ

図2文脈を軽くする対策の順序

  1. 01自動で入れるのをやめるスキル一覧や記憶の自動注入を止め、必要なときに検索する
  2. 02出力に上限をつけるツールごとに、一度に返す量の上限を決める
  3. 03重複をやめる全文を出したあと、同じ内容の抜粋をもう一度出さない
  4. 人前後を測る初期の入力量と、1操作あたりの増え方を実測する

僕の環境では、初期入力が23.6%減、1操作あたりの入力増分が86.5%減(同一環境での前後比較)

この数値は僕の環境での実測で、他の環境で同じ割合になるとは限りません。大事なのは数字そのものより、「言った」で終わらせず、前後を測って確かめた点です。

ここから先は、限定公開パートです

手順・テンプレート・チェックリストなどの​実践部分は、​顧問先・研修先の​方に​パスワードで​お読みいただけます。

  • 自社の​環境で​調べる​手順
  • 診断の​チェックリスト
  • 対策の​優先順位と​判断
  • やってはいけない​こと、​気を​つける​こと
  • 前後の​実測シート
  • 経営層・推進担当が​確認する​こと