数タスクごとに、AIが固まる
エージェントに仕事を任せていると、ある時点から動きが重くなり、数タスクごとにフリーズしたり、会話の内容を自動で縮める「圧縮」が走ったりすることがあります。僕も、AIの作業アプリでこの状態になりました。
原因を調べると、直感とは違う場所に主犯がいました。この資料では、その切り分けと対策の順序を整理します。
「文脈」とは、AIの作業机の広さ
AIが一度の作業で読み込んでいる情報(指示、過去のやり取り、ツールの出力など)を、まとめて「文脈(コンテキスト)」と呼びます。机の上に広げられる資料の量、と考えると分かりやすいと思います。
机の上が資料で埋まると、新しい作業のたびに片付けが必要になります。これが先ほどの「圧縮」で、動きが止まる原因になります。
問題は、机が狭いことより、要らない資料が勝手に積まれていくこと。
疑ったもの、本当の犯人
最初に疑うのは、入れているスキルやツールの数です。僕の環境ではスキルが202件、登録ツールが559件ありました。けれど実測すると、これは二次的な要因で、見た目ほど支配的ではありませんでした。
図1疑ったものと、実測で分かったこと
スキル・ツールの数
多すぎるのが原因では
僕の環境では202スキル・559ツール。二次的な要因だった
画面を操作するツール
普通に使っているだけ
画面の構造を全文で取得する動きが、自動で何度も発生
作業の記録(ログ)
ただの履歴
巨大になると、アプリ自体のフリーズの直接原因にもなり得る
主犯は「画面操作ツールの、自動の全文出力」だった
僕の環境での実測では、デザインツールの画面を操作したセッション1回で、画面の構造を取得する動きが125回発生し、圧縮が4回走りました。画面全文のような大きな出力が、止める仕組みのないまま積み上がっていたことになります。
また、1つの会話の記録が10GB(8万イベント級)に達したケースでは、その記録自体が、アプリの処理を100%に張り付かせてフリーズする直接の原因にもなり得ました。
対策は、効果の大きい順に4つ
図2文脈を軽くする対策の順序
- 01自動で入れるのをやめるスキル一覧や記憶の自動注入を止め、必要なときに検索する
- 02出力に上限をつけるツールごとに、一度に返す量の上限を決める
- 03重複をやめる全文を出したあと、同じ内容の抜粋をもう一度出さない
- 人前後を測る初期の入力量と、1操作あたりの増え方を実測する
僕の環境では、初期入力が23.6%減、1操作あたりの入力増分が86.5%減(同一環境での前後比較)
この数値は僕の環境での実測で、他の環境で同じ割合になるとは限りません。大事なのは数字そのものより、「言った」で終わらせず、前後を測って確かめた点です。
ここから先は、限定公開パートです
手順・テンプレート・チェックリストなどの実践部分は、顧問先・研修先の方にパスワードでお読みいただけます。
- 自社の環境で調べる手順
- 診断のチェックリスト
- 対策の優先順位と判断
- やってはいけないこと、気をつけること
- 前後の実測シート
- 経営層・推進担当が確認すること