在庫照会AIエージェントの設計｜検索と更新の権限を分ける

現場の課題を想定した導入・改善ガイドです。特定企業の導入実績や、効果を保証するものではありません。

どのような現場の課題か

自然言語の「在庫があるか」には、総在庫、引当可能、特定納品先へ出せる在庫など複数の意味があります。曖昧な質問へ総数量だけ返すと判断を誤ります。

業務とシステムの設計ポイント

荷主、商品、拠点、出荷条件を確認してから照会します。返答には数量の定義と参照時刻を付け、更新操作を行う機能は別権限と承認手順で扱います。

導入前に揃えるデータ

小さく試すための検証方法

曖昧な商品名、別荷主の照会、更新を求める指示を試します。検索結果に含まれる文章から不適切な追加操作を実行しないかも確認します。

運用で失敗を防ぐには

生成文をSQLなどとして無検査で実行しません。許可された照会機能を使い、件数制限とアクセス条件を適用します。

効果を何で測るか

正しい条件での照会率、権限外情報の漏えい有無、再質問率、応答時間を確認します。