「user 12345 を削除しました」と言うのに DB が変わってない — AIエージェントの後付け検証 API を作った話
この記事で分かること
AIエージェントが「削除しました」と報告しても実際にはDBが変更されていない問題を検証するための後付けAPIの設計が得られる。具体的には、エージェントの出力と実際のデータベース状態を突き合わせる検証エンドポイントを用意し、非同期で整合性を確認する仕組みを採用している。
詳細要約
AIエージェントが「削除しました」と報告しても実際にDBが変更されていないケースを防ぐため、処理結果を後から検証するAPIを実装した。このAPIは、エージェントの実行後にDBの状態を直接確認し、削除や更新が正しく反映されたかを自動判定する。導入時の具体点として、検証APIはエージェントの応答とは独立したトランザクションで動作させる必要がある点と、検証結果が失敗した場合にユーザーへ再実行を促すか管理者に通知するかの判断基準を事前に決めておくことが挙げられる。