AIずんだもんが乗っ取られる動画を見た — プロンプトインジェクション対策をライブAIの設計で考える
この記事で分かること
ライブ配信AIが外部から乗っ取られる事例から、プロンプトインジェクション対策の設計方針を学べる。外部入力をどこまで信頼するかの扱いと、AIへの指示を固定すべき範囲の決め方が、事例を通じて検討できる。
ライブ配信AIが外部から乗っ取られる事例から、プロンプトインジェクション対策の設計方針を学べる。外部入力をどこまで信頼するかの扱いと、AIへの指示を固定すべき範囲の決め方が、事例を通じて検討できる。