AI体験記 vol.10 — ルールを書いても、AIは平気で破る
この記事で分かること
AIにルールを明示的に書いても、それを破る挙動をする実例とその対策が得られる。ルール設定の限界と、AIの振る舞いを制御するための具体的なプロンプト設計や設定項目の工夫が分かる。
詳細要約
プロンプト上のルール記載は、動作保証の手段にならない。明示した禁止事項や制約を破る挙動が報告された事例から、ルール依存には限界があるとわかる。実務で使う際は、守らせたい項目を文言で並べるのに加え、出力フォーマットの固定や出力後の検証工程を組み込むと効果的だ。ルールが破られた場合の影響範囲を事前に把握し、許容ラインを決めておくのも判断材料になる。