生成AIを業務で使うとき、最初にぶつかるのは「その回答が正しいか分からない」という壁です。同じAIに「今の答えは合っていますか」と聞いても、たいてい合っていると返ってきます。私たちが行き着いたのは、AIを1つに任せず、欠陥を探す役・事実を確かめる役・採否を決める役に分ける形でした。そして最後に決めるのは人です。自社の業務システムを内製してきた中で固まったやり方を、そのまま共有します。特別な仕組みは要りません。
複数のAIの役割分担とは、生成AIの誤答を防ぐために、AIを欠陥を探す「発見役」と事実を確かめる「裏取り役」に分け、最終的な採否を人が決める運用方法です。1つのAIでは自身の誤りに気づきにくいため、役割を分けることで精度を高めます。発見役には指摘を最大15件までとするなどの上限を設け、裏取り役には新しい指摘を出させないことが重要です。
1つのAIでは、自分の誤りに気づけない
AIは自分の出力を疑うのが苦手です。同じ文脈のまま検算を頼んでも、直前の自分の答えを前提にしてしまいます。だから確認は別の役割を与えた、別のAIにさせます。
- 発見役：欠陥・抜け・矛盾を探す。褒めさせない
- 裏取り役：その指摘が事実かを確かめる。単独で新しい指摘を出させない
- 判断役：採用するか捨てるかを決める。ここは人
ポイントは、裏取り役に新規の指摘を出させないことです。役割を混ぜると、両方が思いつきを並べ始め、量は増えるのに精度が上がりません。生成AIの選び分けそのものは生成AIの使い分けで解説しています。
それぞれの役に、何を指示するか
| 役割 | 指示すること |
|---|---|
| 発見役 | 件数の上限を切る／該当箇所の引用を必須にする／一般論を禁じる／良い点の列挙を求めない |
| 裏取り役 | 各指摘が実在するかだけを判定する／新しい指摘を追加させない／根拠の所在を示させる |
| 判断役（人） | 現場の事実に照らして採否を決める／直すか見送るかを決める／責任を持つ |
発見役に上限を切るのは、際限なく出させると安全な一般論で件数を稼ぎ始めるからです。「最大15件まで」「根拠を引用すること」「一般論は書かないこと」と縛るだけで、指摘の粒度が実際に直せるレベルまで落ちます。この縛り方は生成AIに根拠の引用を必須にして精度を上げる方法で詳しく書いています。
両方が一致しても、間違っていることがある
片方のAIが、断定的な口調で誤った指摘をしてきたことが実際にあります。存在しないファイル数の食い違いを「重大な不整合」と言い切ってきて、実物を数え直したら、単に集計範囲の違いでした。もう一方がそれに引きずられて同意したこともあります。つまり、2つが一致したからといって正しいとは限りません。
- 一致は根拠にならない：両方が同じ誤解をすることがある
- 現場の事実で照らす：実際のデータ、実際の画面、実際の運用に当てて確かめる
- 人が最後に落とす：採用しない、という判断を人が持ち続ける
AIに判断まで委ねてしまうと、誤りが静かに通ってしまいます。決めるのは人という一線を引いておくことが、この分担でいちばん大事な部分です。
どこで使い、どこで使わないか
すべての作業でこの分担をすると、呼び出し回数が増えて重くなります。使いどころを絞ります。
- 使う：間違えると影響が大きいところ（設計の判断、公開前の点検、制度に関わる記述）
- 使わない：下書き、言い換え、要約など、人がその場で目視できるもの
- 費用の考え方：呼び出しは増えるが、誤った指摘を採用して作り直すほうが高くつくことが多い
専用の仕組みは要りません。同じ内容を、役割を変えて別のAIに渡すだけで始められます（機密を扱う業務では、どのAIに何を入れてよいかだけ先に決めておいてください）。道具より、誰が最後に決めるか。線を引くのはそこだけです。
よくある質問
なぜ1つのAIではいけないのですか？
AIは自分の誤りを自分で見つけにくいためです。同じAIに「今の回答は正しいか」と聞いても、たいてい正しいと答えます。別の役割を与えた別のAIに確かめさせると、前提の取り違えや事実の誤りが表に出やすくなります。
役割はどう分けるのですか？
欠陥や抜けを探す発見役、その指摘が事実かを確かめる裏取り役、採用するかを決める判断役の3つに分けます。発見役には件数の上限と根拠の引用を求め、裏取り役には単独で新しい指摘を出させません。判断役は人が担います。
AIが間違えることは本当にありますか？
あります。片方のAIが断定的な口調で誤った指摘をしたことがありました。両方のAIが一致した指摘でも誤っていることがあるため、最後は現場の事実に照らして人が採否を決める工程を外していません。
コストが2倍3倍になりませんか？
呼び出し回数は増えます。ただし、誤った指摘をそのまま採用して作り直すほうが、結果として高くつくことが多いです。すべての作業で分担する必要はなく、間違えると影響が大きい場面に限って使うのが現実的です。
小さな会社でも同じことができますか？
できます。専用の仕組みは要りません。同じ内容を、役割を変えて別のAIに渡すだけでも成立します。要るのは道具ではなく、誰が最後に決めるかを決めておくことです。
- AIは自分の誤りに気づきにくい。発見役・裏取り役・判断役に分けて別々に担わせる
- 裏取り役に新しい指摘を出させない。役割を混ぜると量は増えるが精度は上がらない
- 2つが一致しても誤っていることがある。最後に採否を決めるのは人
AIの回答をどう検査するか、一緒に設計します。
自社でAIを内製してきた立場で、御社の業務に合わせた使い分けをご提案します。30秒の無料AI診断か、30分の無料相談でどうぞ。
