AIに作らせると、驚くほど早く「動くもの」ができます。問題はその後です。動いた時点で現場に配ると、想定外の使われ方で崩れ、修正が終わらなくなります。私たちは途中から、動いた状態を完成と呼ぶのをやめました。決めた検査に全部通って、はじめて完了とみなす。この線引きをしただけで、現場に出した後の混乱が減りました。この記事は、関連会社の介護現場の業務をもとに、代表がAIコーディングで社内向けの運用ツールを内製してきた記録です。効果を保証するものではありません。
AIで作った社内システムの検証とは、現場へ出す前にあらかじめ決めた検査をすべて通す工程のことです。作った本人が操作してエラーが出ないだけの状態を完成とみなさず、事前に要件定義へ完了条件を明記します。正常な操作だけでなく、空欄や想定外の値、二度押しなどの項目を確かめることが重要です。実際の介護現場向け日報の可視化では、1年分の運用を想定した動作検証を374件回してから現場に出しています。
「動いた」と「完了」を分ける
動いた、というのは、自分が試した操作でエラーが出なかった状態にすぎません。現場は違う使い方をします。だから完了の条件を先に決めて、文書に書いておきます。
- 動いた：作った本人が、思いついた操作を試して問題がなかった
- 完了：あらかじめ決めた検査に、全部通った
- 決めておく：何をもって完了とするかを、作る前に要件定義へ書く
この線引きがないと、「たぶん大丈夫」で配ることになります。そして現場から不具合が上がるたびに直し、また別のところが壊れます。完了の条件を先に書いておくやり方は介護向けAIの要件定義で仕様のぶれを防ぐ進め方にまとめています。
何を検証するか
正常に使ったときの動きだけを確認しても足りません。現場で起きることを通します。
| 種類 | 通すこと |
|---|---|
| 正常な操作 | 想定どおりに入力し、想定どおりの結果になるか |
| 空欄・未入力 | 何も入れずに送ったとき、止まるのか、進んでしまうのか |
| 想定外の値 | 桁が多い、記号が入る、日付が逆になっている |
| 途中でやめる | 入力の途中で閉じたとき、データがどうなるか |
| 二度押し | 同じ操作を続けて行ったとき、二重に登録されないか |
| 期間のまたぎ | 月をまたぐ、年度をまたぐときに集計が壊れないか |
| 権限 | 見えてはいけない人に、見えていないか |
実際の件数を挙げると、日報の可視化では1年分の運用を想定した動作検証を374件、社内規程の閲覧では運用を想定した検証を200件回してから現場に出しました。これは不具合が374件あったという意味ではなく、確認した項目が374件あったという意味です。
AIに任せる範囲と、人が持つ範囲
検証項目の洗い出しや、機械的な確認はAIに任せられます。ただし、ここははっきり分けています。
- 任せる：検証項目の候補出し／機械的な確認の実行／結果の一覧化
- 人が持つ：指摘が本当に問題かの判断／直すか見送るかの決定／現場に出す判断
理由は単純で、AIは自信のある口調で誤った指摘をすることが実際にあるからです。複数のAIに見せると、片方が断定的に間違えることがあります。だから最後は、現場の事実に照らして人が採否を決めます。この使い分けはAIコンサルの活用でも触れています。
検証を軽くしたいときは、作るものを小さくする
検証が重いと感じたとき、削るべきは検証ではなく対象の範囲です。
- 1つの業務に絞る：あれもこれもを1つの画面に入れない
- 1つの画面に絞る：入口が増えるほど、確認する組み合わせが増える
- 後から足す：1つが現場で定着してから、次を加える
範囲を広げたまま検証だけ削ると、結局は現場で止まり、信頼を失います。一度「使えない」と思われた仕組みを、もう一度使ってもらうのは想像以上に大変です。
よくある質問
「動いた」と「完成した」は何が違うのですか？
動いたは、試した操作でエラーが出なかった状態にすぎません。完成は、決めた検査に全部通った状態を指します。この線引きをしておかないと、現場に出してから想定外の使われ方で崩れ、修正が終わらなくなります。
どのくらい検証すればよいのですか？
件数に決まりはありませんが、日々の運用で起こりうる組み合わせを一通り通す必要があります。私たちの場合、日報の可視化では1年分の運用を想定した動作検証を374件、社内規程の閲覧では運用を想定した検証を200件回してから現場に出しました。いずれも不具合の数ではなく、確認した項目の数です。
何を検証すればよいですか？
正常に使ったときの動きだけでなく、空欄のまま送る、想定外の値を入れる、途中でやめる、同じ操作を二度行う、月をまたぐ、といった現場で起きることを通します。異常系を通さないと、現場に出た初日に止まります。
AIに検証もさせられますか？
検証項目の洗い出しや、機械的な確認は任せられます。ただし、出てきた指摘が本当に問題かどうかの判断は人が行います。AIは自信のある口調で誤った指摘をすることがあるため、現場の事実に照らして採否を決める工程を外せません。
検証を軽くしたい場合はどうすればよいですか？
作るものを小さくします。検証を減らすのではなく、対象の範囲を狭めるほうが安全です。1つの業務、1つの画面に絞れば、確認する組み合わせも自然に減ります。範囲を広げたまま検証だけ削ると、現場で止まります。
- 動いた状態を完成と呼ばない。決めた検査に全部通って初めて完了とする
- 正常な操作だけでなく、空欄・想定外の値・中断・二度押し・期間のまたぎ・権限を通す
- 検証が重いなら、検証ではなく作る範囲を小さくする。最後の判断は人が持つ
「作ったけれど、出せていない」なら、ご相談ください。
関連会社の介護の現場とともにAIを内製してきた立場で、完了の条件づくりからご提案します。30秒の無料AI診断か、30分の無料相談でどうぞ。
