成果物を自動で作る仕組みを組んでいて、一番神経を使ったのは、AIにどこまでやらせるか、という線引きだった。
第1部で、AIに金額を計算させない、と書いた。あれは原則の話だった。今回は、その原則を、実際にどういう作りで守ったか、という話になる。原則は、仕組みに落とし込めて初めて、守られる。
試作の頃、一度ひやりとしたことがある。AIに効果額まで一息に書かせたら、月の削減時間が、ひと桁多く出た。文章は流暢で、ぱっと見はもっともらしい。だからこそ怖かった。流暢な嘘は、すぐには気づけない。あの一件で、線引きを先に決めようと腹を固めた。
AIには、質問と文章だけをやらせる
まず決めたのは、AIの仕事を二つに限ることだ。問いを立てること。文章にすること。この二つだけ。
採点も、金額も、契約の条件も、提供してよいかどうかの判断も、AIには触らせない。そこは、決まった手順のプログラムが処理する。AIは賢いが、同じ入力でも答えが揺れる。揺れていいのは、言葉づかいまでだ。数字や判定が揺れたら、信用は一発で消える。
答えを、構造に変える
そのために、診断の回答を、いったん構造に変えることにした。
自由に書かれた答えのままでは、プログラムは処理できない。だから、対象の業務は何か、件数はいくつか、一件あたり何分か、どんなデータを扱うか、制約は何か、その根拠はどの回答か。こういう項目に、きちんと割り付ける。文章を、機械が読める形に直す。ここまでをAIが担い、その先は渡さない。
確定した数字だけで、成果物を作る
割り付けた値は、そのまま信じない。まず形を検査する。
必須の項目が埋まっているか。型は合っているか。選択肢の範囲に収まっているか。上限を超えていないか。この検査を通った、確定した値だけを使って、効果の式やスコアをプログラムで計算する。そして、その確定した結果だけから、Webの画面やPDFの成果物を組み立てる。AIが書いた文章を、そのまま成果物にはしない。
言葉は、AIにしか作れない
分けると書くと、AIを信用していないように聞こえるかもしれない。そうではない。
同じ数字でも、それを相手に伝わる説明に変えるのは、AIにしかできない仕事だ。固い数値の羅列を、その会社の文脈に合わせて、読める文章にする。質問を、相手の答えに応じて変える。そこはAIが圧倒的に強い。だから、得意なことは存分に任せる。
分けるのは、信用しないからではなく、得意なことだけを任せるためだ。数字はロジックに、言葉はAIに。役割を決めたほうが、両方が生きる。
分けたことが、堀になった
地味な作りだ。派手な機能は一つもない。
でも、この「AIの仕事とロジックの仕事を分ける」という一線が、後で効いてきた。数字は決まった手順でしか動かないから、再現できる。揺れるのは表現だけだから、安全に自動化できる。人が一件ずつ見なくても、間違った数字が成果物に乗ることがない。
技術の堀というと、何か特別な発明を思い浮かべる。けれど私にとっての堀は、この分け方そのものだった。誰がやっても同じ数字が出る。そこに、無人で売る土台があった。
次の回は、その成果物に、なぜそう言えるのかという根拠を、どう残したかを書く。