AIを使った診断サービスを作っていて、いちばん最後まで気を抜けなかったのは、数字だった。
文章はいい。AIは、業務の説明も、改善の方向性も、なめらかな日本語で書いてくれる。読んでいて感心するくらいだ。
問題は、その文章の中に出てくる数字のほうだった。「月およそ四十六時間の削減」「年間でおよそ百二十万円」。こういう数字を、AIにそのまま計算させると、ときどき静かに間違える。それらしい顔をして、合っていない数字を出す。
そして、お客さんがいちばん信用するのも、いちばん検算するのも、この数字なのだ。文章の言い回しは多少ずれても許される。けれど「四十六時間」が一桁違っていたら、その瞬間に診断ぜんぶの信頼が崩れる。
AIは文章を、計算はコードに
そこで、はっきり役割を分けた。
数字の計算は、AIにはやらせない。一件あたり何分の作業を、月に何件、何人で。──こういう材料は、診断の中でお客さんから実数として聞く。そして、その実数をもとに、削減できる工数や金額は、プログラムが決まった式で計算する。
AIに任せるのは、その先だ。出てきた数字が「なぜそうなるのか」を説明する文章を書く。改善の方向性を言葉にする。優先順位の理由を述べる。文章は、AIの得意分野だ。
つまり、金額や工数は決まった計算で出し、その意味づけや説明をAIに書かせる。数字とAIを混ぜない。これを徹底した。
地味な設計だけれど、これがいちばん効いた。何度試しても同じ入力なら同じ数字が出る。検算しても合う。お客さんが電卓を叩いても、ずれない。
計算の式と、入力の出典を、画面に出す
もう一つやったのは、数字を「出しっぱなしにしない」ことだった。
ただ「百二十万円」とだけ出すと、それがどこから来た数字か分からない。分からない数字は、結局信用されない。
だから、計算の最小値・最大値・式・入力の出典を、いっしょに出すことにした。あなたが入力した「一件十五分・月二百件」から、この時間が出ています、と。式が見えていれば、お客さん自身が確かめられる。もし前提が違えば、入力を直せば数字も直る。
数字は、ブラックボックスの中で偉そうに出てくるより、「あなたの入力から、こう計算しました」と手の内を見せたほうが、ずっと信用される。AIの自信たっぷりな口調より、見える式のほうが強い。
入力の矛盾を、先に潰す
数字を守るには、もう一段手前を見ないといけなかった。入力そのものの矛盾だ。
たとえば「月の作業時間より、削減できる時間のほうが大きい」とか、「件数がゼロなのに毎日発生している」とか。こういう矛盾した入力が混じると、計算式がどれだけ正しくても、出てくる数字はおかしくなる。
だから、計算の前に入力を点検する仕組みを入れた。明らかに矛盾している、必要な項目が抜けている、桁が不自然に大きい。そういうものは、その場で気づいてもらって、画面の中で直してもらう。おかしな入力のまま、もっともらしい診断結果を出してしまうのが、いちばん危ない。
商品の価値うんぬんの前に、入口の数字が信用できるかどうか。そこで一度こけたら、その先の有料商品なんて、誰も買ってくれない。
信頼は、派手な機能では作れない
ふり返ると、この事業でいちばん時間をかけた部分は、いちばん地味な部分だった。
新しいAI診断、と聞いて人が想像するのは、たぶん賢い文章や、しゃれた画面のほうだ。でも、サービスの土台を支えていたのは、「数字を、AIに計算させない」「式と出典を見せる」「矛盾した入力を先に潰す」という、目立たない三つだった。
AIを使うサービスほど、AIに任せてはいけない部分を、はっきり決めておく必要がある。文章はAIに、計算はコードに。判断の材料はAIに、判断そのものの数字は決まった式に。混ぜないことが、信頼を守った。
ここまでが、AI・DX自動提供プラットフォームの第一部、構想と価値設計だ。何を売るかを決め、無料と有料の役割を分け、価値の階段を刻み、最初の有料商品を作り直し、数字の信頼を守る土台を敷いた。
ここまでは、まだ「順調」だった。次の第二部で、私はこの順調が、実は崖に向かっていたことに気づく。自動化が進んでいたのに、自分の時間がまったく減っていなかった。その話から、設計をもう一度、根っこから引き直していく。