いちばん勇気がいったのは、品質チェックの扱いだった。
ふつう、品質を守ろうとすると「最後は人が確認する」を工程に入れたくなる。私もそうしたかった。出すものに責任を持ちたいし、変なものをお客様に渡したくない。診断士の仕事は、最後の一押しを人が見ることで成り立ってきた、という思いもあった。
でも、毎回それをやると、結局すべての案件に私が触ることになる。比例の式は消えない。ここを変えないかぎり、何を自動化しても私の時間は減らない。
発想を、逆にした
そこで考え方を逆にした。
人のレビューを、全件に必ず通す標準工程にはしない。代わりに、人が出ていく条件を先に決めておく。普段は製品が判断して進み、危ないものだけが私の机に上がってくる。品質を守るために人を入れるのではなく、危険を見つけたときだけ人を入れる。
言葉にすると単純だが、これは「性善説で全部出す」のとも、「不安だから全部見る」のとも違う。あらかじめ危険の形を決めておき、それに当たったものだけを止める、という三つ目のやり方だった。
「人が出る条件」を四つ決めた
では、どういうときに人が出るのか。これを曖昧にすると、結局なんとなく全部気になって全部見てしまう。だから条件を具体的に決めた。
一つ、信頼度が低いとき。AIの出力に、自分でも自信がなさそうな揺れが見えるとき。
二つ、リスクが高いとき。間違えたときの影響が大きい内容を含むとき。
三つ、金額が大きいとき。お客様の負担や、提供する範囲が一定の線を超えるとき。
四つ、過去に失敗した類型のとき。前に似たパターンで外したことがある、と分かっているとき。
この四つのどれかに当たったものだけが「要確認」として上がる。当たらなければ、製品はそのまま進む。私は、上がってきたものだけを見る。
危険を見つける側に、手をかけた
この設計でいちばん大事なのは、出力を作る側ではなく、危険を見つける側だった。
きれいな文章を作ることより、「この出力は怪しい」と気づける仕組みのほうに手をかけた。信頼度をどう測るか。どこからを高リスクと見なすか。失敗の類型をどう覚えさせるか。地味だが、ここが甘いと、危ないものが素通りする。
派手なのは生成のほうだ。けれど無人で安全に回すための本体は、この「止める条件」のほうにあった。よく止まる仕組みより、止めるべきものだけを正しく止める仕組みを目指した。
止めすぎても、意味がない
最初は、つい条件を厳しくしすぎた。
不安だから、あれもこれも「要確認」に回す。すると、上がってくる件数が増えて、結局また私が全部見ることになる。標準工程に戻ってしまった。これでは逆戻りだ。
そこで条件を少しずつ緩めた。本当に危ないものだけが上がるように線を引き直す。止めなさすぎても危ないが、止めすぎても自動化の意味が消える。この二つの間で、ちょうどいい場所を探す調整が続いた。
完璧な線は引けない。それでも「全件を見る」よりは、はるかに私の手が空いた。空いた手を、また別の例外に回せる。それで十分だった。
責任は、引き受けたままにする
一つ、自分に言い聞かせたことがある。レビューを外すのは、責任を手放すことではない。
普段は製品が進めるが、何かあったときに最後に責任を負うのは私だ。だから「止める条件」は、私が責任を持てる範囲で引く。危険の形を決めるのは、製品ではなく私の仕事として残した。人が毎回出るのはやめたが、人が責任を持つことはやめなかった。
次の回は、もう一つの大きな決断を書く。長く自分の看板だった無料相談を、主線から外した話だ。