電話の録音から、注文が自動で立ち上がる。ここまで来ると、いっそ出荷まで一気に流したくなる。人の手を、一つも介さずに。
けれど、その一線は越えなかった。AIが作るのは、あくまで下書き。最後に人が確かめて、承認してから、出荷に回す。注文の取り違えは、そのまま誤発注になる。届くはずのないものが届き、届くべきものが届かない。信用に、まっすぐ響く。
一気に流したい誘惑
自動化を進めていると、途中で人が挟まるのが、無駄に見えてくる。
せっかく録音から注文まで自動でできたのに、そこで人が一件ずつ見るなら、自動化の意味が薄れるのではないか。そう思った時期もあった。全部つなげてしまえば、確かに速い。担当者は、もう何も見なくていい。
でも、速さと引き換えに失うものを考えた。電話の聞き取りは、どれだけ整えても、完全にはならない。なまり、雑音、言い間違い。まれに、AIが取り違える。その一件が、確認なしに出荷まで走ったら、取り返しがつかない。
危ないところにだけ、人を残す
そこで、人が挟まる場所を、危ないところに絞った。
録音を文字にするのも、注文の下書きを作るのも、全部自動でいい。人がやるのは、その下書きが正しいかを、画面で一目確かめて、承認することだけだ。転記も入力もしない。見て、うなずくか、直すか。それだけを残した。
全部を人が見るのでも、全部を自動にするのでもない。間違えたら痛いところにだけ、人の目を残す。手間をかける場所を選ぶ。そういう線の引き方をした。
自信のなさを、AIに言わせる
もう一つ効いたのが、AIに「自信のなさ」を出させたことだった。
はっきり聞き取れた注文と、雑音まじりであやふやな注文とを、同じ顔で並べたら、確認する人はどれを疑えばいいか分からない。だから、読み取りの確からしさも一緒に返させ、あやしいものが目立つようにした。
試しに、注文とは関係のない雑談の録音を流してみた。すると、明細はゼロ、確からしさもごく低い、と返ってきた。無理に注文をでっち上げなかった。「よく分からないときは、分からないと言う」。この振る舞いが、誤って注文を作らせないための、大事な安全弁になった。
自動化は、責任の線を引くこと
この設計を通して、自動化とは何かが、少し分かった気がした。
全部を機械に渡すことではない。どこまでを機械に任せ、どこから先を人が引き受けるか、その線を引くことだ。線を引かずに全部つなぐと、速いけれど、誰も責任を持てない仕組みになる。線を引くと、遅くなるけれど、最後の一点で人が守れる。
電話の注文という、間違えたら痛いものを扱うなら、線は「出荷の手前」に引く。AIは下書きまで、承認は人。この分け方は、他の現場を作るときも、私の中の基準になった。次の回は、注文と並ぶもう一つの仕事、出庫の記録を、写真からどう起こしたかを書く。