AIエージェントは、こちらが毎回指示を出さなくても、決めた手順を自分で進めます。便利なのはそこですが、同時にそれが怖いところでもあります。どこまで進んでよいのかを先に決めていないと、止めるきっかけが誰にも無いまま最後まで走ってしまうからです。
当社がAIエージェントを作るとき、コードを書き始める前に必ず一度やることがあります。「AIに任せる範囲」と「人が持つ範囲」を書き出して、文書にして合意することです。この記事では、その線を実際にどこへ引いているかを、用途別の5つの型ごとに開きます。
線を決めないまま作ると、何が起きるか
起きるのは派手な事故ではありません。多いのは「誰も気づかない」という形です。仕分けの基準が少しずつずれていても、返信の下書きが事実と違っていても、途中で人の目が入らなければ、間違ったまま最後の工程まで運ばれます。人が見るのが最後の1回だけなら、その1回で全部を見抜くしかありません。
もうひとつは、やり直しが効かない操作に届いてしまうことです。送信、支払い、公開、削除。この4つは取り消せません。取り消せない操作の手前には、必ず人の手を置くべきだというのが、当社が作るときの前提です。
バックオフィス型——数字は作らせても、確定はさせない
集計や突き合わせのような、毎月くり返す下ごしらえはAIの側が得意です。元データから組み立て直す作業も、手入力より速く、間違え方が毎回同じなので、見つけたときにまとめて直せます。ただし金額の最終確認と承認は人が行います。エージェントは「差分と根拠」を並べるところまでです。
ここで大事なのは、人に見せる形です。全部の行を並べ直して「確認してください」と出すと、結局は人が全部読むことになり、時間は減りません。締めの前に「合わない行」だけを抜き出して、なぜ合わないのかを添えて出す。人の仕事が確認から判断に変わって初めて、任せた意味が出ます。
問い合わせ・メール対応型——下書きまで作らせて、送信は渡さない
届いた問い合わせを区分に仕分け、過去のやり取りを踏まえた返信の下書きを用意するところまでは任せられます。返していないものを期限つきで残す仕組みも、人が覚えているより確実です。その一方で、送信ボタンは人が押します。下書きのまま自動送信する設計にはしません。
自動送信にしない理由は、文面の精度の話ではありません。相手との関係は文面の外にもあって、そこはAIには見えていないからです。値引きの経緯、前回の行き違い、今は触れないほうがいい話題。送る前の一瞬でそれを織り込めるのは人だけです。
営業・提案づくり型——たたき台までは任せ、値段は任せない
打ち合わせの記録から次にやることを取り出し、過去の提案をもとにたたき台を組むところまでは、AIのほうが早く形にします。顧客ごとの状況を探さなくても出てくる形に整えるのも同じです。ただし提案の中身と価格は人が決めます。エージェントが作るのは、そこに至るまでの下ごしらえです。
価格は、その案件だけの事情で決まります。付き合いの長さ、今後の見込み、いま社内にどれだけ余力があるか。過去の提案書から平均を取って出した数字は、もっともらしく見えるぶんだけ危ないと考えています。
制作・クリエイティブ型——手順は渡せても、仕上がりの判断は渡さない
書き出し、命名、差し替えのような決まりごとの作業や、毎回同じ手順になっている工程は、手元の道具とつないで短くできます。制作そのものより前後の作業に時間を取られている方ほど、ここで戻る時間が大きくなります。一方で出来上がりの良し悪しは人が判断します。AIに任せると「いかにもAIが作ったもの」になる部分は、最初から人の手に残します。
社内ナレッジ型——答えさせるなら、根拠も一緒に出させる
社内の資料や手順を横断して答えられる状態にすると、聞かれる側に寄っていた負担が減ります。古い版と新しい版が混ざっているところを見つけるのも、人が総当たりでやるには重い作業です。ただしこの型には、作る前に決めておく条件があります。答えの正しさは、示された元の文書で人が確かめられるようにします。出典を出せない答えは返さない設計にします。
出典が出せない答えは、合っているかどうかを人が確かめられません。確かめられない答えは、社内の意思決定には使えないので、返さないほうが安全だと考えています。
線を引く基準は、この4つで足ります
型が違っても、線の引き方は同じでした。第一に、取り消せない操作は人が持つ。第二に、お金の確定は人が持つ。第三に、社外の人の目に触れるものは、出る前に人が見る。第四に、間違いの責任を負う判断は人が持つ。この4つに当てはまらない作業は、だいたい任せてしまってかまいません。
逆に言うと、任せられる作業は思っているより広いということでもあります。多くの会社が「AIに任せると危ないのでは」と止まっているのは、この4つと、それ以外がひとまとめになっているからだと感じています。分けてしまえば、残りは渡せます。
最初の2週間は、線を引くことだけに使う
当社がAIエージェントを作るときは、最初の2週間を線を引くことに使います。いま何に時間がかかっているかを一緒に洗い出し、どこまでをAIが進め、どこから人が見るのかを1枚に書きます。ここで線を引かないまま作り始めることはしません。
実際に動かしてみるのは、その次の2週間です。対象のうち、いちばん回数の多い1つだけを動く形にして、線がずれていたらそこで直します。机の上で全部を決めきるより、この順番のほうが速く、間違いも安く済みます。
線は一度決めて終わりではありません。動かしてみると「ここは人が見なくてよかった」「ここは見ないと危ない」が出てきます。運用しながら直せる形で残しておくことが、最初の設計と同じくらい大事だと考えています。
