はじめに
AIは使えても判断まで任せない方がいい
AIは情報を整理したり候補を出したりするのは得意です。
ただしそれをそのまま最終判断に使うのは危険です。
特に業務では「答えを出すこと」と「責任を持って決めること」は別です。
AIはそれらしい案を出せても責任を引き受けることはできません。
そのためAIを使う場面でも判断まで任せるのではなく人が最後に確認し決める形にした方が安定します。
ここではAIで判断させない方がいい業務を整理します。
AIで判断させない方がいい業務の特徴
責任が発生する業務
AIで判断させない方がいいのは責任が発生する業務です。
たとえば
契約内容の確認
採用可否の判断
重要な社内承認
対外的な回答の確定
このような業務はあとで「なぜそう決めたのか」を説明できることが重要です。
AIは候補や整理はできますが責任ある決定主体にはなれません。
そのため最終判断をAIに置くのではなく人が確認して決める流れが必要です。
文脈や事情を読む必要がある業務
業務の中にはルールだけでは決められないものがあります。
相手との関係
過去の経緯
社内事情
例外対応
こうした要素が絡む場合は表面上の情報だけで判断するとズレやすくなります。
AIは学習したパターンから答えを出しますが現場特有の事情まで正しくくみ取れるとは限りません。
そのため文脈を読んで調整する必要がある業務ではAIに判断させない方が安全です。
実務で起きやすいズレ
AIの答えをそのまま採用してしまう
よくあるのはAIが出した答えをそのまま採用してしまうことです。
すると一見整って見えても大事な前提が抜けていたり言い回しが強すぎたりします。
特に社外向け文書や重要判断では少しのズレでも影響が大きくなります。
AIは補助として使えば便利ですが決定そのものを任せると後で修正や説明が必要になります。
判断の責任が曖昧になる
AIに判断させる運用にすると問題が起きたときに誰が責任を持つのかが曖昧になります。
これは実務ではかなり大きな問題です。
AIを使う場合でも
情報整理はAI
最終判断は人
という形に分けておけば運用しやすくなります。
AIは判断者ではなく補助役として置く方が実務に合います。
まとめ
判断基準
・最終判断や責任が必要
→ AIに判断させない
・文脈や事情を読む必要がある
→ AIに判断させない
