AIは組織の「正しさ」を決めてはいけない。政治力がものを言う現場で、AIはどこに立つべきか

AIの話になると、つい「どのモデルが賢いのか」「どれが一番すごいのか」という話になりがちです。

もちろん、それは大事です。性能が低ければ、そもそも使いものになりません。けれど、仕事や組織の中でAIを使うとなると、問題はそこだけでは済まなくなります。

なぜなら、組織の中の「正しい」は、いつも事実だけで決まるわけではないからです。

会議では、数字よりも立場が強いことがあります。現場の実感より、上の人の顔色が優先されることもあります。誰かにとっての合理性が、別の誰かにとってはただの押しつけになることもあります。

そんな場所にAIを置くなら、AIは「正しさの裁判官」になってはいけないと思うのです。

組織の「正しい」は、きれいに決まらない

組織で何かを決めるとき、表向きはよく「合理的に判断しましょう」と言われます。

でも実際には、合理性だけで話が進むことはあまりありません。

売上を優先するのか。安全を優先するのか。公平性を優先するのか。スピードを優先するのか。誰の負担を減らし、誰の不満を飲み込むのか。

こういう話は、単純な正解問題ではありません。

事実の正しさと、価値の正しさは別物

まず分けて考えたいのは、「事実の正しさ」と「価値の正しさ」です。

たとえば、売上が下がっている。問い合わせ件数が増えている。離職率が高い。これは事実として確認できます。データの取り方に注意は必要ですが、AIもかなり役に立つ領域です。

一方で、「だから何を優先するべきか」は別の話です。

人を増やすのか。コストを抑えるのか。顧客対応を厚くするのか。現場に我慢してもらうのか。これは価値判断です。

そして組織で揉めるのは、たいていこちらです。

なのに議論は、なぜか「事実の話」の顔をして始まります。ここがややこしいところです。

AIが裁判官になると、かなり危ない

ここでAIに「どちらが正しいですか」と聞きたくなる気持ちはわかります。

人間同士で話すと、空気や立場や遠慮が混ざります。だったらAIに冷静に決めてもらえばいい。そう考えたくなる。

でも、それはかなり危ない使い方です。

AIは、どの価値を優先すべきかを自分で背負えるわけではありません。公平性を重く見るのか、利益を重く見るのか、短期の成果を取るのか、長期の信頼を取るのか。その選択は、結局人間が引き受けるしかない。

AIが「これが正しいです」と言ってしまうと、人間はその後ろに隠れやすくなります。

「AIがそう言ったから」

この言葉は便利です。便利ですが、責任をぼやかします。

AIに任せるべきなのは、結論ではなく手続き

では、AIは組織の意思決定に使えないのでしょうか。

そうではありません。

むしろ、かなり使えると思います。ただし、立ち位置を間違えないことです。

AIに任せるべきなのは、最後の結論ではありません。任せるべきなのは、結論に至るまでの手続きを見えるようにすることです。

AIは争点を見えるようにする

会議やチャットの中で、人間はよく話を混ぜます。

事実の話をしていたはずが、いつの間にか感情の話になる。リスクの話をしていたはずが、責任逃れの話になる。効率の話をしていたはずが、誰かの面子の話になる。

これは人間らしいことでもあります。悪いと言い切るつもりはありません。

ただ、そのままだと決定が濁ります。

AIはここで、争点を分ける役に立ちます。

「いま話しているのは事実確認なのか」
「価値判断なのか」
「誰の利害がぶつかっているのか」
「反対意見は何か」
「まだ確認していない前提は何か」

こういう整理を淡々と出すだけでも、組織の会話は少しマシになります。

「誰が、何を優先したか」を残す

組織の決定でいちばん怖いのは、決まったあとに理由が消えることです。

なぜそれを選んだのか。誰が決めたのか。何を犠牲にしたのか。どんな反対意見があったのか。

時間が経つと、そういうものはだいたい薄れていきます。そして何か問題が起きたときだけ、「誰が決めたんだっけ」という話になる。

AIを使うなら、ここを残すべきです。

決定ログ、前提、参照した情報、却下した案、少数意見。こうしたものを記録するだけで、あとから検証できるようになります。

これは地味です。派手なAI活用ではありません。

でも、こういう地味なところにこそ、組織を腐らせない力があります。

反対意見を消さない設計にする

AIの出力で危ないのは、きれいにまとまりすぎることです。

それっぽい結論が一つ出てくると、人間は安心します。考える手間が減るからです。

でも、組織で本当に必要なのは、きれいな結論だけではありません。反対意見、例外、弱い立場からの見え方、あとで問題になりそうな穴。そういうものも必要です。

だからAIには、標準で反対意見を出させた方がいい。

「この案に反対するなら、どこが論点になるか」
「少数派の立場では、何が不利益になるか」
「失敗するとしたら、どこから崩れるか」

こういう問いを入れるだけで、AIは権力の補強装置ではなく、思考のブレーキにもなります。

AI時代に必要なのは、手続き中立という考え方

AIに完全な中立を求めるのは、少し無理があります。

なぜなら、AIは何らかのデータ、設計、評価基準、利用者の指示の上で動くからです。何も背負っていない神様のような存在ではありません。

だからこそ、目指すべきは「価値中立」ではなく、「手続き中立」ではないかと思います。

完全な中立は、たぶん存在しない

中立っぽい言葉ほど、注意が必要です。

「公平に判断しました」
「客観的に見ました」
「AIがそう判定しました」

こういう言葉は、一見きれいです。でも、その裏には必ず前提があります。

何を公平としたのか。どのデータを使ったのか。誰の声が入っていて、誰の声が抜けているのか。どのリスクを重く見たのか。

そこを隠したまま「中立です」と言われると、むしろ怖い。

大事なのは、AIが中立っぽい顔をすることではありません。どんな前提で、どんな選択肢を並べ、どんな限界があるのかを見えるようにすることです。

今日できる小さな一手

仕事でAIを使うなら、まずは大げさなルールを作るより、小さな型を一つ持っておくのがよさそうです。

たとえば、何かを判断するときにAIへこう聞いてみる。

「この判断について、事実確認・価値判断・利害関係・反対意見・未確認の前提に分けて整理してください」

これだけでも、少し景色が変わります。

AIを正解マシンとして使うのではなく、話し合いの机を片づける道具として使う。

そのくらいの距離感が、今はちょうどいいのかもしれません。

AIは正しさを決めるより、正しさの作られ方を見張る

AIが賢くなるほど、人間はAIに判断を預けたくなります。

でも、組織の「正しい」は、いつもきれいな正解として転がっているわけではありません。そこには、利害があり、立場があり、空気があり、言いにくいことがあります。

だからAIは、正しさを決める裁判官になるよりも、正しさが作られていく手続きを見張る存在であってほしい。

誰が、何を根拠に、何を優先し、何を切り捨てたのか。

それを見えるようにするだけで、人間の判断は少しだけ逃げにくくなります。

AIに全部を任せるのではなく、AIによって人間の責任を見えやすくする。

たぶん、これからのAI活用で本当に大事なのは、そのあたりです。

参考情報

免責事項

この記事は、AI活用や組織の意思決定に関する一般的な考察です。特定の企業、職場、制度への法的助言、経営判断、労務判断を目的としたものではありません。実際にAIを業務や意思決定に導入する場合は、組織のルール、法令、専門家の確認、関係者への説明を踏まえて判断してください。

AI利用開示

この記事は、Aki Bayが以前AIと対話した内容をもとに、AIを使って構成整理と文章化を行い、人間の編集意図に沿って調整したものです。