AI提案の介在によって判断主体と変更対象が分離する位相

Observation

試合中の配球や選手交代へ、 AIの提案が利用されたとする説明が提示された。

一方で、

・投手の当日の状態
・打者の直前の反応
・捕手による現場把握
・監督による交代判断

など、

試合中に変化する情報と、 AIの提案との関係は確認されていない。

AIは最終判断主体ではなく、提案を行う位置にあると説明される。

しかし、

その提案が人間の判断へ影響した場合、

誰の判断であったかは、外部から判別しにくくなる。

同時に球団運営では、

・高額選手の獲得
・分析部門の整備
・AIの導入
・新しいシステムの追加

が行われながら成績が低迷し、

失敗後には、

・監督交代
・選手放出
・新規選手獲得
・新システム導入

が繰り返される状態が語られた。

Structure

この事象で露出しているのは、

AIが正しいか、人間が正しいか、

という単純な対立ではない。

中心にあるのは、

提案主体 ↓ 判断主体 ↓ 実行主体 ↓ 結果の帰属先 ↓ 変更対象

が一致しない配置である。

AIは提案する。

捕手や監督は、提案を参照しながら判断する。

選手は、その判断を現場で実行する。

しかし結果が悪化したとき、

AIの提案がどこまで作用したか、誰が採用を決定したか、誰の判断として実行されたかは、明確に分離されない。

その一方で、

成績という結果は、監督や選手へ集約される。

構造としては、

技術導入 ↓ 提案の介在 ↓ 判断経路の複線化 ↓ 判断帰属の不明瞭化 ↓ 現場結果への集約 ↓ 現場側の変更

という流れが現れている。

Dynamics

AI導入以前は、

監督が決めた、捕手が選んだ、投手が投げた、

という判断経路が、完全ではなくても追跡可能だった。

AIの提案が加わると、

人間の判断は消えない。

むしろ、

・AIの提案を採用する
・AIの提案を修正する
・AIの提案を拒否する
・AIを参照したうえで別の判断をする

という分岐が追加される。

そのため、

回答を得る速度は上がっても、判断面そのものは増加する。

また、

AIの提案に従った失敗と、提案を外した失敗では、

説明に必要な負荷が異なる。

AIに従った場合は、

「分析結果に基づいた」

と説明しやすい。

一方でAIを外した場合は、

なぜ提案に従わなかったのかという、追加の説明が必要になる。

この非対称性によって、

判断の目的が、

最善の選択を行うことから、

失敗後に説明可能な選択を行うことへ、わずかに移動する可能性がある。

Silence

この配置では、

AIが提案したこと自体は記録されても、

その提案が、

・どの程度強く提示されたか
・誰が採用を決定したか
・現場の違和感がどこで退けられたか
・判断後にどのような修正が行われたか

は見えにくい。

結果として、

最終的なプレーだけが可視化され、

判断が形成された途中経路は、沈黙したまま残る。

また、

球団側が選手を獲得し、分析部門やAIを導入した判断と、

成績不振後に、監督や選手が交代対象となることの間も、

同じ責任系列としては扱われにくい。

決定した側は、組織の背景へ退き、

実行した側だけが、結果とともに前景化する。

このとき沈黙しているのは、

誰が失敗したかではなく、

誰がどの条件を設計したか

という上流の判断である。

Implication

この構造が定着すると、

・AIは提案主体として残る
・人間は最終判断主体として扱われる
・判断経路は複雑化する
・結果責任は現場へ集約される
・失敗後は現場側が交換される

という配置が反復する可能性がある。

その場合、

技術が更新されるたびに、判断の精度が上がるとは限らない。

判断経路だけが増え、

失敗の原因が、

・提案の問題
・採用判断の問題
・実行の問題
・役割設計の問題
・組織方針の問題

のどこにあったのか、回収しにくくなる。

その結果、

組織は失敗から学ぶ代わりに、

監督 ↓ 選手 ↓ システム ↓ 新しい技術

を順に交換しながら、同じ判断配置を維持する可能性がある。

AIはこの不全を新しく作るというより、

既に存在していた、

決定主体と結果責任の分離を、より細かく見えにくい形で拡張する。

Question

AIが提案し、人間が最終判断した場合、

その判断は、誰の判断として記録されるのか。

AIの提案に従うことと、提案から外れることの説明負荷が異なるとき、

人間は最善の判断を選ぶのか。

それとも、

後から説明しやすい判断を選ぶのか。

失敗後に監督や選手だけが変更され、

技術導入や役割設計を決定した側が残るとき、

組織は何を学習したことになるのか。

AIは判断を支援しているのか。