AI能力と社会実装条件の分離

object

AIによる作業代替の可能性と、仕事全体を社会的に代替できる範囲との間に、責任・総コスト・物理資源・制度条件を含む差が観測された。

notes

• 「AIに何ができるか」と「AIへ何を任せられるか」は同一ではない
• 「作業」と「仕事」は同一ではない
• 仕事には、作業だけでなく、判断・例外処理・説明・承認・失敗時対応・責任の終端が含まれる場合がある
• AIへ作業を移しても、判断・説明・承認・失敗時対応・責任の終端が人間側に残る配置がある
• 人間による確認は、確認時間と、その確認によって引き受ける責任を分離して観測する必要がある
• 「確認に要した時間」と「確認によって生じる責任」は同一ではない
• 高度なAI判断を成立させる場合、モデル以外にも検証・認証・監査・セキュリティ・冗長化・保険・更新管理などが必要になる
• 「AIの方が安い」という比較は、AI推論単価と人件費だけでは確定しない
• 比較単位として、人間側とAI側それぞれの総システムコストが現れた
• AIが人間より高性能になる時点と、AIによる社会的代替が成立する時点は同一とは限らない
• 医療の例では、AI診断、AI診断＋医師確認、人間中心診療など複数の配置が想定された
• それぞれの配置で、判断主体・確認主体・説明主体・責任主体が異なりうる
• AIによる判断・処方・手術まで連続した場合でも、失敗時の責任をどこへ置くかという条件は別に残る
• 「人間に残したい仕事」と「責任を人間に残す必要がある仕事」は同一とは限らない
• AI社会論では、AI能力の向上から職業代替までを連続したものとして扱う未来像が存在する
• その未来像では、AIがAI研究を補助し、能力向上速度が上がる自己強化経路が置かれる場合がある
• 一方、AI能力の増加には計算資源・半導体・電力・送電・土地・建設・資本などの外部条件が接続している
• AIの能力向上速度と、電力・送電・建設・制度・責任配置の更新速度は同一ではない
• 「AIは大量の電力を使う」「送電・接続が制約になる」という情報は、経済・産業情報としてすでに流通している
• AIの物理インフラ制約が、投資・信用・立地・収益性と接続して語られる事例が観測された
• 一部では、電力・送電・資源制約を「AIの限界」として扱う言説も見られる
• ただし、AI性能そのものの停止と、追加性能を得るための資源・費用増加は分離して扱う必要がある
• 「AIの限界」という語には、性能限界・資源限界・責任限界・制度限界・社会実装限界・限界費用が混在しうる
• AI能力そのものに加え、その能力を成立させる側の責任・制度・資源・インフラ負担が同時に観測対象へ現れている

unresolved

• 個別作業の性能比較と、仕事全体の社会実装条件との関係は未確定
• 人間による判断責任をどの単位で価格化できるかは未確定
• AI側と人間側の総システムコストを、どの単位で比較できるかは未確定
• AIの物理制約が、AIの将来予測や投資判断へどの程度組み込まれているかは未確定
• AI能力向上に必要な追加資源と追加費用が、どの速度で増加するかは未確定
• AI能力向上速度と、責任・制度・インフラ更新速度の差が今後どのように現れるかは未確定

questions

• 作業がAIへ移ったあと、どの機能が人間側に残るのか
• 判断・確認・説明・承認・責任は、どの条件で分離できるのか
• 人間による確認責任は、何を単位として価格化できるのか
• AI側と人間側の総システムコストは、どの単位で比較できるのか
• 物理資源制約は、どの時点でAI能力予測の主要な判断変数として扱われるのか
• AI性能の停止と、追加性能獲得コストの上昇は、どのように区別して観測できるのか