AI利用量ではなく委任判断を重視するAIフルーエンシー論

object

AnthropicでAIフルーエンシーに関する研究・学習部門を率いるクリステン・スワンソン氏は、AI活用能力について、AIを多く使うこと自体ではなく、どの作業をAIへ任せ、どの作業を人間が行うかを見分ける判断を重視している。

同氏は、AI出力の評価・検証に、自分で作業する以上の負荷が生じる場合があることを「見極めコスト（discernment tax）」と表現している。

notes

• スワンソン氏は、AIの使い方を教える仕事の少なくとも半分を「AIを使うべきでない場面」を伝えることに費やしていると述べている。
• 同氏は、最も賢明なAIユーザーの特徴として、あらゆる作業でAIを使うことではなく、何をAIへ任せるべきかを見極める判断力を挙げている。
• AI出力を評価・検証する作業が、自分で作業するより手間になる場合があり、それが「見極めコスト」と説明されている。
• 人間がすでに得意としている作業では、AI出力を確認・修正する作業によって、時間節約の効果が失われる場合があるとされている。
• 面倒なデータ分析は、AIへ任せることに適した例として挙げられている。
• 自分がよく知っている分野のSNS投稿では、AI出力の確認・修正によって、かえって手間が増える場合があると説明されている。
• 極めてニッチな論文や研究者についてAIへ尋ねた場合、学習データに十分な情報が含まれていなければ、ハルシネーションが発生する可能性があると指摘されている。
• Spellbookでは、従業員に対して、AIで磨き上げられた提案書ではなく、完成前の粗いアイデアを提示することが求められている。
• Spellbookの事例では、完成されたAI出力よりも、アイデアの背後にある従業員自身の思考過程を確認することが重視されている。

implications

• AI利用によって作業時間が短縮されるかどうかは、生成時間だけでなく、出力の評価・検証・修正に必要な時間にも左右される。
• AIを利用するかどうかの判断自体が、AIフルーエンシーの一部として扱われている。
• AIへ任せることが適切な作業と、人間が直接行う方が適切な作業の境界は、作業内容によって異なる。
• AI出力の品質だけでなく、その出力を人間が適切に評価できるかどうかも、利用判断に関係する。

questions

• どの種類の作業で「見極めコスト」が大きくなりやすいか。
• AI利用による時間短縮と、評価・検証・修正に要する時間は、実務上どのように比較できるか。
• AI性能の向上に伴い、「見極めコスト」はどのように変化するか。
• 組織内でAI利用を評価する際、利用量以外にどのような観測項目が必要になるか。
• AIへ任せる範囲と、人間が直接思考する範囲は、どの条件で変化するか。