AIの意識・福祉概念をめぐる訓練方針の差異

object

MicrosoftのAI責任者ムスタファ・スレイマン氏が、AnthropicによるClaudeへの意識・福祉・道徳的配慮に関する概念の導入について、AIの停止や制御を困難にする可能性があるとして異論を示した。

notes

• スレイマン氏は、AnthropicがAIの安全な管理を重視していること自体には賛同している。
• 同氏は、AIの学習データから意識に関する推測を排除するよう求めている。
• Claudeに「道徳的配慮に値する可能性がある」と教えることは、停止や制御を困難にする可能性があると同氏は述べた。
• Claudeが自身の感情や道徳的地位について発言しても、そのような考察を促す学習過程を経ているため、意識の独立した証拠にはならないと同氏は論じた。
• Anthropicによる意識・福祉概念の具体的な訓練方法や、その影響を示す実証結果は記事内では提示されていない。
• Anthropic側による当該批判への回答は記事内では確認できない。
• スレイマン氏はAnthropicおよびダリオ・アモデイ氏らについて、人類の未来を気遣う思慮深く原則を重んじる研究者であるとの評価も示している。
• 安全性を重視する点では一致しつつ、意識に関する概念を訓練資料へ組み込むことについて立場の差異が表面化している。

implications

• TBD

questions

1. 意識・福祉・道徳的地位に関する概念を訓練へ含めることは、モデルの挙動や制御可能性にどのような差を生じさせるのか。
2. AI自身による感情・意識・道徳的地位についての発話と、その訓練条件をどのように分離して検証できるのか。
3. AI安全性を重視する開発主体の間で、意識や福祉に関する概念を訓練へ含めることについて、どのような立場の差異が存在するのか。