評価単位の点から軌道への拡張

object

長時間行動するAIの安全評価において、単一の命令や出力ではなく、一連の行動系列全体が評価対象として扱われ始めた。

notes

• 評価対象が単一の操作から連続した行動へ拡張している。
• 個別の出力だけでは、行動全体の状態を捉えきれない。
• 行動の途中経路が評価対象に含まれ始めている。
• 評価単位が点から軌道へ移動している。

implications

• AIの安全評価では、結果だけでなく、そこへ至る行動系列の保持が効き始める可能性がある。

questions

• 行動軌道を再検証するためには、どの範囲の履歴を残す必要があるのか。
• 点としては問題のない行動が、軌道として異なる意味を持つ境界はどこにあるのか。