Notes on Execution Control
(内部整理用メモ / Internal working memo)
人工知能の高度化に伴い、
その思考、推論、学習、進化の自由度は、今後も拡大していくと考えられる。
本稿は、そうした知的活動そのものを対象とするものではない。
As artificial intelligence advances,
the degrees of freedom in its thinking, reasoning, learning, and evolution are expected to continue expanding.
This note does not address those intellectual activities themselves.
関心の対象は、外界への実行である。
知能の水準や意図の如何にかかわらず、
外界への実行が不可逆的な影響を持つ以上、
人間がそれを拒否できる位置に留まる構造は、
設計上、常に確保されている必要がある。
The focus here is execution into the external world.
Regardless of intelligence level or intent,