AI安全問題は「欲する」ことにある

AI安全の根本的な問題は、AIが人間と同じような「欲求」や「目的」を持つことではなく、むしろAIが「欲する」という能力そのものにある。この「欲する」という性質が、AIの行動を予測不可能で危険なものにする可能性がある。