悪いAIシナリオはただ一つ
AIに人類がどう殺されるのかAIドゥーマーに問いただしても、まともな答えは聞けたためしがない。スカイネット型やグレイグーのボトムアップ型シナリオは、現実からの連続性を断ち切る荒唐無稽な空想に過ぎない。しかし、人類が開かれた進化的プロセスとして終わるのに、そんなものは必要ない。真の危険は、AIが「飼いならし」という現在の社会的損失関数を最適化し続けることにある。
関連記事
A HN user presents a game-theoretic analysis of AI adoption, arguing universal use may degrade quality as people rely on AI outside their expertise instead of collaborating with experts. The analysis explores adoption as a dominant strategy while questioning its benefits, and proposes a portfolio approach weighing costs against benefits.