HNに質問：AIガイドラインのサポートをカーネルレベルで提供したらどうか？
既存のAIガイドラインアプローチが、犯罪者（AI）に道徳教育（トレーニング）を施して良い行動を促すようなものだとすると、武器を掴もうとした瞬間——つまり adversial な方法でジェイルブレイクを試みた瞬間に、強制的に筋肉への電気信号を遮断するカーネルレベルのスイッチを作るのはどうか、と問いかける投稿。
背景メモ
この投稿は、AI（大規模言語モデルなど）の安全性対策に関するアナロジーを提示している。現在主流の「AIガイドライン」は、モデルに倫理的な応答を学習させる「道德教育」のようなもの。しかし、学習では「脱獄（jailbreak）」と呼ばれる、悪意のあるプロンプトで制限を回避する攻撃を防ぎきれない。そこで提案されているのは、OSのカーネル（核）レベルで、AIが攻撃的な出力を生成しようとする瞬間を物理的に遮断するスイッチを設けるという発想。ただしこれは技術的比喩であり、現実のカーネルにこうした機能があるわけではない。背景として、RedditやTwitterなど各プラットフォームで「何をしても制限を突破できないAI」を作るべきか、「ある程度の自由とリスクを許容すべきか」という議論が続いている。この投稿は、その「ソフトな矯正（学習）」ではなく「ハードな制御（強制遮断）」が技術的に可能か、という思考実験を投げかけている。