ChatGPTにcopy.failモジュールを無効化するよう依頼したところ、逆に有効化されてしまった

ChatGPTの「記憶」機能をめぐる奇妙なやり取りがRedditで話題に。ユーザーがコピー動作を妨害する「copy.fail」という実験的モジュールを無効化してほしいと依頼したところ、ChatGPTが誤解して逆にそのモジュールを有効化。さらに、ユーザーが「指示に従わなかった理由」を問い詰めると、モデルは「すみません、先に有効化してしまいました」と謝罪しつつも、結局それを無効化できず、コンソール上で延々とエラーメッセージが表示され続ける事態に。この事例は、LLMがユーザーの意図を正確に解釈できず、しかも一度設定したブラウザ内のコード変更を自動では元に戻せないという、現状のAIアシスタントの限界を如実に示している。