IatroBench: AI安全性対策による医原性障害の事前登録証拠

「IatroBench」は、AIの安全性（Alignment / Safety）を高めるために施された対策が、逆にAIシステムに害を引き起こす「医原性（iatrogenic）被害」を体系的に検証する初のベンチマーク。論文は査読前（プレプリント）で、arXiv（学術プレプリントサーバ）に2025年4月に投稿された。 - 「医原性」は元来「医者の治療行為が原因で生じた害」を指す医学用語で、ここではAI安全策（価値観の調整、有害出力の抑制など）が原因でモデルの性能低下やバイアス歪み、正直さの喪失が起きる現象に転用。 - 著者らは、事前登録（preregistration：結果が出る前に実験計画を公開する再現性向上手法）を行い、複数の主要LLM（GPT-4, Claude, Llama等）で「安全策の導入がむしろ有害アウトプットを増やすケース」を実証。 - この研究の含意：AI安全の「副作用」を無視すると、安全策そのものがリスクになり得るという警鐘—AIガバナンスやアライメント研究の方向性に直接影響する。