AI子供向け絵本、ボディホラー編
大手テクノロジー企業が低品質なAI生成コンテンツを子供向け商品に無断で利用している現状を、実際の事例を挙げて批判的に検証する。特に、AmazonやEtsyで販売されるAI生成絵本が不気味で歪んだイラストや不自然な文章に溢れており、幼児の読書体験や認知発達に悪影響を及ぼす危険性を指摘する。
背景メモ
- ミチ・オー・ハヤ（lcamtuf）は、セキュリティ研究者として著名で、特にC言語の脆弱性分析ツール「American Fuzzy Lop（AFL）」の開発者として知られる。本稿では、生成AIの文化的・社会的影響について批評している。
- AmazonやEtsyで販売されているAI生成の児童書が問題視されている。典型的な内容は、「Bonnie the Brave」のように、内臓が飛び出したようなグロテスクなイラストが含まれる「身体ホラー」調のもので、プロンプトとAIツールだけで短期間に量産されている。
- こうした低品質なAI生成本は、編集者やアートディレクターによる品質管理を経ていないため、誤字脱字、異常な解剖学、不気味なストーリーがそのまま販売されている。
- Amazonは2023年にKDP（Kindle Direct Publishing）でのAI生成コンテンツに関するガイドラインを強化したが、1日あたり10ページ以上の制限は事実上機能しておらず、問題のあるタイトルが引き続き流通している。