依存関係にLLMコードを導入しない
ソフトウェア開発におけるLLM（大規模言語モデル）生成コードの利用について、その依存関係への導入を避けるべき理由を論じている。品質やメンテナンス性、セキュリティ上の懸念から、LLMが生成したコードを信頼できる依存関係として扱うことのリスクを指摘し、従来の人間が書いたコードによる開発手法の重要性を強調する内容。
背景メモ
ジョーイ・ヘス（Joey Hess）は、Debianプロジェクトの長年のコアメンバーであり、git-annexやetckeeperなど多くの重要なソフトウェアを開発してきたプログラマー。この記事で彼は、自分のプロジェクトの依存関係に、大規模言語モデル（LLM）、つまりChatGPTやClaudeのようなAIに生成されたコードが含まれている場合、それを「欠陥」として扱うと宣言している。その理由は、LLM生成コードには知財上の問題（ライセンス侵害のリスク）があり、バグの発見や修正が困難で、無意味なコードや「幻覚」を含む可能性が高く、倫理的にも問題があるという立場から。背景として、ソフトウェア開発の現場でAIコード生成ツールの利用が急増しており、その品質や法的リスクを巡る議論が活発になっている。特にDebianのような厳格なライセンス順守を求めるコミュニティでは、LLMが学習元のコードをそのまま出力する「記憶」問題が深刻な懸念材料となっている。