プロンプトも技術的負債である
コードだけでなく、AIエージェント向けのプロンプトも技術的負債になり得る。プロンプトの調整は大きな価値を生むが、モデル固有であり、モデルのアップグレードごとに機能しなくなる可能性がある。コードと違い、プロンプトの劣化は静かに進行し、気づきにくい。理想的には、サードパーティ製AIコーディングツールを最小限の設定で使い、プロンプトはプロジェクト固有の具体的な事実に限定し、不要になったら削除すべきだと論じている。
コードだけでなく、AIエージェント向けのプロンプトも技術的負債になり得る。プロンプトの調整は大きな価値を生むが、モデル固有であり、モデルのアップグレードごとに機能しなくなる可能性がある。コードと違い、プロンプトの劣化は静かに進行し、気づきにくい。理想的には、サードパーティ製AIコーディングツールを最小限の設定で使い、プロンプトはプロジェクト固有の具体的な事実に限定し、不要になったら削除すべきだと論じている。
Gary Marcus scrutinizes recent claims from OpenAI and Anthropic, urging readers to examine the underlying details and math behind their headline-grabbing announcements rather than taking them at face value.
The article argues that prompts used for AI tools like large language models are a form of technical debt, as they require ongoing maintenance, are poorly documented, and can break silently when underlying models change, leading to unpredictable costs and system fragility.
Adding assumptions to a formal property makes it logically weaker—guaranteed to work in fewer cases. Engineers add assumptions when stronger properties are impossible, too costly, or unverifiable. These assumptions often involve factors outside the program, like the operating environment or external dependencies.