パイプラインではなくエージェントを構築せよ
LLMをプログラムに組み込む方法は、パイプライン（コードで制御フローを定義）とエージェント（LLM自身にツールを与えて制御させる）の2つに大別される。パイプラインは予測可能性とコスト管理に優れるが、エージェントはより難しいタスクに対応でき、特にコンテキスト収集が容易で未来志向だ。本記事では両者のトレードオフを解説し、迷ったらエージェントを選ぶべきだと提言する。
関連記事
As AI inference margins shrink, value flows to the hardware supply chain and consumers while model inference becomes a commodity. Frontier AI labs can escape the margin collapse by focusing on managed agents or maintaining a technological lead.