DeepSeek、推論最適化をオープンソース公開 — 生成速度が60～85%高速化 [pdf]

- DeepSeek（中国のAI企業）が、大規模言語モデルの推論（回答生成）を高速化する最適化技術をオープンソース公開した。通常時に比べ60～85%の高速化を達成。 - 「DSpark」あるいは「DeepSpec」と呼ばれるこの技術は、推論時におけるメモリ管理や計算スケジューリングを効率化することで高速化を実現。モデルの精度は維持したまま、レイテンシ（応答までの遅延）を大幅削減する。 - DeepSeekはChatGPTに対抗するDeepSeek-R1など高性能なオープンソースモデルで知られ、低コストでの推論最適化を強みとする。今回の公開により、開発者は自前の環境でも同様の高速化を再現可能になる。 - 背景として、LLMの実用化では「動作の遅さ」が依然大きな課題であり、特にリアルタイム対話やコーディング補助などの用途で推論最適化への需要が高い。DeepSeekは自社の研究をOSSとして公開することで、コミュニティ全体の性能向上とエコシステムへの影響力を狙っている。