tencent/Hy3
テンセントが新たにApache 2.0ライセンスで公開したHy3は、295BパラメータのMixture-of-Experts(MoE)モデルで、21Bのアクティブパラメータと3.8BのMTP層パラメータを持つ。同等サイズのモデルを上回り、2〜5倍のパラメータを持つ最先端のオープンソースモデルにも匹敵する性能を示している。Hugging Faceでのフルサイズモデルは598GB、FP8量子化版は300GBで、コンテキスト長は256K。OpenRouterでは7月21日まで無料で利用可能。