Skip to content
TopicTracker
出典 simonwillison.net原文を表示
翻訳言語翻訳言語

tencent/Hy3

テンセントが新たにApache 2.0ライセンスで公開したHy3は、295BパラメータのMixture-of-Experts(MoE)モデルで、21Bのアクティブパラメータと3.8BのMTP層パラメータを持つ。同等サイズのモデルを上回り、2〜5倍のパラメータを持つ最先端のオープンソースモデルにも匹敵する性能を示している。Hugging Faceでのフルサイズモデルは598GB、FP8量子化版は300GBで、コンテキスト長は256K。OpenRouterでは7月21日まで無料で利用可能。

背景メモ

テンセント(Tencent)が公開した新たな大規模言語モデル「Hy3」。中国企業によるLLMリリースの最新例で、米中AI競争の文脈で注目される。 - **テンセント(Tencent)**:中国最大級のIT企業。WeChat(微信)やゲーム事業で知られ、AI分野への投資も積極的。 - **Mixture-of-Experts (MoE)**:モデル全体のパラメータは巨大だが、推論時には一部の「専門家」モジュールだけを活性化する手法。Hy3は総パラメータ295B(2950億)だが、実際に使われる活性パラメータは21Bと抑えられ、効率と性能のバランスを取っている。 - **Apache 2.0ライセンス**:商用利用も含めて比較的自由に使えるオープンソースライセンス。中国企業がApache 2.0でモデルを公開するのは、国際的な開発者コミュニティへのアピールという側面がある。 - **OpenRouter**:複数のLLMにAPI経由でアクセスできる仲介サービス。無料試用期間を設ける典型的なプロモーション手法。 - **背景**:中国政府はAI分野での自主技術開発を推進しており、DeepSeekなど他社の高性能モデルと合わせ、中国発LLMが国際的なオープンソースコミュニティで存在感を増している。米国の輸出規制(先端半導体の対中禁輸)下での技術的成果という点も注目される。

関連記事

  • Jimmy Wales announced that Wikipedia was live at wikipedia.com on January 15, 2001. The site was intended to be a "really quite snazzy" wiki complement to the Nupedia project, offering a more collaborative and less formal environment for building an encyclopedia.

  • OpenAI has announced Daybreak, a new initiative focused on advancing AI safety and alignment research to ensure artificial general intelligence benefits humanity.

  • SpaceX has announced plans to launch approximately one million satellites to create space-based data centres, according to the European Southern Observatory (ESO). The massive satellite constellation would significantly increase the number of objects in orbit, raising concerns about light pollution and interference with astronomical observations.

  • Ars Technica reports on the aftermath of the catastrophic failure of Blue Origin's New Glenn rocket, examining the investigation into the cause of the anomaly, the impact on the company's launch schedule and contracts, and the broader implications for the commercial space industry.