2026年9月1日、騰訊(テンセント)混元チームは Hy4 preview の軽量版を公開した。モデルの重みを約 1.5TB から約 214GB へ——86% の削減——圧縮しながら、長文理解とマルチターン長文脈検索を BF16 原版の 1〜2 点差に留めた。量子化 GGUF、ベースモデル、AngelSlim コードリポジトリはいずれも公開されている。
これは性能の話ではなく、ハードウェアの話である。そして中国国内でマーケティングやコンテンツ制作を回すブランドにとって、足かせになってきたのはまさにこのハードウェア側だった。
1. 4日間で何が変わったか:1.5TB から 214GB へ
2026年8月28日、騰訊は Hy4 preview を公開しオープンソース化した。総パラメータ 7700億、トークンごとの活性パラメータ 490億、コンテキスト長 100万トークン超の Mixture-of-Experts モデルで、Apache 2.0 を採用し月間アクティブユーザー数の上限も独自コミュニティライセンスも設けていない。ホスティング API は騰訊雲 TokenHub と OpenRouter 経由で、入力100万トークンあたり6元、出力18元、キャッシュ入力0.3元という価格設定だった。
その4日後に軽量版が登場した。原版公開後、コミュニティの指摘は一貫していた。BF16 のチェックポイントは大きすぎて、大半のチームには読み込めない、と。騰訊の答えが、元のフットプリントのおよそ7分の1に収まる量子化ビルドだった。
| 指標 | Hy4 preview(BF16) | Hy4 preview 軽量版(MIX-STQ1_0) |
|---|---|---|
| 重みサイズ | 約 1.5TB | 約 214GB |
| 重みあたりビット数 | 16(bfloat16) | 平均 約 1.31(混合精度) |
| 実用ハードウェア | マルチ GPU サーバークラス | 2台合計で VRAM 80GB+メモリ 64GB |
| ライセンス | Apache 2.0 | Apache 2.0 |
| 入手先 | Hugging Face(tencent/Hy4-preview)、ModelScope、GitCode、CNB | Hugging Face(AngelSlim/Hy4-preview-GGUF)、GitHub(Tencent/AngelSlim) |
| 推論フレームワーク | — | llama.cpp、vLLM、SGLang |
この圧縮率が意味を持つのは、それが意思決定から取り除くもののためだ。問いは「GPU クラスタを買えるか」ではなく、「オフィスにある既存ハードウェアを転用できるか」になった。
2. 圧縮の中身:Sherry と MIX-STQ1_0
2つの技術が積み上げられており、それぞれ問題の別の半分を解く。
Sherry スパース三値量子化。 Sherry はルーティング専門家層に適用される三値方式である。4つの重みを1グループとして {-1, 0, +1} に量子化し、そのうち必ず1つをゼロに固定する。この制約により1グループあたり32通りの組み合わせとなり、5ビットのインデックスで符号化できるため、算術平均は重みあたり 1.25 ビットになる。ブロック共有のスケール係数などの追加オーバーヘッドを計上すると、実際のディスク上のコストは約 1.31 bpw に落ち着く。騰訊はこのフォーマットを実際に動作させるため、llama.cpp 内に STQ1_0 推論カーネルを実装した。同社の計測では速度は IQ1_M と同等、IQ1_S より高速としている。
MIX-STQ1_0 混合精度。 ビット幅を一律にすると、精度が不要な層に無駄が生まれ、必要な層が不足する。MIX-STQ1_0 はキャリブレーションデータで各層の感度を判定し、層ごとにビット幅を割り当てる。感度の高い層は 2.06 ビットの IQ2_XXS を維持し、感度の低い層はより積極的な 1.31 ビットの STQ1_0 を採用する。これにより、平均ビット予算を変えずに量子化誤差を抑え、一律の UD-IQ1_M 方式と比べて 5GB 以上のストレージを追加削減できる。
数字が面白くなるのは、この2つの組み合わせによる。圧縮の本体を担うのが Sherry、損傷をどこに許容するかを決めるのが MIX-STQ1_0 である。
3. 何を失うか:86% 圧縮のベンチマーク上のコスト
騰訊は劣化について具体的な数字を出しており、これは量子化リリースとしては異例の透明さである。
| ベンチマーク | BF16 原版 | 軽量版(MIX-STQ1_0) | 差 |
|---|---|---|---|
| MCP Atlas(実ツール呼び出しエージェント) | 83.7 | 83.2 | -0.5 |
| SWE-Bench multi(ソフトウェアエンジニアリング) | 82.9 | 81.3 | -1.6 |
| MRCR(長文脈検索) | ベースライン | 1点差以内 | 1点未満 |
| 長文理解 | ベースライン | ほぼ同等 | — |
| 数学 | ベースライン | 小幅低下 | — |
個々の数字——いずれもベンダー公表値——ではなく、この表の形を読んでほしい。検索主体・文書主体の作業はほとんど動かない。ツール呼び出しとコードは1〜2点を失う。数学が最も明確な低下を見せているが、これは積極的な低ビット量子化では想定されるパターンだ。丸め誤差の蓄積は、まず推論連鎖に現れる。
騰訊は軽量版が日常的なコーディング支援、ツール呼び出し、長文書処理、一般的な質問応答をカバーすると述べている。このリストに含まれていないものに注意してほしい。途中の計算が誤っていても静かに見過ごされる類の作業である。
率直な位置づけ。 これは精度のためのモデルではなく、スループットのためのモデルだ。用途が「400ページの製品ドキュメントを読ませてローカライズの初稿を作る」なら、この取引は極めて良い。それが「12市場のメディア予算配分を正しく計算する」なら、BF16 または FP8 ビルドを参照系として残し、軽量版はスクリーニング用途に留めるべきである。
4. 手持ちのハードウェアで動かす:ヘテロジニアス検証
より重要な発表は、分散クラスタ推論フレームワーク prima.cpp とともに行われた導入実験である。
構成は、RTX 4090 を1枚載せたノート PC 1台と、A4000 を4枚載せたサーバー1台。合計で VRAM 80GB、システムメモリ 64GB——総計 144GB。2台は別々のローカルネットワークに属していた。214GB のモデルに対して 70GB 不足している。
それでも動いた。prima.cpp のヘテロジニアススケジューラが MoE 層を2台に分割配置し、計算と重みの読み出しを重ね合わせることで、214GB の軽量版は 1.02 token/s に達した。ノート PC 単体のオフロードと比べて約6倍の速度である。
1.02 token/s が実務で意味すること。 対話型チャットには使えない。バッチ処理には十分に実用的だ。1時間あたり約 3,700 トークン、一晩回せば約 88,000 トークン。12,000 トークンのローカライズ済みランディングページの初稿なら3時間、週末に30本の商品説明をまとめて作る程度なら造作もない。問いは「速いか」ではなく「自分のワークロードが待ち時間に敏感か」である。
数字よりヘテロジニアスであること自体が重要な理由。 企業の AI 導入協議は、たいてい1行の項目で止まる。統一構成のクラスタを買うか、何もしないか。この実験は第三の道を示している。手持ちの不揃いなハードウェアを束ね、スループットの低下を受け入れ、設備投資を先送りする。上海のリージョナルマーケティングチームがワークステーション数台と予備サーバーを持っているなら、これは「今四半期にパイロットを回す」か「永遠に回さない」かの違いになる。
5. なぜ中国ではオンプレミスが他国より重要なのか
ここで技術リリースは商業的な論点に変わり、そしてこれが本件をエンジニアリングではなくマーケティングの議題に載せるべき理由である。
中国のデータ制度は、越境移転を原則ではなく例外として扱う。個人情報保護法(PIPL)第38〜40条は、個人情報を国外に出す前に安全評価、認証、または標準契約条項の届出を求める。データ安全法はデータ分類・等級化制度と、「重要データ」の国内保存原則を加える。2024年3月の「データ越境流通の促進・規制に関する規定」が分量の閾値を定めている。
| 年間越境人数 | 必要な仕組み |
|---|---|
| 10万人未満(非センシティブ) | CAC の仕組みは不要 |
| 10万〜99万9,999人、または評価閾値未満のセンシティブ個人情報 | 標準契約条項(届出) |
| 100万人以上、またはセンシティブ個人情報1万人以上 | CAC 安全評価 |
中国で事業を行う外資ブランドにとって、これはグローバルなマーケティング技術の一般的な構成と衝突する。CRM のエクスポートはグローバルインスタンスへ、キャンペーンのブリーフは米国や欧州にエンドポイントを持つホスティング LLM へ、顧客リストは類似オーディエンスツールへ。そのそれぞれが移転であり、それぞれに仕組みが必要になる。
オンプレミス推論は、この方程式を契約面ではなく構造面から変える。モデルの重み、ベクトルストア、推論プロセスのすべてが中国国内のインフラ上にあれば、評価すべき越境移転は存在しない。これは騰訊自身が外資広告主にランディングページについて助言してきた論理と同じだ。グローバルサイトが中国の解析・コンバージョンコードを載せられないなら、統合に抗うのではなくランディングページを中国ホスティングの基盤に移す。どちらも同じ一手である。データを処理のある場所へ動かすのではなく、処理をデータのある場所へ持っていく。
ただし、ローカル化しても残る義務が2つあり、チームはしばしば両方を見落とす。「生成式人工知能サービス管理暫定弁法」(2023年8月15日施行)は、生成物がユーザーに届く限り適用される。そして「AI 生成合成内容標識弁法」(2025年9月1日施行)は、AI 生成物への顕性・潜在の標識付与を引き続き求める。モデルをローカルで動かしても、ブランドが公開するコンテンツの標識義務は免除されない。
6. コンテンツ制作とマーケティングチームへの意味
具体的に3つの変化がある。
コーパス全体が1パスで収まる。 100万トークンのコンテキストウィンドウは約75万語に相当する。製品マニュアルの全量、直近4四半期のキャンペーン成果レポート、CRM メモのエクスポート、競合クリエイティブのライブラリ——これらを1つのプロンプトに収められる。従来、ブランドのローカライズ作業は文書を分割し、相互参照の文脈を失い、チャンク間で揺れた用語を後から整合させる作業だった。コーパス全体が文脈にあれば、100ページの成果物でも用語は一貫する。
未公開素材を処理できるようになる。 ローンチ前のキャンペーンクリエイティブ、価格表、代理店条件、発表前の製品仕様——これらはまさに、グローバルの AI ポリシーがサードパーティのホスティングエンドポイントへの送信を禁じている類の入力である。自社オフィスのマシン上で動くモデルに、その制約はない。中国のブランドチームにとって、これはしばしば「AI を下書きに使える」か「まったく使えない」かの違いになる。
コスト構造が量で反転する。 入力100万トークン6元、出力18元というホスティング API 価格は競争力があり、資本も要らない。しかしコストは利用量に比例して永遠に伸び続ける。セルフホスティングは、それを固定資産と電気代に変える。分岐点は稼働率に完全に依存し、転用ハードウェアでの 1.02 token/s は高い天井ではない。とはいえ、安定したコーパスに対して毎晩バッチを回すチームなら、初月以降の限界費用はほぼゼロに近づく。
当てはまらない領域。 リアルタイムのカスタマーサービス、キャンペーン規模で時間的プレッシャーのある広告コピー生成、誤った数字が顧客に届きうるあらゆる作業。これらはホスティング API を使い、ローカルビルドはその背後にあるバッチ作業に回すべきである。
7. 実務的な導入チェックリスト
| # | 確認項目 | 重要な理由 | 合格条件 |
|---|---|---|---|
| 1 | ワークロードの分類 | 待ち時間への許容度が 1.02 token/s の可否を決める | バッチ・オフラインのみ。リアルタイムはホスティング API へ |
| 2 | 総所有コストの試算 | ハードウェア、電力、人件費 対 100万トークン6元/18元 | 損益分岐月を購入前に特定する(購入後ではない) |
| 3 | ライセンス位置づけの確認 | Apache 2.0 は商用利用・改変・再配布を許容 | 法務からの文書による確認。下流への制約なし |
| 4 | データ分類の実施 | どのコーパスがそもそも合法的に中国国外へ出せるかを決める | 全データセットにタグ付け。センシティブ区分を分離 |
| 5 | 必要な場合の PIPIA 実施 | センシティブ個人情報の処理または自動化された意思決定の前に必須 | 評価を文書化し3年間保存 |
| 6 | 標識義務が存続することの確認 | ローカル推論は公開 AI コンテンツの標識義務を消さない | 顕性・潜在の標識付与を公開ワークフローに組み込む |
| 7 | 品質ベースラインの保持 | 量子化出力の揺れはタスク種別ごとに異なる | BF16 または FP8 の参照実行を抜き取り比較用に残す |
| 8 | リリース周期の追跡 | Hy4 preview は明示的に未完成。騰訊は概ね2か月ごとに大規模版を出す | Hy4 正式版に対する再評価を日程化 |
結論
騰訊は8月にフラッグシップ級のモデルを公開し、9月にハードウェアの言い訳を取り除いた。Apache 2.0 ライセンスが法的な摩擦を、214GB のフットプリントとヘテロジニアススケジューリングが設備面の摩擦を取り除いた。残るのは、当初から本当に存在していた唯一の摩擦だけだ。自社のワークロードのうち、どれが本当にローカルインフラに置かれるべきかを決めること、それである。
中国にいる大半のブランドにとって、その答えは 過度な期待が示唆するほど広くはなく、ゼロよりは広い。バッチ型のコンテンツ制作、固定されたブランドコーパスに対するローカライズ、そして合法的に国境を越えられない素材の処理——これらはローカルワークロードの問題であり、9月1日現在、実行可能な答えを持っている。
出典: 騰訊混元 Hy4 preview 軽量版発表(2026年9月1日、IT之家/智東西/鳳凰網科技/快科技);騰訊 Hy4 preview 公開(2026年8月28日);Hugging Face tencent/Hy4-preview および AngelSlim/Hy4-preview-GGUF;GitHub Tencent/AngelSlim;prima.cpp ヘテロジニアス推論フレームワーク。法令参照:個人情報保護法 第38〜40条、データ安全法、データ越境流通の促進・規制に関する規定(2024年3月)、生成式人工知能サービス管理暫定弁法(2023年)、AI 生成合成内容標識弁法(2025年)。