770 milliards de paramètres, un million de jetons de contexte : le nouveau modèle de code de Tencent passe en accès libre

Un centre de données. Les modèles d'intelligence artificielle comme Hy4 preview s'entraînent et tournent sur des milliers de serveurs. — Photo d'illustration

Un modèle taillé pour la productivité

Le 28 août 2026, le laboratoire d'intelligence artificielle de Tencent, Hunyuan, a mis en ligne et ouvert le code de Hy4 preview, la nouvelle génération de son grand modèle de langage. Le groupe, connu pour la messagerie WeChat et pour être l'un des premiers éditeurs de jeux vidéo au monde, en fait un outil pensé pour des tâches concrètes plutôt que pour la conversation générale : écrire et corriger du code, rédiger des documents de bureau, analyser des données, concevoir des jeux et mener une recherche scientifique. Tencent précise avoir entraîné le modèle sur des données coproduites avec ses propres équipes d'ingénierie logicielle, de jeu vidéo, de finance et de sécurité, plutôt que sur un corpus générique.

Le modèle repose sur une architecture dite « de mélange d'experts » : sur 770 milliards de paramètres au total, seuls 49 milliards sont mobilisés pour traiter chaque mot du texte, ce qui limite la puissance de calcul nécessaire à chaque réponse par rapport à un modèle qui activerait l'intégralité de ses paramètres en permanence. Concrètement, sur les 78 couches du réseau de neurones, la première combine l'ensemble des paramètres disponibles, tandis que les 77 suivantes piochent, à chaque mot, parmi 256 groupes de paramètres spécialisés : huit sont sélectionnés selon le contexte, complétés par un groupe toujours actif.

Une architecture pensée pour la vitesse autant que pour la taille

Deux choix techniques visent à rendre ce modèle utilisable en pratique malgré sa taille. Le premier est un mécanisme d'attention dit « creuse », qui permet au modèle de ne pas recalculer l'intégralité de ses raisonnements sur tout le texte à chaque mot généré, mais de réutiliser des calculs déjà faits sur les parties du texte qu'il a déjà lues. Le second est une couche additionnelle de dix milliards de paramètres, dédiée au décodage dit « spéculatif » : elle propose plusieurs mots à la suite en une seule opération, que le modèle principal vérifie ensuite, ce qui accélère la génération de texte. Tencent indique que ces choix ont permis, sur sa propre infrastructure, un débit de traitement en hausse de 31,8 % par rapport à la génération précédente de ses serveurs, ce qui réduit le coût de chaque réponse produite.

Un contexte d'un million de jetons, à quoi cela sert

La fenêtre de contexte de Hy4 preview, c'est-à-dire la quantité de texte que le modèle peut lire et garder en mémoire pour répondre à une question, dépasse le million de jetons, l'unité de mesure d'un modèle de langage. Pour un usage de bureautique, cela permet de faire lire un dossier entier plutôt qu'un seul document. Pour le code, cela change la nature du travail possible : au lieu de corriger une fonction isolée, le modèle peut recevoir la quasi-totalité d'un projet logiciel de taille moyenne en une seule fois, et repérer une incohérence entre un fichier et un autre écrit des semaines plus tôt. Une fenêtre de cette taille reste rare : la plupart des modèles commerciaux, chinois ou occidentaux, plafonnent encore à quelques centaines de milliers de jetons.

Face à GLM et Kimi, une évaluation menée en interne

Pour juger la qualité du modèle sur des cas réels plutôt que sur de simples questionnaires automatisés, Tencent a organisé une évaluation à l'aveugle : 163 experts internes ont noté, sans savoir quel modèle avait produit quelle réponse, 203 tâches d'ingénierie sur une échelle allant jusqu'à 4 points. Hy4 preview y obtient une moyenne de 2,99, devant Kimi K3, publié par le laboratoire Moonshot AI (2,94), et GLM 5.3, publié par Zhipu (2,92). L'écart entre les trois modèles est ténu, et l'exercice reste interne à Tencent, qui n'a rendu publics ni le détail des 203 tâches ni les réponses évaluées : il mesure une préférence de ses propres experts sur un jeu de tâches qu'il a lui-même choisi, pas un classement établi par un organisme indépendant.

Ce que l'ouverture des poids change pour les développeurs

Ouvrir un modèle ne se limite pas à publier des résultats de tests : Tencent a mis en ligne les poids eux-mêmes, c'est-à-dire les milliards de valeurs numériques qui font fonctionner le réseau de neurones, en téléchargement libre sur HuggingFace, GitHub, ModelScope et GitCode, sous deux versions dont une allégée. N'importe quel développeur, en Chine comme ailleurs, peut ainsi faire tourner Hy4 preview sur ses propres machines, le modifier pour un usage particulier ou l'intégrer à un logiciel, sans dépendre d'un accès payant chez Tencent ni transmettre ses données à un service distant.

Pendant deux semaines, l'entreprise offre en plus un accès gratuit au modèle via ses propres outils de programmation, WorkBuddy et CodeBuddy, ainsi que dans ses assistants grand public Yuanbao et ima. Passé ce délai, l'accès par programmation est facturé 0,834 dollar par million de jetons en entrée et 2,501 dollars en sortie sur la place de marché internationale OpenRouter, ou 6 et 18 yuans, soit environ 0,77 et 2,31 euros, via le service infonuagique que Tencent propose en Chine.

La Chine, terrain des modèles en accès libre

Hy4 preview s'inscrit dans un mouvement engagé en janvier 2025, quand le laboratoire chinois DeepSeek a publié les poids de son modèle de raisonnement R1 en même temps qu'il en démontrait les performances, prouvant qu'un acteur chinois pouvait rivaliser avec les meilleurs modèles occidentaux tout en donnant accès au code. Depuis, Alibaba avec sa famille Qwen, Moonshot AI avec Kimi, Zhipu avec GLM et désormais Tencent avec Hunyuan publient chacun leurs propres modèles en accès libre, à un rythme que les grands laboratoires américains, qui gardent leurs modèles les plus puissants fermés et accessibles seulement par abonnement payant, n'ont pas suivi.

Pour Tencent, publier Hy4 preview ne prive pas l'entreprise de revenus : le modèle reste vendu par API à ceux qui préfèrent ne pas l'héberger eux-mêmes, et il est poussé en priorité dans les propres produits du groupe, ses outils de développement et ses assistants grand public. L'ouverture sert d'abord de vitrine face à ses concurrents chinois et de moyen de recueillir, par les usages réels des développeurs qui l'adoptent, de quoi préparer la version suivante.

Ce que cela change pour un développeur francophone

Pour un développeur ou une petite entreprise en France, en Belgique, en Suisse ou au Québec, la publication des poids ouvre une option supplémentaire face aux offres américaines dominantes, OpenAI et Anthropic en tête, qui ne publient pas leurs modèles les plus puissants. Faire tourner Hy4 preview sur ses propres serveurs, en Europe, évite d'envoyer son code à un service distant, chinois ou américain, une préoccupation de plus en plus présente chez les entreprises soucieuses de la localisation de leurs données. Le prix, lui, reste très inférieur à celui des abonnements professionnels aux modèles fermés les plus utilisés.

La Rédaction