L'IA sans serveur : quand vos appareils unissent leurs GPU
Un développeur vient de faire tourner un modèle de langage de 27 milliards de paramètres… dans des onglets de navigateur, répartis entre un MacBook et un iPhone. Anecdote de laboratoire ? Pas si sûr. Cette démo dessine peut-être le futur de l’IA : distribuée, locale, et accessible depuis un simple lien.
La démo qui change la perspective
Le constat de départ est simple : votre téléphone ne peut pas exécuter seul un grand modèle de langage comme Qwen 27B. Il n’a ni la mémoire, ni la puissance de calcul nécessaires.
La réponse du projet SwarmLLM (swarmllm.ai) est élégante : si un appareil ne suffit pas, pourquoi ne pas apprendre au modèle à se partager ?
Concrètement, le modèle est découpé en tranches, couche par couche, et distribué entre les appareils présents autour de vous. Chaque appareil ne télécharge et n’héberge que sa part du modèle. Les tokens circulent ensuite de pair à pair, via WebRTC, et la réponse s’affiche simultanément sur tous les écrans. Le tout dans le navigateur, grâce à WebGPU, sans installer quoi que ce soit.
Le résultat de la démo : environ 2,5 tokens par seconde sur un modèle 27B quantisé en 4 bits, réparti entre deux appareils grand public. Ce n’est pas rapide. Mais ce n’est pas la vitesse qui compte ici, c’est le fait que ça fonctionne.
Pourquoi c’est plus qu’un exploit technique
Trois briques rendent cette approche possible, et chacune arrive à maturité en même temps.
WebGPU, l’API qui donne aux pages web un accès direct au processeur graphique de l’appareil. Le même code tourne sur un Mac, un PC ou un smartphone Android, sans pilote ni installation. Des moteurs d’inférence comme WebLLM atteignent déjà jusqu’à 80 % des performances natives dans le navigateur.
WebRTC, le protocole de communication pair-à-pair qui alimente déjà la visio dans le navigateur, réutilisé ici pour faire circuler les activations du modèle entre appareils, sans serveur central.
La quantisation, qui compresse les modèles jusqu’à les faire tenir, par morceaux, dans la mémoire d’un téléphone.
Prises séparément, ces technologies existent depuis quelques années. Combinées, elles font émerger quelque chose de nouveau : le navigateur devient un runtime d’IA universel et fédérable. Chaque onglet ouvert est un nœud de calcul potentiel.
Ce que cela pourrait changer
L’inférence sans le cloud
Aujourd’hui, l’IA générative repose massivement sur des data centers : coûts par requête, dépendance à la connectivité, données qui transitent par des serveurs tiers. L’inférence distribuée locale inverse la logique. Le calcul se fait là où sont les données et les utilisateurs. Pour les usages sensibles — santé, juridique, éducation, données personnelles — c’est un argument de poids : rien ne quitte les appareils.
Le foyer et le bureau comme micro-clusters
Un foyer moyen contient déjà cinq à dix appareils dotés de GPU : téléphones, ordinateurs portables, tablettes, consoles, télévisions connectées. Une salle de réunion en contient autant. Demain, ces appareils pourraient mutualiser leur puissance pour faire tourner localement des modèles aujourd’hui réservés au cloud. L’assistant familial ou l’IA d’équipe ne serait plus un abonnement, mais une propriété émergente des appareils déjà présents dans la pièce.
Une IA résiliente et frugale
Pas de serveur, pas de point de défaillance unique, pas de facture qui grimpe avec l’usage. Dans les zones mal connectées, lors d’événements saturant les réseaux, ou simplement pour réduire l’empreinte de l’IA, le calcul en essaim (« swarm computing ») offre une alternative sérieuse : on exploite du matériel déjà fabriqué, déjà acheté, et le plus souvent inutilisé à 95 %.
De nouvelles expériences multi-écrans
C’est peut-être l’implication la plus inattendue : dans la démo SwarmLLM, la réponse s’affiche sur les deux écrans à la fois. L’IA n’est plus « dans » un appareil, elle est entre les appareils. On peut imaginer des expériences collectives où les téléphones d’un groupe de visiteurs, de spectateurs ou de clients forment ensemble une intelligence locale et éphémère, qui disparaît quand chacun ferme son onglet.
Une redistribution des cartes économiques
Si un simple lien peut mobiliser la puissance de calcul du public, la barrière à l’entrée de l’IA s’effondre pour les créateurs, les écoles, les PME, les collectivités. Le modèle économique du « GPU cloud » ne disparaîtra pas — l’entraînement des modèles et les usages intensifs en dépendront longtemps — mais une part croissante de l’inférence quotidienne pourrait migrer vers la périphérie.
Les obstacles, parce qu’il y en a
Restons lucides. 2,5 tokens par seconde, c’est dix à quarante fois plus lent qu’une API cloud. La latence réseau entre appareils, l’hétérogénéité du matériel, la consommation de batterie, la sécurité des échanges pair-à-pair, ou encore la question de la confiance entre nœuds — qui garantit qu’un appareil calcule honnêtement sa tranche ? — sont autant de chantiers ouverts. La recherche avance vite sur ces sujets : consensus entre pairs, routage intelligent entre petits modèles locaux et grands modèles distants. Mais le chemin vers un usage grand public prendra des années.
L’essentiel : réveiller le plus grand parc de GPU au monde
Faire tourner un LLM dans le navigateur n’est plus une nouveauté en soi : des moteurs comme WebLLM le font déjà sur un seul appareil. Ce que SwarmLLM ajoute, et c’est là que tout se joue, c’est la capacité à agréger des ressources GPU qui dorment.
Car le plus grand data center du monde existe déjà : il est éparpillé dans nos poches, nos sacs et nos salons. Des milliards de téléphones, d’ordinateurs et de tablettes embarquent des GPU inutilisés l’immense majorité du temps, du silicium déjà fabriqué, déjà payé, déjà alimenté, qui ne calcule rien. Pendant ce temps, l’industrie investit des centaines de milliards dans de nouveaux data centers pour répondre à la demande d’inférence.
L’inférence en essaim propose une troisième voie entre « tout cloud » et « tout local » : mutualiser cette capacité latente, à la demande, sans installation, le temps d’une session. Un appareil seul est trop limité ; dix appareils fédérés par un simple lien deviennent une infrastructure. C’est le même basculement conceptuel que le covoiturage face au parc automobile : on n’ajoute pas de voitures, on remplit les sièges vides.
Pendant des années, la question stratégique était :
« Qui possède les plus gros data centers ? »
Si cette approche tient ses promesses, la question de la décennie devient :
« Qui sait orchestrer le calcul qui existe déjà, partout, chez tout le monde ? »
Ce basculement de perspective est, selon nous, là où se situe sa véritable portée. C’est aussi un terrain qui nous est familier : tout ce que construit ARGO tourne dans le navigateur, sans application à installer, précisément parce que l’appareil déjà dans la main de l’utilisateur est le matériel le plus disponible qui existe. L’inférence en essaim ne fait qu’étendre cette logique : de l’affichage d’une expérience à son calcul.
Sources : SwarmLLM · Spécification WebGPU, W3C · Projet WebLLM · WebRTC, MDN