L’intelligence artificielle dépend massivement du cloud et de quelques acteurs dominants. Mais j’anticipe que les nouvelles possibilités techniques qui émergent vont permettre d’utiliser l’IA hors de ce contexte car il est désormais possible d’exécuter l’IA localement sur vos appareils, ce qu’on appellera par facilité : On-Device AI ou encore l’IA côté client. Personnellement, j’aime bien l’image de « l’IA dans notre poche »
Cette évolution va changer la donne pour les Achats, à la croisée des enjeux de souveraineté, de coûts et de conformité
En effet, grâce à l’API WebGPU, votre navigateur peut exécuter directement des modèles, sans infrastructure complémentaire en exploitant la carte graphique GPU des PC ou smartphones pour faire tourner des modèles. C’est-à-dire disposer de capacités de calcul inédites et, nouveauté majeure, exploitable directement par votre application SaaS Achats coté client
Votre poste de travail n’est plus seulement passif : il devient un auxiliaire de calcul et de traitement.
Quels bénéfices en attendre Examinons cela selon deux points de vue :
1. Les utilisateurs de nos applications,
2. Les Achats, tout autant utilisateurs, mais qui doivent aussi élaborer une stratégie IA « 360 degrés »
Pour les utilisateurs, l’introduction de l’IA locale permet d’envisager une interface utilisateur augmentée car l’IA devient une couche native de l’interface. Exécutée localement, sans latence réseau, et sans coût supplémentaire, on peut mettre à disposition des nouveaux services comme par exemple :
1. Produire un résumé d’un écran, d’un message,
2. Traduire à la volée. C’est d’autant plus utile que dans un contexte international, un fournisseur peut compléter des zones de texte dans une langue inconnue des autres utilisateurs,
3. Mettre en qualité du texte (grammaire, reformulation, clarification, simplification),
4. Analyser des images…
Ces « micro » services changent la perception de l’application en la rapprochant des utilisateurs.
Mais surtout et c’est peut-être l’essentiel, cela évite des copier/coller sauvages de données dans des IA génératives en accès libre sans protection des données. Le fameux shadow AI(*)
Pour les Achats, j’identifie 3 bénéfices naturels :
1. Réduire la dépendance aux « hyperscalers »
L’exécution locale permet de limiter les transferts de données sensibles vers des infrastructures externes et de réduire l’exposition au Cloud Act.
C’est un moyen de reprendre du contrôle sur les données critiques, tout en facilitant la conformité RGPD et AI Act.Pour de nombreuses organisations, la question n’est plus technique : elle devient stratégique.
2. Repenser le coût total de l’IA
L’IA exécutée sur les postes utilisateurs fait évoluer le modèle économique : moins de GPU serveurs à provisionner, moins d’OPEX cloud et une latence fortement réduite.
Chaque appareil devient une ressource de calcul.
Le coût marginal d’inférence peut approcher zéro. Un point déterminant pour piloter budgets, arbitrages et scalabilité.
3. Mieux protéger les données métiers
Achats, juridique, finance, RH… Certaines opérations ne peuvent pas sortir de l’entreprise.
L’exécution locale garantit que les données ne transitent plus vers des serveurs tiers. Aucun stockage externe, aucun transfert involontaire, traçabilité renforcée.IA performante et confidentialité ne sont plus incompatibles
Oui mais tout ça c’est bien joli … mais ce n’est pas pour demain.
Vrai et faux. En fait c’est déjà là mais pas dans tous les navigateurs… et pas encore dans les applications SaaS Achats.
Si vous voulez déjà tester comment cela fonctionne, je vous invite à vous rendre sur cette page :
https://chrome.dev/web-ai-demos/translation-language-detection-api-playground/
Qui est un exemple de traduction en ligne exécutée localement.
Une fois la page chargée, couper la connexion internet et tester les capacités natives de traduction locale. Magique !
Attention, cela nécessite une version récente de Google Chrome à partir de la version 138 sortie le 24 juin 2025
Synthèse : un enjeu Achats avant d’être un enjeu technique
« On-Device AI » introduit un nouvel espace d’optimisation.
Est-ce pour autant une substitution à l’IA dans le cloud ? Je ne le pense pas. En tout cas, pas à brève échéance.
La taille des modèles et les performances que l’on peut en attendre risquent de différer pendant encore longtemps. Par ailleurs, si des modèles peuvent être embarqués nativement dans les navigateurs, certains pourraient nécessiter un téléchargement préalable, donc un peu moins de confort pour les utilisateurs occasionnels.
Le renouvellement du parc PC, accéléré par la fin du support de Windows 10 (14 octobre 2025) et la transition vers Windows 11, va mécaniquement tirer le parc vers le haut et favoriser l’adoption de machines plus puissantes donc aptes à exécuter localement des modèles de plus en plus complexes.
Cependant, je pense qu’une architecture hybride en « On-Device AI » et IA dans le cloud est à considérer en fonction des usages. C’est du côté de l’offreur que le choix va probablement s’opérer en premier lieu.
Chez Oalia, nous considérons que cela ouvre de nouvelles possibilités, complémentaires et qui répondent à des enjeux parfois difficiles à concilier, citons :
• Conformité et gouvernance (AI Act, politiques internes, auditabilité)
• Contrôle des données (contractualisation, localisation, réversibilité)
• Souveraineté et résilience (réduction de la dépendance fournisseur)
• Maîtrise du TCO (coûts directs et indirects)
Oalia a décidé d’explorer cette voie en parallèle de nos travaux sur l’IA Cloud. Nous en reparlerons.
(*) Le Shadow AI (ou IA fantôme) désigne l’utilisation, par des employés ou des départements, d’outils et d’applications d’intelligence artificielle sans l’approbation ou la supervision du service informatique de l’organisation.
