Par Eric Decarpentries DG d’Oalia
En tant que fournisseur de solution SaaS pour le digital achat, Oalia est dans l’obligation de respecter des SLA, Service Level Agreement ou niveau de service en bon français.
Un SLA décrit le service à fournir, le niveau de performance attendu, la mesure et l’approbation des performances, ainsi que les conséquences lorsque les niveaux de performance ne sont pas atteints.
Il existe de nombreux niveaux de SLA qui nous engagent.
Parmi lesquels, le SLA « Temps de réponse » qui définit le délai maximal dans lequel le système doit répondre à une requête ou effectuer une action. Cet indicateur mesure la rapidité et l’efficacité de l’application, influençant directement l’expérience.
En général, le temps de réponse attendu pour afficher une page ou charger une fonctionnalité est de moins de 2 secondes dans 95 % des cas. Bien que ce délai soit relativement rapide, il est souvent conseillé d’ajouter des indicateurs visuels, comme une barre de progression ou un spinner*, pour informer l’utilisateur de l’état d’avancement du chargement.
Cependant, l’intégration de l’intelligence artificielle au cœur des processus vient compliquer cette approche pour plusieurs raisons :
𝗖𝗼𝗺𝗽𝗹𝗲𝘅𝗶𝘁é 𝗮𝗰𝗰𝗿𝘂𝗲 : Contrairement aux applications traditionnelles, qui établissent une connexion directe entre le navigateur et le serveur, une chaîne d’IA implique une chaîne plus complexe et plus distribuée,
𝗧𝗲𝗺𝗽𝘀 𝗱𝗲 𝘁𝗿𝗮𝗶𝘁𝗲𝗺𝗲𝗻𝘁 𝗶𝗺𝗽𝗿é𝘃𝗶𝘀𝗶𝗯𝗹𝗲 : L’IA n’est pas prédictive en matière de durée d’exécution, ce qui rend difficile l’estimation ou l’anticipation du temps nécessaire pour un traitement donné,
𝗔𝗯𝘀𝗲𝗻𝗰𝗲 𝗱‘𝗶𝗻𝗱𝗶𝗰𝗮𝘁𝗲𝘂𝗿 𝗱𝗲 𝗽𝗿𝗼𝗴𝗿𝗲𝘀𝘀𝗶𝗼𝗻 : Par exemple, si l’IA analyse un document, elle ne fournit pas d’informations en temps réel sur l’avancement ou le travail restant, ce qui complique la mise en place de feedback pour l’utilisateur pendant l’attente.
L’intégration de l’IA modifie profondément les attentes habituelles en matière de temps de réponse et de retour utilisateur, remettant en question les SLA traditionnels.
Dans sa stratégie globale autour de l’IA, Oalia a pris en compte cette problématique avec une approche holistique. En effet, simplement augmenter la puissance des serveurs peut réduire l’impact perçu de l’attente, mais cela ne résout pas complètement les défis sous-jacents inhérentes au traitement IA.
*Un spinner est un élément visuel utilisé dans une interface utilisateur pour indiquer qu’une action ou un chargement est en cours et que le système n’est pas bloqué.