AccueilDécryptageIA et latence : pourquoi le choix du datacenter est stratégique

IA et latence : pourquoi le choix du datacenter est stratégique

Publié le

Les entreprises approfondissent leur exploration du potentiel de l’intelligence artificielle , tout en évaluant les défis structurants liés à la conception d’infrastructures informatiques et réseaux optimisées, capables de supporter efficacement cette montée en puissance technologique. Les charges de travail liées à l’IA, qu’il s’agisse de phases d’entraînement des modèles ou d’inférence, sont désormais réparties sur une diversité de plateformes de calcul et de sites d’hébergement.

À mesure que ces charges de travail montent en échelle, les organisations se heurtent à des problématiques critiques telles que la latence, les performances applicatives ou la sécurisation des flux de données. Cela implique souvent le recours à des architectures réseau personnalisées (connectivité fibre dédiée, topologies intersites optimisées), à la disponibilité d’accélérateurs matériels de type GPU et à des environnements de calcul haute densité. Compte tenu de la sophistication des besoins, aucune approche standardisée ne permet à elle seule de répondre à toutes les exigences. Les entreprises s’orientent ainsi vers une combinaison d’options : hyperscalers cloud, datacenters, ou infrastructures de colocation tierces, en fonction de leurs contraintes métiers, techniques et géographiques. Les stratégies d’implantation varient sensiblement selon les secteurs industriels et les régions du monde.

Quatre points clés à retenir pour les responsables informatiques

  • L’IA est orientée cloud, mais multiplateforme : le cloud public hyperscale est la destination principale pour les workloads IA, mais les stratégies multiplateformes continueront d’exister.

  • Les disparités sont évidentes dans les déploiements de l’IA : il existe des différences significatives dans le déploiement de l’IA selon les géographies et les secteurs. Les entreprises en Amérique du Nord et en Asie-Pacifique consacrent généralement une plus grande part de leurs workloads à l’IA par rapport à leurs homologues européennes. Les entreprises des secteurs de la technologie et de la santé/biotechnologies investissent davantage dans l’IA que celles d’autres secteurs. Les grandes entreprises (plus de 5 000 employés) investissent davantage dans l’IA.

  • La portée géographique s’élargit : l’IA incite les entreprises à reconsidérer l’endroit où elles peuvent placer leurs workloads. La plupart des entreprises reconnaissent le potentiel de déployer ces charges plus loin de leurs opérations physiques, en particulier pour l’entraînement des modèles d’IA.

  • Les services liés à l’IA sont essentiels : les points d’accès au cloud sont considérés comme une nécessité pour les charges de travail IA, car les problèmes de connectivité ont affecté les déploiements d’IA. Les services de connectivité et de mise en réseau sont de plus en plus des critères essentiels pour la sélection des lieux de déploiement des charges de travail IA. De plus, de nombreuses entreprises recherchent des services de conseil en IA/ML auprès de tiers, en particulier dans les environnements de colocation, pour des solutions personnalisées à leurs besoins informatiques.

Considérations pour le placement des charges de travail IA

  • Déterminer où une entreprise se situe : comprendre les stratégies d’infrastructure IA d’entreprises de taille similaire dans des secteurs et géographies comparables peut aider à aligner la stratégie de placement des charges de travail IA d’une entreprise avec celle de l’industrie en général.

  • Placer le Datacenter au cœur de la stratégie : étant donné la large distribution des charges de travail IA, la colocation peut servir de hub central pour se connecter à divers lieux de déploiement. En effet, les charges de travail IA resteront distribuées, avec une légère préférence pour le cloud public. Les points d’accès au cloud proposés par les fournisseurs de colocation peuvent être particulièrement précieux pour le transfert de données.

  • Consommation de données en IA : Analyser les tendances dans l’entraînement des modèles IA des entreprises peut aider les responsables informatiques à anticiper la consommation de données à mesure que les entreprises intensifient leurs efforts en IA. Nombre d’entreprises utilisent d’énormes quantités de données et ont tendance à entraîner leurs modèles relativement fréquemment. Comme on pourrait s’y attendre, les grandes entreprises utilisent généralement plus de données pour entraîner leurs modèles IA. Pour les organisations traitant de vastes volumes de données et entraînant fréquemment des modèles, un fournisseur de colocation spécialisé pourrait être l’option la plus appropriée.

  • Reconsidérer les limites géographiques : les entreprises montrent une flexibilité géographique accrue pour les charges de travail IA. Les entreprises de la région EMEA expriment une forte ouverture à l’idée de placer les modèles d’entraînement loin de leurs opérations commerciales principales, tandis que les entreprises nord-américaines et d’Asie-Pacifique sont flexibles pour l’entraînement comme pour l’inférence.

Par Amel OUARAB, Marketing & Communication Manager France chez Telehouse

Derniers articles

Accenture lance Accenture Construct pour réinventer la gestion des grands projets d’infrastructure

Accenture annonce le lancement d’Accenture Construct, une nouvelle activité mondiale destinée à aider les...

Atos rejoint France Cyber Maritime

Atos  annonce  son adhésion à France Cyber Maritime, l’association dédiée au renforcement de la cybersécurité...

Cyril Margate nommé Directeur du développement de SASETY

Pour accompagner sa croissance, SASETY annonce la nomination de Cyril MARGATE au poste de Directeur du développement.L’arrivée de Cyril...

SecNumCloud : quels enjeux pour les DSI et les données sensibles ?

Le sujet SecNumCloud s’impose progressivement dans les réflexions des DSI, RSSI et dirigeants IT....

Ces articles pourraient vous intéresser

SecNumCloud : quels enjeux pour les DSI et les données sensibles ?

Le sujet SecNumCloud s’impose progressivement dans les réflexions des DSI, RSSI et dirigeants IT....

Pourquoi les constructeurs doivent repenser leur relation avec leurs revendeurs

Le marché de l'impression B2B connaît une profonde mutation : baisse des volumes, accélération de...

Téléphonie professionnelle : l’interopérabilité au cœur des nouveaux usages

La modernisation de la téléphonie professionnelle est aujourd’hui un projet stratégique qui doit être...

IA générative : pourquoi la compétitivité des ESN se joue désormais dans l’organisation

Par Sébastien MARCHE, Directeur général d’Experteam Longtemps abordée sous l’angle de l’expérimentation, l’intelligence artificielle est...

Souveraineté, sécurité et performance : les nouveaux enjeux de l’hébergement IT

Par Peggy Demaison chez AlphalinkLe choix d’un hébergement est désormais un enjeu central de...

Datacenters : le maintien en conditions opérationnelles, clé d’une performance durable

Par Fréderic CHIAPPARA chez CleansoftLes professionnels de l'hébergement occupent une place centrale dans les stratégies de...
banniere