L’intelligence artificielle, on en parle partout. Dans nos téléphones, nos voitures, nos recherches sur Internet. Mais ce que l’on oublie souvent, c’est qu’elle repose sur des centres de données gigantesques. En Allemagne, ces infrastructures consommaient 16 milliards de kWh en 2020, soit environ 1 % de la consommation nationale d’électricité. En 2025, cette consommation pourrait grimper à 22 milliards de kWh.
Pourquoi une telle explosion des besoins ? Parce que les modèles d’intelligence artificielle modernes sont toujours plus complexes et demandent des puissances de calcul toujours plus élevées.
Une nouvelle approche pour entraîner les réseaux neuronaux
L’entraînement des réseaux neuronaux, c’est un peu comme répéter une épreuve de sport des milliers de fois en ajustant l’entraînement à chaque essai. Ce processus, appelé backpropagation, est très efficace, mais aussi extrêmement gourmand en énergie. Plus le modèle est complexe, plus il faut d’itérations pour obtenir un résultat satisfaisant.
Des chercheurs menés par Felix Dietrich, spécialiste de la physique appliquée à l’apprentissage automatique, viennent de proposer une alternative surprenante. Leur approche permettrait un entraînement 100 fois plus rapide tout en maintenant une précision comparable aux méthodes traditionnelles.
L’intelligence artificielle détecte 14 fois mieux les arythmies sévères que les humains
Moins d’itérations, plus d’efficacité
Habituellement, un réseau neuronal ajuste ses paramètres à chaque itération. Cette phase de test-erreur demande des milliards de calculs. L’idée de l’équipe de Dietrich est de modifier cette approche : au lieu de déterminer progressivement les poids des connexions, ils utilisent un modèle probabiliste.
Plutôt que de calculer toutes les valeurs une à une, leur méthode se concentre sur les zones où les changements sont les plus rapides et les plus importants dans les données d’entraînement.
Résultat ? Beaucoup moins de calculs à effectuer.
Une méthode inspirée des systèmes dynamiques
Ce que Dietrich et son équipe ont mis au point s’inspire des systèmes dynamiques, un domaine qui sert à modéliser l’évolution de phénomènes dans le temps : climats, marchés financiers, écosystèmes…
L’idée est simple : dans ces systèmes, tout ne change pas uniformément. Il y a des points clés, des transitions brusques, des endroits où il est stratégique d’observer pour comprendre l’ensemble du phénomène. Appliqué à l’IA, cela signifie que les réseaux neuronaux peuvent apprendre en se concentrant uniquement sur les informations essentielles.
Un entraînement plus rapide, une consommation réduite
L’avantage de cette méthode, c’est qu’elle permet une réduction drastique du nombre de calculs. Avec 100 fois moins d’itérations, le temps de calcul diminue proportionnellement, et avec lui la consommation d’énergie.
“Notre méthode permet de déterminer les paramètres nécessaires avec un minimum de puissance de calcul. L’entraînement devient plus rapide et plus sobre en énergie”, explique Felix Dietrich.
En clair : des réseaux neuronaux aussi performants, mais beaucoup moins gourmands en électricité.
Bientôt une IA plus verte ?
Cette avancée pourrait avoir un impact majeur sur l’empreinte écologique de l’IA. Les centres de données pourraient réduire leur consommation d’énergie tout en continuant à développer des modèles toujours plus performants.
Si cette méthode se généralise, l’intelligence artificielle pourrait enfin sortir de son statut de monstre énergivore pour devenir un outil plus durable et efficace.
En résumé
- L’entraînement des IA consomme une quantité énorme d’énergie, notamment dans les centres de données.
- La nouvelle méthode d’entraînement est 100 fois plus rapide, ce qui réduit fortement la consommation.
- Elle repose sur une approche probabiliste, ciblant uniquement les changements critiques dans les données.
- Cette approche s’inspire des systèmes dynamiques, utilisés en climatologie et en finance.
- Le nombre d’itérations est massivement réduit, limitant ainsi la demande en calcul.
- Les performances des IA restent comparables aux modèles classiques, mais avec un impact énergétique bien moindre.
- Si elle est adoptée à grande échelle, cette méthode pourrait révolutionner l’industrie de l’IA en la rendant bien plus sobre.
Source de l’article : https://www.tum.de/en/news-and-events/all-news/press-releases/details/new-method-significantly-reduces-ai-energy-consumption
