À l’occasion de la trentième édition de l’ACM Conference on Computer and Communications Security, qui s’est tenue à Copenhague du 27 au 30 novembre 2023, Thales a présenté un défi inédit dans le monde de l’intelligence artificielle : le hacking physique des systèmes d’IA. Cette révélation, faite durant une journée dédiée à la sécurité de l’IA (AISec), a mis en lumière une vulnérabilité souvent négligée dans les systèmes d’intelligence artificielle : les attaques matérielles.
Les attaques matérielles : Un nouveau terrain de jeu pour les hackers
Contrairement aux attaques logicielles, plus connues et contre lesquelles les entreprises se prémunissent, les attaques matérielles ciblent la composante physique des systèmes d’IA. Ces attaques exploitent les caractéristiques physiques telles que la chaleur, le rayonnement électromagnétique ou la consommation électrique pour accéder aux données sensibles. Joan Mazenc, Directeur du CESTI chez Thales, souligne l’importance de développer des mesures spécifiques pour contrer ce type de menaces, particulièrement dans les matériels de défense intégrant de l’IA, comme les drones et les aéronefs.
Thales annonce l’acquisition d’Imperva pour devenir un leader mondial de la cybersécurité
La méthodologie d’attaque en deux étapes
L’attaque matérielle présentée par Thales se décompose en deux phases distinctes :
- L’attaque par observation : Cette étape implique l’analyse des comportements physiques du système pour découvrir les paramètres secrets de l’IA. Grâce à des mesures de rayonnement électromagnétique, une IA d’attaque peut être entraînée à identifier ces paramètres, révélant ainsi les secrets de l’IA cible.
- L’attaque active : Cette phase utilise les paramètres secrets pour leurrer l’IA cible, en créant des images que l’IA classifiera incorrectement. Cette technique peut également inclure des perturbations physiques, comme des surtensions ou des impulsions électromagnétiques, pour influencer les décisions de l’IA.
Réponse de Thales : sécurité et éthique dans l’IA
Face à ces menaces, Thales propose des évaluations de sécurité au sein du laboratoire CESTI, en collaboration avec l’ANSSI. Le groupe s’engage également dans le développement d’une IA de confiance, basée sur des piliers stratégiques tels que la validité, la sécurité, l’explicabilité et la responsabilité. Fort de plus de 300 experts en IA et 4 500 experts en cybersécurité, Thales concentre ses efforts de R&D dans des domaines clés tels que le quantique, l’Edge computing, la 6G et la cybersécurité.
Thales : Un acteur global de la haute technologie
Thales, coté à Euronext Paris (HO), est un leader mondial dans les hautes technologies, opérant principalement dans les secteurs de la Défense & Sécurité, de l’Aéronautique & Spatial, et de l’Identité & Sécurité numériques. En 2022, Thales a réalisé un chiffre d’affaires de 17,6 milliards d’euros, témoignant de son influence et de son investissement continu dans l’innovation et la recherche.
Un défi pour l’avenir de l’IA
L’initiative de Thales à la conférence AISec représente un pas important vers la sensibilisation aux risques de hacking physique en IA. Alors que la technologie continue d’évoluer, la nécessité de sécuriser ces systèmes contre des menaces inédites devient primordiale, non seulement pour la défense et la sécurité nationale, mais aussi pour la protection de la propriété intellectuelle et des données sensibles.
