A mesure que les questions de sécurité intérieure se posent avec de plus en plus d’acuité et que les technologies pour résoudre en partie ces dernières s’affinent avec l’aide des développements dans le domaine de l’intelligence artificielle, cette montée en puissance n’est pas sans soulever des enjeux cruciaux en matière de droits fondamentaux, de gouvernance et d’équité. Nombre d’Etats – en particulier en Europe, focus de cet article – s’efforcent de prendre en compte ces défis en misant sur une IA hybride maintenant le juste niveau de supervision humaine et une IA explicative assurant la transparence et fiabilité des process.
Vers des frontières « intelligentes » …
D’ici quelques mois, l’Union européenne devrait mettre en service deux systèmes intégrés dits « Smart Borders » :
- l’EES pour « Entry/Exit System » enregistrera toutes les entrées/sorties des ressortissants de pays tiers dans l’espace Schengen à l’aide des empreintes digitales, de la reconnaissance faciale et d’identifiants biométriques enregistrés automatiquement, l’IA intégrée optimisant les alertes en cas de situation anormale (dépassement de durée de séjour ; mouvements inhabituels ; etc).
- L’ETIAS pour « European Travel Information and Authorization System » est un système d’autorisation électronique d’entrée dans la zone Schengen de l’Union européenne pour les voyageurs exemptés de visa : l’IA favorise une interopérabilité entre pays membres en croisant les bases de données disponibles (Europol, Interpol, Schengen Information System), mais aussi permet une analyse prédictive du risque.
De fait, d’après un rapport publié en janvier dernier (1), l’Europe représentait en 2024 la plus grande part du marché mondial du contrôle automatisé des frontières (dit ABC pour « Automated Border Control ») avec 30 % d’un marché en pleine expansion estimé à près de 2 milliards d’Euros (2,25 mds $) et susceptible de tripler d’ici dix ans.
Les principales utilisations de l’IA visant à renforcer la sécurité, à automatiser les procédures et à améliorer la gestion des flux migratoires incluent ainsi :
- l’identification biométrique évoquée plus haut ;
- des systèmes automatisés d’analyse des documents permettent une vérification instantanée des documents et la détection des incohérences ;
- l’évaluation algorithmique des risques, c’est-à-dire l’analyse des données pour identifier des comportements suspects et/ou des risques potentiels ;
- la surveillance automatisée intégrant l’utilisation de drones autonomes, de capteurs de plus en plus intelligents (acoustiques, thermiques, vibratoires) et de caméras pour surveiller les zones frontalières : atout confirmé pour la surveillance des zones difficiles d’accès (mers, forêts), l’IA embarquée permet de fait aux drones de repérer des mouvements, de classifier des objets (humains, animaux, véhicules) et de transmettre des alertes en temps réel ;
- la prédiction des flux migratoires avec l’élaboration de modèles issus de la fusion de données (drones, satellites, capteurs sol, caméras et réseaux sociaux), l’IA multimodale étant par ailleurs capable de combiner vidéo, texte, et signaux thermiques dans une même interface analytique ;
- certains pays développent également des robots autonomes de patrouille devenus au fil des années de plus en plus perfectionnés, certains experts estimant que ces robots vigiles sont en passe de révolutionner non seulement le contrôle des frontières, mais aussi la gestion de la sécurité des infrastructures sensibles et stratégiques (2).
Si cette automatisation facilite les procédures, le bilan de certains projets pilotes suscitent néanmoins certaines critiques et mises en garde quant aux risques d’erreurs ou de biais algorithmiques, voire de violation des droits de l’homme.
Un rapport sur l’utilisation des technologies de surveillance et d’intelligence artificielle en Espagne (à Ceuta, Melilla et dans les îles Canaries), intitulé « Les technologies numériques au service du contrôle des migrations aux frontières méridionales de l’Espagne » (3), souligne ainsi parmi les limites observées une gestion des données pouvant conduire à des enregistrements biométriques incorrects et une utilisation visant surtout à accélérer les retours. Mieux former les agents, harmoniser les pratiques, et inclure des garde-fous juridiques et éthiques font partie des recommandations du rapport.
De la même façon, l’utilisation de l’IA émotionnelle dans le cadre du projet iBorderCtrl, lequel fut testé en Hongrie, Grèce et Lettonie entre 2016 et 2019 fut sujet à controverse. Celle-ci cherchait à identifier les profils à risques en détectant les comportements suspects ou mensongers au travers de l’analyse des micro-expressions faciales, du langage corporel et des réponses au stress. Cette expérimentation a été critiquée pour son manque de fiabilité et dénoncée par les ONG soucieuses des préjugés culturels.
Le problème de transparence souligné lors de ce cas d’étude emblématique des tensions entre innovations technologiques et politiques migratoires revient régulièrement dans l’évaluation de l’utilisation de l’IA dans le domaine de la sécurité, les méthodes algorithmiques utilisées étant partiellement opaques et alimentant les critiques sur le manque d’explicabilité. D’où le développement de ce que l’on appelle l’IA explicative ou « XAI » – ou plutôt son perfectionnement, puisque l’origine de l’IA explicative ou interprétable remonte aux travaux de la DARPA américaine en 2016 -.
(A suivre >>>voir partie II)
(Par Murielle Delaporte)
Notes & références
(1) Voir : https://www.fundamentalbusinessinsights.com/fr/industry-report/automated-border-control-market-8217
(2) Voir par exemple sur ce sujet >>> https://www.runningbrainsrobotics.com/fr/6-tendances-securite-et-robotique-2025/
(3) Voir : https://euromedrights.org/fr/publication/nouveau-rapport-une-analyse-des-technologies-de-surveillance-numerique-pour-le-controle-des-migrations-aux-frontieres-sud-de-lespagne/
Photo © European Parliamentary Research Service, Securing EU borders with artificial intelligence, Youtube video, 01/04/2022