EVENT
New Security Magazine 153 – janvier 2020

Intelligence artificielle, une alliée… à surveiller de près

Porteuse d’autant de promesses que d’interrogations, l’intelligence artificielle se répand à tous les domaines d’activité. L’Association Nationale pour la Protection contre l’Incendie et le vol (Anpi) y a consacré une instructive matinée d’études. Au cœur des exposés, l’impact potentiel de la nouvelle et remuante technologie sur son secteur et les questions pratiques, éthiques, juridiques voire techniques à résoudre pour bien l’encadrer.

A très haut potentiel, turbulente et parfois secrète, dévoreuse d’infos, avide d’apprendre, de reproduire et d’aider grâce à son intelligence exponentielle… Mais à garder absolument sous contrôle humain pour éviter tous risques d’actes irresponsables dus à son jeune âge… Cette appréciation pourrait figurer au bas du bulletin de fin d’année d’une enfant. Elle convient parfaitement à l’intelligence artificielle, enfant terrible de la nouvelle (r)évolution numérique en cours, telle qu’esquissée lors d’une session de 5 conférences proposées fin 2019 par l’Anpi à Namur.

Face à un public composé de managers de sécurité en entreprises, de gestionnaires techniques et de bâtiments, de fournisseurs de matériels et de beaucoup d’assureurs, les conférenciers se sont partagés les approches autour de la thématique : « Quelle place pour les systèmes de protection face à l’intelligence artificielle ? » Au terme de la matinée instructive, quelques pistes de réponses se dégageaient pour mieux entrevoir l’avenir de la prévention/protection incendie et vol dont l’IA sera à coup sûr une incontournable alliée.

L’IA, c’est quoi ?

La question s’imposait. En effet, un certain flou règne sur ce que recouvre l’intelligence artificielle et son exact périmètre d’action. Sa définition varie en fonction du domaine envisagé (juridique, normatif, technologique ou éthique). On retiendra celle énoncée par la Commission européenne: « L’IA désigne les systèmes qui font preuve d’un comportement intelligent en analysant leur environnement et en prenant des mesures – avec un certain degré d’autonomie – pour atteindre des objectifs spécifiques ». Précisons que l’IA ne se résume pas à du matériel comme des robots, drones, voitures autonomes ou objets intelligents mais existe aussi sous forme de purs logiciels, acteurs du monde virtuel (analyses d’images, systèmes de reconnaissance…) L’IA se caractérise enfin, comme le dit le spécialiste en robotique Yannick Gillet, « par une capacité d’apprentissage automatique permettant la prédiction d’un acte à poser en fonction de ce qu’elle a appris sur base de millions de données ». Et dans le cas de la protection incendie/vol, de millions d’images.

Le chercheur pointe déjà un premier écueil : « l’IA ne compose des algorithmes et n’agit que sur base des données qu’on lui fournit. Il en découle que son efficacité n’est jamais garantie à 100 %. Il subsiste toujours une part de risque qui peut s’avérer grave (notamment en incendie). Il est clair que derrière les applications IA, il faudra toujours une intelligence et un contrôle humain ». D’autant que l’intelligence artificielle se distingue par une « blackbox », une zone d’activités auto-apprenante au processus opaque où s’opère sa cuisine interne de calcul et mise au point autonome d’algorithmes. Le fait que l’IA puisse cultiver des secrets à l’abri de la surveillance humaine peut engendrer des vices de fonctionnement ou des effets néfastes dans la gestion d’alarme d’incendie. Des surveillants spécialisés devraient pouvoir encadrer la blackbox et valider ses algorithmes.

Quel(s) régime(s) de responsabilité ?

En Droit, des spécialistes explorent déjà comment envisager les questions de responsabilité dans des cas où l’intelligence artificielle serait impliquée. A cet égard, Hervé Jacquemin, avocat et professeur à l’UNamur, pose clairement le débat : « La protection incendie et vol, c’est avant tout du matériel composé de caméras, capteurs, etc, couplé à un système informatique pour traiter un tas de données. S’ajoute aujourd’hui la nouvelle dimension de l’IA et de ses algorithmes. Les différents éléments du dispositif peuvent provenir de différents prestataires. Quid si au final surviennent des fonctionnements défectueux voire des catastrophes ? Qui sera responsable ? Le fournisseur du matériel ? Le concepteur du volet IA ? Son programmateur (alors que le système dispose d’une zone autonome d’action) ? … « C’est sur ce terrain de la détermination des responsabilités que les règles devront évoluer », indique le spécialiste. « Une des options serait de désigner comme responsable un exploitant central du système de protection qui souscrirait des assurances liée à son activité IA pour pouvoir indemniser d’éventuelles victimes. »

Le juriste rajoute un conseil à tous les opérateurs de protection incendie et vol intégrant de l’IA: « Au moment de conclure les contrats avec un client, faites preuve de transparence. Il doit être absolument informé que le système IA qu’il achète, dans l’état actuel de cette technologie, n’a une fiabilité que de 80, 90 ou 95 %. Il doit être conscient de cette part de risques. » Quant au régime de responsabilité adéquat pour l’IA, Hervé Jacquemin estime que celui de la « faute » n’est pas indiqué mais plutôt ceux « de la responsabilité du fait des choses » (un vice causant un dommage) ou « des produits défectueux ». L’IA ouvre un vaste champ d’adaptation et d’interprétation légales.

Tout feu, tout flamme

Loin des réflexions juridiques, des vices et des risques, Florian Vandecasteele a ramené l’auditoire sur le terrain réel de la protection et de l’intervention incendie en pointant la valeur ajoutée et le potentiel d’avenir de l’IA dans bien des situations. A la fois data-scientist chez d-sides et… sapeur-pompier, le consultant sait de quoi il parle. « En intervention, les pompiers ont un besoin rapide d’un maximum d’infos. C’est sur ce volet que le système protection incendie/vol installé (caméras, capteurs, senseurs) peut être capital, encore plus avec une dimension IA optimale. Le système détient des sources énormes de données pouvant faciliter des choix d’évacuation et l’action des pompiers au milieu de la fumée et des flammes. L’IA peut permettre une reconnaissance des lieux, des objets, de la topographie qu’elle a en mémoire et comparer instantanément un lieu en situation normale avec les données en situation d’incendie. Sans oublier que dans l’action, les pompiers eux-mêmes sont souvent équipés de body cam et que l’avenir est aux vêtements intelligents et à l’intégration de la réalité augmentée dans leurs casques. »

Florian Vandecasteele étend sa vision optimiste à l’incorporation de la mine de données BIM (relevé des données des bâtiments en 3D) dans l’équation protection et/ou situation de sinistre. Il y voit aussi un grand avenir aux drones, robots… A une condition : l’IA ne peut être efficace, tant pour la protection que l’intervention, qu’avec des données actualisées et accessibles en permanence.

Benoît Stockbroeckx, directeur des laboratoires Anpi en charge de la vérification de la performance des systèmes de protection, croit aussi à la vertu prédictive des algorithmes IA pour comprendre et modéliser les incendies de forêt afin de mieux les prévenir, les gérer et organiser les évacuations de populations. « Le but est d’opérer un modèle stochastique (non déterministe) qui simule le comportement parfois imprévisible de décision des individus en situation de danger. Collecter un maximum de données permet d’anticiper des scénarios de fuite d’une grande masse de gens et leurs conséquences. Des simulations cartographiques algorithmiques ont déjà permis des réductions importantes d’incendies de forêts. » En matière de détection d’incendie classique, le chercheur croit en la « compensation des risques par des diagnostics affinés de situations d’incendies. Mais on ne parlera vraiment de système de protection IA que s’il jouit d’une fonction d’apprentissage. »

Par Fernand Letist