Intelligence artificielle : démiurge ou démon ?

Depuis l’aube de l’humanité, de grandes inventions ont accompagné l’homme en transformant en profondeur son rapport à la planète. Ces progrès ont revêtu des formes très diverses. Qu’il s’agisse du feu, du fer, de la roue, de la vapeur, de l’électricité ou de l’internet. Aujourd’hui, nous assistons à l’émergence d’une nouvelle technologie, qui à son tour devrait bouleverser durablement notre quotidien. Il s’agit de l’Intelligence Artificielle ou l’IA. Ses implications pour notre monde sont massives. Nous assistons à un vertigineux saut quantique, qui donnera naissance à un nouveau paradigme.

Dès lors, l’on doit s’interroger sur l’impact que l’IA aura sur le fonctionnement de nos sociétés. Faut-il la qualifier de démiurge ou tout au contraire de démon ? La réalité, comme bien souvent, est plus complexe, en fonction de l’usage que nous en ferons. Au travers d’exemples tirés du secteur de l’assurance, l’on pourra constater que si des bénéfices réels sont à attendre de l’IA, cette dernière pourrait aussi s’avérer très contraire à l’intérêt général.

L’émergence de l’IA

La victoire en 2016 du logiciel AlphaGo de Google au jeu de go contre le champion du monde peut être retenue comme l’affirmation de la suprématie de l’IA. Pour d’autres, l’acte de naissance remonte à 1997. Année qui voit la défaite aux échecs du champion du monde, Garry Kasparov, vaincu par DeepBlue d’IBM.

Dans les deux cas, l’IA a vraiment été de la partie ! Sa victoire résulte d’un apprentissage et non d’une simple programmation de tous les coups possibles à chaque déplacement d’un pion. Le logiciel a joué des millions de parties contre lui-même pour progresser, apprendre de ses erreurs. Le jeu de go est plus complexe que les échecs. Il faut de l’intuition pour choisir entre souvent deux cents options possibles à chaque tour. L’IA a donc permis à l’ordinateur de s’affranchir d’une approche purement algorithmique. Les choix résultent d’une décision autonome, non inscrite, car non programmée par l’homme au sein de la mémoire virtuelle de la machine.

Les conditions sont réunies

Pour s’imposer, l’IA doit disposer d’un moteur. Ce sont les ordinateurs capables d’effectuer plusieurs milliards de calculs par seconde. Les plus puissants microprocesseurs permettent à la machine de traiter deux cents millions de cent milliards (deux cents pétaflops) d’instructions à la seconde. Il lui faut également un carburant. Il s’agit des données massives (ou big data). Pour cela, il faut de grandes capacités de stockage, à bas coût. Et le pilote ? L’on hésite à l’évoquer, tant l’un des domaines très prometteurs de l’IA est la conduite autonome. Il s’agit des logiciels qui font tourner la machine.

Un conducteur avec de la pratique améliore la qualité de son pilotage. Il en est de même avec le deep-learning. Qualité propre à l’IA qui est en mesure de progresser de manière autonome. En cela, l’IA est en mesure de s’affranchir des programmeurs, d’apprendre de ses erreurs, de gagner en expérience. Ce sont les bases de cet apprentissage profond. Toutes ces conditions se trouvent réunies. Rien ne semble pouvoir arrêter la fulgurante progression de l’IA.

Démon ou démiurge

L’apport de l’IA n’est-il que bénéfique ?  Au-delà des nombreux atouts de l’IA, il convient de mentionner nombre d’effets potentiellement pervers, négatifs ou destructifs de valeur. A l’instar de l’internet parallèle, le darknet, objet des trafics et des transactions les plus viles, il existe une face cachée de l’IA. Elle peut facilement devenir un Big Brother par trop intrusif. Certaines fictions nous projettent dans un monde ou nos moindres faits et gestes seraient observés, analysés, anticipés.

Dès que l’IA a repéré ou soupçonné un comportement déviant (par rapport aux normes édictées par la classe dirigeante), l’individu se voit retirer ses droits, sa liberté de mouvement, ses possibilités d’interactions sociales.  Une pure dystopie ! Nullement ; cela est déjà, en partie, le cas en République Populaire de Chine. Le droit de voyager à l’intérieur du pays ou à l’étranger dépend du crédit social attaché à chaque personne. Un délit social peut ainsi priver son auteur de la faculté d’acheter un billet d’avion ou de train.

Nous reviendrons, en l’illustrant, sur le point de l’atteinte à la vie privée par l’IA. Un autre aspect négatif porte sur le risque de destruction massive d’emplois, même parmi les fonctions les plus qualifiées. Ceci contrairement à la robotisation dont l’impact est plus sur les tâches les plus simples ou répétitives. L’IA pourra remplacer l’homme dans des domaines qui demandent de l’intuition, de l’analyse, de la réflexion.

Une contribution majeure à la médecine

L’IA peut en effet efficacement remplacer le cerveau humain, même et surtout, dans les cas les plus complexes. Ainsi elle est en mesure d’interpréter des examens radiologiques, et ce infiniment mieux que l’œil le plus exercé du meilleur des spécialistes. En disposant de la connaissance fine d’un très vaste nombre de clichés et des évolutions dans le temps des lésions précoces et invisibles pour l’œil humain, l’IA permet de traiter une maladie à un stade très intitial. Avant même que la maladie n’ait pu se développer et causer des dommages irrémédiables.

En restant dans le domaine de la médecine, la cancérologie dispose d’un corpus trop vaste pour le cerveau humain. L’IA permet de choisir le bon traitement à partir de résultats portant sur un très grand nombre de malades et des données propres au patient. Elle est en mesure de préconiser le traitement le plus efficient.

Nos médecins, avocats, architectes, doivent-ils se sentir menacés ? Pas nécessairement, l’IA peut se concevoir comme un outil permettant d’aller plus loin dans la compréhension, l’analyse, la modélisation. Pour d’autres, le futur devra s’écrire différemment. Par nature, le progrès pousse au changement. Le cocher d’hier a été remplacé par le chauffeur, qui à son tour sera menacé par l’IA (voiture autonome). Nos routes seront, elles, plus sures.

Remise en cause de la mutualisation du risque en assurance

Tous les domaines de l’activité humaine seront touchés par la puissance de l’IA. Prenons à titre d’exemple l’assurance. L’IA permet une évaluation très fine du risque. Il devient ainsi possible d’assurer le risque au juste prix.

Cependant, la mutualisation est au cœur de l’assurance. Les bons risques subventionnent les mauvais. Dès lors, tarifer avec une très fine granularité, permet effectivement de proposer le prix le plus adapté. Cela va cependant à l’encontre du principe de la mutualisation. Cela pourrait se traduire pour les assurés les plus exposés par des tarifs prohibitifs ou même conduire à une exclusion pure et simple.

Une connaissance fine de chaque assuré

Il convient de distinguer le traitement conventionnel “sans intelligence », purement séquentiel, de données massives (big data), du traitement intelligent et en profondeur d’informations de toute nature. Dans ce cas, l’on parlera de “deep data” et aussi de « machine learning ». Les données sont interprétées par l’intelligence de la machine, dont la finesse d’analyse progresse avec l’expérience (machine learning).

L’assurance a su tirer parti des évolutions technologiques. La banale police automobile s’est d’abord transformée en une police liée à l’usage. Le tarif s’adapte aux kilomètres effectivement parcourus. La géolocalisation permet de déclencher le compteur uniquement lorsque l’assuré est au volant. En ajoutant des capteurs (ceux d’un smartphone par exemple), il devient possible d’évaluer le comportement du conducteur. En fonction de la qualité de sa conduite et du respect du Code de la route, le tarif s’ajustera pour aligner la prime au niveau du risque. Il est possible d’aller plus loin dans l’assurance comportementale. Avec les nouvelles mobilités, l’assurance suit l’assuré et ses utilisations. Elle n’est plus rattachée à un véhicule spécifique. Ainsi en passant d’une voiture à un scooter, à un vélo électrique, à une trottinette, à un véhicule en copartage ou covoiturage, l’assurance s’adapte, le tarif s’ajuste.

Atteinte à la vie privée

Une analyse fine, systématique et pertinente des données constitue un outil très efficace pour la détection de la fraude et des fausses déclarations. Dès lors, un assuré indélicat qui se déclarerait en arrêt maladie tout en postant des photos de vacances sera vite détecté. Il sera possible d’obtenir un profil comportemental pour chaque demande en croisant toutes les traces numériques laissées au gré des interactions numériques de tous ordres. Il pourra ainsi être proposé un tarif sur mesure. Difficile de ne pas s’inquiéter devant la somme d’informations dont dispose la compagnie sur chacun de ses clients.

Bien connaitre ses assurés permet d’éliminer les mauvais risques ou du moins d’ajuster la prime en conséquence. Une telle sélection n’est pas exempte de biais et certains critères de sélection pourraient s’avérer moralement condamnables (antécédents médicaux, style de vie, fréquentation de groupes à risque…).

Un risque de dérive

Où mettre le curseur ? Car une telle accumulation de données peut rapidement, ainsi que brièvement évoqué, se traduire par une atteinte à la vie privée. Le risque est grand de voir des informations sensibles détournées de leur usage initial (tarifer au juste prix). Si d’aventure un dossier médical, l’état d’un patrimoine, des données familiales ou intimes tombaient en de mauvaises mains, des conséquences dramatiques pourraient s’en suivre.

Il n’est pas même besoin de détourner des données sensibles pour porter un grave préjudice à une personne ou une entreprise. L’IA permet d’aller très loin en matière de « deep fake ». Elle permet de faire d’habiles montages en altérant les images, la voix, les situations pour créer un faux plus vrai que nature, capable même de tromper les analystes les plus sérieux.

Certains s’agaceront, ou bien même s’inquiéteront de voir l’IA envahir peu à peu tous les pans de leur vie. Que penser du moteur d’IA Amazon, qui à partir d’un historique de navigation et des habitudes d’achat, recommande l’article à considérer pour une prochaine commande ? S’agit-il d’un service pertinent ou d’une violation de la sphère privée ?

Nouveaux territoires pour l’Assurance

L’extension phénoménale des risques liés à la cybersécurité ouvre d’immenses opportunités de couverture pour les assureurs. Les enjeux sont colossaux. Chercher à se prémunir contre le vol de données, le ransomware, protéger une e-réputation, réduire le risque de prise de contrôle à distance des systèmes d’information demandent des investissements de précaution énormes. Il est aujourd’hui impossible de ne pas chercher à tout mettre en œuvre (protection des outils, bases et systèmes) pour éviter, autant que possible, les intrusions malintentionnées. Il convient aussi de se protéger contre les risques financiers (pertes d’exploitation, recours des clients) et réputationnels liés à la cybercriminalité par des polices d’assurance adaptées.

Pour le moment, ce que les assureurs appellent « la capacité » fait gravement défaut. Il n’y a pas suffisamment d’appétit de la part des réassureurs (les assureurs des assureurs) pour couvrir ce type de risque. Les conséquences financières sont potentiellement si massives, que la profession ne sait pas réellement comment tarifer de tels risques. En d’autres mots, les particuliers et plus encore les entreprises et l’ensemble des services publics sont exposés à des risques majeurs de fraudes, de paralysie totale. Les pertes financières qui peuvent résulter d’une attaque informatique d’envergure peuvent conduire les entreprises qui en sont les victimes tout droit à la faillite.

La tour de Babel

Difficile d’imaginer ce que sera la puissance de l’IA demain lorsqu’elle sera alliée à l’ordinateur quantique. La puissance de nos ordinateurs les plus performants sera multipliée par dix, cent ou mille. Il sera ainsi possible de tester toutes les combinaisons d’une molécule pour vaincre un virus. Les chercheurs disposeront enfin de l’outil à même de guérir les maladies de Parkinson, d’Alzheimer et les différents cancers.

Le quantum computing sera la capacité pour la machine de mener à bien des milliards de milliards d’instructions simultanément. La traduction de toutes les langues se fera en temps réel, sans latence perceptible. La punition divine pour avoir eu l’audace de le défier en érigeant la tour de Babel sera contournée. Les hommes s’affranchiront de la contrainte de la multiplicité des langues pour communiquer entre eux dans un langage naturel redevenu universel. Mais il y a tout à craindre d’une puissance militaire mal intentionnée qui aurait la suprématie quantique. Aucun code, aucune infrastructure, aucune armée ne serait à même de résister à un tel agresseur.

 

Au stade ultime, la machine pourra totalement remplacer l’homme. Le transhumanisme peut être considéré comme l’évolution vers une civilisation dystopique. L’homme n’a plus besoin de son enveloppe charnelle. Son esprit est transféré à la machine. S’il est devenu immortel, il est aussi devenu immatériel. Si la machine pense et agit de manière autonome, l’esprit, l’âme de l’homme sont-ils présents dans la machine ? La machine n’a plus besoin de l’homme pour exister. Dans les œuvres les plus noires de science-fiction, l’IA éclipse l’homme afin de dominer le monde sans partage. Comme souvent la réalité rejoint la fiction, l’IA sonne-t-elle le glas de notre civilisation ? Du moins telle que nous la connaissons depuis la nuit des temps.

 

Marc SEVESTRE