.png)
L’intelligence artificielle (IA) bouscule l'évaluation du risque. Ces innovations ont transformé des secteurs économiques tels que l'assurance, qui repose sur cette analyse du risque. Qu’en est-il du système de protection sociale ?
Alors que la Chine a mis en place le “crédit social” - c’est-à-dire, un système national de réputation, qui repose sur des récompenses et des pénalités en fonction du respect des règles édictées - et que les États-Unis utilisent depuis longtemps le “credit scoring”, - soit des outils pour évaluer automatiquement la solvabilité d'un tiers - : quelle est la voie pour l’Union Européenne (UE) ?
Pour éclairer ces questions, Jean-Marc Vittori, éditorialiste aux Echos et membre du Conseil national du numérique (CNNum) et Bruno Deffains, Professeur d'économie à l’Université Panthéon Assas et membre de la Commission nationale consultative des droits de l'homme (CNCDH) nous livrent leurs réflexions.
Le point d’entrée pour aborder cette problématique est la notion philosophique du contrat social. La définition du Contrat social de Jean-Jacques Rousseau, puis la Théorie de la Justice de John Rawls en 1971 posent les fondements de la démocratie sociale libérale, qui reposent sur les principes d’égale liberté, de différence et d’égalité des chances. Ces principes fondent le contrat social dans un cadre précis, celui du voile de l’ignorance. C’est-à-dire que les individus sont supposés faire abstraction de leurs intérêts particuliers pour concevoir des règles d'organisation sociale.
Avec l’émergence de nouveaux outils technologiques, une tension risque d’apparaître entre la logique portée par le voile de l’ignorance et le traitement massif des données qui porte en lui une logique de transparence renforcée.
"Transparence vs ignorance, tel est le dilemme qui se pose de plus en plus".
Le big data est susceptible de favoriser une logique de sélection des risques. Cette question a notamment été soulevée dans un rapport intitulé "Intelligence Artificielle, Assurances & Solidarité" publié en janvier 2020 par la Fondation.
Faut-il prendre en compte les risques de santé ? Si oui, lesquels ? Cette question n’est pas évidente, d’autant plus que la tension sur le comportement est forte. Si je bois et que je fais peu de sport, je vais imposer plus de risques à la société au nom de mes choix personnels. Peut-on m’obliger à faire du sport ? Comment le faire ? Aujourd’hui, il existe des réponses juridiques. Par exemple, en 2011, au nom de la lutte contre les discriminations, la Cour de justice européenne a interdit aux assureurs de proposer des primes moins élevées aux conductrices qu’aux conducteurs, même si elles ont moins d'accidents. Pour aborder ces questions, les réponses juridiques ne suffisent pas ; il faut aussi des réponses économiques et politiques. Il faut politiser le numérique.
De plus, le numérique réintroduit d’une certaine manière la loi du plus fort. Pour l’illustrer, les grandes entreprises du numérique valent aujourd’hui cinq à dix fois plus chères en bourse que les autres. Dans ce contexte, le véritable sujet est : est-ce que l’Etat Providence tel que défini au XXème siècle a encore un rôle à jouer ?
Différents modèles coexistent. Aux Etats-Unis, la donnée est facilement accaparée par les très grandes entreprises. A contrario, en Chine, l’Etat surplombe ces entreprises. L’année dernière, la Chine a voté un dispositif qui limite l’usage des données par les acteurs privés. En revanche, aucune limite n’est imposée aux acteurs publics. Les données nourrissent les expérimentations de contrôle social, qui sont très puissantes dans un système politique totalitaire.
Dans ce contexte, l’UE a affirmé un droit sur la propriété individuelle des données avec le Règlement Général sur la Protection des Données (RGPD) et les derniers textes (Digital Services Act (DSA) et Digital Markets Act (DMA). Toutefois, la question de la donnée au service de l’intérêt général n’est pas suffisamment posée. C’est sur cette deuxième étape que l’Union européenne doit se renforcer.
Dans le domaine de la santé, une dimension du contrat social est l’utilisation des données au service de l’intérêt général. Pourquoi garder mes données alors qu’elles pourraient contribuer à faire progresser la santé publique ? Dans un domaine où de nombreux soins sont gratuits, pourquoi ne pas partager mes données anonymisées au service de l’intérêt général ? La donnée oblige à réorganiser la manière de collaborer les uns avec les autres (Voir rapport de la Human Technology Foundation sur le Data Altruisme, publié en Février 2022).
Si le big data est un atout décisif pour favoriser et anticiper les changements socio-économiques, cela renforce également les risques de manipulation douce pour guider les comportements (aussi appelé nudge). La frontière entre les bénéfices pour l’intérêt général et la sélection des risques est fragile. Seuls des mécanismes institutionnels appropriés, adossés à des mécanismes économiques tels que les incitations économiques peuvent répondre à cet enjeu.
La problématique de confiance est au cœur de l’utilisation massive des données. Elle peut être érodée ou renforcée. Tout dépend des arrangements institutionnels. Le numérique évolue à une vitesse impressionnante et l'IA est une étape majeure. Ce qu’il en adviendra sera ce que nous en ferons, rien n’est décidé par l’outil. L’outil présente certaines contraintes et des potentialités mais il n’est pas neutre. C’est très important d’en discuter et d’en débattre. La portée peut être colossale, il faut explorer ensemble les choix à faire.
"Il faut politiser le numérique".
De plus, le numérique et les données transforment le système de répartition des compétences et des savoirs. À l’époque du contrat social rêvé par Rousseau, l’information circulait très différemment d’aujourd’hui. Si on veut se donner une chance de pouvoir renouer un contrat social, il faut que chacun puisse manier les idées et les concepts qu’il y a derrière et ça suppose beaucoup d’efforts en termes d’éducation et de formation. Il y a quelque chose qui relève de la défensive de la part du système politique face à un changement profond qui remet en cause sa façon de fonctionner depuis des siècles.
Retranscription complète de l'interview ici
