Rencontre avec... Brian Green

Être humain à l'ère de l'IA : la question anthropologique

Que signifie être humain à l'heure de l'intelligence artificielle ? Comment cette technologie puissante et versatile transforme-t-elle notre façon de vivre, de nous lier aux autres, de nous considérer nous-mêmes et d'exprimer notre humanité ? Le 30 novembre dernier, Jordan Joseph Wales, titulaire de la chaire Kuczmarski de Théologie à l'Hillsdale College du Michigan, s'est entretenu à ce sujet avec Brian Patrick Green, Directeur d'éthique de la technologie au Centre Markkula d'éthique appliquée à l'Université Santa Clara (Californie).

J. J. Wales : Comment l'IA peut-elle affecter notre relation aux autres et au travail ?

B. P. Green : Lorsque nous produisons de la technologie, celle-ci nous change en retour et nous rend beaucoup plus puissants. Mais plus nous allons de l'avant, plus il est important de définir de bonnes manières d'appliquer ces technologies. Dans le futur, nombre de tâches seront automatisées, ce qui nous permettra de passer plus de temps avec notre famille et nos amis. Cela pose toutefois un problème car la structure de notre économie ne permet pas de faire circuler les richesses, s'il n'y a pas de travail. C'est la raison pour laquelle on parle de revenu universel. Mais l'aspect financier n'est pas le seul à entrer en compte : pour de nombreuses personnes, la profession s'avère une composante importante de l’identité. L'IA nous donne néanmoins l'opportunité de devenir de meilleures personnes en nous offrant le temps de faire plus de « travail » humain : prendre soin des enfants, des personnes âgées, des personnes en situation de handicap....

Certains essais des années 1950 voyaient dans les villes du futur un paradis où l'on pourrait se consacrer à l'art, à la philosophie, à la famille. Mais aujourd'hui, les gens sont plus débordés que heureux...

En effet, ça n'a pas du tout évolué en ce sens mais vers plus de divertissement. Nous devrions nous souvenir que la vie, ce n'est pas seulement se divertir. Plus d'interactions avec la technologie peut induire des interactions avec d'autres gens. Mais il y a quelque chose de fondamentalement différent entre interagir sur les réseaux sociaux et en face-à-face. En face-à-face, des neurones miroirs nous permettent d’avoir de l’empathie, ce qui nous renvoie à la question de la nature humaine. Nous sommes des créatures d'amour. Nous avons besoin d'exprimer et d'expérimenter nous-mêmes cet amour. Et nous devons nous assurer que la technologie facilite un développement vertueux de cette nature humaine. Or, dans leur approche de la technologie, de nombreux business model se basent plutôt sur davantage de vice en jouant sur notre dopamine et nos neurotransmetteurs.

Lorsqu'on parle d'automatisation, on pense souvent à la sphère du travail. Mais sous l'angle anthropologique, que signifie être humain à l'heure de l'IA ?

Pendant la majeure partie de l'histoire de l'humanité, on travaillait pour survivre. Et on est toujours dans ce cas de figure pour l'immense majorité des gens dans le monde. Si on enlève les raisons fondamentales de travailler, que reste-t-il ? Il s'agit de prospérer pour devenir un bon être humain. Nous avons la capacité d'appliquer des aptitudes mentales et physiques pour changer le monde. Quand on construit une maison, on transforme notre environnement. Et on utilise des techniques, lorsque l'on crée des produits technologiques qui changent elles-mêmes fondamentalement le monde, pour le meilleur et pour le pire. Notre système énergétique modifie la composition de notre atmosphère. Était-ce une erreur de dépenser des efforts en ce sens ? Autrefois, 99 % de la population produisait de la nourriture. Aujourd'hui, c'est moins de 2 % aux États-Unis, et cette baisse va continuer. L'automatisation va créer du chômage mais aussi une très forte de demande pour certaines capacités technologiques. Les personnes ayant la maîtrise de la technologie auront donc le contrôle de la nourriture, de l'énergie, de tout, alors que les autres seront exclues de l'économie, ce qui sera une source d'inégalités.

On dit souvent que grâce aux réseaux sociaux, nous avons la possibilité de former plus de relations non contraintes par la distance. Existe-t-il un risque de perdre quelque chose ?

Les humains ont évolué dans un environnement où ils étaient habitués à interagir avec un petit nombre d'individus, estimé à environ 150 personnes, selon plusieurs études. Mais d'autres recherches menées aux États-Unis, au cours des dernières décennies, ont posé la question du nombre de relations fortes. Il y a 60 ans, les gens répondaient avoir cinq amitiés fortes, Maintenant, ce chiffre est tombé à deux, une, voire zéro. Alors que le nombre de fortes amitiés a diminué, l'accès à de nombreuses relations faibles n'a cessé d'augmenter. Nous pouvons échanger plus facilement avec des gens sur différents continents. Cette ouverture est un don. Mais elle ne peut pas se faire aux dépend de ceux qui sont près de nous car cela endommagerait notre nature humaine.

L'IA peut, elle aussi, être considérée comme un interlocuteur. Comment caractériseriez-vous ces relations avec les technologies aujourd'hui ?

L'IA vous nourrit en permanence en recommandant des médias qu'elle pense pertinents pour vous, ce qui vous rend addict à la technologie. Dans le futur, on pourrait imaginer un entraîneur ou une école virtuelle qui nous pousserait vers une meilleure actualisation de nos capacités. En revanche, si cela est orienté vers nos pires défauts, cela créerait de la paresse et une perte de repères. Lorsque nous interagissons avec des systèmes intelligents, nous avons besoin qu'ils nous entraînent vers le meilleur, non pas vers le pire.

Si l'IA était utilisée pour combler tous nos besoins, pourrions-nous perdre une part de notre humanité ?

La vie, ce n'est pas que le confort. Nous sommes là pour faire du monde un meilleur endroit. Les situations de profond désespoir que nous traversons aux États Unis -suicides et addictions aux drogues notamment- ont comme source une très mauvaise expérience de la vie. Quelque chose est allé de travers dans nos sociétés. Si un humain poursuit le plaisir directement, celui-ci finit toujours par lui échapper, disait Saint-Augustin. On doit atteindre le bonheur en poursuivant quelque chose de plus grand, à travers l'amour et l'attention aux autres.

Reste-t-il préférable d'avoir un vrai enfant qui se plaint d'un mal de ventre qu'un enfant artificiel qui n'a jamais mal au ventre ?

Cette question volontairement très contrastée pose la question de la vraie nature de l'IA. Il y a une tendance à anthropomorphiser l'IA car nous voulons qu'elle soit à notre image. Toutefois, il y a des problèmes à penser que l'IA ait un objectif en soi. Chaque être humain mène sa propre existence, basée sur sa biologie, sa psychologie, son esprit... Avoir un enfant est donc une chose merveilleuse, car il va grandir et devenir un être humain à part entière. L'IA peut juste simuler cela. Dans la communauté de l'intelligence artificielle, on parle de conscience ou d'évolution artificielle, ce qui pourrait arriver un jour. Mais je pense qu'il s'agit d'un immense palier à franchir. Car il y a de bonnes raisons de penser que la technologie est un miroir de nous-mêmes, plutôt qu'une entité avec une existence fondamentale.

Si la technologie IA est orientée vers la maximisation du profit, comment inclure des considérations humaines ?

Voulons-nous vivre dans un monde où la compassion est ignorée ? Je pense que la réponse est clairement non. Beaucoup de gens ont pris conscience qu'on s'éloigne de l'utopie et qu'on se rapproche d'une dystopie. C'est une première étape. Pour le Forum économique mondial, j'ai écrit quelques articles où je parle des actions de Microsoft et IBM en termes d'éthique. Ils produisent plus d'outils pour s'assurer que l'IA soit utilisée d'une bonne manière. Je pense que chaque entreprise devrait avoir des comités éthiques et sociétaux, pour ne pas penser à ces questions seulement en réaction à un désastre éthique. Il faut réfléchir plus profondément à la façon dont la technologie nous transforme, et cela dès le début de son développement.

Au-delà de l'efficacité, peut-on utiliser l'IA pour augmenter la résilience et la dimension humaine ?

Si nous avons un système centralisé, un dommage peut aisément se répandre partout. C'est le cas, depuis un an, avec les problèmes de chaînes d'approvisionnement au niveau mondial. Mais on peut aussi parler de résilience en termes de relations humaines. On n'a pas besoin de licencier des gens dès lors qu'on lance une transition vers l'automatisation. On peut conserver des employés, pour qu'ils puissent vérifier que l'automatisation fonctionne correctement et s'assurer que la technologie est utilisée pour le bien commun.

L'IA nous ouvre sur le monde et restreint, en même temps, notre manière de le voir. Comment pouvons-nous garder une vision large tout en utilisant la technologie ?

Il y a une forte tendance à utiliser l'IA pour faire de nous des observateurs passifs de la société. Mais elle peut aussi nous responsabiliser. Je pense notamment aux applications qui nous aident à gérer notre temps, à choisir ce que l'on mange ou notre activité sportive. Je pense que la prochaine étape sera de nous aider à prendre des décisions morales. Avec le risque, bien sûr, qu'on devienne dépendants à ces technologies... L'éducation vise à former des individus autonomes, capables de penser par eux-mêmes et d'agir dans différentes situations. L'IA a beaucoup de problèmes avec ces aspects de diversité et de contexte. Il s'avère très compliqué de poser des questions éthiques très larges dans une situation très concrète. Peut-être que l'IA peut aider dans le domaine de l'éducation. Mais concernant les décisionnaires, il ne faut pas toujours l'écouter. Beaucoup de discussions on lieu sur l'utilisation de l'IA par des experts. Si en tant que chirurgien, l'IA vous demande de couper à tel endroit et pas à un autre, il y a une réelle incitation à suivre son conseil. Toutefois, dans des situations morales, celle d'un juge par exemple, nous sommes faits pour prendre les décisions. C'est inscrit dans notre ADN.

Articles associés