La diversité englobe de nombreuses dimensions, et sa compréhension exacte peut être controversée. Néanmoins, les définitions existantes de la diversité partagent un point commun essentiel en mettant l'accent sur les distinctions au sein d'un groupe et en fonction du contexte. En outre, la diversité est également synonyme de sensibilisation aux différences individuelles et de reconnaissance de ces dernières en tant que qualités qui améliorent la société.
Selon l'American Psychological Association (APA), qui s'appuie sur les travaux de psychologie, y compris, mais sans s'y limiter, la recherche sur l'âge, le genre et la culture, la diversité englobe un large éventail de facteurs, dont l'âge, le sexe biologique, l'identité de genre, la sexualité, la race, l'ethnie, la nationalité, la religion, l'éducation, les moyens de subsistance, les capacités et l'état matrimonial, entre autres. Ces caractéristiques sont donc démographiques, mais elles peuvent aussi être professionnelles dans le contexte du travail, comme la diversité de la formation et de l'expérience. En d'autres termes, une "équipe diversifiée" peut être composée de personnes de nationalités, d'identités sexuelles, d'opinions politiques et d'expériences de vie différentes.
Au-delà de ses dimensions conceptuelles et pratiques, la diversité a des implications éthiques importantes. Elle témoigne de l'aspiration à représenter la société, en particulier dans les positions de pouvoir, d'influence sociétale ou de richesse, mais aussi de son attachement à l'attention et au soin.
La diversité comporte de nombreuses couches contextuelles, en particulier lorsqu'il s'agit de déterminer quelles sont les caractéristiques de groupe les plus importantes à prendre en compte dans un contexte donné. Celles-ci évoluent en permanence, reflétant les changements sociétaux et les schémas historiques de discrimination, y compris les injustices historiques telles que l'apartheid ou l'esclavage. Cela étant dit, la diversité se concentre sur l'inclusion des groupes de la société qui ont été historiquement marginalisés et qui restent souvent largement sous-représentés dans des positions ou des contextes donnés.
En outre, le concept d'intersectionnalité joue un rôle crucial dans la compréhension de la diversité. Les individus possèdent de multiples identités et caractéristiques qui s'entrecroisent, ce qui les rend uniques et défie les catégorisations simplistes. Par exemple, les femmes noires sont susceptibles d'être confrontées à différents types de discrimination sur le marché du travail américain que les hommes noirs.
Les performances des solutions d'intelligence artificielle (IA) reposent en grande partie sur l'analyse de divers ensembles de données à l'aide de méthodes statistiques, comme le souligne l'annexe de l'AI Act (AIA) de l'Union européenne. Au fond, les systèmes d'IA tirent leurs résultats de l'identification de modèles dans les données. Par conséquent, la qualité de l'ensemble des données sous-jacentes d'un système d'IA est cruciale pour son efficacité.
La diversité est essentielle pour l'IA, car elle reflète les fondements statistiques de la technologie. En termes mathématiques, la diversité fait référence à la composition d'un groupe et à la représentation des individus qui le composent. Les métriques statistiques peuvent mesurer efficacement la diversité ou l'homogénéité d'un groupe, ce qui a des implications significatives pour les systèmes d'IA.
L'utilisation de l'IA implique que l'analyse des données et la prise de décision sont de plus en plus souvent effectuées par des processus autonomes plutôt que par des humains. Cela comporte des risques et des opportunités pour la promotion de la diversité dans des domaines sociaux, économiques et politiques sensibles. Une question clé est celle de l'impact de l'IA sur la diversité dans des domaines essentiels à la participation sociétale.
La question de la diversité dans le contexte de l'IA a également retenu l'attention de la législation à venir. Notamment, la loi locale 144 de la ville de New York illustre cette attention en répondant aux préoccupations concernant les préjugés dans les processus de recrutement facilités par l'IA.
De la même manière, l'AIA de l'Union Européenne (UE) met l'accent sur les mesures visant à identifier et à atténuer les biais dans la gestion des données, mais demande également que des équipes diversifiées développent des solutions d'IA. Reconnaissant l'importance de la diversité et son impact sur la précision des solutions d'IA, l'UE vise à établir des lignes directrices et des garanties pour promouvoir l'équité et la transparence.
L'importance de la diversité dans l'IA devient évidente lorsque l'on considère la représentation des individus dans les ensembles de données que ces systèmes d'IA analysent. Les solutions d'IA ne sont pas conçues pour prendre en compte tous les groupes démographiques de la même manière, et ce biais inhérent peut conduire à des disparités de performance significatives. Un manque involontaire de diversité dans les ensembles de données peut entraîner ce que l'on peut appeler une "discrimination" ou un traitement inégal. Dans certains cas, l'absence de prise en compte des groupes sous-représentés peut être considérée comme "raciste" ou "sexiste", surtout s'il s'agit d'une décision consciente de ne pas prendre en compte les groupes sous-représentés.
Par exemple, les biais des systèmes d'IA peuvent conduire à des discriminations dans différents domaines. Dans les processus d'embauche, les outils de recrutement pilotés par l'IA et formés à partir de données biaisées peuvent perpétuer les disparités existantes en matière d'opportunités d'emploi. Dans le contexte des soins de santé, la sous-estimation des besoins de santé des patients mal représentés par rapport à leurs homologues bien représentés, alors qu'ils présentent le même niveau de risque, peut avoir de graves conséquences sur la vie et la mort.
En résumé, la diversité des ensembles de données n'est pas seulement une préoccupation théorique, mais un impératif pratique pour les systèmes d'IA. L'absence de diversité peut entraîner des résultats d'IA biaisés et des discriminations, qui ont tous des conséquences considérables dans divers domaines ayant un impact important sur la vie des individus et entraînent un accès éventuellement inégal à des ressources primordiales.
L'équilibre entre la diversité et la protection de la vie privée dans l'IA pose des problèmes. Les gens peuvent ne pas divulguer des données personnelles telles que l'origine ethnique ou la sexualité s'ils craignent d'être victimes de discrimination en raison d'une utilisation abusive de ces informations dans le passé. Cependant, la diversité exige des données plus représentatives.
Nous devons trouver un équilibre entre la protection des personnes par des réglementations strictes en matière de protection de la vie privée et la garantie d'une diversité suffisante pour éviter les préjugés lors du développement et du déploiement des systèmes d'IA. Tenir compte à la fois de la protection de la vie privée et de la diversité est une tâche complexe mais vitale pour construire une IA juste et transparente et pour légiférer, nous sommes encore sur le point de trouver un moyen de faire ce compromis.
Les implications de la diversité des équipes vont au-delà du processus de développement et s'étendent à la compréhension des cas d'utilisation spécifiques, des contextes et des expériences de première main.
L'industrie de l'IA est confrontée à un manque de représentation de groupes divers, ce qui entrave le développement d'outils d'IA. Des équipes diversifiées apportent des antécédents et des expériences variés, ce qui les rend sensibles à différentes questions et leur permet de concevoir des outils d'IA en conséquence. L'expertise technique est essentielle, mais la diversité des perspectives apporte des points de vue uniques sur la collecte, l'utilisation et la confidentialité des données, par exemple. L'implication de spécialistes des sciences humaines et sociales, ainsi que de personnes issues de formations et de parcours de vie différents, tout au long du cycle de vie de l'IA, favorise l'inclusion, les considérations éthiques et le développement ciblé pour différentes populations.
La constitution d'équipes diversifiées peut être réalisée grâce à des programmes de mentorat et à la recherche active de représentants des utilisateurs prévus et des parties prenantes. Dans l'ensemble, la diversité tout au long du cycle de vie de l'IA permet d'obtenir des outils d'IA mieux conçus, plus éthiques et plus inclusifs, qui répondent aux besoins de populations diverses tout en atténuant les préjugés et les mises en œuvre
