Ces dernières années, l’intelligence artificielle attise de plus en plus la curiosité du monde entier. Elle est devenue une force motrice dans notre société moderne, révolutionnant de nombreux secteurs. Toujours en constante évolution, le secteur du design cherche aussi à s’adapter aux besoins de cette société grâce à l’IA.
Pourtant, il reste un point qui ne peut encore être parfaitement traité par l’IA : L’inclusivité. Et oui ! L’IA ne peut atteindre son plein potentiel que si elle est développée et utilisée de manière inclusive…
Pourquoi n’est-elle pas encore inclusive ?
Les systèmes d’IA sont souvent entraînés sur des données qui ne sont pas représentatives de la population mondiale. Cela peut conduire à des systèmes biaisés contre certains groupes de personnes, comme les personnes en situation de handicap, les minorités et les populations marginalisées.
Par exemple, en 2016, a eu lieu un concours international de beauté pas comme les autres : Beauty.ai. Son concept consistait à laisser des intelligences artificielles désigner «les personnes les plus attirantes» parmi plus de 6 000 photos de visages envoyés par les internautes. Pourtant, sur les 44 plus «belles» personnes du palmarès final, 37 étaient blanches, une seule avait la peau foncée malgré le fait que de nombreux participants provenaient d’Inde ou de pays africains. Donc même une IA peut donc être raciste ?
Bien que surprit par les résultats, les organisateurs ont expliqué que le problème ne venait pas tant des algorithmes, mais plus des bases d’images utilisées pour les entraîner. Dans The Guardian, le responsable scientifique Alex Zhavoronkov, du concours s’est exprimé à ce sujet : « Si vous n’avez pas beaucoup de personnes de couleur dans les jeux de données initiaux, vous risquez d’avoir des résultats biaisés ».
Dans un autre contexte, Amazon a expérimenté l’utilisation d’une IA pour automatiser ses processus de recrutement. Le programme avait pour objectif d’examiner les CV des candidats et d’attribuer des évaluations allant d’une à cinq étoiles, afin de simplifier la sélection des profils. Cependant, le modèle informatique utilisé par l’entreprise se basait sur les CV reçus au cours des dix dernières années. Cette approche a eu un effet involontaire sachant que les données utilisées étaient principalement issues de candidatures masculines. L’IA a donc été entraînée à préférer les profils masculins, désavantageant ainsi les candidates féminines.
Ces deux cas illustrent un problème majeur lors de l’utilisation de l’IA : la partialité des données d’entraînement qui peut entraîner des biais dans les résultats. Pourtant, s’ouvrir à la diversité et à l’inclusion présente des avantages évidents à la fois pour les entreprises et pour la société.
Alors pourquoi ne pas essayer d’utiliser l’IA pour devenir plus inclusif ?
Même si on a constaté que l’IA est sujette à certaines anomalies qui mettent en cause l’inclusivité, il est important de notifier que c’est une technologie en constante évolution et qu’il est donc fort probable qu’elle puisse un jour aider la société à devenir plus inclusive.
Mais comment faire ?
Sachant que les systèmes d’IA sont entraînés sur des données qui sont elles-mêmes discriminatoires, l’enjeu principal serait de s’assurer que les données d’entraînement soient représentatives de la population. Et cela a déjà été testé ! En 2020, une étude de PWC a montré que les équipes diversifiées sont plus aptes de développer des systèmes d’IA éthiques et équitables.
Ensuite, les développeurs d’IA doivent évaluer et atténuer les biais potentiels dans les données et les algorithmes en mettant en place des mécanismes de détection et de correction.
La transparence et la redevabilité jouent également un rôle crucial. Les organisations travaillant sur l’IA doivent être ouvertes quant à leurs méthodes et intentions, et rendre des comptes aux utilisateurs et à la société.
Dernier point, il est important de sensibiliser les décideurs, les développeurs et le grand public aux enjeux de l’inclusion. Des programmes de formation et d’éducation sur l’IA peuvent jouer un rôle essentiel pour combler le fossé des compétences dans ce domaine.
Cette utilisation de l’IA promet de belles opportunités à l’avenir ! Elle pourrait contribuer à identifier et à résoudre les problèmes liés à l’inégalité, tels que la discrimination dans l’embauche ou l’accès limité aux soins de santé.
Côté design inclusif, que pense-t-on de l’IA ?
Branle-bas de combat ! Avec l’apparition de l’IA et de ses biais, beaucoup d’entreprises et de structures se mobilisent pour rendre l’IA plus inclusive, notamment dans le secteur du design. Mais quelles sont ces avancées ?
Il existe déjà de nombreuses technologies qui utilisent l’IA pour intégrer un design accessible et inclusif :
Les interfaces vocales.
Elles constituent l’une des innovations les plus importantes de ces dernières années. Elles permettent aux utilisateurs de demander des informations uniquement en parlant, sans avoir besoin d’écrire la requête.
Ainsi, cette technologie permet de simplifier et d’optimiser le processus de recherche. Cela améliore l’expérience utilisateur et rend l’environnement plus accessible pour les personnes ayant des troubles cognitifs ou de dextérité. On retrouve ce type de technologies à travers des outils comme Alexa ou bien Siri.
Les interfaces pour les personnes souffrantes de déficience visuelle.
Il y a maintenant plus de 3 ans, l’entreprise Microsoft a développé Seeing AI, une application qui identifie les objets de l’environnement alentour pour les personnes aveugles ou malvoyantes…
D’autres applications telles que VoiceOver ou TalkBack, sont des lecteurs d’écran, dont le but principal est l’énonciation (de tout courriel ou message textuel).
Elles utilisent l’IA pour décrire les icônes des applications, le niveau de la batterie et même des images partielles.
Les interfaces pour les personnes à dextérité réduites.
Il est important de prendre en compte lors de la conception de produits numériques ces 3 sens :
– Vision
– Cognition
– Dextérité
Apparue pour la première fois dans iOS 5 en 2011, l’AssistiveTouch d’Apple est une fonctionnalité d’accessibilité d’iOS dans laquelle un bouton virtuel peut être placé sur l’écran de l’appareil.
On peut voir à quel point que l’IA a déjà un impact énorme sur la vie quotidienne des personnes atteintes de handicaps pourtant elle semble avoir encore du mal à se développer au niveau de certaines discriminations comme le genre, ou l’âge des personnes.
Bien que l’intelligence artificielle suscite un intérêt mondial et révolutionne de nombreux secteurs, son manque d’inclusivité reste un défi majeur. Les biais dans les données d’entraînement peuvent entraîner des résultats discriminatoires. Pour progresser, il est essentiel d’adopter des pratiques plus inclusives, de diversifier les données et d’évaluer les biais potentiels. Et vous, qu’en pensez-vous ?
