Site sncf.com
Digital SNCF est un site de SNCF

La mixité, une condition indispensable pour une intelligence artificielle non stéréotypée

Dans le domaine de la recherche en intelligence artificielle, où les femmes sont largement minoritaires, la diversité est un enjeu de taille, car elle doit éviter que les systèmes automatisés ne reproduisent les discriminations existant dans la société. Pour Christelle Wozniak, Responsable Innovation et ambassadrice SNCF TECH Au Féminin, il est grand temps de faire bouger les lignes, notamment via des actions pédagogiques.

Publié le 30/11/2018 par La Rédaction
rawpixel-669611-unsplash

Quels sont les grands défis de la mixité concernant l’IA ?

Aujourd’hui nous avons la preuve par l’exemple des dangers possibles, avec le cas des visages noirs non reconnus, ou celui d’une base de CV RH qui ne sélectionnait pas les CV féminins, car elle avait été élaborée sur des bases de CV masculins. Dans ce cas, on constate une ségrégation de genre, non intentionnelle puisqu’il s'agit d’un robot. Ce dernier apprend via les données fournies, et l’historique étant majoritairement masculin, il sélectionne donc logiquement les CV masculins. C’est le genre de biais que peut induire la programmation. En général, 95% des codeurs sont des hommes blancs, donc ces biais sont intégrés dès le départ.

vlcsnap-error395

Quel est le risque des stéréotypes dans l’IA ?

Le risque pour la société concerne d’abord les femmes. Si elles ne prennent pas conscience maintenant de ces stéréotypes, elles risquent d'être exclues du monde numérique en construction, mais aussi des applications et de leur création.

Un monde d’applications qui n’aura pas pris en compte la totalité de la population, or les femmes représentent 50% voire 51% de la population mondiale.

vlcsnap-error395

Concrètement, comment lutter contre les biais induits lors de la conception des IA ?

Il y a déjà la base historique soumise à des stéréotypes. Ensuite, si l’IA fait face à des réponses basées sur ces même stéréotypes, elle ne fera que reproduire les biais initiaux. Il faut agir dès la conception, car il est tout à fait possible de faire un code presque “propre”, avec le moins de biais induits possibles ; code qui doit permettre un apprentissage non stéréotypé pour s’approcher au maximum de la diversité représentative de notre société. Avant de lancer une application en production, on fait un échantillonnage. Dans cette phase pilote, il s’agit de faire en sorte que la population utilisatrice soit diversifiée, car cela permettra de déceler les biais induits. Lorsqu’on réalise un prototype et que l’on doit l’industrialiser, il faut prendre en compte l’intégralité des besoins utilisateurs ou clients, et pas uniquement ceux “des hommes blancs”. Les femmes sont aussi clientes et prescriptrices. Il faut donc que les équipes soient mixtes dès le départ, d’où l’importance que les femmes investissent cette sphère professionnelle dès maintenant. C’est d’autant plus primordial que tous les champs de la société sont touchés par la transformation numérique.

andy-kelly-402111-unsplash

Quels sont les leviers pour faire bouger les lignes ?

De nombreuses actions sont menées autour du code, dans les écoles, collèges et lycées pour encourager les jeunes filles et faire tomber les fantasmes : tout le monde peut apprendre à coder. L’Education Nationale va proposer des cours dans ce sens, et le codage sera bientôt au brevet des collèges. Par l’intermédiaire d’associations telles qu’Elles bougent, Cyberelles, Becomtech, il s’agit de déployer pédagogie et explications, pour que les femmes deviennent actrices du monde numérique. J’ai testé l’organisation des coding goûters, pour montrer que les métiers numériques et techniques ne sont pas uniquement dévolus aux hommes, et les petites filles s’y pressent.

andy-kelly-402111-unsplash

Une prise de conscience qui doit toucher les femmes... mais aussi les hommes

Oui, de ce côté-là, on peut parler d’accompagnement au changement, de pédagogie adressée à l’univers masculin. Sensibilisés, les hommes -également empreints de stéréotypes- peuvent alors décrypter leur mode de pensée, prendre conscience des biais et agir. Nous avons, par exemple, des ambassadeurs dans l’ambassade SNCF au Féminin.

On parle souvent de l’importance du “role-model”, pour les jeunes filles notamment. Cela passe aussi par l’impulsion des entreprises comme SNCF ?

Oui, et pour toutes les générations et pas uniquement les jeunes filles qui sont en quête d’orientation, mais aussi pour les femmes en mobilité ou reconversion. Des role-models, des personnes inspirantes qui témoignent et partagent leur vécu dans lesquelles il va être possible de s'identifier, de se projeter, car on ne reproduit que ce que l’on voit.

SNCF propose un programme avec des ateliers pratiques, conférences, débats et tables rondes. Si, en interne, cela est fait pour que les femmes s’y reconnaissent et s’y retrouvent, cela montre l’engagement de SNCF en externe. Nous sommes d’ailleurs membre fondateur de Femmes@numériques, qui agit pour la mixité dans la tech. Il s’agit d’un message fort envoyé aux collaboratrices, à la société civile dans sa globalité, et pour attirer les talents également.

Femmes et Tech en chiffres

Une étude de l'entreprise canadienne Element AI estimait que 12 % des chercheurs en IA dans le monde étaient des femmes (14,8 % en France).

chiffres_femmes_et_ia
Tags associés à cet article :

Commentaires

S’enregistrer et se connecter
Recommandé pour vous
kbpn_nc_grand-resize
L’IoT, une source complémentaire de données au service des opérations chez SNCF
Lire la suite
IA : “La data et l’intelligence machine” selon Moustapha Cissé
Lire la suite
ia_bbouffart
#VIVASNCF : Utiliser l’intelligence artificielle pour améliorer les interactions avec les clients
Lire la suite