Le principe des algorithmes synthétisant un grand nombre de données avoue ses limites et inquiète certains chercheurs, à juste titre. En dehors de la compilation de “fake news” et autres horreurs, une chercheuse du MIT, Joy Buolamwini, a constaté qu’un logiciel de reconnaissance faciale ne parvenait pas à l’identifier. Joy est noire et avec un masque blanc pour test, plus de problème ! Elle a donc développé sa thèse sur ces fameux logiciels (en l’occurrence IBM, Microsoft et Face ++) sur 6 photos de parlementaires, dont trois africains et trois européens.
Résultats ? Eh bien les algorithmes fonctionnent mieux avec les hommes que les femmes et avec les peaux claires… Ceci serait lié à un manque « d’entraînement » de l’algorithme qui puiserait ses données dans des bases trop peu fournies. Évidemment, cela pourrait avoir des conséquences lourdes comme pour une recherche d’emploi, un prêt bancaire ou toute autre décision confiée à un logiciel de ce type. En fait, il ne fait qu’amplifier un phénomène déjà existant, celui de la discrimination, que ce soit envers les femmes ou au regard de la couleur de peau.
Il est donc, une nouvelle fois, temps d’agir et surtout de bien comprendre comment sont construits les algorithmes avant de les utiliser. Utiliser par exemple Wikipedia comme base de données alors que ce site est lui-même alimenté par des internautes présente un vrai risque. La synthèse de bases faussées et insuffisamment fournies est un problème, tout comme la construction de l’algorithme.
Il n’est pas trop tard… Mais presque !
Sylvain Devaux.
« L’homme a la possibilité non seulement de penser, mais encore de savoir qu’il pense ! C’est ce qui le distinguera toujours du robot le plus perfectionné. »
Jean Delumeau
« Ceci est un article ‘presslib’, c’est-à-dire libre de reproduction en tout ou en partie à condition que le présent alinéa soit reproduit à sa suite. Larobolution.com est le site sur lequel Sylvain Devaux s’exprime quotidiennement et livre une vraie analyse du monde de la robotique à même de vous permettre d’en profiter. Merci de visiter mon site. Vous pouvez vous abonner gratuitement à la lettre d’information quotidienne sur www.larobolution.com. »
