L’éthique en intelligence artificielle

Il est aujourd'hui impossible d'auditer une décision algorithmique de deep learning

Actuel titulaire de la chaire en sciences des données du Collège de France, le mathématicien Stéphane Mallat s'est employé à expliquer l'un des problèmes bien connus des algorithmes pourtant si efficaces de deep learning : l'impossibilité à expliquer pourquoi ils ont donné tel résultat, donc l'impossibilité à auditer une décision algorithmique. “Il y a là un grand mystère mathématique”qui fait l'objet d'une bonne part de la recherche. Ce   

Ce "mystère" n'a rien d'anodin ou de périphérique : parvenir à reconstituer le cheminement logique d'un algorithme, trouver les critères sur lesquels il s'est appuyé, représente, à terme, un gage de transparence, de fiabilité et d'une plus grande confiance en des machines perçues encore comme des “boîtes noires”.

Mais c'est bien la mathématicienne américaine Cathy O'Neil qui s'est montrée la plus incisive et la moins angélique. Il faut dire qu'elle a vécu de près la folie algorithmique : cette ancienne d'Harvard travaillait dans le monde de la finance quand la crise financière de 2008 a éclaté. L'expérience, comme elle le revendique presque, lui a fait perdre pas mal d'illusion et réorienter ses réflexions. “Les algorithmes peuvent faire du mal, les algorithme peuvent mentir” a-t-elle résumé avant d'aller plu loin : “Facebook est optimisé pour faire du profit, pas pour dire la vérité”, allusion assez claire à l'exploitation du réseau social lors de la campagne présidentielle américaine qui a vu l'élection de Donald Trump.

Et pour qui aurait encore une vision encore pleine d‘ingénuité concernant l'usage des données et des algorithmes, elle a rappelé cette recherche douteuse récente concernant la reconnaissance des homosexuels d'après photo. Ou celle montrant combien les systèmes de reconnaissance faciale étaient plus performants pour les hommes et les blancs que pour les femmes et les noirs.

  Outre le problème technique, ce dernier cas met en évidence une réalité “gênante”, selon Cathy O'Neil : des algorithmes sont mis en service auprès du grand public alors même qu'ils contiennent des biais parce qu'il n'existe pas de standard concernant les tests. Une bonne partie de la solution serait entre les mains des chercheurs eux-mêmes. “Il faut que les scientifiques arrêtent de se considérer uniquement comme purement techniciens.”Le débat est vieux comme la science et l'intelligence artificielle ne pourra pas y échapper.