21 / 06 / 2017
#Quartz

Responsabilité des algorithmes : un appel à la régulation gouvernementale

share
Ben Shneiderman, informaticien pionnier dans le design d’interface, a récemment tenu une conférence à l’Alan Turing Institute de Londres dans laquelle il promeut un « National Algorithm Safety Board », système de contrôle étatique qui régulerait les algorithmes comme des banques. Les explications de Quartz.

«Quand on en arrive à des systèmes d’une complexité extrêmement riche, on doit adopter une nouvelle philosophie de design (…). [Et puisque] les algorithmes sont de plus en plus vitaux pour nos économies, notre défense, nos systèmes de soins nationaux, un regard indépendant serait des plus utiles». C’est l’avis de Ben Shneiderman, informaticien reconnu dans le domaine du design d’interface, tel qu’il l’a écrit dans un article l’an dernier, présenté récemment devant l’Alan Turing Institute de Londres.

Son idée, telle que la relaye Quartz, est de lancer un Conseil national de la sécurité des Algorithmes («National Algorithm Safety Board»), à l’image du National Transportation Safety Board américain, agence indépendante ayant la charge des enquêtes portant sur les grands accidents liés aux transports. Ce conseil, qui ferait office de tiers indépendant, pourrait en amont analyser et rendre public ses évaluations sur des programmes utilisant des algorithmes, mais aussi, après coup, enquêter publiquement sur les ratés liés à des décisions prises par algorithme. De telles autorités existent après tout – c’est l’argument de Ben Shneiderman – dans les transports, donc, mais aussi pour les médicaments ou encore les banques, dont les faillites sont elles aussi analysées par un organe indépendant.

Un exemple d’algorithme qui pourrait être évalué par une telle autorité de régulation ? Quartz prend celui du programme développé à Stanford afin de détecter, par algorithmes, des cancers de la peau simplement en analysant des images de potentiels patients. Problème : si le programme en question semblait plus performant que les dermatologues humains, il avait été entraîné sur des photographies de patients blancs, et était moins performant lorsqu’il s’agissait de reconnaître un cancer sur des peaux plus sombres…

L’article original est à lire chez Quartz.