28 / 10 / 2016
#Entretien

danah boyd : « Nous devons nous pencher sur la responsabilité du code »

  • Linkedin
Quelle éthique pour le code ? La question, mise en lumière par la multiplication des réflexions concernant les biais algorithmiques, est brûlante. Un sujet largement évoqué par la chercheuse de Microsoft Research danah boyd à l'occasion du Personal Democracy Forum 2016, lors d’une intervention qui n’a pas manqué d’interpeller. RSLN a souhaité poursuivre le débat avec elle.
TL;DR
  • linkedin
La chercheuse danah boyd enjoint codeurs et politiques à réfléchir aux multiples impacts du code.

Comme toutes constructions humaines, codes et algorithmes comportent des biais, dont il est aujourd’hui complexe de cerner l’impact réel. Au point que certains chercheurs en font un terrain d’études à part entière.

Qu’il s’agisse d’une « peur des algorithmes » chez la sociologue Zeynep Tufekci, du principe de « bulles de filtres » développé par le militant Eli Pariser ou encore d’une démonstration factuelle des conséquences des algorithmes biaisées, cette science qui façonne le web tel que nous le connaissons, avec ses suggestions de plus en plus pointues et ses classements en termes de pertinence, ne fait plus qu’intriguer : elle peut aussi effrayer.

Il y a peu, la chercheuse danah boyd (Microsoft Research) a réalisé une intervention remarquée lors du Personal Democracy Forum 2016 (PDF), intitulée Be Careful What You Code For (« Codeurs, faites attention à ce que vous faites »). «C’était une provocation», nous explique-t-elle. «Mais si vous ou vos lecteurs vous en emparez, tant mieux !».

« Codeurs, attention à ce que vous faites »

La fondatrice de la revue Data & Society y a posé les enjeux du code pour les années à venir : « Le code devient progressivement la clé vers la vie civique et la civic tech, toutes ces choses qui font partie de notre vie de tous les jours. Mais on ne pense pas aux mécanismes comptables qui le régissent, mécanismes sur lesquels il faut pourtant commencer à se pencher. »

« L’objectif de cette intervention était d’inviter les codeurs à commencer à ouvrir les yeux. Nous sommes tous très bons pour résoudre des problèmes du moment où nous les avons défini. La responsabilité du code est quelque chose sur lequel nous devons nous pencher, que nous devons définir plus encore, de façon à ce que nous puissions développer les solutions correspondantes. »

Selon elle, le code – et les algorithmes et services qui en découlent – engendre deux impacts majeurs qui ne sont, pour l’heure, pas pris en compte.

Le code et l’environnement

« La plupart des gens qui travaillent le code ne réfléchissent pas aux ramifications environnementales de leur design. »

0 share

L’impact environnemental du code, tout d’abord. danah boyd rappelle par exemple qu’une notification reçue sur un téléphone portable pèse en moyenne 50KB et qu’un utilisateur actif des réseaux sociaux peut générer jusqu’à 1MB de notifications en une seule journée. Si l’on multiplie cela sur une année et sur le nombre d’utilisateurs, le total d’énergie utilisé pour les seules notifications devient impressionnant.

«Nous savons que des datas centers de plus en plus grands sont créés, et qu’ils requièrent des quantités astronomiques d’eau et d’énergie pour fonctionner. Nous savons que la fabrication d’ordinateurs nécessite des métaux rares. Et par dessus tout, nous savons que la plupart des gens qui travaillent le code ne réfléchissent pas aux ramifications environnementales de leur design, de leurs pratiques ou de l’usage qu’ils font des données. Nous ne savons pas encore comment mesurer tout cela, mais nous devons commencer à y penser pour que cela soit un jour le cas.»

L’exemple le plus frappant selon elle ? Le « mythe » de l’open data, ou la mise à disposition d’une multitude de jeux de données, dont la plupart restent largement inutilisés. «Nous voulons de l’open data parce que nous voulons démocratiser l’accès à l’information. Mais à quels coûts ? Tout est affaire de compromis, et nous n’avons pas encore trouvé comment articuler les deux. La première étape est de faire attention à ces aspects. »

Le code et la société

L’impact social des algorithmes ensuite — une des clés de voûte de la réflexion de danah boyd, comme elle l’a longuement illustré dans son intervention au PDF :

« L’approximation et les biais sont bien souvent un état de fait pour tout ce qui concerne la publicité. Mais est-ce une bonne chose que nous utilisions des données extrêmement biaisées concernant des arrestations antérieures pour prévenir des arrestations futures ? Est-ce une bonne chose d’évaluer le potentiel risque d’une personne au point de l’arrêter ? Est-ce une bonne chose que des autorités locales demandent à des vendeurs de matériel high-tech de prédire quel enfant va commettre un crime avant sa majorité ? Qui décide, et qui leur demande des comptes ? »

Alors, que faire ?

La chercheuse n’ambitionne pour autant pas d’apporter des solutions toutes faites à ces problèmes : « Le but de cette provocation n’était pas d’apporter des solutions, mais d’aider à caractériser un problème sur lequel nous devons, je pense, nous pencher collectivement. », nous explique-t-elle.

Selon elle, le chemin est «un mix d’engagements à la fois techniques, sociaux, économiques et politiques », englobant ainsi le «green code», qui a vocation à rendre le développement de logiciels plus responsable et plus vertueux, ou encore l’audit des algorithmes, qui suppose une mise sous surveillance de certains algorithmes – au menu, d’ailleurs, de la préparation du sommet de l’OGP, organisé en décembre prochain.

«Je pense que toutes ces idées contiennent des promesses, mais le meilleur chemin à emprunter n’est pas encore très clair. Chaque pièce du puzzle est une clé, mais il n’y a pas de formule magique. C’est un process. »

« Un bon codeur est celui qui est capable de penser de façon critique les conséquences fortuites engendrées par son code. »

0 share

Mais s’il y a urgence, danah boyd soulève que seule la volonté politique saura faire une priorité de ces enjeux écologiques, sociétaux ou de transparence.«C’est là où le code devient politique», ajoute-t-elle.

Pour l’heure, cette volonté politique permet par exemple de faire bouger les choses au niveau de l’accessibilité pour les personnes en situation de handicap, preuve, souligne-t-elle, que « ce n’est pas si difficile à faire aujourd’hui ».

Dans l’attente, elle appelle les principaux concernés – les codeurs – à une responsabilité accrue : « Un bon codeur est celui qui est capable de penser de façon critique les conséquences fortuites engendrées par son code. » Reste à savoir si son message sera entendu.