« Il faut un vrai débat sur la question des algorithmes »

Article  par  François QUINTON  •  Publié le 12.12.2016  •  Mis à jour le 12.12.2016
Sherif Elsayed Ali
Vie privée, algorithmes, droits de l’homme… Entretien avec Sherif Elsayed-Ali (Amnesty International).

Sherif Elsayed-Ali est directeur de l’équipe Technologie et droits humains à Amnesty International. Nous l’avons rencontré à l’occasion du Web Summit 2016.
 
 
En 1999, le PDG de Sun Microsystems avait déclaré que « [nous n'avons] plus de vie privée, de toute façon. Faites-vous une raison. » D’autres ont tenu des propos comparables par la suite, comme Mark Zuckerberg, PDG de Facebook, annonçant que « la nouvelle norme sociale, c’est que tout est public. » Que pensez-vous de cette hypothèse de la fin de la vie privée causée par les nouvelles technologies ?
 
Sherif Elsayed-Ali : Je pense que la vie privée n’a pas le même sens d’une personne à l’autre et que sa définition change au fil du temps. Elle évolue en fonction des diverses situations dans la vie des gens, en fonction des technologies qu’ils utilisent. Ce qui constitue pour nous la vie privée aujourd’hui est très éloigné de ce qui la constituait avant Internet. Mais cela ne veut pas dire que les gens veulent que tout soit public et qu’ils ne désirent plus avoir de conversations privées.
Il est vrai que les gens partagent beaucoup de choses sur Facebook, mais si vous partagez quelque chose avec 300 ou 500 amis, ce n’est pas complètement public, ce n’est pas véritablement privé, c’est semi-public, mais cela ne veut pas dire que vous y afficheriez n’importe quoi.
 
Beaucoup de gens prétendent que les jeunes ne se soucient pas de la vie privée. Or, tous les sondages sur cette question montrent que cela n’est pas vrai : ils ont juste un point de vue différent sur cette question. Ils savent exactement ce qu’ils partagent, ceux avec qui ils le partagent et sur quelles plateformes ils le font. Nombreux sont ceux qui utilisent moins Facebook parce que leurs parents y sont et qu’ils veulent restreindre ce qu’ils partagent à leur groupe d’amis.
 
 
 Il est faux, et même assez dangereux, de décréter la fin de la vie privée  Je pense qu’il est faux, et même assez dangereux, de décréter la fin de la vie privée, car si vous commencez à concevoir votre produit technologique en partant de l’idée que les gens ne s’en soucient pas, je pense que vous sous-estimez leurs attentes. C’est là que réside la difficulté : il y a bien souvent très peu d’informations sur les mesures de protection de la vie privée, sur le mode de partage des données, sur l’utilisation des données par les entreprises et cela prive les gens de leur capacité de décision. Si les gens disposent d’informations claires sur l’utilisation des données, sur qui y a accès, ils peuvent prendre des décisions éclairées sur les services qu’ils souhaitent ou non utiliser. C’est une chose qui fait cruellement défaut.
 
 
Les gens sont-ils suffisamment informés de leurs droits en matière de données privées ?
 
Sherif Elsayed-Ali : Non, je pense que c’est très opaque et que cela constitue un manquement très sérieux de la part de la majorité des entreprises, qui devraient informer les gens et leur donner les moyens d’opérer des choix concernant ce qu’ils souhaitent partager et ceux avec qui ils veulent le partager. Lorsqu’au quotidien nous utilisons Internet, que ce soit pour envoyer et recevoir des mails, aller sur Facebook etc., de nombreuses données sont enregistrées et suivies. Et il y a vraiment beaucoup de sites qui suivent votre activité sur Internet. Tout cela est très flou. Les gens ne le savent pas car ces informations ne leur sont données nulle part de façon compréhensible.
 
 Beaucoup considèrent que la vie privée sur internet est un combat perdu d'avance  Beaucoup considèrent que c’est un combat perdu d’avance, qu’il n’y a pas de vie privée sur Internet car nous ignorons ce qui s’y passe et nous ignorons qui y fait quoi. Mais cela a des conséquences : souvent, les gens arrêtent d’utiliser ou de faire certaines choses. Nous devons penser aux appareils. Par exemple les enceintes Amazon Echo, ou celles de Google [Home]. Les gens les adoptent-ils au même rythme que s’ils avaient confiance dans le caractère privé des informations qu’ils partagent ? À partir du moment où vous mettez chez vous un appareil qui écoute en permanence, c’est une question très importante. Bien des gens risquent de ne pas se précipiter sur ces nouveaux produits car ils ne savent pas ce qu’ils font, car ils s’inquiètent de ce que cela implique en termes de vie privée.
 
Et je pense que le manque de transparence de la part des entreprises et le fait qu’elles ne prennent pas ces questions au sérieux peuvent suffire à ralentir le rythme d’adoption d’une technologie.
 
 
Quelle est votre opinion sur les réseaux sociaux : s’agit-il d’outils offrant des moyens aux gens d’asseoir leur liberté d’expression, ou bien plutôt d’un piège en raison du ciblage publicitaire et politique ? Facebook peut par exemple classer ses utilisateurs américains parmi 98 catégories politiques…
 
Sherif Elsayed-Ali : Il est important de préciser que, dans l’ensemble, Internet et les réseaux sociaux ont offert aux gens des moyens d’accès à l’information, des moyens d’accès à la communication, des moyens de s’exprimer ; beaucoup de gens qui ne pouvaient pas s’adresser au grand public en ont désormais la possibilité. Je pense que cela a représenté une grande libération et une grande force de démocratisation que nous ne devons pas minimiser.
 
Mais malgré ces nombreux aspects positifs, il existe tout de même des problèmes. Concernant la vie privée, je pense que le plus grand d’entre eux est que les gens ne sont pas dans une situation qui leur permet de faire un choix éclairé. Aujourd’hui, nous voyons un bandeau concernant les cookies et, quelles que soient les bonnes intentions dont il part, c’est probablement la pire chose qui soit en matière de liberté de choix : il ne fait rien, vous ne pouvez rien faire, c’est complètement inutile. Ce n’est pas comme si vous pouviez dire « non, je ne veux pas être suivi » car tous les sites le font.
 
Mais dans le même temps surgissent les problèmes, plus particulièrement avec Facebook, de bulle sociale – c’est-à-dire que les algorithmes font que vous ne voyez que les choses qui correspondent à vos opinions. Je pense qu’il est nécessaire d’avoir un vrai débat sur la question de ces algorithmes, sur la manière dont ils fonctionnent, sur ce qu’on voit et ce qu’on ne voit pas, mais il y a également une responsabilité personnelle.
 
 
Nous constituons nous-mêmes la bulle dans notre vie quotidienne…
 
Sherif Elsayed-Ali : Oui, exactement. Rien n’empêche les gens, dans la plupart des pays – Il y a bien sûr des exceptions, des gens qui doivent faire face à un accès limité – de lire la presse, de prendre connaissance des opinions contradictoires et des divers arguments ; vous pouvez suivre des comptes Twitter variés. De nombreuses possibilités s’offrent à vous si vous êtes prêt à y consacrer le temps nécessaire.
 
J’ignore si ce problème ne touche que les réseaux sociaux, car avec la télé, la radio et les magazines vous pouvez faire la même chose. Vous pouvez aussi lire uniquement des choses avec lesquelles vous êtes d’accord. Mais je pense qu’étant donné que pour beaucoup de gens Facebook, par exemple, constitue une large fenêtre sur l’information, la responsabilité est lourde.
 
 
 Certaines entreprises exercent un contrôle énorme sur ce que chacun peut voir  Avec Google Actualités, cela constitue sûrement une différence appréciable, vous choisissez le sujet que vous désirez suivre, mais dans ce cadre il peut y avoir des opinions plus variées. Mais je pense qu’il est indispensable d’avoir une discussion sérieuse à propos des algorithmes, car certaines entreprises exercent un contrôle énorme sur ce que chacun peut voir.
 
 
Comment les questions de droits de l’homme ou de vie privée diffèrent entre les pays démocratiques et les régimes autoritaires ? Les questions y sont-elles différentes, ou est-ce simplement une question d’intensité ?
 
Sherif Elsayed-Ali : Un peu des deux, je pense. Nous observons dans certaines des démocraties les plus établies que si l’on y jouit en général d’une grande liberté d’expression, qu’il n’y a pas beaucoup de censure, de répression de la dissidence, etc., il y a beaucoup de surveillance – beaucoup de surveillance massive et de surveillance ciblée. Il y a quelques jours, on a appris que la police de Montréal espionnait 6 journalistes au Canada. L’an dernier, Amnesty international a découvert que le GCHQ espionnait les communications d’Amnesty. Ces pratiques subsistent donc, même dans ces pays.
 
En revanche, dans d’autres endroits, comme le Bahreïn, être militant dans l’opposition vous fait courir le risque d’être l’objet d’une surveillance ciblée alimentant des violations répétées de vos droits et libertés. Dans de nombreux endroits, en militant vous risquez l’emprisonnement, la torture ou même la mort. L’utilisation de la surveillance dans le but de cibler les communications des militants et des opposants pour les identifier et les espionner peut avoir des conséquences très graves pour la population. Il est aussi intéressant de noter que nombre de ces technologies ont été créées par des entreprises occidentales.
 
 
Estimez-vous que ces entreprises ne prennent pas assez en compte la situation de ces pays ?
 
Sherif Elsayed-Ali : Absolument. Il est tout à fait clair, si vous consultez les normes internationales relatives au droit de l’homme, que si vous êtes une entreprise fournissant des technologies de surveillance, vous ne devez pas les vendre à un État comme l’Éthiopie, qui a pour habitude de réprimer la dissidence et d’emprisonner les opposants.
 
 
Pensez-vous que les gouvernements mettent parfois trop longtemps à comprendre les enjeux des nouvelles technologies et leurs répercussions sur des sujets politiques tels que les droits de l’homme ? Si oui, quelle est la réaction d’Amnesty international ?
 
Sherif Elsayed-Ali : Dans le monde entier, même sur des problèmes qui ont plusieurs années, comme la surveillance et le respect de la vie privée, ou encore la violence à l’encontre des femmes sur Internet, il n’y a que très peu de pays qui proposent des solutions, très peu de lois actualisées, très peu d’États faisant l’effort d’adapter leur législation. Ça commence à peine, timidement, et cela a déjà beaucoup tardé. Mais de nouveaux sujets apparaissent, comme la réglementation du travail pour les services de chauffeurs comme Uber, comme la police préventive, qui n’est pas réglementée alors que les technologies sont d’ores et déjà utilisées. L’intelligence artificielle est de plus en plus utilisée, ainsi que des systèmes automatisés pour la prise de décisions qui ont un impact sur l’accès des gens à des financements, des prêts, des aides sociales, etc.
 
Un des sujets les plus importants pour ces 10 prochaines années est le potentiel de l’automatisation de masse. Si vous êtes un gouvernement et que vous entendez la Banque mondiale vous dire que dans les pays de l’OCDE, presque 60 % des emplois en moyenne sont menacés par l’automatisation, si vous lisez ce rapport très sérieux de la Banque mondiale et que vous savez que la technologie suit cette tendance, que vous savez que les grands groupes envisagent d’automatiser les usines, les centres d’appel, les caisses, etc., pourquoi ne prenez-vous pas cette question au sérieux ? Pourquoi, en tant que gouvernement, n’avez-vous pas déjà mis sur pied une commission pour dresser un plan d’action national pour vous adapter à ces évolutions ? Pourquoi ne réfléchissez-vous pas aux changements à apporter à votre système éducatif ?

Si vous discutez avec des gens qui travaillent dans des domaines technologiques, ils vous diront la même chose : les compétences qu’une personne va acquérir à l’école ou à l’université seront probablement dépassées avant qu’elle ne décroche son diplôme de fin d’étude. Quel est votre réaction face à cela ? Quelles sont les conséquences pour vos travailleurs ? Je pense que les gouvernements, pour la plupart – avec peut-être quelques exceptions- ne proposent rien pour faire face à ces défis. Ce sont des défis complexes, mais s’ils ne font pas partie de ceux que vous comptez relever, alors cela revient à laisser tomber votre pays.


Traduit de l'anglais par Patrice Piquionne

--
Crédit photo : Ina

Vous souhaitez nous apporter un complément, rectifier une information ? Contactez la rédaction