Vous êtes ici

La Semaine de l'innovation publique

3651
Tous algorithmés, tous concernés !
24.11.16
Tous algorithmés, tous concernés !

La table ronde « Demain, tous algorithmés ? », organisée le 19 novembre dans le cadre de la Semaine de l'innovation publique, a souligné le rôle croissant des algorithmes dans la vie quotidienne des citoyens. Les intervenants, parmi lesquels Axelle Lemaire et Henri Verdier, ont exploré des pistes pour redonner les moyens à la société et aux politiques de s'emparer d'un sujet de réflexion, qui ne peut être laissé entre les mains des seuls grands noms du web.

Il ne faut pas se tromper de débat : il ne s'agit pas d'être pour ou contre les algorithmes. Ils sont d'ores et déjà à la base de nombreuses décisions qui font notre quotidien. « Ce qui est essentiel, c'est de créer les conditions de la liberté et du libre choix dans cet environnement algorithmique », a précisé Axelle Lemaire, secrétaire d'Etat chargée du Numérique et de l'Innovation, auprès du ministre de l'Economie et des Finances.

Elle intervenait samedi 19 novembre à la table ronde « Demain, tous algorithmés ? » lors de la Semaine de l'innovation publique organisée par le secrétariat général pour la modernisation de l'action publique (SGMAP). Pour débattre du sujet étaient également présents Henri Verdier, directeur interministériel du numérique et du système d'information et de communication de l'Etat (DINSIC) au sein du SGMAP, Gilles Babinet, entrepreneur et ancien président du Conseil national du numérique, et Guillaume Chevillon, professeur en économétrie et statistique à l'Essec.

Algorithme : qu'est-ce que c'est et à quoi sert-il ?

Définition : série d'instructions qui impliquent des calculs à partir de données pour aboutir à un résultat.
Usages : optimisation du calcul du prix d'un billet d'avion ou de train à partir d'un système de « yield management », réservation d'une voiture avec chauffeur ou proposition de co-voiturage, recommandation de films ou de livres en ligne, référencement par les moteurs de recherche, filtrage de contenus sur les réseaux sociaux, mais aussi calcul du montant de l'impôt sur le revenu ou du montant d'un crédit impôt recherche...

Les travers des mécanismes de filtrage

La secrétaire d'Etat a notamment dénoncé les risques que font peser les mécanismes de filtrage des réseaux sociaux, alimentés en continu par les actions et les préférences exprimées par les internautes. A force, ils finissent par enfermer dans des mondes informationnels et unidirectionnels, sans possibilité d'être contredits par d'autres visions. De ce fait, ils encouragent, par exemple, les phénomènes de radicalisation.

Henri Verdier (photo ci-contre) a renchéri en déplorant une dissymétrie entre le droit de la presse, conçu à la sortie de la deuxième guerre mondiale pour garantir la pluralité des idées dans les médias, et les pratiques de Google et Facebook, qui ne rendent aucun compte sur les mécanismes utilisés pour hiérarchiser et mettre en avant des contenus. « L’absence de prise en compte par les algorithmes de certains critères, comme la véracité de l'information, aura des conséquences sur un temps plus long », a souligné Guillaume Chevillon. Les individus adapteront leurs comportements en conséquence. Quand les compagnies aériennes ont commencé à utiliser des cookies pour capturer de l’information et optimiser leurs tarifs, les internautes les effaçaient pour payer moins cher.
 

Un nouveau mode de gouvernance

En attendant, les algorithmes ne contribuent pas seulement à façonner des opinions, leurs impacts économiques s'avèrent considérables. Le poids des plateformes de Google ou d'Amazon est tel qu'une modification des modes de calcul utilisés pour le référencement peut affecter significativement les chiffres d'affaires d'entreprises. « L'algorithme devient un mode de gouvernance », a affirmé Henri Verdier. Pour Axelle Lemaire, il doit être appréhendé comme un objet politique et interrogé sur ses usages et son fonctionnement.

Dès lors, les réflexions ne peuvent être abandonnées aux sociétés privées. « Il faut se prémunir contre cette vision que les entreprises et les technologies vont sauver le monde », a ajouté Gilles Babinet (photo ci-contre). Les intervenants de la table ronde se sont accordés sur les vertus de l'indispensable débat public pour sensibiliser la société dans son ensemble et, en particulier les politiques, aux enjeux des algorithmes et de l'intelligence artificielle qui démultiplie leur potentiel.
 

Le code à l'école pour rendre les citoyens plus autonomes

Loin de s'offusquer de la polémique récente autour du traitement automatisé de l'admission post-bac (APB), Axelle Lemaire l'a jugée au contraire salutaire : « elle a permis au grand public de réaliser l'enjeu à l'intérieur de la machine algorithmique ». Elle a également vanté les bienfaits de l'ouverture des algorithmes, comme ce fut le cas en début d'année pour le calculateur de l'impôt sur le revenu de Bercy.

Cette politique d'ouverture, déjà mise en œuvre avec l'open data, fait toutefois surgir de nouveaux défis. Elle suppose une montée en compétence de l'ensemble de la société. L'apprentissage du code à l'école s'inscrit dans cette logique qui vise à outiller les citoyens en leur donnant les moyens de s'emparer de ces sujets et d'exercer leurs prérogatives. Et pourquoi pas prévoir la co-construction d'algorithmes avec les citoyens ! Des premières initiatives vont dans ce sens.
 

S'inspirer des concepts du logiciel libre

La forme que doit prendre la publication des algorithmes suscite des débats au sein de la communauté informatique. Il y a, d'un côté, les partisans de la mise à disposition du seul code et, de l'autre, ceux qui prônent le partage d'explications de texte pour rendre le code intelligible, même s'ils risquent d'introduire des biais de lecture.

Pour Guillaume Chevillon (photo ci-contre), « il est important d'avoir le code et les explications de leurs auteurs pour expliquer les décisions et favoriser les interactions ». La solution est à chercher dans les concepts du logiciel libre. Le code y est organisé pour être documenté, commenté et recevoir des évolutions collaboratives. Les données qui alimentent les algorithmes constituent un autre sujet majeur de réflexion.
 

La loi s'adapte aux évolutions technologiques

Pour répondre aux évolutions technologiques, le droit doit s'adapter et inventer de nouveaux concepts. La France s'est dotée d'une loi pour une République numérique qui consacre les principes de transparence, de loyauté et de neutralité des plateformes sur Internet (les algorithmes sont évidemment concernés). C’est une condition pour garantir la fiabilité, la crédibilité et la diversité des résultats affichés.

Autre avancée de la loi : la portabilité des données. Elle vise à permettre à chacun de disposer librement de ses données personnelles et d'usage et de les récupérer. Ce principe de portabilité qui avait été adopté pour les numéros de téléphone a simplifié le passage d’un opérateur à l’autre.

L’usage des algorithmes par la puissance publique, plus transparent

« Depuis 1978, il est interdit en France de prendre une décision individuelle en matière de justice et de police sur le seul fondement d'un calcul algorithmique », a rappelé Henri Verdier.

Pour les autres cas, les administrations sont tenues de publier en ligne les règles définissant les principaux traitements algorithmiques utilisés dans l'accomplissement de leurs missions lorsqu'ils fondent des décisions individuelles.

Cette obligation de la loi pour une République numérique ne s'impose pas aux sociétés privées.

 

Des principes fondamentaux toujours d'actualité

Les évolutions législatives trouvent leur inspiration dans les fondamentaux des différentes conventions des droits de l'homme : respect des libertés fondamentales, droit à la vie privée, transparence de l'information publique… Axelle Lemaire a insisté sur le fait que « ces principes sont toujours applicables aujourd’hui à l'environnement numérique ».

> (Re)voir l’intégralité de la table ronde en vidéo (débute à 20')

3651