Comme le fait remarquer Eglantine dans ce billet, on utilise le terme d'algorithmes à toutes les sauces.
Et comme elle le rappelle très justement:
- un algorithme ne manipule pas des gens : ce sont les personnes qui ont écrit l’algorithme qui essaient de vous causer du tort;
- un algorithme ne fait pas de politique : ce sont les gens qui ont écrit l’algorithme qui essaient d’utiliser un outil dans un sens et un but politique;
- un algorithme ne gouverne pas : ce sont les gens qui ont écrit l’algorithme qui utilisent un outil pour faire plus rapidement des manipulations d’information qui vont les pousser à prendre telle ou telle décision pour des individus;
- un algorithme ne fait pas de profilage : ce sont les gens qui ont écrit l’algorithme qui font du profilage en utilisant un outil pour faire rapidement les calculs nécessaires au profilage;
- etc.
Il conviendrait donc de rappeler qu'un algorithme agit sur des données,
mais des données qui ont une structure. Cette structure est ce qu'on
appelle un modèle.
C'est un modèle au sens mathématique, au sens d'une modélisation d'une
certaine vision de la réalité, d'une simplification, pour pouvoir faire
des calculs dans des buts variés (profilage, marketing ou simple affichage
d'une carte selon la demande de l'utilisateur).
Mais c'est également un modèle dans un sens proche d'un exemple, de ce
vers quoi il faut tendre.
Avec un modèle, quoi de plus naturel que de calculer tout ce qui est
calculable avec les données agencées selon une certaine vision? Une vision
dont le fournisseur du service est à l'origine. L'algorithme n'est qu'une
conséquence du modèle.1
Ainsi, les algorithmes ne font que masquer le modèle sous-jacent en le
parant d'une sorte de naturel, de seule façon de faire.
En les utilisant, nous adhérons à cette vision sous-jacente. Les amis
Facebook sont-ils de vrais amis pour autant ?
Mais le masquage du modèle nous prive surtout de la possibilité d'une critique.
Le modèle n'étant visible qu'au travers de l'exécution des algorithmes qui
sont bâtis dessus, il n'est pas directement critiquable. On peut critiquer
l'opacité des algorithmes, les critères de classement, etc. mais la critique
du modèle est difficile puisqu'il ne se donne pas à voir directement.
Alors cessons de parler d'algorithmes et parlons de modèles. Le seul fait
d'utiliser ce terme appelle à la critique, au recul, et redonne envie de
débattre.