En juin, la ponctualité n’est pas de mise. Vous l’avez remarqué. La faute à Junon, reine des Dieux, toujours occupée dans ses querelles et ses jalousies indignes d’une déesse de son rang. Un édito mensuel publié avec plusieurs semaines de retard, ce n’est plus du retard, c’est de la négligence. Un manque de respect pour des lecteurs assidus en attente de nouvelles fraiches. Et là, pas même un mot d’excuse, juste une pirouette pour dire que c’est comme ça ! Alors, on ne peut compter sur personne ? Si même le calendrier n’est pas respecté par les auteurs, à qui se fier ? Heureusement, les algorithmes veillent à maintenir le tempo, à réguler les négligences, à anticiper les oublis. Parfois même ils font du zèle. Enfin, je ne sais pas si on peut dire que les algorithmes font quelque chose. Je pense (enfin, il me semble), qu’ils doivent être programmés par des êtres humains qui transforment les consignes en données quantitatives binaires, des 0 et des 1, pour qu’au bout du compte, cela fonctionne (en principe !).
Ainsi, le 31 mai au soir, l’algorithme du service des impôts des entreprises m’a envoyé une mise en demeure me signalant avec force que je n’avais pas déposé l’imprimé récapitulatif B2346 avant la date limite (en fait le mot déposer est ambigu, il signifie que j’aurais dû le remplir en ligne avant de l’envoyer dans les myriades de connexions au-dessus ou au-dessous de nous…). Donc que je ne l’avais pas déposé. Ceux qui me connaissent savent mon obsession maladive à tenter de respecter les consignes et les règles (sauf pour les dates d’édito, je le confesse !), alors autant vous dire que les mises en demeure des impôts me pourrissent la journée voire la vie. Car chercher à leur parler relève de la naïveté et si par hasard nous pouvons les joindre, ils n’ont que les données à l’écran. Et si, par malheur, (il y a plus grave, je sais !) mes données à l’écran ne donnent pas d’information sur la mise en demeure, mon angoisse de citoyen potentiellement toujours coupable augmente en même temps que l’absurdité du système s’amplifie. Tout cela pour dire que les algorithmes font parfois du zèle. Car après de nombreuses interventions de personnes plus qualifiées que moi (comptablement parlant), m’est arrivé hier un mail du même service des impôts (mais pas écrit par un algorithme car il y avait des fautes d’orthographe) m’indiquant qu’il ne fallait pas tenir compte de ma mise en demeure car elle était simplement due à un beug (écrit comme cela) informatique. Je sais gré au fonctionnaire qui a traité le dossier d’avoir pris la peine de me répondre car cela aurait pu durer longtemps et mon inquiétude ne faisait que croître. Que faire si les algorithmes se taisent ?
Mais cela m’a interrogé sur la sémantique fiscale : mise en demeure. Après trois confinements, je me permettrais de dire que la formule est pour le moins étonnante. C’est pour éviter que l’on s’échappe ? Que je reste chez moi ? Pour échapper au fisc, il faut des stratégies plus élaborées que les miennes : moi j’essaie juste de remplir et de renvoyer les documents exigés. Mais là encore, cela devient compliqué car les documents ne nous sont plus envoyés. Nous devons nous-mêmes nous connecter au calendrier fiscal personnalisé (sic !) pour vérifier que l’on n’a rien oublié. Mise en demeure, calendrier fiscal, dépôt de documents, téléchargement…la sémantique est ébouriffante ! C’est décidé, je vais sous-traiter. Il me faut quelqu’un qui se substitue à moi pour faire à ma place ces choses indispensables qui contrôlent mon activité voire ma vie…car vous l’avez compris, l’algorithme a peu d’humanité. Il est puissant mais juste en calcul. On y a intégré ni bienveillance, ni éthique. Il pourrait y avoir des algorithmes éthiques ? La question est stupide, déplacée ? Inutile ? En tout cas, le débat sur le sujet est à peine ouvert qu’il nous colle la migraine ! Des algorithmes peuvent-ils être éthiques ?
Un problème humain avant d’être technologique ? Et bien oui, sans doute. (là encore, rien n’est totalement sûr !). Un algorithme, en lui-même, n’est capable de rien d’autre que de nous permettre — au mieux — de saisir une partie de l’intention de son concepteur.
Peut-être alors que le développement technique n’est que l’illustration de nos errements, un miroir de nos paradoxes et de nos biais. En avoir conscience est essentiel. L’algorithme est aujourd’hui un outil au service d’une intention (une recette de cuisine hyper reproductible avec un résultat normé). En terme gastronomique, je ne suis pas sûr que cela fasse rêver. Mais cela a l’avantage de ne pas effacer l’intention humaine. Les lycéens passés aux filtres de la plateforme parcoursup en savent quelque chose. Mais ce qui se dessine, c’est un autre biais. C’est la croyance que l’algorithme, dans sa sophistication numérique, soit intentionnel. C’est que l’enjeu d’accélération (évidemment utile quand il s’agit de prendre un rendez-vous pour la vaccination sur une plateforme) nous amène a totalement déléguer l’intention à l’outil. Ce n’est plus moi qui guide l’outil mais bien l’outil qui m’impose sa logique. Les musiciens, dont je suis, connaissent bien cela quand il s’agit d’utiliser des logiciels qui fabriquent eux- mêmes mélodie, tempo et orchestration. Avec un résultat bluffant. J’ai l’air malin avec ma guitare à 6 cordes, mes deux mains et juste mon imagination ! En somme, ce processus de délégation est bien avancé. Une transformation très silencieuse pour reprendre le concept de François Jullien.
Cela m’évoque un évènement peut être passé inaperçu. La vente aux enchères pour plus de 400 000 dollars d’un tableau (j’avais écrit œuvre mais est-ce le bon terme ?) réalisé par une intelligence artificielle. Mais ce qui m’avait interrogé, c’est bien le processus de création.
Les réseaux contradictoires générateurs sont deux algorithmes d’apprentissage automatique qui fonctionnent en confrontation l’un à l’autre. Ici, un premier algorithme ‘générateur’ créé de nouvelles images à partir de 15 000 œuvres peintes entre le XIVe et le XXe siècle qu’il « connaît » déjà. En effet, la machine a d’abord dû analyser des milliers de portraits réalisés depuis le Moyen-Âge pour comprendre ce qu’est un portrait en peinture. Le deuxième est chargé de ‘discriminer’ le travail de son binôme. C’est-à-dire qu’il va essayer de deviner si ce travail a été fait par un algorithme ou un humain. Le ‘générateur’ essaie donc de contrer le deuxième algorithme en permanence, ajustant ses propositions en fonction des résultats jusqu’à ce que le ‘discriminant’ ne puisse plus différencier son travail de celui d’un être humain.
Discriminer ce qui est humain ? Alors que les investissements dans le transhumanisme font froid dans le dos, me revient une scène du film Blade Runner concernant les replicants et le test auquel on les soumet pour repérer leur possible humanité. Aujourd’hui, les robots conversationnels commencent à s’immiscer dans nos vies, l’air de rien. Sont-ils détectables ?
Je vous laisse réfléchir à cela car j’ai une autre mise en demeure sur le feu.