Nudge et l’intelligence artificielle : les dispositifs comportementaux reposent sur des régularités statistiques appliquées uniformément : une même option par défaut pour tout le monde, un même rappel au même moment. Les systèmes automatisés capables d’apprendre à partir de données d’usage rendent possible une autre approche, où le dispositif s’ajuste à chaque personne et à chaque situation. Cette évolution démultiplie l’efficacité potentielle et supprime simultanément plusieurs des garanties qui rendaient ces dispositifs acceptables — l’uniformité, la lisibilité, et la possibilité de vérifier ce qui est appliqué à qui.
Ce que la personnalisation apporte
Un dispositif uniforme est nécessairement un compromis : la valeur par défaut retenue convient à la majorité et pas aux autres, le rappel arrive au bon moment pour certains et au mauvais pour d’autres. La personnalisation supprime ce compromis, en théorie au bénéfice de chacun.
Les applications sont réelles : un rappel envoyé au moment où telle personne traite habituellement ce type de tâche, une valeur préremplie correspondant à ses choix antérieurs, un parcours simplifié selon son niveau de familiarité avec l’outil. Ces ajustements sont utiles et, pris isolément, difficiles à contester.
Ce que la personnalisation supprime
Trois garanties disparaissent simultanément. L’uniformité, qui permettait de vérifier qu’un dispositif traitait tout le monde de la même façon. La lisibilité, puisque le fonctionnement d’un système apprenant n’est pas descriptible en une phrase. Et la vérifiabilité collective : personne ne peut plus constater ce qui est appliqué aux autres.
Cette dernière perte est la plus importante en entreprise. Un dispositif uniforme peut être présenté aux instances représentatives et discuté ; un dispositif personnalisé ne peut l’être que dans son principe, ce qui déplace la question du contenu vers la confiance accordée au système. Cette substitution mérite d’être posée explicitement plutôt que subie.
Le problème de la transparence
Le test qui structure toute la démarche — le dispositif resterait-il acceptable s’il était expliqué ? — devient difficile à appliquer. Expliquer qu’un système ajuste les rappels selon l’activité observée est possible ; expliquer pourquoi telle personne reçoit tel signal à tel moment ne l’est généralement pas.
Une exigence praticable consiste à transposer le test à un autre niveau : la règle générale du système, les données utilisées et les finalités poursuivies doivent pouvoir être expliquées, même si les décisions individuelles ne le sont pas. Cette exigence est également celle du cadre réglementaire applicable aux traitements automatisés, ce qui la rend d’autant moins négociable.
Les données d’activité
Un dispositif personnalisé suppose une collecte continue de données individuelles, ce qui le place directement dans le champ de la surveillance. La différence entre un outil d’aide et un instrument de contrôle ne tient pas à la technique mais à l’usage des données collectées.
Deux règles délimitent un usage acceptable. Les données servant à personnaliser un dispositif ne doivent alimenter aucune évaluation individuelle, et cette étanchéité doit être garantie techniquement plutôt que par une consigne. Et la personne concernée doit pouvoir consulter ce qui est collecté à son sujet, exigence qui relève du droit applicable et constitue par ailleurs le meilleur garde-fou contre les dérives progressives.
Le risque d’optimisation aveugle
Un système ajustant automatiquement ses paramètres pour maximiser un indicateur produira exactement ce comportement, y compris par des voies que personne n’aurait choisies. Si l’indicateur retenu est le taux de clic sur une notification, le système apprendra à formuler des signaux plus urgents qu’ils ne le sont.
Ce mécanisme est le même que celui de tout indicateur suivi, avec une différence d’échelle : l’optimisation est continue, rapide et sans intention. La parade est identique — définir l’indicateur avec soin, en associer un second mesurant l’effet indésirable prévisible, et examiner périodiquement les moyens par lesquels l’amélioration a été obtenue.
L’équité
Un dispositif personnalisé peut produire des traitements différenciés qui ne seraient pas acceptables s’ils étaient explicités. Proposer un parcours plus court aux personnes identifiées comme expérimentées revient à en imposer un plus long aux autres, ce qui creuse un écart plutôt que de le réduire.
La vérification correspondante consiste à examiner les différences de traitement produites par le système, par catégorie, et à s’assurer qu’elles sont justifiables. Cet examen doit être prévu dès la conception, car il suppose de conserver les données permettant de le mener — condition qui n’est pas remplie par défaut.
Une position raisonnable
L’automatisation de ces dispositifs n’est ni à rejeter ni à adopter sans examen. Une position praticable consiste à réserver la personnalisation aux ajustements dont l’enjeu est faible — moment d’un rappel, ordre d’affichage, niveau de détail proposé — et à maintenir l’uniformité sur les paramètres à enjeu élevé, notamment les valeurs par défaut engageantes.
Cette répartition préserve l’essentiel des garanties tout en captant une part des bénéfices. Elle a un mérite supplémentaire : elle reste explicable, ce qui permet de continuer à appliquer le test de transparence qui structure l’ensemble de la démarche.
En résumé
La personnalisation automatisée supprime le compromis inhérent aux dispositifs uniformes et, avec lui, trois garanties : l’uniformité, la lisibilité et la vérifiabilité collective. Le test de transparence doit être transposé au niveau de la règle générale, des données et des finalités. Les données de personnalisation ne doivent alimenter aucune évaluation individuelle, étanchéité à garantir techniquement. Un système optimisant un indicateur trouvera des voies que personne n’a choisies, d’où l’indicateur de contrôle associé. L’équité suppose d’examiner les différences de traitement produites. Enfin, réserver la personnalisation aux paramètres à faible enjeu préserve l’explicabilité.