Comment la psychologie a été transformée en arme

20180508 freed

La tribune "The Tech Industry’s War on Kids" du docteur Richard Freed a été initialement publiée sur la plateforme américaine "Medium" en mars 2018. Richard Freed, psychologue de l'enfant et de l'adolescent, exerce dans la Silicon Valley.

Sa tribune est ici traduite par nos soins et publiée avec son accord.


Sommaire

Des familles défaites

« Des machines conçues pour changer les humains »

L'arme du persuasive design

Des questions essentielles que personne ne pose

Pirater le cerveau

Un coup d'œil dans les coulisses

Les joueurs de flûte du numérique

Une enfance volée

Ravages d'une génération connectée

Le réveil

Creuser toujours plus

Une profession silencieuse

Une conscience pour notre monde numérique


« On a appelé la police parce qu'elle avait saccagé sa chambre, frappé sa mère… tout ça parce qu’on lui avait pris son téléphone. » D’après son père, quand la police est arrivée ce soir-là, Kelly était hors d’elle-même, au point de déclarer à un policier qu'elle voulait se donner la mort. Une ambulance a été appelée et la jeune fille de quinze ans attachée à une civière, emmenée dans un hôpital psychiatrique et mise en observation pour éviter toute mise en danger, avant de pouvoir finalement repartir. Quelques jours plus tard, ses parents, préoccupés par les problèmes de Kelly et cherchant de l’aide, se sont présentés à mon cabinet avec leur fille.

Son père et sa mère ont pris la parole les premiers. L'hospitalisation de leur fille était l'aboutissement d’une longue année de spirale négative causée par l’obsession de Kelly pour son téléphone. Elle ne voulait plus passer de temps en famille, ne s’intéressait plus à l’école. Au lieu de quoi, elle préférait vivre une autre vie sur les réseaux sociaux. Élève brillante, jeune fille heureuse, Kelly était ainsi devenue irritable, renfermée, rapportant désormais à la maison des notes en chute libre. Les parents de Kelly avaient bien essayé à plusieurs reprises, dans les mois précédents, de limiter son usage du téléphone mais leur fille était chaque jour un peu plus rebelle ou dissimulatrice, se connectant à leur insu sur son téléphone à toute heure de la nuit.

Lorsqu’ils ont constaté un certain nombre de notes sous la moyenne sur le dernier bulletin de Kelly, ses parents se sont senti obligés d'agir. Ils ont annoncé à Kelly, plus tôt dans l'après-midi de ce jour-là, qu'elle devrait leur remettre son téléphone avant 21 heures. Mais, l'heure venue, Kelly a refusé et une altercation s'en est ensuivie avec ses parents, jusqu’à la crise brutale qui a conduit la jeune fille à l’hôpital.

J'ai demandé à Kelly, assise dans son coin, de me donner son point de vue sur ce qui s'était passé ce soir-là. Elle n'a pas répondu et, à la place, a regardé longuement ses parents. Puis, à la surprise de tous, elle a éclaté en sanglots : « Ils ont pris mon p*** de téléphone ! » Pour la faire parler, j’ai demandé à Kelly ce qu'elle aimait dans son téléphone, dans les réseaux sociaux. Sa réponse : « Ils me rendent heureuse. »

Des familles défaites

Au cours de nos rendez-vous les mois suivants, deux préoccupations revenaient sans cesse dans nos échanges. D’abord, le fait que Kelly restait toujours sous l’emprise maladive de son téléphone, ce qui générait une tension permanente à la maison. La seconde préoccupation est apparue lorsque je recevais seuls les parents de Kelly : même s'ils étaient des parents aimants et attentifs, la mère de Kelly ne pouvait s'empêcher de penser qu'ils avaient une responsabilité dans l’échec de leur fille et qu'ils avaient dû commettre une grave erreur pour en arriver là.

Je suis psychologue de l'enfant et de l'adolescent et je ne compte plus, dans mes patients, les Kelly et leur famille. Ces parents disent tous que l’usage excessif que font leurs enfants des téléphones, des jeux vidéo et des réseaux sociaux est la principale difficulté à laquelle ils sont confrontés – et, bien souvent, la famille s'en trouve déchirée. Pré-adolescentes ou adolescentes refusent de décrocher de leurs téléphones, même si, à l'évidence, ces objets les rendent malheureuses. Je vois aussi beaucoup trop de garçons accros aux jeux vidéo et perdant tout intérêt pour l'école, les activités en dehors de l'école et tout ce qui pourrait leur être profitable. Certains, en fin d'adolescence, jouent même de leur carrure pour effrayer leurs parents quand ces derniers cherchent à imposer des limites. Un sentiment de culpabilité se retrouve chez bien des parents, car nombre d'entre eux sont convaincus d’avoir mal agi et d’avoir engagé leur enfant dans une voie destructrice.

Ce qu'aucun de ces parents ne comprend, c'est que cette obsession pour les écrans, qui détruit enfants et adolescents, est la conséquence tout à fait logique d'un rapprochement insoupçonné entre les nouvelles technologies et la psychologie. Cette alliance associe, aux immenses ressources du secteur technologique grand public, la recherche en psychologie la plus pointue, afin de développer des réseaux sociaux, des jeux vidéo et des téléphones aussi puissants que des drogues pour séduire les jeunes utilisateurs.

Ces parents ignorent que, derrière écrans et téléphones de leurs enfants, il y a une foule de psychologues, de neuroscientifiques et d'experts en sciences sociales qui utilisent leurs connaissances des vulnérabilités psychologiques des enfants pour concevoir des produits qui capteront leur attention au profit de tout un secteur industriel. Ce que ces parents, et le monde dans son ensemble, n'ont pas encore compris, c'est que la psychologie – une discipline que nous associons à la guérison – est maintenant utilisée comme une arme contre les enfants.

« Des machines conçues pour changer les humains »

Quelque part dans un bâtiment banal, sur le campus de Stanford University à Palo Alto, en Californie, se trouve le Stanford Persuasive Technology Lab, fondé en 1998. Le créateur de ce laboratoire est un psychologue, le docteur B. J. Fogg : c'est le père des technologies séductives, un nouveau champ de connaissances [parfois appelé captologie en français] dans lequel les appareils et applications numériques – y compris les smartphones, les réseaux sociaux et les jeux vidéo – sont paramétrés pour modifier les pensées et les comportements humains. Le site du laboratoire le proclame non sans fierté : « Des machines conçues pour changer les humains. »

Fogg ne se cache pas de pouvoir, grâce aux smartphones et autres objets numériques, changer nos pensées ou nos actes : « Nous pouvons maintenant concevoir des machines à même de modifier ce que les gens pensent ou font, et ces machines peuvent même agir en toute autonomie. » Appelé « le faiseur de millionnaires », Fogg a formé d'anciens étudiants qui ont mis à profit ses méthodes pour développer ces technologies qui happent désormais la vie des enfants. Ainsi qu’il l'a récemment déclaré sur son site personnel :

« Mes étudiants ont souvent des projets révolutionnaires et, après avoir quitté Stanford, ils continuent d'exercer une influence dans le monde réel... Instagram, par exemple, a influé sur le comportement de plus de 800 millions de personnes. Le co-fondateur était un de mes étudiants. »

Curieusement, on peut observer une certaine fébrilité chez Fogg depuis que cet usage des objets numériques pour modifier les comportements humains a récemment attiré l’attention du grand public. Sa fanfaronnade au sujet d'Instagram, encore affichée sur son site au début de l'année, a soudain disparu et son site vient de subir un important toilettage. Fogg semble désormais faire tout son possible pour laisser entendre que son travail est tourné vers le bien, ainsi qu'il le déclare : « J'enseigne à mes étudiants comment fonctionnent les comportements humains pour qu'ils puissent créer des produits et des services profitant aux gens ordinaires partout dans le monde. » De même, le site du Stanford Persuasive Technology Lab se veut résolument optimiste :

« Les technologies séductives peuvent entraîner des changements positifs dans de nombreux domaines, en particulier la santé, les affaires, la sécurité et l'éducation. Nous croyons également que de nouvelles avancées technologiques pourront contribuer à promouvoir la paix mondiale d’ici trente ans. »

En mettant l'accent sur l'avenir radieux du persuasive design, Fogg oublie quelque peu cette réalité embarrassante : de discrètes techniques de manipulation comportementale sont utilisées par le secteur des nouvelles technologies pour capter et exploiter l’attention des utilisateurs à des fins lucratives. Assez opportunément, sa vision enthousiaste oublie également combien ces forces invisibles et manipulatrices portent préjudice aux enfants et aux adolescents, dont l’esprit est plus facile encore à influencer.

L'arme du persuasive design

Si vous n'avez jamais entendu parler des technologies séductives, ce n'est pas un hasard – les grands groupes technologiques préféreraient que le concept reste dans l'ombre, car, pour la plupart d’entre nous, nous ne souhaitons pas être contrôlés et l'idée d'enfants manipulés pour générer des profits nous révulse. Les technologies séductives (en anglais persuasive design) fonctionnent en créant à dessein des environnements numériques qui ont pour vocation de donner à leurs utilisateurs le sentiment de satisfaire – mieux que ne feraient les alternatives du monde réel – leurs pulsions humaines les plus fondamentales : appartenir à un groupe ou bien réaliser des objectifs. Les enfants passent un nombre incalculable d'heures à fréquenter les réseaux sociaux ou à jouer à des jeux vidéo, en quête de “J'aime”, d’“amis”, de points ou de niveaux de jeu – et, parce que c'est stimulant, ils croient atteindre une forme de bonheur et de réussite, plus accessible à leurs yeux qu’en menant à bien les activités qui doivent être celles des enfants, certes moins gratifiantes mais essentielles pour leur développement.

Les techniques de séduction numériques fonctionnent très bien sur les adultes mais elles sont plus efficaces encore pour influencer le cerveau, en plein développement, des enfants et des adolescents. Selon Fogg :

« Les jeux vidéo, plus que toute autre activité culturelle, offrent des récompenses, en particulier aux jeunes garçons. Les adolescents sont programmés pour rechercher une forme de savoir-faire. Maîtriser notre monde et dominer les autres dans n'importe quel domaine. Les jeux vidéo, en distribuant des récompenses, peuvent nous laisser croire que nous avons de plus en plus de savoir-faire, que nous pouvons à chaque seconde devenir meilleurs dans un domaine. »

Et c'est ainsi que le persuasive design a permis de convaincre toute une génération de jeunes garçons qu'ils peuvent acquérir un “savoir-faire” à jouer en ligne en y consacrant d'innombrables heures, quand la triste réalité est qu'ils sont enfermés dans leur chambre, loin de l'école et qu'ils n'acquièrent aucune des compétences qu'universités et employeurs attendent dans la vraie vie.

De même, les grands réseaux sociaux à caractère commercial utilisent le persuasive design pour exploiter le désir des préadolescents et des adolescents, en particulier les filles, de s'intégrer socialement. Cette pulsion fait pleinement partie de nos gènes puisque les compétences relationnelles de la vraie vie ont favorisé l'évolution humaine. L'article « Dans l'iPhone d'une adolescente »1 décrit la vie de Casey, 14 ans, vivant à Millburn, dans le New Jersey. Avec 580 amis sur Instagram et 1 110 sur Facebook, elle ne se préoccupe que du nombre de “j'aime” reçus par sa photo de profil Facebook en comparaison de ses amies. Elle le dit elle-même :

« Si t'as pas 100 “j'aime”, tu t’arranges pour que d’autres la partagent afin d'y arriver… Sinon, t'es dégoûtée. Tout le monde veut avoir le plus de “j'aime”. C'est comme un concours de popularité. »

L'auteur de l'article affirme que l’obsession de Casey pour son téléphone a un coût : « Le téléphone de la jeune fille, Facebook, Instagram ou iMessage la détournent en permanence de ses devoirs, de son sommeil ou de sa famille. » Casey dit bien qu’elle aimerait poser son téléphone. Mais elle ne peut pas.

« Je me réveille le matin et je vais sur Facebook juste ... parce que c’est comme ça. Ce n'est pas comme si je le voulais ou pas. J'y vais c'est tout. Je suis obligée de le faire. Je ne sais pas pourquoi. J'ai besoin de le faire. Facebook remplit toute ma vie. »

Des questions essentielles que personne ne pose

B. J. Fogg n’est peut-être pas très connu, mais pour « Fortune Magazine », c’est le « nouveau gourou à connaître » et ses recherches inspirent partout dans le monde des légions d'UX designers, les concepteurs de ce que l'on appelle l'expérience utilisateur : ces derniers exploitent et développent les modèles de persuasive design inventés par Fogg. Comme le dit Anthony Kosner dans « Forbes Magazine », « personne n'a autant influencé la génération actuelle de concepteurs d'expérience utilisateur (UX) que le chercheur de Stanford B. J. Fogg. »2

Les concepteurs UX viennent de nombreuses disciplines, de la psychologie aux neurosciences en passant par l'informatique. Reste que le cœur de certaines recherches UX est bien de mettre à profit la psychologie pour tirer parti de nos vulnérabilités humaines. Ce qui est particulièrement pernicieux quand les cibles sont… des enfants. Comme le dit Fogg dans l'article de Kosner Forbes, « Facebook, Twitter, Google, pour n’en citer que quelques-unes : ces entreprises utilisent les ordinateurs pour influer sur notre comportement. » Cependant, l’ordinateur n’est pas le ressort principal des modifications comportementales. « Le chaînon manquant, ce n’est pas la technologie, c'est la psychologie », explique Fogg.

Non seulement les chercheurs UX s’inspirent souvent du modèle de design de Fogg mais une partie d’entre eux semblent ignorer, comme lui, les implications plus générales du persuasive design. Ils se concentrent sur les tâches qu'ils doivent accomplir, conçoivent des objets et des applications numériques qui sollicitent toujours plus l’attention des utilisateurs, les obligeant à revenir encore et encore, et font grossir le chiffre d’affaires de leur entreprise. Comment, dans le monde entier, les enfants se trouvent affectés par des milliers de concepteurs UX travaillant tous en même temps pour les attirer sur une multitude d'objets et de produits numériques, bien loin de la vraie vie, c'est sans doute pour eux très secondaire.

Selon B. J. Fogg, le « modèle comportemental Fogg » est une méthode éprouvée pour modifier le comportement. Pour faire simple, il repose sur trois facteurs essentiels : la motivation, la capacité et les stimulations. Expliquant comment sa formule permet d'attirer des gens sur un réseau social, le psychologue déclare, dans un article universitaire, que le désir de « s'intégrer dans le groupe social » est un levier de motivation essentiel, même s’il voit un levier plus puissant encore : le désir « de ne pas être exclu du groupe social ». En ce qui concerne la capacité, Fogg insiste pour que les objets numériques soient conçus de sorte que les utilisateurs aient à « réfléchir le moins possible ». C’est pourquoi les réseaux sociaux sont conçus pour être simples d’utilisation. Enfin Fogg dit que les utilisateurs potentiels, pour revenir sur un site, doivent réagir à des stimulations. C’est le rôle d’une myriade de petites astuces numériques, comme l'envoi de notifications incessantes pour exhorter les utilisateurs à admirer les photos de leurs amis, ou leur signifier qu'ils ratent quelque chose à ne pas être connectés, ou leur suggérer de vérifier – encore une fois – si quelqu’un a aimé leurs propres publications ou leurs photos.

La méthode de Fogg est bel et bien la voie à suivre pour qu’une entreprise de jeux vidéo ou de réseaux sociaux devienne multimilliardaire. Pourtant, s'agissant de l'impact qu'ont ces techniques appliquées aux enfants et aux adolescents, des questions morales sont passées sous silence. Peut-on, par exemple, se servir de la crainte d'être exclu du groupe pour obliger les enfants à utiliser les réseaux sociaux de manière compulsive ? Est-il acceptable que les plus jeunes soient détournés de leurs devoirs scolaires, lesquels exigent un effort de pensée important, pour passer leur vie sur des réseaux sociaux ou dans des jeux vidéo ne demandant presqu’aucune réflexion ? Est-il acceptable que des “stimulations” incitent en permanence les enfants à utiliser des objets numériques à caractère commercial, au détriment de leur vie de famille et d'autres activités importantes pour la vraie vie ?

Pirater le cerveau

Les technologies séductives fonctionnent en déclenchant la libération de dopamine, un puissant neurotransmetteur impliqué dans les circuits de la récompense, de l'attention et de la dépendance. Dans la région de Venice (Los Angeles) surnommée “Silicon Beach”, la start-up Dopamine Labs3 vante de la façon suivante son usage des techniques de séduction numériques pour augmenter les profits : « Connectez votre application à notre Persuasive IA [Intelligence Artificielle] et augmentez l’engagement dans votre application et vos revenus jusqu'à 30% en donnant à vos utilisateurs nos poussées de dopamine parfaitement dosées » et « Une poussée de dopamine ne fait pas seulement du bien : il est prouvé qu’elle redéfinit le comportement et les habitudes des utilisateurs ».

Ramsay Brown, le fondateur de Dopamine Labs, a récemment déclaré :

« Nous avons aujourd’hui développé une rigoureuse technologie de l'esprit humain, ce qui est à la fois passionnant et terrifiant. Les machines apprennent de façon autonome et nous avons la possibilité d'actionner les boutons de leur tableau de bord encore en construction. Dans le monde entier, des centaines de milliers de personnes vont, sans s’en rendre compte, changer de comportement d’une façon qui semblera, en apparence, toute naturelle mais sera parfaitement conforme à un programme. »4

Pour les développeurs, cette pratique a un nom : « pirater le cerveau ». De fait, c’est contraindre les utilisateurs à passer plus de temps sur des sites tout en leur laissant croire qu’ils le font de leur plein gré.

Les réseaux sociaux et les jeux vidéo utilisent une technique éprouvée pour manipuler le cerveau : la récompense aléatoire (pensez aux machines à sous). Les utilisateurs ne savent jamais quand ils obtiendront le prochain “j'aime” ou la prochaine gratification dans le jeu : ils les reçoivent au moment optimal pour provoquer la plus grande excitation possible et les garder sur le site. Des rangées entières d’ordinateurs emploient l'AI pour “apprendre” lequel, parmi un nombre incalculable de facteurs de persuasive design, pourra accrocher les utilisateurs. Un profil des vulnérabilités spécifiques de chaque utilisateur est développé en temps réel et exploité pour le garder sur un site et le faire revenir encore et encore, pendant des périodes de plus en plus longues. Voilà comment grimpent les bénéfices des entreprises Internet grand public, dont les revenus sont indexés sur le taux d’utilisation de leurs produits.

Ces techniques clandestines pour réaliser des profits en manipulant les utilisateurs sont considérées par les développeurs comme un « dark design ». Pourquoi des entreprises recourraient-elles à de telles stratégies ? Comme le dit Bill Davidow dans un article de « The Atlantic »

« Les dirigeants des entreprises Internet sont confrontés à un impératif plaisant, si ce n'est moralement discutable : ou bien détourner les neurosciences pour gagner des parts de marché et réaliser de gros profits, ou bien laisser leurs concurrents les détourner et conquérir le marché à leur place. »5

Rares sont les secteurs industriels sans foi ni loi comme la Silicon Valley. Les grandes entreprises de réseaux sociaux ou de jeux vidéo se croient dans l'obligation de déployer de telles technologies dans ce qui constitue une course aux armements pour capter l'attention, réaliser des profits et tout simplement survivre. Le bien-être des enfants n’est guère pris en compte dans leurs calculs et dans leurs décisions.

Un coup d'œil dans les coulisses

De façon assez étonnante, les grandes entreprises de réseaux sociaux et de jeux vidéo étaient, jusqu'ici, parvenues à dissimuler leur usage du persuasive design au grand public. Mais tout a changé en 2017, quand un journal australien a pu consulter des documents internes de Facebook6. Un rapport, rédigé par des cadres de l'entreprise, montrait ce que le réseau social promet aux annonceurs : en surveillant en temps réel les publications, les interactions et les photos des adolescents, le réseau social est capable d’identifier les moments où ils se sentent « en manque de confiance », « inutiles », « stressés » ou « en échec ». Quel intérêt, peut-on se demander ? C'est que le rapport louait également la capacité de Facebook à cibler très précisément les publicités juste « aux moments où les jeunes ont besoin d'un petit coup de pouce ».

L'usage des médias numériques par les technologies séductives pour cibler les enfants, en déployant de façon optimale l'arme de la manipulation psychologique, voilà ce qui les rend si puissantes. Ces techniques de design offrent aux entreprises technologiques comme une fenêtre ouverte sur le cœur et l'esprit des plus jeunes, avec une vue précise de leurs points faibles particuliers : ces derniers permettent ensuite de contrôler leur comportement en tant que consommateurs. Tout ceci ne relève pas d'une prospective fantaisiste… Nous y sommes déjà. Pour sa défense, Facebook a argué d'un rapport évidemment déformé par la presse. Mais lorsque les défenseurs des enfants ont demandé au réseau social de le rendre public, l'entreprise a refusé, préférant garder nimbées de mystère les techniques qu'elle utilise pour influencer les enfants.

Les joueurs de flûte du numérique

Officiellement, les grands groupes des nouvelles technologies proclament que les technologies séductives servent à rendre leurs produits plus attractifs et plus ludiques. Mais certains spécialistes de ce secteur lèvent le voile sur des motivations moins avouables. John Hopson, développeur de jeux vidéo et titulaire d’un doctorat en sciences comportementales et en neurosciences, est l’auteur d'un article intitulé « Le design comportemental dans le jeu »7. À la façon d’un savant menant des expériences de laboratoire sur des animaux, il y explique comment certains facteurs de conception du jeu peuvent modifier le comportement des joueurs. Il s'agit de répondre à des questions telles que : « Comment maintenir chez les joueurs un taux d’activité élevé et régulier ? » ou bien « Comment faire pour que les joueurs jouent sans jamais s’arrêter ? »

Tout en exposant les connaissances scientifiques sur lesquelles prennent appui les technologies séductives, Hopson prend soin de préciser :

« Cela ne signifie pas que les joueurs sont des rats de laboratoire, mais simplement qu’il existe des règles d’apprentissage communes s’appliquant de façon identique aux joueurs et aux rats. »

À la suite de son article, Hopson a été embauché par Microsoft et a participé au pilotage du développement de la Xbox Live, la version en ligne de la console de jeu de Microsoft. Il a également participé au développement de jeux très prisés des plus jeunes sur Xbox, comme tous ceux de la série Halo. Les parents avec lesquels je travaille n’ont tout simplement aucune idée de l’immense puissance de feu, financière et psychologique, tournée vers leurs enfants dans le seul but de les faire jouer sans jamais s’arrêter.

Bill Fulton, expert, lui-aussi, dans les technologies séductives, est concepteur de jeux et a une formation en psychologie cognitive et quantitative. À l'initiative du groupe de recherche Microsoft sur les utilisateurs de jeux, il a fini par créer sa propre entreprise de conseil. Fulton ne fait pas mystère du pouvoir du persuasive design et des intentions du secteur du jeu vidéo, révélant dans un très sérieux journal consacré au secteur technologique :

« Si les concepteurs de jeux souhaitent qu’une personne renonce à toute autre activité sociale, loisir ou passe-temps, il faut la séduire à un très haut degré, par tous les moyens possibles. »8

C’est bien aujourd’hui le principal ressort du persuasive design : concevoir des jeux vidéo et des applications pour réseaux sociaux si attrayants qu’ils parviennent à nous arracher au monde réel pour nous faire vivre dans un univers marchand. Pourtant, s’engager dans une quête virtuelle aux dépens d’activités essentielles de la vraie vie est bien un élément caractéristique de l’addiction. Et les preuves s’accumulent, montrant un persuasive design désormais si puissant qu’il est capable de contribuer au développement d’addictions aux jeux vidéo et à Internet – de tels diagnostics sont officiellement reconnus en Chine, Corée du Sud et Japon, et sont à l’étude aux États-Unis.

Le persuasive design semble non seulement à la manoeuvre pour créer des addictions aux objets numériques chez les enfants, mais les connaissances sur ces addictions sont utilisées pour rendre le persuasive design plus efficace pour pirater les esprits. Ainsi que l'avoue Ramsay Brown du Dopamine Lab :

« Depuis que nous avons compris, dans une certaine mesure, comment fonctionnent les zones cérébrales qui gèrent l’addiction, certains ont bien compris également comment aller plus loin, exploiter ces informations et les intégrer dans des applications numériques. »9

Une enfance volée

La création d'objets et d'applications numériques dont les effets sont semblables à ceux de drogues, capables de « détourner une personne » d’activités de la vie réelle, est la raison pour laquelle les technologies séductives sont si profondément destructrices. Aujourd'hui, le persuasive design a toutes les chances de nous rendre, nous les adultes, moins prudents au volant, moins productifs au travail et moins attentifs à nos propres enfants – autant d'enjeux qui nécessitent une prise de conscience urgente. Pourtant, parce que le cerveau des enfants et des adolescents est plus facile à contrôler que celui des adultes, l'utilisation du persuasive design a des conséquences bien plus dramatiques encore sur eux.

Les technologies séductives redessinent l'enfance, en éloignant les plus jeunes de leur famille et de leur travail scolaire et en leur faisant passer une partie toujours grandissante de leur vie sur des écrans et des téléphones. Selon un rapport de la Kaiser Family Foundation10, les plus petits des enfants américains sont aujourd’hui exposés cinq heures et demi par jour à des divertissements numériques, notamment jeux vidéo, réseaux sociaux et vidéos en ligne. Bien pire : les adolescents passent aujourd’hui, en moyenne, huit heures par jour à se distraire avec des écrans et des téléphones. Les usages productifs des objets numériques – où le persuasive design intervient beaucoup moins – sont relativement secondaires : aux États-Unis, les enfants ne passent que 16 minutes par jour à se servir d'un ordinateur à la maison pour leur travail scolaire.

Insensiblement, le divertissement sur écran est devenu la principale activité de l'enfance. Les enfants passent plus de temps sur les écrans qu'à l’école, et les adolescents passent plus de temps encore à se distraire avec eux qu'à dormir. Le résultat saute aux yeux dans n'importe quel restaurant, dans n'importe quelle voiture au feu et même dans de nombreuses salles de classe. Témoignant du succès des technologies séductives, les enfants sont tellement pris par leurs téléphones et autres appareils qu'ils tournent le dos au monde qui les entoure. Happés par les écrans au fin fond de leur chambre ou bien en présence même de leur famille, de nombreux enfants passent à côté de la vie familiale ou de l'école – ces deux pierres angulaires de l'enfance qui permettent de grandir heureux. Même pendant les rares moments où les enfants ne peuvent pas utiliser leurs appareils, ils sont souvent préoccupés par une seule pensée : les retrouver.

Non seulement les techniques numériques de persuasion détournent d'activités saines pour les enfants mais elles les entraînent dans des environnements numériques souvent toxiques. Beaucoup d’enfants ont fait l’expérience, malheureusement trop fréquente, du harcèlement en ligne, qui augmente le risque de décrochage scolaire et de pensées suicidaires. Et l'on mesure de plus en plus l'impact négatif de la fameuse peur de passer à côté [en anglais FOMO : the fear of missing out] quand les enfants passent leur temps à regarder leurs amis s'exhiber sur les réseaux sociaux en donnant l'impression de passer du bon temps sans eux. Toute chose qui nourrit un sentiment de solitude ou un complexe d’infériorité.

Ravages d'une génération connectée

Conjugués l'un à l'autre, l'abandon d'activités essentielles pour l'enfance et l'exposition à des environnements en ligne toxiques sont en train de ravager toute une génération. Dans un article récent de « The Atlantic »11, le Dr Jean Twenge, professeur de psychologie à l'Université de San Diego, explique comment les longues heures passées sur les smartphones et les réseaux sociaux exposent les adolescentes américaines à des taux élevés de dépression ou de comportements suicidaires.

Et comme les enfants reçoivent désormais leur premier smartphone à l’âge de dix ans en moyenne, il n'est pas surprenant d’observer de graves troubles psychiatriques – autrefois réservés à l’adolescence – affectant désormais des enfants plus jeunes. Les cas d’automutilation (par entailles par exemple) suffisamment graves pour nécessiter l’intervention des urgences ont considérablement augmenté chez les filles de 10 à 14 ans : jusqu'à +19% par an depuis 2009.

Quand les filles sont séduites par les smartphones et les réseaux sociaux, les garçons sont plus susceptibles de l'être par les jeux vidéo, souvent au détriment de l'école. Les temps de jeu excessifs étant associés à des résultats scolaires plus faibles et les garçons jouant plus que les filles, rien d’étonnant à ce qu’ils aient plus de difficultés à entrer à l’université : 57% des entrants à l’université sont des jeunes femmes et 43% seulement de jeunes hommes. Et, quand ils deviennent adultes, les garçons ont le plus grand mal à se défaire de leurs habitudes de jeu. Les économistes travaillant avec le Bureau national de la recherche économique ont récemment montré combien de jeunes américains préfèrent jouer à des jeux vidéo plutôt qu'entrer dans le monde du travail12.

Je suis psychologue de l’enfant et de l’adolescent et s'impose à moi une conclusion qui m'embarrasse autant qu'elle me fend le cœur : les forces destructrices de la psychologie telles qu'elles sont déployées par le secteur des nouvelles technologies, ont un plus grand impact sur les enfants que les usages positifs de la psychologie par les professionnels de la santé mentale et par les défenseurs des enfants. Disons-le tout net : la psychologie, en tant que champ de connaissances, fait aujourd'hui plus de mal aux enfants qu’elle ne leur vient en aide.

Le réveil

L'espoir semblait bien mince pour cette génération connectée, jusqu'à une période très récente : plusieurs personnes ont en effet critiqué, de façon surprenante, les manipulations psychologiques auxquelles recourt le secteur des nouvelles technologiques : ses cadres techniques. Tristan Harris, ex-design ethicist chez Google, a ouvert la voie en dévoilant l'utilisation du persuasive design : « Le travail de ces grands groupes est de prendre au piège les gens, et ils s'en acquittent en piratant nos vulnérabilités psychologiques. »13

Un autre cadre technique, l'ancien président de Facebook, Sean Parker, a sonné le tocsin sur l'usage de la manipulation mentale. Dans un entretien14, il a fait cette révélation :

« Toute la réflexion pour concevoir ces applications (à commencer par Facebook)… se résumait à ceci : comment épuiser le plus de votre temps et de votre attention possible ? »

Sean Parker a également déclaré que Facebook exploite « des failles dans la psychologie humaine », avec cette remarque :

« Dieu seul connaît les effets produits sur le cerveau de nos enfants. »

Le secteur utilise de façon abusive les technologies séductives, voilà ce qui revient sans cesse dans le discours de ces cadres. « Le fonds de commerce de ces groupes Internet grand public, c'est la psychologie », a déclaré Chamath Palihapitiya, un ancien vice-président de Facebook, lors d'un entretien tenu – ironiquement – à l'Université Stanford de B. J. Fogg15. « Ce que nous voulons, c'est comprendre, au moyen de la psychologie, comment vous manipuler le plus rapidement possible pour ensuite vous gratifier, en retour, d'une bouffée de dopamine. »

Avoir des enfants change quelque peu la perspective. Tony Fadell, ancien de chez Apple, est considéré comme le père de l'iPad et aussi, pour une grande partie, de l'iPhone. Le fondateur et actuel PDG de Nest a pris ainsi la parole au Design Museum de Londres :

« Beaucoup de concepteurs et de développeurs, qui avaient une vingtaine d’années quand nous avons créé ces objets, n'avaient pas d'enfants. Ils en ont à présent. Et ils voient ce qui se passe et se disent : « Attendez un peu ». Alors ils commencent alors à reconsidérer les choix qu'ils ont pu faire. »16

Marc Benioff, PDG de la société de cloud computing Salesforce, fait partie de ceux qui réclament l'encadrement des grands réseaux sociaux en raison des risques de dépendance qu’ils font encourir aux enfants. Pour lui, il devrait en être de ce secteur comme de l'industrie du tabac. « J'observe qu'à l'évidence la technologie a un caractère addictif que nous devons prendre en compte, et que leurs concepteurs travaillent à rendre ces produits addictifs : il nous faut freiner cette évolution autant que possible », a déclaré Benioff en 2018, au forum économique mondial de Davos17.

Pour Benioff, les parents doivent jouer leur rôle pour limiter les objets numériques à disposition de leurs enfants. Mais il a également déclaré : « S'il y a un avantage déloyal ou des éléments dont les parents n’ont pas conscience, alors le gouvernement doit réagir et faire toute la lumière. » Étant donné que des millions de parents, à l’image des parents de ma jeune patiente Kelly, ne soupçonnent en rien comment ces objets numériques piratent l'esprit et la vie de leurs enfants, la réglementation de telles pratiques est effectivement la meilleure chose à faire.

Autre collectif inattendu pour prendre la défense des enfants : les investisseurs du secteur technologique. Les principaux actionnaires d'Apple – le fonds spéculatif Jana Partners et le fonds de pension des enseignants de l’État de Californie, qui détiennent collectivement deux milliards de dollars dans le capital de la société, ont récemment exprimé leurs inquiétudes quant aux dommages que le persuasive design fait subir aux plus jeunes. Dans une lettre ouverte à Apple18, les investisseurs, en collaboration avec des experts de ces technologies destinées aux enfants, ont montré que l’utilisation excessive des téléphones et autres objets numériques entraîne chez eux un risque accru de dépression et de comportement suicidaire. Leur lettre dénonce spécifiquement les technologies séductives et leur impact destructeur :

« Tout le monde sait que les sites et applications de réseaux sociaux, pour lesquels l'iPhone et l'iPad constituent la principale porte d'entrée, sont généralement conçus pour être le plus addictifs et chronophages possible. »

Creuser toujours plus

Comment le secteur des nouvelles technologies grand public a-t-il réagi à ces appels au changement ? En creusant encore plus. Facebook a récemment lancé Messenger Kids, une application de réseaux sociaux ouverte aux enfants dès l'âge de cinq ans. Une déclaration de Shiu Pei Luu, directrice artistique de Messenger Kids indique que le persuasive design – si préjudiciable pour les enfants – est désormais calibré pour les plus jeunes d’entre eux : « Nous voulons aider à favoriser la communication [sur Facebook] et en faire l'expérience la plus excitante qui soit pour des enfants. »

Cette conception étroite de ce qu'est l'enfance pour Facebook illustre bien la façon dont le réseau social et les autres entreprises de technologies grand public sont déconnectées des besoins réels de toute une génération d’enfants en proie à troubles de plus en plus marqués. La chose la plus « excitante » pour de jeunes enfants, ce devrait être de passer du temps avec leur famille, de jouer dehors, de s'amuser à des jeux créatifs et d'autres activités essentielles pour leur développement – et non de plonger dans le tourbillon des réseaux sociaux. De plus, l'application Messenger Kids de Facebook fait démarrer beaucoup trop tôt la vie connectée aux réseaux sociaux, dont on sait qu'elle expose plus grands les enfants à des risques de dépression et de comportement suicidaire.

En réaction au lancement de Messenger Kids par Facebook, la Campagne pour une enfance préservée des enjeux commerciaux (CCFC) a adressé à Facebook une lettre ouverte19, signée par de nombreux défenseurs des enfants et professionnels de la santé, pour demander à Facebook de retirer son application. L'entreprise n'a toujours pas répondu à la lettre et a poursuivi son marketing agressif autour de Messenger Kids.

Une profession silencieuse

Alors que les cadres techniques de ces grands entreprises et leurs investisseurs prennent position contre la manipulation psychologique des enfants par le secteur des nouvelles technologies, l'American Psychological Association (APA), qui a pour mission de protéger les enfants et les familles contre les mauvaises pratiques psychologiques, est restée, pour ainsi dire, silencieuse. Il ne faut pas y voir malice : bien au contraire, la direction de l'APA – tout comme les parents – est probablement inconsciente de cet usage perverti de la psychologie par ce secteur. Ce qui est assez ironique, puisque les psychologues et leurs puissants outils sont soumis à des règles éthiques tandis que les cadres techniques de ces grandes entreprises et leurs investisseurs ne le sont pas.

Le code éthique de l'APA, principale organisation professionnelle de la psychologie aux États-Unis, est limpide : « Les psychologues s'efforcent de soulager ceux avec qui ils travaillent et prennent soin de ne pas leur nuire. » De plus, les règles d’éthique de l’APA impose à la profession de tout faire pour corriger le « mésusage » du travail des psychologues, ce qui ne peut que recouvrir les technologies séductives de B. J. Fogg pour influencer les enfants contre leur propre intérêt. Le code assure même une protection particulière aux plus jeunes parce que, lors même qu'ils sont en plein développement, leur « vulnérabilité les prive de toute décision autonome ».

Manipuler les enfants à des fins lucratives, sans leur consentement ou celui de leurs parents, et inciter les plus jeunes à passer toujours plus de temps avec des objets qui ne peuvent qu’aggraver leurs problèmes affectifs et leur difficultés scolaires : difficile de trouver pratiques psychologiques plus contraires à l'éthique. Les entreprises de la Silicon Valley et les fonds d'investissement qui les soutiennent sont essentiellement constituées d'hommes blancs très privilégiés, qui font donc usage de techniques de conditionnement dissimulées pour contrôler la vie d'enfants sans défense. Tristan Harris a ainsi présenté ce rapport des forces déséquilibré :

« Jamais jusque-là, dans l'Histoire, une cinquantaine d’hommes environ, presque tous âgés de 20 à 35 ans, presque tous des designers ou ingénieurs blancs et vivant dans un rayon de 80 km autour d'ici [la Silicon Valley], n’ont eu autant d’influence sur ce qu’un milliard de personnes pensent ou font. »20

Certains soutiendront que c'est la responsabilité des parents de protéger leurs enfants des pièges des nouvelles technologies. Reste que les parents n'ont aucune idée des puissantes forces qui leur sont opposées, et ignorent comment des technologies sont développées pour produire des effets comparables à ceux des drogues et s’emparer de l'esprit des plus jeunes. La conclusion s'impose avec force : les parents ne peuvent pas protéger leurs enfants ou adolescents contre ce qui leur est caché et inconnu.

D'autres prétendront qu’aucune action n'est nécessaire puisque le persuasive design n'a d'autre intention que de fabriquer de meilleurs produits, pas de manipuler les enfants. De fait, je suis convaincu qu'il n'y a, chez ceux qui travaillent dans les domaines de l'expérience utilisateur et de la captation de l'attention, aucune intention de nuire aux enfants. Les conséquences négatives des technologies séductives sont pour la plupart contingentes, malheureux effet collatéral d’une course au design férocement compétitive. Cependant, le même phénomène s’observe dans l'industrie du tabac, où les compagnies ne cherchent rien d'autre que le profit en vendant leurs produits, sans intention de nuire aux plus jeunes. Reste que, puisque cigarettes et persuasive design nuisent aux enfants de la même façon mécanique, il faut prendre des mesures pour les protéger de leurs effets.

Une conscience pour notre monde numérique

Depuis sa création, le champ de recherche des technologies séductives s’est développé dans un vide moral. Ses conséquences dramatiques n’ont donc rien de surprenant.

En vérité, le danger potentiel des usages du persuasive design est connu depuis longtemps. Fogg le disait lui-même dès 1999 : « Les algorithmes captieux peuvent également être utilisés à des fins destructrices ; ce pouvoir de changer les attitudes et les comportements, dans sa part obscure, conduit tout droit à la manipulation et à la coercition. »21 Dans un article universitaire de 199822, Fogg envisage même ce qu'il conviendrait de faire si les choses tournent mal : d'après lui, si des technologies séductives en viennent à être « jugées nuisibles ou douteuses à certains égards, un chercheur doit alors soit s'engager lui-même ou appeler d’autres à le faire. »

Plus récemment, Fogg a reconnu les effets négatifs du persuasive design. Dans « The Economist »23, Fogg a déclaré en 2016 : « Je vois ce que font certains de mes anciens étudiants et je me demande s'ils essaient vraiment de rendre le monde meilleur ou de gagner de l'argent. » Et, en 2017, Fogg a fait cet aveu : « Regardez dans les restaurants : tout le monde ou presque a son téléphone sur la table et nous sommes distraits en permanence des échanges vivants avec ceux qui sont en face de nous – je pense que c'est une mauvaise chose. »24 Néanmoins, Fogg n’a rien fait pour venir en aide aux victimes de cette science dont il est le père. De même, concernant les enfants et les adolescents, ceux qui sont en position de responsabilité dans les grands groupes technologiques (à l'exception récente des cadres techniques) n'ont rien fait pour limiter l'usage manipulateur ou coercitif des objets numériques .

Dès lors, comment les plus jeunes peuvent-ils être protégés de l'utilisation du persuasive design par ce secteur ? Tournons-nous vers le président John F. Kennedy, dont la sagesse était prémonitoire : la technologie « n'a pas de conscience propre. » Je crois que le métier de psychologue, avec sa compréhension de l'esprit humain et avec, pour guide, son code d'éthique, peut constituer une conscience guidant la façon dont les entreprises des nouvelles technologies interagissent avec les enfants et les adolescents.

L'APA doit, pour commencer, exiger que les techniques de manipulation comportementale du secteur technologique sortent de l'ombre et soient exposées en pleine lumière afin de permettre une prise de conscience du grand public. Il semble nécessaire d’apporter des changements au code éthique de l'APA afin d'interdire spécifiquement à des psychologues de manipuler les enfants à l'aide d’objets numériques, surtout si cette influence est connue pour présenter des risques pour leur bien-être. En outre, l'APA doit appliquer ses propres règles éthiques et s'efforcer de corriger les abus des technologies séductives dont sont responsables, à l'extérieur du champ de la psychologie, le secteur des nouvelles technologie et les designers d’expérience utilisateur.

Mais le métier de psychologue peut et doit faire plus encore pour protéger les plus jeunes et réparer les dommages subis par les enfants. Il doit se joindre à ces cadres techniques qui exigent que le persuasive design des objets numériques pour enfants soit encadré. L'APA doit également faire entendre une voix forte dans le chœur grandissant dénonçant les entreprises des nouvelles technologies qui exploitent à dessein les vulnérabilités des enfants. Et l'APA doit fournir des efforts plus énergiques et plus ambitieux pour informer les parents, les écoles et les autres défenseurs des enfants des méfaits de l'utilisation abusive des objets numériques par les enfants.

Chaque jour qui passe, de nouvelles technologies séductives, plus influentes, sont déployées pour mieux tirer parti des faiblesses propres aux enfants et aux adolescents. La profession de psychologue doit faire en sorte, dans ce monde numérique qui s'ouvre, que de tels outils soient utilisés pour améliorer la santé et le bien-être des enfants et non leur porter atteinte. En publiant une déclaration solennelle condamnant l'utilisation abusive du persuasive design, l'APA et la profession de psychologue peuvent contribuer à nous donner cette conscience dont nous avons tant besoin pour nous guider dans ce monde numérique où les machines sont si dangereusement puissantes.

Richard Freed

http://richardfreed.com/about/


Notes

[1] Bianca Bosker dans le "Huffinton Post" du 23 mai 2013 : "What Really Happens On A Teen Girl’s iPhone".

[2] Anthony Wing Kosner ("designer and developer and content strategist") sur "Forbes" du 4 décembre 2012 : "Stanford's School Of Persuasion: BJ Fogg On How To Win Users And Influence Behavior".

[3] La startup Dopamine Labs a été renommée récemment Boundless Mind. Le site usedopamine.com renvoie désormais à boundless.ai.

"Human behavior is programmable"

"Revenue and virality depend on engagement and retention. Becoming a user’s habit is necessary for an app’s survival. Fortunately, habits are programmable: we do what we’re reinforced for. What Delights us. Getting reinforcement right isn’t luck, it’s science. Neuroscience, specifically."

Sur LinkedIn :

20180508 boundless

Sur "TechCrunch" du 8 septembre 2017 : "Meet the tech company that wants to make you even more addicted to your phone"

20180508 screen shot 2017 09 08 at 10 16 38 am

[4] John Brooks dans "KQED SCience" du 25 mai 2017, "Tech Insiders Call Out Facebook for Literally Manipulating Your Brain".

[5] Bill Davidow dans "The Atlantic" du 18 juillet 2012 : "Exploiting the Neuroscience of Internet Addiction".

[6] Dans "The Australian" du 30 avril 2017 : "Facebook targets 'insecure' young people" (abonnés). Voir en accès libre, dans "The Guardian" du 1er mai 2018 : "Facebook told advertisers it can identify teens feeling 'insecure' and 'worthless'".

[7] John Hopson, "Behavioral game design" (2001)

[8] cf le réseau international d’audit et de conseil, Big Four Accounting Firm PwC.

[9] « 60 minutes » sur CBS du 9 avril 2017 : "What is "brain hacking"? Tech insiders on why you should care"

[10] Rapport de la Kaiser Family Foundation.

[11] Jean M. Twenge dans "The Atlantic" de septembre 2017 : "Have Smartphones Destroyed a Generation ?"

[12] The national Bureau of economic research, Mark Aguiar, Mark Bils, Kerwin Kofi Charles, Erik Hurst : "Leisure Luxuries and the Labor Supply of Young Men" (juin 2017)

[13] Ian Leslie dans le magazine "1843" de "The Economist" (octobre-novembre 2016) : "The scientists who make apps addictive".

[14] Mike Allen dans "Axios" du 9 novembre 2017 : "Sean Parker unloads on Facebook: “God only knows what it's doing to our children's brains”".

[15] L'entretien avec de Chamath Palihapitiya à Stanford en novembre 2017 :

[16] Drake Baer dans "Thrive Global" du 12 juillet 2017 : "The Designer Of The iPhone Says He Worries About The ‘Nuclear Bomb’ He Brought Into The World".

[17] Sur CNBC du 23 janvier 2018, "Salesforce CEO Marc Benioff: There will have to be more regulation...".

[18] Sur le site "Think differently about kids" du 6 janvier 2018 : "Open Letter from JANA Partners and CALSTRS to APPLE INC."

[19] Le site de la CCFC - La lettre ouverte du CCFC à Facebook ouverte du 30 janvier 2018.

[20] Harris rappelait un extrait d’une présentation qu’il avait faite chez Google lors d’un entretien avec la journaliste Kara Swisher pour « Recode Decode » en février 2017.

[21] B. J. Fogg dans "Communications of the ACM" : "Persuasive Technologies" (1999).

[22] En attente.

[23] Entretien de B. J. Fogg avec Ian Leslie dans le magazine "1843" de "The Economist" (octobre-novembre 2016) : "The scientists who make apps addictive".

[24] Entretien de B. J. Fogg avec Eva Kelley dans "032c" : "Meet Dr. BJ FOGG: Master of Persuasive Technology.