- Messages : 18044
L'industrie hi-tech critiquée... de l'intérieur
- Loys
- Auteur du sujet
Quelque chose est masqué pour les invités. Veuillez vous connecter ou vous enregistrer pour le visualiser.
Et le 16/02/18 : "Tristan Harris, Sean Parker, Renée DiResta… Qui sont les repentis de la Silicon Valley ?"
Quelque chose est masqué pour les invités. Veuillez vous connecter ou vous enregistrer pour le visualiser.
Connexion ou Créer un compte pour participer à la conversation.
- Loys
- Auteur du sujet
- Messages : 18044
Clé utilisateur/ secrète de la configuration non valide
Sur "CNBC" du 23/04/18 à propos d'Alexis Ohanian (co-fondateur de Reddit) : www.cnbc.com/video/2018/04/23/reddit-co-...ter-to-be-bored.html
My wife Serena Williams and I want our daughter ‘to be bored’ [...] My wife and I both want her to know what it’s like to have limits on tech…I do look forward to playing video games with her when she’s older, but it’s really important that she gets time to just be with her thoughts and be with her blocks and be with her toys, so we’ll be regulating it pretty heavily.”
Dans "Le Monde" (abonnés) du 11/03/18 : "Sus aux pirates de nos esprits !"
Quelque chose est masqué pour les invités. Veuillez vous connecter ou vous enregistrer pour le visualiser.
Dans "The Independent" du 14/03/2018 : "Silicon Valley parents are raising their kids tech-free — and it should be a red flag"
Chris Weller
Wednesday 14 March 2018 18:26 GMT
Silicon Valley parents can see firsthand, either through living or working in the Bay Area, that technology is potentially harmful to kids.
Many parents are now restricting, or outright banning, screen time for their children.
The trend follows a long-standing practice among high-level tech executives who have set limits for their own children for years.
This is an installment of Business Insider's "Your Brain on Apps" series that investigates how addictive apps can influence behavior.
It's 9 a.m. in Sunnyvale, California and Minni Shahi is on her way to work at the Apple headquarters in Cupertino. Her husband, a former Googler named Vijay Koduri, is meeting his business partner at a local Starbucks to discuss their startup, a YouTube clip-making business called HashCut.
Shahi and Koduri's two kids, 10-year-old Saurav and 12-year-old Roshni, have already been dropped off at school, likely immersed in one of the Google Chromebooks they were issued at the start of the year.
The Koduris' life is that of the quintessential Silicon Valley family, except for one thing. The technology developed by Koduri and Shahi's employers is all but banned at the family's home.
There are no video game systems inside the Koduri household, and neither child has their own cell phone yet. Saurav and Roshni can play games on their parents' phones, but only for 10 minutes per week. (There are no limits to using the family's vast library of board games.) Awhile back the family bought an iPad 2, but for the last five years it's lived on the highest shelf in a linen closet.
"We know at some point they will need to get their own phones," Koduri, 44, told Business Insider. "But we are prolonging it as long as possible."
'The difference is, they don't think of themselves as dangerous'
Koduri and Shahi represent a new kind of Silicon Valley parent. Instead of tricking out their homes with all the latest technology, many of today's parents working or living in the tech world are limiting — and sometimes outright banning — how much screen time their kids get.
The approach stems from parents seeing firsthand, either through their job, or simply by living in the Bay Area — a region home to the most valuable tech companies on Earth — how much time and effort goes into making digital technology irresistible.
A 2017 survey conducted by the Silicon Valley Community Foundation found among 907 Silicon Valley parents that despite high confidence in technology's benefits, many parents now have serious concerns about tech's impact on kids' psychological and social development.
"You can't put your face in a device and expect to develop a long-term attention span," Taewoo Kim, chief AI engineer at the machine-learning startup One Smart Lab, told Business Insider. A practicing Buddhist, Kim is teaching his nieces and nephews, ages 4 to 11, to meditate and appreciate screen-free games and puzzles. Once a year he takes them on tech-free silent retreats at nearby Buddhist temples.
Former employees at major tech companies, some of them high-level executives, have gone public to condemn the companies' intense focus on building addictive tech products. The discussions have triggered further research from the psychology community, all of which has gradually convinced many parents that a child's palm is no place for devices so potent.
"The tech companies do know that the sooner you get kids, adolescents, or teenagers used to your platform, the easier it is to become a lifelong habit," Koduri told Business Insider. It's no coincidence, he said, that Google has made a push into schools with Google Docs, Google Sheets, and the learning management suite Google Classroom.
Turning kids into loyal customers of unhealthy products isn't exactly a new strategy. Some estimates find that major tobacco companies spend nearly $9 billion a year, or $24 million a day, marketing their products in the hopes kids will use them for life. The same principle helps explain why fast-food chains offer kids' meals: Brand loyalty is lucrative.
"The difference [with Google] is they don't think of themselves as dangerous," Koduri said. "Google for sure thinks of themselves of 'Hey, we're the good guys. We're helping kids. We're helping classrooms.' And I'm sure Apple does as well. And I'm sure Microsoft does as well."
In San Francisco, parents notice a 'malaise of scrolling'
Erika Boissiere has little doubt that tech is poison to young brains.
The 37-year-old mom of two in San Francisco works as a family therapist alongside her husband. She said they both make an effort to stay current with screen-time research, which, despite suffering a lack of long-term data, has nevertheless found a host of short-term consequences among teens and adolescents who are heavy users of tech. These include heightened risks for depression, anxiety, and, in extreme cases, suicide.
Many of the fellow parents she and her husband talk to have said they notice an anti-tech sentiment, too. Just by living in the world's tech epicenter, the couple has front row seats to what Boissiere called a "malaise of scrolling."
"We live on a pretty trafficked street," Boissiere told Business Insider. In the 15 years they've lived there, she's noticed "a noticeable shift that everybody is on their phones on the bus. It doesn't seem like someone's reading a Kindle, for example."
Boissiere will go to great lengths to prevent her kids, 2-year-old Jack and 5-year-old Elise, from having even the most basic interactions with technology. She and her husband haven't installed any TVs in the house, and they avoid all cell-phone use in the kids' presence — a strict policy the couple also requires of their 28-year-old nanny, who Boissiere said has been caught scrolling on the job.
The couple has devised a strategy to help them stick to their policy. When the two of them get home from work, they each put their phone by the door. On most nights, they'll check the phones just once or twice before they go to bed, Boissiere said. Sometimes she'll break the rule, but more than once her kids have entered the room while she's mid-text, sending their mom fleeing into the nearest bathroom.
Around 10:30 p.m., Boissiere and her husband get in bed and end the day with an episode of "Black Mirror" on their laptop: a dose of morbid reassurance that the anti-tech approach is for the best.
Low-tech parenting has been a quiet staple among Silicon Valley moguls for years
Silicon Valley's low- and anti-tech parents may seem overly cautious, but they actually follow longstanding practices of former and current tech giants like Bill Gates, Steve Jobs, and Tim Cook.
In 2007, Gates, the former CEO of Microsoft, implemented a cap on screen time when his daughter started developing an unhealthy attachment to a video game. Later it became family policy not to allow kids to have their own phones until they turned 14. Today, the average American child get their first phone around age 10.
Jobs, the CEO of Apple until his death in 2012, revealed in a 2011 New York Times interview that he prohibited his kids from using the newly-released iPad. "We limit how much technology our kids use at home," Jobs told reporter Nick Bilton.
Even Cook, the current Apple CEO, said in January that he doesn't allow his nephew to join online social networks. The comment followed those of other tech luminaries , who have condemned social media as detrimental to society.
Cook later conceded Apple products aren't meant for constant use.
"I'm not a person that says we've achieved success if you're using it all the time," he said. "I don't subscribe to that at all."
Kids aren't necessarily hooked for life
A silver lining to constant tech use is that negative effects don't seem to be permanent.
One of the more hopeful studies, and one often cited by psychologists, was published in 2014 in the peer-reviewed journal Computers in Human Behavior. It involved roughly 100 pre-teens, half of whom spent five days on a tech-free retreat engaged in activities like archery, hiking, and orienteering. The other half stayed home and served as the control.
The tech companies do know that the sooner you get kids, adolescents, or teenagers used to your platform, the easier it is to become a lifelong habit.
After just five days at the retreat, researchers saw huge gains in empathy levels among the participating kids. Those in the experimental group started scoring higher in their nonverbal emotional cues, more often smiling at another child's success or looking distressed if they witnessed a nasty fall.
The researchers concluded: "The results of this study should introduce a much-needed societal conversation about the costs and benefits of the enormous amount of time children spend with screens, both inside and outside the classroom."
Schools have started accommodating the anti-tech parent
Not all parents who raise their kids low-tech strive to keep the same standards when it comes to education. Koduri's kids, for instance, share a Macbook Air for homework and use Google Chromebooks at school.
But around Silicon Valley, a number of low-tech schools have popped up in an effort to reintroduce the basics. At the Waldorf School of the Peninsula, a private school in Los Altos, California, kids use chalkboards and No. 2 pencils. Faculty don't introduce kids to screen-based devices until they reach the eighth grade.
At Brightworks School, a K-12 private school in San Francisco, kids learn creativity by using power tools, dismantling radios, and attending classes in treehouses.
Meanwhile, at many public schools, technology has become a guiding force, according to educators Joe Clement and Matt Miles. In their 2017 book "Screen Schooled," the co-authors make the case that technology does far more harm than good, even when it's used to boost scores in reading and math.
"It's interesting to think that in a modern public school, where kids are being required to use electronic devices like iPads, Steve Jobs's kids would be some of the only kids opted out," they wrote. (Jobs' children have finished school, so it's impossible to verify if that would have been true.)
The apparent double standard still lingers, they argue. As the authors wrote, "What is it these wealthy tech executives know about their own products that their consumers don't?"
Parents of older kids see changes across generations
On the western edge of the San Francisco Bay, in San Mateo, tech entrepreneur Amy Pressman lives with her husband and two kids, 14-year-old Mia and 16-year-old Jacob. Her oldest child, 20-year-old Brian, is a sophomore in college. (Business Insider has changed each child's name at Pressman's request.)
Though she no longer has control of what Brian does when he's away at school, at home Pressman is strict. There are no devices at the dinner table. After 10 p.m., kids must surrender their phones and leave them charging in the kitchen overnight. Weekly gaming is limited to five to seven hours a week.
This world didn't exist when I was growing up.
Like Koduri, who said he fondly remembers playing outside as a kid and raises his own kids with that upbringing in mind, Pressman longs to return to a more analog world.
"Kids aren't going out and just playing in the street," Pressman, co-founder and president of the software company Medallia, told Business Insider. "My older son would have more of his friends come over and hang out than my younger children do."
In the past few years, the family has gotten a lot better about spending time together, she said. Instead of family members coming home and installing themselves in separate rooms, eyes glued to devices, they now make use of season tickets to the theatre and keep an ongoing ranking of San Francisco's best ice cream shops.
A couple years ago, Pressman planned a trip to Death Valley over a long weekend. The lack of USB charging ports and Wifi were two of the destination's main selling points.
"The connectivity there was pretty abysmal," she said. "That was lovely."
Daily restrictions are tough, but they may be worth it
Pressman and other parents told Business Insider that it's often hard to strike a balance in limiting tech use, since kids quickly begin to feel left out of their peer group. The longer parents try to impose their restrictions, the more they fear they're essentially raising a well-adjusted outcast.
"I've got no role model for how to deal with this world," Pressman said. "This world didn't exist when I was growing up, and the restrictions my parents put on TV use don't make sense in the world of technology when the computer is both your entertainment and your homework and your encyclopedia."
Many parents who spoke to Business Insider said their best defense against tech addiction is to introduce replacement activities or find ways to use tech more productively. When California droughts wiped out Koduri's backyard, he filled the lot with cement and built a basketball court, which both of his kids and their friends use. When Pressman noticed her daughter taking an interest in computers, the two of them signed up to learn programming together.
These parents hope they can teach their kids to enter adulthood with a healthy set of expectations for how to use — and, in certain cases, avoid — technology. Every so often, they said, a glimmer of hope shines through.
In just the few years since Pressman began advocating for less tech use, her oldest son has started to see the value in cutting back on screens. A math major who prefers to use hardcover books, Brian told his mom he finds digital versions distracting.
As Pressman recalled, the family was in the middle of a long road trip around Christmas last year when, out of nowhere, he surprised his mother with something few parents ever tire of hearing: an admission of error.
"You know how you're always railing on social media, and I thought you were all wrong?" Pressman recalled Brian telling her, referring to her many tirades calling for "real" human interaction. "Well," he said, "I'm coming to think you're right."
Sur "CBS News" du 30/05/2018 : "Why many Silicon Valley parents are curbing their kids' tech time"
cbs-mornings
May 30, 2018 / 8:23 AM EDT / CBS News
In Silicon Valley, devices are an essential part of daily life. But many of the tech titans creating these products choose to power down when they leave the office, following industry giants like Bill Gates and Steve Jobs who restricted their own kids' access to technology at home.
"Truth About Tech" campaign takes on tech addiction
Pierre Laurent, who has worked for companies including Microsoft and Intel, said he and his family typically leave their phones at a table to charge when at home. He says the tech industry designs products to hook users, reports CBS News' Jamie Yuccas.
nfa-yuccas-tech-free-families-needs-gfx-frame-6379.jpg
Pierre and Monica Laurent CBS News
"I don't think the parents are aware of that. They don't see the consequences because nobody's told them, you know, there's no warning on the product," Laurent said.
Pierre and his wife Monica became concerned that their three children would miss out on real-life experiences while on their devices so they decided to limit their screen time. Researchers are still learning more about how technology affects kids but some early studies of heavy tech users show potential links to a rise in teen suicide rates, addiction, anxiety and loss of social skills.
"There was some pressure, especially the last one," Pierre said of how his kids react to the rules. "She didn't want to miss out on something and then we said, 'no it's not the right time.'"
None of the three children played video games or watched TV, and they didn't get cell phones until they were teenagers. Their 13-year-old daughter Maia spends her free time knitting and playing in the backyard.
When asked if she ever misses technology, Maia said, "Not really….The only thing I might miss technology for is listening to music or an audio book."
Their use of tech is limited both at home and at school. At the Waldorf School, where Monica is a teacher, nearly 75 percent of the kids have parents who work in tech. The school favors physical activity and art over technology. Computers are not introduced until eighth grade. Teachers use a hand clapping game to practice multiplication tables.
nfa-yuccas-tech-free-families-needs-gfx-frame-5765.jpg
Maia Laurent CBS News
"Every parent is really struggling with how to reap the benefits of technology while minimizing some of the risks," Caroline Knoor said. She is the senior parenting editor for Common Sense Media, a non-profit that studies the effect of media and technology on kids.
"We do need to look at the technology itself and understand that there's a lot of stuff in there that is absolutely designed to change user behavior and these programs are reaching children at younger and younger ages," Knoor said.
The organization says there's no magic number on how much screen time kids should have and cautions that imposing limits ignores potential benefits. They recommend paying close attention to kids' demeanor while using their devices and creating a schedule with guidelines on the types of tech activities they can do – and for how long.
Even after getting a cellphone this year, Maia says she prefers to spend time baking and doing crafts.
"I do stuff with my hands a lot," Maia said. "I find it more fun to do that than to just watch stuff and go on social media."
For Monica and Pierre, the hope is that a tech-free childhood will lead to more balance later in life.
"I really believe that there is a time for technology, it's not a forbidden fruit, it should not be. But I think especially young children need to grow in a different environment that doesn't have that much technology in it," Monica said.
Connexion ou Créer un compte pour participer à la conversation.
- Loys
- Auteur du sujet
- Messages : 18044
The head of Apple, Tim Cook, believes there should be limits to the use of technology in schools and says he does not want his nephew to use a social network.
Cook was talking at Harlow college in Essex, one of 70 institutions across Europe that will use Apple’s Everyone Can Code curriculum, it was announced on Friday.
“I don’t believe in overuse [of technology]. I’m not a person that says we’ve achieved success if you’re using it all the time,” he said. “I don’t subscribe to that at all.”
Even in computer-aided courses, such as graphic design, technology should not dominate, he said.
“There are are still concepts that you want to talk about and understand. In a course on literature, do I think you should use technology a lot? Probably not.”
The 57-year old chief executive, who took the reins at Apple after the death of Steve Jobs in 2011, said the company cared deeply about children outside the classroom.
“I don’t have a kid, but I have a nephew that I put some boundaries on. There are some things that I won’t allow; I don’t want them on a social network.”
Voir cette synthèse : www.rts.ch/play/tv/19h30/video/les-stars...ecbe7f6bed0446cdf8da
Connexion ou Créer un compte pour participer à la conversation.
- Loys
- Auteur du sujet
- Messages : 18044
Quelque chose est masqué pour les invités. Veuillez vous connecter ou vous enregistrer pour le visualiser.
www.nytimes.com/2018/10/26/style/silicon...s.html?module=inline
Quelque chose est masqué pour les invités. Veuillez vous connecter ou vous enregistrer pour le visualiser.
www.nytimes.com/2018/10/26/style/digital...id=nytcore-ios-share
Quelque chose est masqué pour les invités. Veuillez vous connecter ou vous enregistrer pour le visualiser.
www.nytimes.com/2018/10/30/style/kids-st...pps-advertising.html
Quelque chose est masqué pour les invités. Veuillez vous connecter ou vous enregistrer pour le visualiser.
Dans "Courrier international" du 14/12/18, traduction d'un article de Nellie Bowles : "Aux États-Unis, la déconnexion est réservée aux enfants riches" .
Quelque chose est masqué pour les invités. Veuillez vous connecter ou vous enregistrer pour le visualiser.
Dans le "NYT" du 8/11/18 à propos de Sundar Pichai (Google) : www.nytimes.com/2018/11/08/business/sund...e-corner-office.html
When I come home on a Friday evening, I really do want to let go of my devices for a couple days. I haven’t quite succeeded in doing that. At home, our television is not easily accessible, so that there is “activation energy” before you can easily go watch TV. I’m genuinely conflicted, because I see what my kids learn from all this. My son is 11 years old, and he is mining Ethereum and earning money. He’s getting some insight into how the world works, how commerce works.
Every generation is worried about the new technology, and feels like this time it’s different. Our parents worried about Elvis Presley’s influence on kids. So, I’m always asking the question, “Why would it be any different this time?” Having said that, I do realize the change that’s happening now is much faster than ever before. My son still doesn’t have a phone.
Connexion ou Créer un compte pour participer à la conversation.
- Loys
- Auteur du sujet
- Messages : 18044
Quelque chose est masqué pour les invités. Veuillez vous connecter ou vous enregistrer pour le visualiser.
Dans "Télérama" (abonnés) du 10/09/19 : "Cette école de la Silicon Valley où les écrans sont bannis"
Connexion ou Créer un compte pour participer à la conversation.
- Messages : 271
nymag.com/tags/the-internet-apologizes/
nymag.com/intelligencer/2018/04/an-apolo...le-who-built-it.html
Je retiens en particulier les remarques de Jaron Lanier sur la contradiction désastreuse entre la position de pouvoir et la mentalité de forteresse assiégiée :
We used to be kind of rebels, like, if you go back to the origins of Silicon Valley culture, there were these big traditional companies like IBM that seemed to be impenetrable fortresses. And we had to create our own world. To us, we were the underdogs and we had to struggle. And we’ve won. I mean, we have just totally won. We run everything. We are the conduit of everything else happening in the world. We’ve disrupted absolutely everything. Politics, finance, education, media, relationships — family relationships, romantic relationships — we’ve put ourselves in the middle of everything, we’ve absolutely won. But we don’t act like it.
We have no sense of balance or modesty or graciousness having won. We’re still acting as if we’re in trouble and we have to defend ourselves, which is preposterous. And so in doing that we really kind of turn into assholes, you know?
Connexion ou Créer un compte pour participer à la conversation.
- Loys
- Auteur du sujet
- Messages : 18044
Transcription de l'audition traduite par Florent Souillot du collectif "Lève les yeux" : www.levelesyeux.com/le-plaidoyer-de-tris...-le-senat-americain/
Bonjour,
J’aimerais vous montrer aujourd’hui à quel point les technologies de la persuasion constituent une force puissante et sous-estimée qui façonne le monde dans lequel nous vivons, et comment cette prise de contrôle nous conduira dans le mur si nous ne réagissons pas rapidement. Chaque jour, la technologie guide le regard de deux milliards d’êtres humains, leur indique l’endroit où poser leur attention, influence leur vérité, leurs relations, leur position sociale et le développement de leurs enfants.
Je suis ravi d’être ici devant vous car vous êtes en mesure de changer cela maintenant.
Comment en sommes-nous arrivés là ? Alors qu’on aime débattre de la façon dont le pouvoir asymétrique de la technologie prendra le relai de nos capacités humaines, jusqu’à nous remplacer au travail, nous n’avons pas vu comment, avant tout cela, il a pris le contrôle de nos faiblesses. C’est pourtant tout ce qu’il faut pour prendre le contrôle, et c’est ce que font les technologies de la persuasion. J’ai découvert cela enfant, en apprenant la magie. Parce que, comme dans la magie, pas besoin d’être plus intelligent que votre public, il suffit juste de connaître ses faiblesses.
Plus tard lors de mes études j’ai suivi les enseignements du Laboratoire de Technologie Persuasive de Stanford, aux côtés des fondateurs d’Instagram, et j’ai découvert comment les technologies pouvaient influencer nos attitudes, nos croyances et nos actes.
Chez Google j’étais designer éthique et mon travail consistait à manier ces outils pour influencer les pensées de deux milliards d’êtres humains. Dans l’économie de l’attention, le modèle publicitaire n’est jamais rassasié : nous nous sommes alors lancés dans la course vers les profondeurs du cerveau. Chaque fois qu’une technologie pénètre un peu plus profondément notre cerveau, elle prend un peu plus le contrôle de notre société.
Cela commence doucement.
D’abord il s’agit d’attirer votre attention et de créer de petites addictions : nous avons ajouté l’option-récompense « tirer pour rafraîchir »[1]. Nous avons ensuite enlevé tous les obstacles au « défilement infini[2] », pour que votre esprit n’ait pas la possibilité de faire autre chose.
Ce n’était qu’un début.
Dans un environnement très compétitif, nous devions aller plus profondément encore dans votre cerveau et pénétrer les mécanismes liés à votre identité. L’objectif est de vous rendre accro à l’attention de ceux qui vous entourent. En indiquant le nombre de followers et de likes, la technologie a pris le contrôle de notre évaluation sociale. Les gens sont devenus obsédés par l’évaluation continue émise par leurs semblables, ce qui a déclenché une véritable crise de santé mentale chez les adolescents.
L’étape suivante de l’économie de l’attention est celle de la bataille des algorithmes. Pas de fission de l’atome ici, mais bien la fragmentation de notre attention pour que la machine définisse le contenu précis qui vous fera immanquablement rester plus longtemps devant l’écran – la prochaine vidéo Youtube qui se déclenchera automatiquement, le prochain post qui s’affichera sur votre mur d’actualités.
La technologie analyse toutes nos actions en ligne pour créer un avatar, une sorte de poupée vaudou qui nous représente. Avec plus d’un milliard d’heures de visionnage par jour, elle nous dit ce qu’il faut croire, tout en détruisant notre vivre ensemble, nos croyances communes, notre calme.
Tant que cette course continuera, l’asymétrie de pouvoir augmentera et mettra en échec notre esprit, jusqu’à l’effondrement de la vérité.
Tous ces enjeux sont reliés car ils constituent un accroissement de l’asymétrie entre les technologies et les faiblesses humaines, influençant chaque jour davantage notre société.
Tous ces périls font partie d’un ensemble plus large que nous appelons « le déclassement humain[3] ». Comment résoudre les défis les plus urgents de notre monde si l’on continue à dégrader notre attention, notre capacité à traiter des sujets complexes et à faire preuve de nuance, notre foi en notre collectif, en nos croyances, au profit des théories du complot qui nous enjoignent au cynisme ?
Tout cela détruit notre sensibilité au moment où nous en avons le plus besoin. Et si je suis ici aujourd’hui c’est parce que la situation s’aggrave chaque jour.
Nous devons nommer le problème, à savoir un déséquilibre croissant entre le pouvoir des technologies et les limites de l’esprit humain. Jusqu’à présent les entreprises de la technologie ont voulu nous faire croire que nous étions vis-à-vis d’elles dans une relation équitable, de gré à gré. Cette relation est au contraire totalement déséquilibrée. Les plateformes se disent neutres pour nous faire croire justement que nous sommes dans des relations d’égal à égal entre usagers.
En réalité le rôle des plateformes s’apparente bien plus à celui que tiendrait un psychologue, un avocat ou un prêtre, détenant toutes les informations compromettantes et sensibles sur nous et sur ce qui peut nous influencer, nous forçant à les croire et à leur faire confiance. Sauf qu’à la différence d’un docteur ou d’un avocat, ces entreprises détiennent la vérité, toute la vérité et rien que la vérité sur nous, et qu’elles peuvent de mieux en mieux prévoir tous les actes de notre vie.
Dans un système fondé sur l’exploitation économique de notre attention, elles doivent profiter de cette asymétrie, quel qu’en soit le coût pour nous.
Il s’agit donc de refondre ce modèle économique pour le rendre responsable. Il faut qu’à l’asymétrie de pouvoir soit corrélée l’asymétrie de responsabilité. C’est une condition pour éviter les catastrophes à venir causées par une technologie prédisant nos actes.
Le rôle d’un gouvernement est de protéger les citoyens. En essayant de changer Google de l’intérieur, j’ai découvert que seules les pressions extérieures exercées par les gouvernants, les actionnaires ou les médias pouvaient influencer les entreprises et changer la donne.
Une action de la part de nos gouvernants est aujourd’hui nécessaire car le déclassement humain que nous vivons influence notre positionnement à l’international et notre compétitivité, en particulier vis-à-vis de la Chine. Dégrader notre système de santé, notre capacité à penser et à exercer notre esprit critique revient à nous saborder à long terme sur la scène internationale.
« Les logiciels mangent le monde », disait Marc Andreesen, le créateur de Netscape, sans que personne ne les ait rendus responsables de protéger la société. Facebook « mange » le temps de parole des futurs élus tout en supprimant toute transparence pour maintenir des pratiques équitables. Youtube « mange » le cerveau de nos enfants tout en supprimant les garde-fous bâtis à l’époque pour encadrer le contenu des dessins animés du samedi matin.
Il y a cinquante ans, M. Rogers vous a confié sa crainte de voir la télévision et les dessins animés entrer dans la course aux contenus violents. Youtube, TikTok, Instagram sont de ce point de vue bien pires, et influencent une population immensément plus large. Tout seul , Mr. Rogers n’aurait pas une chance de nos jours… Mais cinquante ans plus tôt, vous avez eu le courage de prendre une décision pour réguler les dessins animés à la télévision, ce qui a changé la donne. J’espère que vous en serez aussi capables aujourd’hui.
Merci,
Tristan Harris
Technologie de la persuasion et optimisation de l’engagement
Qui suis-je et pourquoi suis-je ici ?
J’ai essayé de changer la politique de Google de l’intérieur, en tant que designer éthique, après que Google a racheté mon entreprise en 2011. J’ai échoué car rien n’incite les entreprises à le faire. J’ai découvert que seule l’influence extérieure des gouvernants, des actionnaires, des médias, des annonceurs pouvait amener ce changement.
Persuasion et magie
La persuasion est une question d’asymétrie de pouvoir.
J’ai appris cela enfant en découvrant la magie. J’ai appris que l’esprit humain était très vulnérable et influençable. Le magicien nous dit « Piochez n’importe quelle carte ! ». De votre côté vous pensez que votre choix est libre, alors que le magicien, avant même que vous ne choisissiez une carte, a truqué le paquet et connaît déjà le résultat. Ce tour est possible car celui qui tient les cartes sait la façon dont votre esprit fonctionne, alors que vous non.
A l’université, j’ai étudié au Laboratoire de technologie persuasive de Stanford pour comprendre comment la technologie pouvait influencer nos attitudes, nos croyances, nos comportements. Je travaillais sur des projets avec les fondateurs d’Instagram, nous avons lancé le prototype d’une application persuasive faite pour soulager de la dépression, appelée « Transmets du soleil ». Comme la magie, la technologie de la persuasion consiste en une asymétrie de pouvoir, une capacité croissante à influencer le comportement de l’autre.
Echelle des plateformes et course à l’attention
De nos jours, les grandes plateformes ont plus d’influence et en savent plus sur nos actions quotidiennes que n’importe quel gouvernement. 2,3 milliards de personnes utilisent Facebook, l’équivalent de la Chrétienté dans le monde. 1,9 milliards utilisent Youtube, soit plus que l’Islam et le Judaïsme réunis. Ceci n’est pas neutre.
Le modèle de revenus publicitaires conditionne le profit de ces plateformes à la quantité d’attention captée. C’est la course « au plus profond du cerveau humain », pour atteindre ses zones les plus reculées – notre cerveau reptilien – lieu de la dopamine, de la peur, de la colère, et en extraire le maximum d’attention.
Comment la technologie a piraté nos faiblesses
Cela commence par la captation de l’attention. Les techniques comme « pull to refresh » fonctionnent comme des machines à sous pour nous forcer à continuer à jouer, même pour rien. Le « scroll infini » nous ôte toute possibilité de stopper le défilement des contenus. Vous pouvez essayer de vous imposer une forme de contrôle, mais en face de vous, de l’autre côté de l’écran, ce sont des milliers d’ingénieurs qui travaillent pour éviter cela.
Le design a ensuite évolué vers un nouvel objectif : faire que les gens deviennent accros à l’attention des autres. Des fonctionnalités comme « follow / suivre » ou « like / j’aime » ont poussé les gens à créer et développer leur audience personnelle, faite de validation sociale au compte-goutte, alimentant de fait le jeu de comparaison et l’émergence du statut « d’influenceur ». Tout d’un coup, tout le monde devait être connu.
La course est allée plus loin dans la persuasion de notre identité : les applications de partage de photographies qui contiennent des options de « filtre de beauté », altérant la réalité de notre image, capturent mieux l’attention que celles qui n’en proposent pas. Cela a alimenté le Syndrome de dysmorphie[4] en modifiant l’idée que des millions d’adolescents se font d’eux-mêmes, c’est-à-dire en leur imposant des versions irréalistes d’eux-mêmes et en renforçant l’évaluation sociale continue dont ils sont l’objet. Ce principe fait que les gens ne vous aiment que si vous semblez différent de ce que vous êtes réellement. 55% des cas de chirurgies plastiques en 2018 sont le fait de patients souhaitant améliorer leurs selfies (ils étaient 13% en 2016). Au lieu des seules plateformes luttant une par une pour notre attention, nous nous retrouvons avec un échantillon d’outils utiles en la matière, chacun d’entre nous luttant pour l’attention des autres en utilisant différentes plateformes.
Être constamment visibles des autres a entraîné une anxiété sociale et une crise massive de la santé mentale. Il vous est impossible de vous déconnecter si votre réputation sociale risque d’être ruinée le temps que vous arriviez à la maison. Après environ 20 ans de baisse, les symptômes de forte dépression des adolescentes de 13 à 18 ans ont augmenté de 170% entre 2010 et 2017. Dans le même temps, la plupart des parents n’ont jamais été mis au courant de l’asymétrie grandissante entre la technologie de la persuasion et nos faiblesses humaines.
L’intelligence artificielle pour extraire l’attention, le rôle des algorithmes
La course à l’armement pour l’attention s’est déplacée vers les algorithmes et l’intelligence artificielle : les entreprises luttent pour détenir l’algorithme qui prédira le plus efficacement ce qui retiendra les usagers le plus longtemps face à l’écran.
Par exemple, vous lancez une vidéo « Youtube » et vous vous dîtes, « je me souviens ces fois où je suis resté sur Youtube, mais cette fois-ci ce sera différent !». Deux heures plus tard vous vous réveillez comme d’une transe et vous vous dîtes « c’est incroyable c’est encore arrivé ! ». Dire que nous devrions faire preuve de self-control, c’est nier l’asymétrie invisible de pouvoir : Youtube a un super ordinateur braqué sur votre cerveau.
Quand vous cliquez sur « Play », Youtube réveille votre avatar, une poupée vaudou à votre effigie. Tous vos clics sur les différentes vidéos, tous vos « j’aime », toutes vos vues, participent à l’amélioration de votre poupée dans tous ses détails, vous ressemblant de plus en plus pour que vos actions soient de plus en plus prévisibles. Youtube « pique » alors votre poupée avec ses millions de vidéos pour simuler et prédire celles qui vous maintiendront en ligne. C’est comme jouer aux échecs contre Garry Kasparov, vous allez perdre. Les machines de Youtube ont trop de coups d’avance.
C’est exactement ce qui s’est produit : 70% du trafic de Youtube résulte maintenant de recommandations automatiques, provenant de ce que « notre moteur de recommandation offre à vous » disait Neal Mohan, CPO de Youtube. Avec plus d’un milliard d’heures de vidéos regardées chaque jour, les algorithmes ont déjà pris le contrôle de la pensée de deux milliards de personnes.
Emmener la colonie de fourmis jusqu’à « Crazytown »
Imaginez l’éventail des vidéos sur Youtube, depuis le côté « calme » des contenus rationnels, étayés, scientifiques, longs (la section « Walter Cronkite »), jusqu’au versant opposé que nous appelerions « Crazytown ».
Comme Youtube veut maximiser notre temps de visionnage, il pousse toute la communauté humaine à pencher vers le versant « Crazytown ». C’est « l’extrémisme algorithmique » :
les adolescentes qui ont cherché des vidéos avec le mot « régime » sur Youtube se sont vues proposer des vidéos sur l’anorexie ;
Le site AlgoTransparency.org montre que les mots-clefs les plus représentés par les vidéos recommandées automatiquement sur Youtube sont : « être scolarisé », « mettre en lambeaux », « ridicules », « démantelés », « débats », « déchirés », « confronter », « détruit », « haït », « démolis », « effacés » ;
en visionnant les vidéos sur la conquête spatiale de la NASA, les vidéos conspirationnistes « La Terre est plate » ont été recommandées des millions de fois avant d’être déréférencées ;
Youtube a recommandé les vidéos d’Alex Jones InfoWars 15 milliards de fois – soit plus que tous les trafics réunis du NYTimes, du Guardian, du Washington Post et de Fox News ;
Plus de 50% des activistes extrémistes utilisent Internet pour diffuser leurs contenus (étude Bellingcat). Youtube est le site qu’ils utilisent le plus ;
Lorsque le rapport Mueller sur le rôle joué par la Russie dans les élections américaines de 2016 a été publié, les reportages de RussiaToday’s ont été les plus recommandés, parmi plus de 1000 autres chaînes ;
Les adultes consultant des contenus sexuels se sont vus recommander des vidéos contenant d’avantage d’actrices jeunes, puis d’adolescentes puis d’enfants jouant en maillots de bain (article NYT) ;
Les fake news se propagent six fois plus vite que les informations éditorialisées, au contraire des nouvelles réelles, qui sont limitées par la réalité des faits (MIT Twitter Study).
La liberté de parole n’est pas la même chose que la liberté d’atteindre. Tout le monde a le droit de s’exprimer, mais personne ne doit avoir celui d’utiliser un mégaphone pour atteindre les oreilles de deux milliards de personnes. Les plateformes sociales amplifient les discours clivants sans appliquer aucun standards ni pratiques utilisés régulièrement par les médias et diffuseurs traditionnels. Si l’on devait écrire la devise des plateformes technologiques, ce serait « avec un grand pouvoir n’est venue aucune responsabilité ».
Une relation égale ou asymétrique ?
Une fois que l’on a constaté à quel point les technologies ont pris le contrôle des individus, nous devons interroger la nature du contrat commercial liant l’usager à la plateforme : est-ce un contrat équilibré entre deux parties, ou la manifestation d’une relation déséquilibrée et asymétrique ?
Il y a eu un grand malentendu sur la nature de la relation commerciale liant la plateforme et l’usager, lié au fait que les plateformes se sont toujours présentées comme des partenaires ouverts à pouvoir équitable. Dans les faits, elles jouent beaucoup plus le rôle d’un psychologue, d’un avocat ou d’un prêtre. Elles ont un degré d’information supérieur au vôtre et vous imposent leur pacte de confiance.
Dire « nous donnons aux gens ce qu’ils veulent » ou « nous sommes des plateformes neutres » dissimule en réalité une dangereuse asymétrie. Google et Facebook détiennent une telle quantité d’informations compromettantes sur deux milliards d’humains, qu’elles excèdent largement le rôle d’un psychologue, d’un avocat ou d’un prêtre, tout en maximisant certains comportements pour en tirer des bénéfices.
L’asymétrie ne fera que s’aggraver exponentiellement
La raison pour laquelle nous devons rétablir la balance maintenant est que la situation va empirer. L’intelligence artificielle augmentera les capacités de la technologie à prédire ce qui manipulera les foules, pas moins.
Une théorie du complot répandue voudrait que Facebook vous écoute à travers votre microphone, parce que le sujet dont vous veniez de discuter avec votre ami vient justement d’apparaître sur votre fil d’actualités… Mais les experts sont formels : ils n’écoutent pas. La vérité est plus terrifiante encore : ils n’ont même pas besoin d’écouter. Il leur suffit de réveiller l’une de leurs 2,3 milliards de poupées vaudous représentant votre avatar pour prédire avec précision la conversation que vous êtes susceptible de tenir.
Et cela ne fera que s’aggraver. Aujourd’hui déjà, les plateformes sont facilement capables de prédire :
si vous êtes seul ou si vous manquez de confiance en vous ;
vos 5 principaux traits de personnalités rien qu’avec l’analyse du temps que vous passez en ligne ;
quand vous êtes sur le point d’entrer en couple ;
votre sexualité avant que vous en ayez conscience ;
quelles vidéos vous feront rester en ligne.
Mis ensemble, Google et Facebook sont comme un prêtre dans un confessionnal écoutant les vies de deux milliards de personnes, mais dont l’unique but est d’influencer le comportement de ces personnes pendant qu’un tiers les enrichit.
Pire encore le prêtre dispose d’un super ordinateur établissant des schémas de calcul parmi les 2,3 milliards de confessions, pour prédire la confession que vous comptiez faire avant même que vous n’en ayez conscience – et mieux vendre ainsi les accès au confessionnal à d’autres parties.
La technologie, non surveillée, sera uniquement capable de prédire plus précisément ce qui influencera notre comportement, pas moins.
Il y existe deux solutions pour prendre le contrôle d’un humain : 1/ vous pouvez construire des intelligences artificielles plus sophistiquées pour prédire ce qui manipulera les actions d’une personne. 2/ vous pouvez simplifier les humains en les rendant plus prévisibles et réactifs. Aujourd’hui la technologie fait les deux à la fois : les profits dégagés par Facebook et Google sont réinvestis dans de meilleurs modèles prédictifs et des machines apprenantes (machine learning) pour manipuler les comportements, tout en simplifiant les réflexes humains en leur soumettant des stimuli toujours plus simples. C’est une façon de mettre échec et mat l’humanité.
Tous ces effets ne sont que les facettes d’un seul et même péril
Nous pensons souvent les problèmes causés par la technologie indépendamment les uns des autres – addiction, distraction, fake news, polarisation, santé mentale et dépressions adolescentes. Ils ne sont pas séparés. Ils sont des facettes d’un seul et même mouvement qui est la conséquence de la course à destination de la racine de nos cerveaux.
Réduction de notre capacité d’attention, baisse de notre confiance, polarisation des idées politiques, récompense à l’outrage, crise de la pensée critique, augmentation de la solitude et de l’isolement social, hausse des suicides chez les adolescents – en particulier chez les filles, augmentation des extrémismes et des théories du complot –fragilisation enfin de notre environnement d’informations et de la fabrique sociale dont nous dépendons. Chacun de ces traits alimente l’autre.
Lorsque notre capacité d’attention se réduit, nous ne pouvons que nous exprimer plus simplement, avec 140 caractères pour résumer des problèmes complexes, encourageant la polarisation : la moitié des gens semblent d’accord en cliquant sur un simple bouton d’appel à l’action. Les chercheurs en psychologie de New York ont montré que chaque mot agressif ajouté à un tweet augmentait son taux de retweet de 17%. Plus d’outrages entraîne des effets de foule, avec des personnes de plus en plus en colère sur des sujets pourtant de plus en plus lointains.
Tout cela mène à une culture du fantasme qui électrise les groupes occupés à s’insulter et à se troller les uns les autres autour de l’interprétation la moins charitable d’un message de plus en plus simple. Les incompréhensions réciproques entraînent des réflexes de défense. Plus de victimisation, plus de colère et de polarisation, moins de confiance sociale. « La culture du fantasme[5] » fige les positions, empêche une pensée inclusive habile à refléter le monde complexe dans lequel nous vivons, nuit à notre capacité à construire des agendas partagés. Plus d’isolement entraîne de fait une sensibilité croissante pour les théories du complot.
Comme la capacité d’attention se réduit, les entreprises doivent fragmenter cette attention en la découpant en plusieurs flux – nous encourageant à être multitâches, à faire toujours 3 ou 4 choses à la fois. Elles peuvent ainsi multiplier artificiellement le marché de l’économie de l’attention, tout en dégradant la qualité de notre temps d’attention. Notre temps moyen de concentration chute, comme notre productivité.
Nommer ce système
Tous ces effets sont reliés entre eux et se renforcent. Frank Luntz appelle cela le « dérèglement climatique culturel ». Au Center for Humane Technology nous le nommons « le déclassement humain ».
Pendant que la technologie améliorait les machines, elle déclassait l’humain : déclassement de notre capacité d’attention, de notre civilité, de notre santé mentale, de nos enfants, de notre productivité, de notre esprit critique, de nos relations, de notre démocratie.
Tout le monde est concerné
Même si vous n’êtes pas sur ces plateformes, vous êtes affecté par ce problème. Vous vivez toujours dans un pays où vos concitoyens votent selon ce qui leur a été recommandé. Vous envoyez toujours vos enfants dans des écoles où d’autres parents croient des théories anti-vaccins qui leur ont été proposées sur les réseaux sociaux. Les cas de rougeole ont augmenté de 30% entre 2016 et 2017 et les mots clefs principalement utilisés étaient « vérité sur les vaccins » parmi les requêtes sur les questions de santé.
Nous sommes tous dans le même bateau. Le déclassement humain est comme un nuage noir qui descend sur la société et affecte tout le monde.
Compétition avec la Chine
Ce déclassement impacte aussi la compétition mondiale. Comment batailler avec la Chine, ou quelque nation que ce soit lorsque l’on dégrade le temps d’attention de ses citoyens, l’esprit critique, la santé mentale et qu’augmente la polarisation politique ?
Conclusion
Le rôle d’un gouvernement est de protéger les citoyens. Tout ceci, et je le pense vraiment, peut être réparé avec des mesures et des incitations à la hauteur du problème.
Je ne suis pas contre la technologie. Mais le génie est sorti de la bouteille et il faut l’y remettre. Nous avons besoin d’une nouvelle « technologie humaine » conçue pour garantir notre bien-être et protéger notre tissu social sur lequel ces technologies sont construites. Nous ne pouvons pas compter sur ces plateformes pour changer la donne. Notre gouvernement doit légiférer et fixer les garde-fous de ce marché pour que les entreprises œuvrent à des technologies qui renforcent la société et nos capacités, au lieu de les détruire, tout en nous protégeant de ses dangers.
Le créateur de Netscape Marc Andreesen disait en 2011 que « les technologies mangeraient le monde » car elles viendraient inévitablement combler des espaces préservés de notre société : les taxis, la publicité politique, la génération de contenus, etc.
Mais la technologie ne doit pas supplanter nos institutions et nos espaces sociaux sans prendre la responsabilité de les protéger :
la technologie « a mangé » les campagnes d’élection sur Facebook, tout en supprimant les contrôles de la FEC comme la parité des temps de parole en matière politique ;
elle a mangé le terrain de jeu de la guerre de l’information en remplaçant l’OTAN et le Pentagone par quelques équipes de modérateurs employés de Facebook, Google ou Twitter ;
elle a mangé nos émetteurs de dopamine, sans la supervision d’une agence de santé ;
elle a mangé le développement de nos enfants avec Youtube, pendant que sautaient les barrières de contrôle sur les contenus des dessins animés.
Exactement 50 ans plus tôt, le présentateur de dessins animés Fred M. Rogers a témoigné devant ce même comité et vous a fait part de ses craintes concernant la course engagée vers la violence dans les dessins animés diffusés à la télévision. Le monde de Youtube et de TikTok est bien plus dangereux que celui de la télévision d’alors, et présenté à une audience immensément plus grande. Aujourd’hui Mister Rogers n’aurait pas une chance…
Mais ce jour-là, les Sénateurs ont décidé d’agir et ont pris une décision fondatrice pour protéger nos enfants sur la télévision publique. Cette décision a changé durablement le paysage des programmes, pour le mieux. Aujourd’hui j’espère que vous choisirez de la même manière de protéger les citoyens et l’ordre du monde, en soutenant une économie technologique humaine et protectrice de l’humain, seule capable de renforcer et de protéger notre société.
Les conséquences de nos actions en tant que civilisation sont aujourd’hui plus cruciales qu’elles ne l’ont jamais été, et si nous sommes incapables de prendre les bonnes décisions, nous irons droit dans le mur.
Merci,
Tristan Harris, Center for Humane Technology. Contributions de Yael Eisenstat et Roger McNamee.
Traduction en Français par Florent Souillot, membre du collectif Lève les Yeux.
[1] « pull to refresh »
[2] « infinite scroll »
[3] « human downgrading »
[4] « Body Dismorphic Disorder »
[5] « Callout culture »
Connexion ou Créer un compte pour participer à la conversation.
- Messages : 271
D'autant que les... comment les appeler ? "Numéristes" ? "Pro-écrans" ? "Pro-numérique" ? "Anti-anti-écrans" ? Bref... les personnes qui ont un problème avec les personnes comme toi, ou le COSE, ou Michel Desmurget, ou le Dr. Ducanda, se le partagent, et commencent à trouver la parade à ce que j'appellerais "l'argument Waldorf/Steve Jobs".
Dit autrement, si on leur demande (c'est un exemple) : n'est-il pas contradictoire de promouvoir le numérique à l'école ou dès l'enfance quand on sait que les pontes du numérique eux-mêmes font tout pour que leurs propres enfants n'y accèdent pas ? La preuve avec Steve Jobs qui était un parent "low-tech" revendiqué. La preuve, aussi, avec tous ces "cadres de la Silicon Valley" qui envoient leurs rejetons dans les écoles Waldorf, dépourvues d'écrans.
... certains d'entre eux ont une parade : Clé utilisateur/ secrète de la configuration non valide
... qui consiste à dire : d'une part, Steve Jobs, avant d'être un parent "low-tech", était surtout un parent horrible (cf. les articles sur sa fille Lisa) qui a cru qu'il pouvait soigner son cancer avec les plantes, et d'autre part, les écoles Waldorf, avant d'être dépourvues d'écrans, sont surtout des écoles dépourvues d'hygiène, sans parler de leur promotion de théories délirantes, sectaires et racistes.
Edit: Effectivement, mon message avait plus sa place dans ce fil, au temps pour moi. Par contre, c'est curieux, mais je ne peux pas répondre... même chose pour le fil "enseigner l'informatique à l'école".
Connexion ou Créer un compte pour participer à la conversation.
- Loys
- Auteur du sujet
- Messages : 18044
Clé utilisateur/ secrète de la configuration non valide
Connexion ou Créer un compte pour participer à la conversation.
- Loys
- Auteur du sujet
- Messages : 18044
Aza Raskin is the creator of “infinite scroll”, a feature that has become ubiquitous on sites such as Facebook and Twitter and allows users to continuously move up or down a page, removing any need to press “refresh” or hit a “next page” button.
He said he designed the service to create the most seamless possible experience for user but did not foresee the consequences.
Et Guillaume Chaslot qui a travaillé sur l'algorithme de recommandation de YouTube de 2010 à 2013 dans "Le Point" du 29/08/19 : "YouTube : confessions d'un repenti" .
Mais un article qui se veut rassurant dans le "NYT" du 17/01/20 : "Panicking About Your Kids’ Phones? New Research Says Don’t" . L'article se fonde uniquement sur la santé mentale.
Quelque chose est masqué pour les invités. Veuillez vous connecter ou vous enregistrer pour le visualiser.
Connexion ou Créer un compte pour participer à la conversation.