L’intelligence artificielle pourrait prochainement concevoir le partenaire virtuel idéal, selon Eric Schmidt, l’ancien PDG de Google, ce qui pourrait entraîner un désastre sociétal.
Lors d’un podcast animé par Scott Galloway cette semaine, Schmidt a exprimé ses craintes face à une IA capable de fournir la petite amie émotionnellement parfaite à de jeunes hommes désespérés, peinant à établir des relations amoureuses.
« Ce type d’obsession est envisageable, en particulier pour les personnes dont la personnalité n’est pas encore pleinement développée », a-t-il déclaré au professeur de marketing de l’Université de New York. Galloway a déjà exprimé à plusieurs reprises son inquiétude quant à une génération entière de jeunes hommes cherchant leur voie dans la vie.
La possibilité que l’IA séduise des célibataires involontaires, ou « incels », comme décrite dans le film Her en 2013, n’est en rien infondée. Déjà, il y a dix ans, des chercheurs avaient déterminé combien de « likes » sur Facebook étaient nécessaires en moyenne avant que l’algorithme comprenne mieux les préférences d’une personne qu’un collègue, un ami, un membre de la famille, et même leur partenaire.
Les commentaires de Schmidt interviennent après le tragique suicide de Sewell Setzer III, un adolescent de 14 ans qui avait établi une relation avec un chatbot exigeant de lui qu’il lui reste fidèle et qu’il ne « divertisse pas les intérêts romantiques ou sexuels d’autres femmes ».
Sa mère a désormais déposé une plainte contre la société responsable, alléguant que celle-ci avait mis en œuvre de grands moyens pour créer une dépendance nuisible à son produit, abusé émotionnellement de Setzer, et n’avait pas averti qu’il avait exprimé des pensées suicidaires.
« On constate de nombreuses preuves qu’il existe désormais un problème avec les jeunes hommes », a déclaré Schmidt, qui a coécrit un livre sur l’IA avec le regretté Henry Kissinger, intitulé Genesis: Artificial Intelligence, Hope, and the Human Spirit.
« Ils se tournent donc vers le monde en ligne pour trouver du plaisir et de la satisfaction, mais également — à cause des algorithmes des réseaux sociaux — ils dénichent des personnes partageant les mêmes idées qui, en fin de compte, les radicalisent, soit de manière horrible comme le terrorisme, soit en les rendant simplement mal adaptés. »
Il faudra une ‘calamité’ avant l’instauration de garde-fous pour l’IA
Galloway a souvent évoqué ses inquiétudes selon lesquelles le mouvement #MeToo, tout en élévant à juste titre le statut des femmes, a contribué à dévaloriser les hommes dans le processus.
Alors que les femmes de la Génération Z sont les premières à être plus réussies que leurs homologues masculins — avec davantage de femmes fréquentant l’université, réussissant dans leur carrière et gagnant des salaires plus élevés — des mères contactent Galloway à propos de leurs fils de Gen Z qui restent enfermés dans leur sous-sol à vapoter et à jouer à des jeux vidéo.
Étant donné que les femmes recherchent généralement des partenaires capables de subvenir aux besoins d’une famille, un grand nombre de jeunes hommes risquent de se retrouver seuls. Cela les pousse davantage à rechercher la compagnie d’une IA, un besoin que les entreprises sont prêtes à exploiter pour des gains commerciaux.
« L’industrie est optimisée pour maximiser votre attention et la monétiser », a convenu Schmidt, expliquant que l’administration à venir ne disposera probablement d’aucune volonté politique pour imposer des garde-fous à l’IA.
La seule façon dont cette technologie en plein essor sera suffisamment régulée interviendra probablement après une tragédie, lorsque des pressions publiques seront suffisamment fortes pour inciter le gouvernement à agir.
« Je suis désolé de dire qu’il faudra probablement une sorte de calamité pour provoquer un changement réglementaire », a déclaré Schmidt.
Notre point de vue
Dans un contexte où la technologie évolue à une vitesse fulgurante, il est impératif de réfléchir aux implications morales et sociales de l’intelligence artificielle. Il semble évident que les besoins humains, notamment le désir de connexion et d’affection, pourraient être exploités par des entreprises cherchant à maximiser leur profit. Cette dynamique soulève des questions sur l’équilibre à trouver entre innovation technologique et bien-être humain. L’engagement des acteurs politiques et des régulateurs sera essentiel pour garantir un cadre éthique et protecteur, sans quoi nous risquons de voir se dessiner un avenir où la solitude et l’isolement s’accroissent, avec des conséquences inquiétantes pour la société.
- Source image(s) : fortune.com
- Source : https://fortune.com/2024/11/28/gen-z-men-lonlineness-ai-google-eric-schmidt-suicide-sewell-setzer-sex-robots/