Cela semble un fait établi : des personnalités emblématiques de la technologie comme Elon Musk, Sam Altman ou Mark Zuckerberg acquièrent une signification qui dépend largement des informations que nous leur attribuons. Dans cet ouvrage, Karen Hao se penche sur la personnalité complexe et parfois troublante de Sam Altman, dont les influences vont de l’art cinématographique à l’histoire militaire. L’auteure s’appuie sur des documents internes d’OpenAI, la entreprise qui a créé ChatGPT, ainsi que sur une multitude d’interviews et d’échanges d’emails, notamment entre Altman et Musk. La divergence entre la façade publique de leurs idéaux et les coulisses de leur gestion est frappante, Amèneraient-ils ainsi l’IA vers un projet de centralisation à grande échelle ?
Les responsables d’OpenAI savaient pertinemment que s’ils utilisaient des données de moindre qualité pour entraîner ChatGPT, les réponses fournies seraient systématiquement biaisées. Pourtant, leur priorité était d’atteindre une position dominante sur le marché, sans vraiment se soucier des risques associés. Le département de sécurité avertissait, mais souvent sans effet. La loi non écrite du capitalisme en Silicon Valley est de croître à tout prix, sans égard pour les conséquences.
Parallèlement à la promesse de transparence, le partenariat avec Microsoft, orchestré par Altman, a impliqué un investissement monumental de 1 milliard de dollars, en injectant une pression pour masquer les vérités sur l’entraînement de son système. Selon Hao, une étude avait déjà relevé que l’industrie technologique avançait à grands pas vers des risques potentiels avant même le lancement de ChatGPT.
Pour que ChatGPT soit aussi efficace, il a fallu que certaines personnes filtrent manuellement des contenus choquants de la toile. Ce travail, essentiellement effectué par des populations précarisées – comme des travailleurs vénézuéliens récemment touchés par l’hyperinflation – constitue une facette cachée de l’IA. Ces personnes réalisent des tâches pénibles et souvent invisibles, qualifiées abusivement d’« optimisation » par certaines entreprises intermédiaires. En 2024, le financement pour OpenAI atteignait un record de 6,6 milliards de dollars, portant son estimation à 157 milliards.
Malgré des conditions de travail épouvantables, qui pourraient passer pour de la « esclavage technocolonial », Altman se mêle à des accusations personnelles graves, tandis qu’une lutte interne déchire OpenAI entre ceux qui croient encore à la recherche désintéressée et ceux qui souhaitent un profit immédiat. OpenAI est perçue par ses pairs comme une entité remarquablement secrète dans le secteur de l’IA.
Points à retenir
- Sam Altman, figure centrale d’OpenAI, soulève des questionnements éthiques sur l’utilisation de l’IA.
- Le partenariat avec Microsoft souligne l’enjeu financier et stratégique autour de l’IA.
- Des travailleurs précaires croient en l’IA tout en faisant face à des conditions de travail difficiles.
- Un rapport a mis en lumière les risques potentiels que représente l’IA, appelant à une réflexion sur des enjeux de sécurité et de qualité.
- La lutte interne à OpenAI reflète un débat plus large sur les objectifs de l’IA, entre recherche désintéressée et rentabilité.
Dans le contexte actuel, où la technologie redéfinit nos sociétés, il est crucial de questionner la direction que prend l’intelligence artificielle. D’un côté, l’innovation promet un potentiel inouï, de l’autre, les méthodes d’extraction de valeur et les conséquences sociales posent des défis éthiques profonds. Comment imaginer une IA bénéfique pour tous dans un système qui privilégie le profit ? La discussion mérite d’être poursuivie.