Schmidt Sciences a annoncé le lancement d’un programme de recherche sur la sécurité de l’intelligence artificielle (IA) doté d’un budget de 10 millions de dollars. Ce programme soutiendra 27 projets visant à développer les connaissances fondamentales indispensables pour comprendre les enjeux de sécurité liés aux systèmes d’IA.
Les projets initiaux se concentreront sur l’élaboration de méthodes techniques solides, concrètes et applicables pour tester et évaluer les grands modèles linguistiques, afin de minimiser les risques de dommages, d’erreurs ou de détournements. Ce programme ambitionne de créer des outils robustes pour mesurer et évaluer les risques, de fournir un financement pour soutenir des recherches à long terme et de valoriser l’expertise académique sous-exploitée dans le domaine de l’IA. À la fin de l’année, le programme de recherche en sécurité de l’IA réunira ses lauréats en Californie pour partager leurs travaux.
« Combler ces lacunes est essentiel pour garantir que les futurs systèmes d’IA soient sûrs, dignes de confiance et bénéfiques pour la société. Ce n’est pas seulement un programme de financement, mais un mouvement visant à galvaniser la communauté scientifique », a déclaré Stu Feldman, scientifique en chef et président de Schmidt Sciences. « En construisant les bases de la science de la sécurité de l’IA, nous veillerons à ce que les systèmes d’IA servent l’humanité de manière responsable et équitable. »
Pour consulter la liste complète des bénéficiaires, rendez-vous sur le site de Schmidt Sciences.
(Crédit photo : Getty Images/Laurence Dutton)
Notre Opinion Tech
Dans un contexte où l’intelligence artificielle prend une place de plus en plus prépondérante dans notre quotidien, le lancement d’initiatives telles que celle-ci par Schmidt Sciences semble une réponse pertinente aux inquiétudes croissantes concernant la sécurité des systèmes d’IA. En investissant dans des recherches fondamentales, nous pouvons espérer établir des normes et des pratiques qui guideront le développement futur de l’IA, tout en assurant une meilleure intégration de l’expertise académique dans la dynamique de l’innovation. La recherche sur la sécurité de l’IA n’est pas simplement une question technique : elle englobe des considérations éthiques, sociales et culturelles qui nécessitent un dialogue approfondi entre les scientifiques, les décideurs et la société civile.
Bon à savoir : La sécurité de l’intelligence artificielle est un sujet qui soulève des débats passionnés sur son impact sur l’emploi, la vie privée et les droits humains. Les travaux en cours sur ces questions peuvent potentiellement façonner un cadre réglementaire adapté à un secteur en constante évolution.
Article original rédigé par : Prénom Nom.
C’est inspirant de voir des initiatives qui placent la sécurité de l’IA au cœur des préoccupations. Ensemble, faisons en sorte que la technologie serve un avenir meilleur!