L’IA propulse les décisions financières, mais requiert une analyse approfondie !

Les entreprises du secteur financier adoptent rapidement l’intelligence artificielle (IA), mais chaque nouvelle application engendre également des coûts. Sans priorisation, mesure et contrôle, les budgets risquent de s’épuiser avant même que les projets produisent des résultats. La course à l’IA peut épuiser les ressources rapidement, mais la qualité humaine décidera si cette technologie se transforme en atout ou en perte.

Ce sujet a été abordé lors d’un panel intitulé “IA et Données de Marché” à l’Expert XP, avec la participation de Gabriel Santos, directeur de la technologie chez XP Inc., et de Marcos Boscheti, PDG et cofondateur de Nelogica. Modéré par Roberto Indech, responsable des relations institutionnelles en revenu variable chez XP Inc., le débat a souligné que l’accélération de l’usage des technologies nécessite de faire des choix fiables afin d’équilibrer productivité, coût et sécurité.

Le coût impose des choix

Maîtriser les coûts de l’intelligence artificielle n’est qu’une partie du défi. Même lorsque l’IA permet un gain de temps, les entreprises doivent prouver combien cette vitesse se traduit en revenus, en efficacité ou en qualité. Sinon, un outil bien accepté par les utilisateurs risque de n’être qu’une simple commodité. “Mesurer l’impact, surtout en lien avec le business, est un défi colossal”, reconnait Santos.

Un autre coût se présente lors de l’évaluation des productions. Les codes, analyses et actions générés par des systèmes autonomes doivent encore être vérifiés par des professionnels. Cela représente une part significative des dépenses pour certaines entreprises. “Il existe un coût de vérification”, souligne Boscheti.

[not-theb]

[/not-theb]

Parallèlement, la gouvernance et la sécurité deviennent cruciales lorsqu’il s’agit de partager des données clients avec des systèmes d’IA. Sans contrôle, des informations sensibles peuvent être exposées ou utilisées de manière inappropriée. Ainsi, élargir l’accès avant de définir des règles pourrait transformer une quête de productivité en une nouvelle source de risques.

Des préoccupations émergent également autour des biais et des réponses erronées. Les modèles produisent de nouvelles données qui risquent de revenir dans le processus d’entraînement des prochaines versions. Par conséquent, des erreurs ou des hallucinations pourraient être reproduites à grande échelle. Suivre l’origine et la qualité des informations devient donc aussi essentiel que d’augmenter les capacités de traitement.

Ainsi, lorsque l’utilisation de la technologie augmente, la consommation de ressources s’accroît. Plus il y a d’applications, plus la demande de traitement et d’utilisation de modèles est forte, ce qui nécessite un contrôle rigoureux sur les investissements. Sans cette filtration, les entreprises risquent d’épuiser leurs budgets avant de récolter une valeur significative. “Pour moi, sans aucun doute, le plus grand coût, c’est la gestion. De nombreuses entreprises ont déjà épuisé leur budget en IA parce qu’elles ont tout libéré sans une gestion adéquate,” affirme Santos.

L’humain reste décisif

Un autre risque se présente lorsqu’une réponse convaincante est acceptée sans une évaluation critique. Les modèles de langage peuvent fournir des explications plausibles même sans lien causal entre les données. Sur le marché financier, cela pourrait amener un investisseur à reproduire des interprétations erronées sans remettre en question la base de ses décisions.

Dans ce contexte, une dépendance excessive à la technologie devient risquée. L’accès facile aux réponses peut réduire le scepticisme et compromettre le processus décisionnel, en particulier lorsque l’utilisateur se fie aveuglément au modèle. “Imaginez une personne qui fait confiance à l’IA et qui commence à tout reproduire… La capacité analytique va donc devenir un atout précieux à l’avenir”, précise Santos.

De même, l’automatisation devrait progresser à différents niveaux avant d’atteindre une autonomie totale. D’abord, le système informe, puis agit comme copilote, suggérant des actions ou créant des garde-fous. Dans les étapes suivantes, il peut exécuter des tâches sous supervision ou conformément à un mandat. Toutefois, les objectifs, limites et politiques continueront de dépendre de décisions humaines.

Pour les experts, la technologie ne sera plus un élément différenciant en soi. À une époque où les outils deviennent de plus en plus accessibles, l’avantage dépendra de la qualité des personnes impliquées dans la prise de décision.

Interrogé sur l’élément essentiel pour bâtir une entreprise prospère en intelligence artificielle, Boscheti ne mentionne ni la technologie ni les ensembles de données : “Les meilleures personnes, car ce sont elles qui bâtissent le reste ; je n’ai aucun doute là-dessus”, conclut-il.