Les responsables de Saugerties se penchent sur la régulation de l’intelligence artificielle

Les membres du conseil d’éducation du district scolaire central de Saugerties (SCSD) s’accordent à dire qu’une politique concernant l’intelligence artificielle (IA) est nécessaire. Cependant, ils sont partagés sur l’insuffisance des mesures prises pour établir des règles claires.

La nouvelle politique du district, approuvée par un vote serré de 4-3 lors d’une réunion du conseil scolaire le mardi 14 janvier, cherche à “aborder de manière proactive les implications de l’utilisation de l’IA afin de garantir qu’elle améliore les résultats éducatifs sans compromettre l’intégrité académique ou l’équité”.

Celle-ci vise à s’appliquer aux élèves, enseignants, bénévoles et contractuels, et couvre l’utilisation de l’IA dans le texte, les images, l’audio, entre autres, en “imprégnant souvent la créativité et l’adaptabilité humaines”.

Les préoccupations mentionnées dans la politique font écho à celles des critiques de l’IA dans le monde entier, notamment le risque que l’IA générative (GenAI) produise “des informations plausibles, mais fausses ou inexactes, un phénomène connu sous le nom d’hallucination/confabulation”, en raison de sa dépendance aux données générées par des humains, qui peuvent inclure des biais et des stéréotypes, notamment ceux liés à la race et au genre. La politique aborde également le potentiel de GenAI pour “le biais de réponse”, ajustant ses réponses à ce qu’il prédit que l’utilisateur souhaite entendre en fonction de ses données d’entraînement.

Les administrateurs s’accordent sur la nécessité d’une politique relative à l’IA, mais certains estiment que celle-ci, dans sa version actuelle, est trop floue, manque d’un plan de mise en œuvre et impose une charge supplémentaire à des éducateurs déjà surchargés, sans que ceux-ci aient une compréhension claire des soutiens qui leur seront apportés.

Michael Meyer a exprimé son enthousiasme pour l’évolution que représente l’IA, mais a souligné que la politique, lors de sa seconde lecture la semaine dernière, manquait de clarté. “Je préfèrerais que nous prenions un peu plus de temps pour peut-être mettre en place quelques orientations supplémentaires ou des garde-fous”, a-t-il déclaré. “Mon inquiétude est que plutôt que d’aller de l’avant sans réserve et de chercher à corriger les choses par la suite, nous devrions peut-être adopter une approche plus progressive dans l’utilisation de l’IA en classe.”

Christine Bellarosa a noté que l’IA existe sous une forme ou une autre dans le district depuis l’avènement des recherches sur Internet. “Cela a continué de croître, et cela ne fera que s’intensifier”, a-t-elle déclaré. “Nous devons nous assurer qu’il est bien compris que l’IA peut introduire des biais.” Elle a également évoqué l’utilisation croissante de ChatGPT dans son entreprise pour des résumés de réunions et des newsletters, soulignant l’importance d’introduire l’IA en classe tout en maintenant une flexibilité afin d’évaluer constamment ses implications.

De son côté, Katie Emerson-Hoss a aussi récemment eu recours à ChatGPT pour se soulager d’une charge de travail importante. Cependant, elle a également indiqué que la politique n’était pas encore prête, estimant qu’elle était trop vague et ne tenait pas compte des ressources limitées du district pour fournir une formation adéquate aux enseignants.

William Ball a insisté sur le fait que l’IA est bien là et que le district ne devrait pas attendre plus longtemps pour prendre des décisions à son sujet. “Cette politique reconnaît avant tout que l’intelligence artificielle existe”, a-t-il déclaré. Il a ajouté que si des enseignants utilisent l’IA sans cadre, cela entraîne un usage inconsistant.

Finalement, seuls Ball, Bellarosa, Carole Kelder, et le président du conseil Jeffrey Riozzi ont voté en faveur de la politique. Emerson-Hoss, Irizarry et Meyer ont voté contre, tandis que Timothy Wells n’était pas présent à la réunion.