Quand les algorithmes trient les CV comme des spams : l'alerte d'une experte

Dans une publication LinkedIn, Amélie Raoul, doctorante spécialisée en éthique de l'IA, partage les conclusions préoccupantes de ses recherches présentées dans une tribune pour Le Grenier. Elle y décrit comment les algorithmes d'IA peuvent perpétuer des discriminations, notamment dans le recrutement où certains systèmes "trient les CV comme on trie des spams" et "apprennent à exclure sans même qu'on leur demande". Face à ces dérives, elle recommande un changement de culture d'entreprise incluant audits éthiques, chartes développées avec les équipes, interdisciplinarité et compréhension approfondie des enjeux.

Lire l'article sur linkedin.com →

Informations

Source

Amélie Raoul

Publication

15/05/2025

Tags associes

Technologie Éthique RH

LinkedIn X / Twitter Email

Articles connexes

IA frugale : entre marketing et réalité, le fossé se creuse

Amélie Raoul, chercheuse en IA, dénonce le greenwashing dans le domaine de l'intelligence artificielle. Elle met en lumière le phénomène de l'IA frugale, souvent présentée comme une solution écologique, mais rarement mesurée de manière concrète. Selon elle, les promesses marketing sont loin de la réalité : « Notre IA consomme 90% moins ! » mais 90% moins que quoi ? Les certifications et les slogans verts cachent souvent une absence de données tangibles. Les vrais experts, eux, cherchent des solutions réellement sobres. Une requête GPT-4 consomme 10 Wh, tout comme un chatbot « frugal ». Il est temps de demander des preuves réelles et non des promesses creuses.

Mistral AI quantifie l'impact écologique de ses LLMs

Mistral AI, pionnier de l'IA ouverte, publie une étude inédite sur l'impact environnemental de ses modèles. En collaboration avec Carbone 4 et l'ADEME, l'entreprise révèle des chiffres clés : 20,4 ktCO₂e et 281 000 m3 d'eau pour l'entraînement de Mistral Large 2. Une avancée majeure pour la transparence dans le secteur. "Nous croyons en une responsabilité collective pour adresser et mitiger les impacts environnementaux de nos innovations."

L'IA pense, donc je crois : la mise en garde d'Amélie Raoul

Amélie Raoul, chercheuse en IA, annonce la publication de son article sur "l'IA conversationnelle comme autorité cognitive" à IA-EDU CORIA-TALN 2025. Elle y explore comment des IA comme Grok transforment notre rapport au savoir. "On ne questionne plus, on invoque", souligne-t-elle, mettant en garde contre la délégation de notre esprit critique à des algorithmes perçus comme omniscients. Raoul propose une "pédagogie de l'incertitude algorithmique" pour réapprendre à cultiver notre autonomie cognitive.

La Chine déploie l’IA à grande échelle, bien au-delà des labs.

La Chine déploie l’IA à grande échelle, bien au-delà des labs. Comme le révèle Pascaline Bertaux (cofondatrice de 359), des géants comme Ping An Good Doctor (diagnostics à 97 % de précision), JD (entrepôts 100 % autonomes) ou Meituan (livraisons optimisées par algorithmes) transforment déjà la santé, la logistique et l’éducation. « L’IA chinoise ne se code pas, elle agit », résume-t-elle. L’Occident régule, la Chine scale.