Biais de l'IA

Qu’est-ce qu’un biais de l’IA ?

Un modèle apprend à partir d’exemples. Si ces exemples sont déséquilibrés, il apprend ce déséquilibre comme une règle. L’algorithme n’a aucune intention : il reflète fidèlement ses données, avec leurs angles morts et leurs préjugés.

Un cas souvent cité est celui d’un outil expérimental de recrutement qui pénalisait les CV de femmes. Il avait appris à partir des embauches des années précédentes, majoritairement masculines, et en avait fait un signe de bon profil. L’entreprise a abandonné l’outil. De la même façon, la reconnaissance vocale peut se tromper davantage avec des accents peu présents dans ses données.

Comment il apparaît

Le biais peut s’introduire à plusieurs étapes :

1. Dans les données. Un dataset avec peu d’exemples d’un groupe, ou qui reflète des décisions injustes du passé. C’est l’origine la plus fréquente.
2. Dans la conception. Le choix de ce qu’on prédit et des variables utilisées. Le code postal, par exemple, peut servir d’indicateur indirect de l’origine ou du niveau de revenu.
3. Dans l’entraînement et l’évaluation. Si l’on ne mesure que la performance moyenne, un modèle peut bien fonctionner pour la majorité et mal pour une minorité sans que personne ne s’en aperçoive.
4. Dans l’usage. Le biais d’automatisation : on suit la recommandation de la machine sans la remettre en question.

Les modèles de langage ajoutent un autre front : ils peuvent reproduire des stéréotypes présents dans les textes d’entraînement, par exemple en supposant le genre associé à un métier.

Exemple

Une agence de location immobilière à Marseille utilise un outil pour classer les candidats locataires. En analysant les résultats par profil, elle constate que les indépendants finissent presque toujours en bas de liste, même avec des revenus élevés. Le modèle avait appris que « CDI » rimait avec bon locataire, comme le montrait l’historique.

L’agence revoit ses critères, ajoute des exemples d’indépendants solvables et décide que la décision finale reviendra toujours à une personne, le classement ne servant que d’aide.

Ce que ça change pour votre entreprise

Si vous utilisez l’IA face à vos clients, deux écueils sont à éviter : qu’elle traite certains moins bien que d’autres, et qu’elle prenne seule des décisions importantes. Le premier se combat en examinant les résultats ; le second, avec des règles claires et une personne aux commandes. L’AI Act va dans ce sens, avec des obligations d’autant plus fortes que le risque est élevé.

Chez UTIO, l’agent vocal et l’agent WhatsApp appliquent les règles que vous fixez : ce qu’ils peuvent faire, à partir de quelles informations et quand passer la main. L’autonomie est progressive (sans IA, demander, brouillon ou automatique) et démarre en brouillon. Vous voyez ainsi comment l’agent répond à différents profils de clients avant de lui laisser plus de marge.