BRIQUE IA 10

Éthique, biais et responsabilité décisionnelle

Niveau 3 - Pilotage & Stratégie

1 jour

CODIR, DRH, Directions métier, Comités éthique

Pourquoi cette formation ?

L’IA n’est pas neutre. Elle amplifie les biais présents dans les données. Elle peut discriminer. Elle peut prendre des décisions injustes.

Et la responsabilité, elle est où ?

Si une IA de recrutement discrimine, qui est responsable ? Le DRH ? L’éditeur ? Le data scientist ?
Si une IA médicale se trompe, qui est coupable ? Le médecin ? L’hôpital ? Le développeur ?
Si une IA refuse un crédit de manière injuste, qui répond ?

Cette formation vous donne une vision stratégique et éthique de l’IA :

Comprendre les biais algorithmiques et leurs origines
Décision humaine vs décision automatisée : où placer le curseur ?
Traçabilité et explicabilité des décisions IA
Impacts sociaux et organisationnels de l’IA
Construire un cadre éthique d’utilisation de l’IA dans votre organisation

Résultat : Vous avez une vision claire des enjeux éthiques de l’IA et un cadre pour prendre des décisions responsables.

Ce que vous allez apprendre

✅ Biais algorithmiques : origines et impacts

Qu’est-ce qu’un biais algorithmique ?
- Discrimination systématique d’un groupe
- Basée sur genre, race, âge, origine, handicap, etc.
- Souvent involontaire (biais dans les données d’entraînement)
Origines des biais :
- Biais dans les données d’entraînement :
  - Données non représentatives (ex: modèle entraîné uniquement sur hommes blancs)
  - Données historiques biaisées (ex: historique de recrutement discriminatoire)
- Biais dans les labels :
  - Étiquetage humain biaisé (ex: annotateurs avec préjugés)
- Biais dans l’algorithme :
  - Optimisation d’un objectif qui favorise un groupe
  - Corrélations spurieuses (fausses corrélations)
Cas célèbres de biais algorithmiques :
- Amazon recrutement (2018) : IA pénalisait les CV de femmes (entraînée sur historique masculin)
- COMPAS justice (USA) : IA de prédiction de récidive biaisée contre les minorités
- Reconnaissance faciale : taux d’erreur bien plus élevé sur personnes non-blanches
- Publicité en ligne : affichage d’offres d’emploi bien payé uniquement aux hommes
Impacts :
- Discrimination dans l’emploi, le crédit, la justice, la santé
- Reproduction et amplification des inégalités existantes
- Atteinte aux droits fondamentaux
- Perte de confiance dans l’IA

✅ Responsabilité : qui est coupable ?

Chaîne de responsabilité dans un système IA :
- Développeur du modèle : a-t-il testé les biais ? a-t-il documenté les limites ?
- Fournisseur de l’outil : a-t-il audité le modèle ? a-t-il prévenu des risques ?
- Décideur (acheteur) : a-t-il vérifié l’absence de biais ? a-t-il mis en place la supervision humaine ?
- Utilisateur final : a-t-il suivi les procédures ? a-t-il validé la décision ?
Responsabilité légale :
- Avec l’AI Act : obligations de conformité pour chaque acteur
- En cas de dommage : responsabilité partagée selon les rôles
Responsabilité morale :
- Au-delà de la loi : quel impact sur les personnes ?
- Principe de précaution : en cas de doute, ne pas déployer

✅ Décision humaine augmentée vs automatisée

Trois modèles de décision :
- Human-in-the-loop : l’IA propose, l’humain décide
  - Exemple : IA suggère des candidats, le recruteur choisit
  - Avantage : contrôle humain total
  - Inconvénient : l’humain peut être biaisé aussi (biais d’ancrage : suivre aveuglément l’IA)
- Human-on-the-loop : l’IA décide, l’humain supervise
  - Exemple : IA trie les CV, l’humain peut annuler une décision
  - Avantage : efficacité + contrôle
  - Inconvénient : l’humain valide rarement (lassitude, confiance excessive)
- Fully automated : l’IA décide seule
  - Exemple : algorithme de trading haute fréquence
  - Avantage : vitesse maximale
  - Inconvénient : perte de contrôle total, risques élevés

Zones grises décisionnelles :
- Décisions critiques (vie, liberté, emploi) → JAMAIS fully automated
- Décisions importantes (crédit, assurance) → Human-in-the-loop obligatoire
- Décisions courantes (recommandations produits) → Automated acceptable
- Principe : Plus l’impact est fort, plus la supervision humaine doit être forte

✅ Traçabilité et explicabilité (XAI)

Traçabilité : enregistrer toutes les décisions de l’IA
- Qui a utilisé l’IA ? Quand ? Pour quelle décision ?
- Quelles données en entrée ? Quelle sortie ?
- Permet l’audit a posteriori
- Obligation AI Act pour systèmes haut risque

Explicabilité (XAI – eXplainable AI) :
- Comprendre POURQUOI l’IA a pris cette décision
- Techniques :
  - LIME (Local Interpretable Model-agnostic Explanations) : quels facteurs ont pesé dans cette décision ?
  - SHAP (SHapley Additive exPlanations) : contribution de chaque variable
  - Attention maps : pour modèles de vision (qu’a regardé l’IA ?)
- Importance : droit à l’explication (RGPD), confiance, amélioration du modèle

Dilemme transparence vs performance :
- Modèles simples (arbres de décision) : très explicables, moins performants
- Modèles complexes (deep learning) : très performants, boîtes noires
- Compromis selon le cas d’usage

✅ Impacts sociaux et organisationnels de l’IA

IA et emploi :
- Substitution : tâches remplacées par l’IA (ex: caissiers, comptables niveau 1)
- Augmentation : humains assistés par l’IA (ex: médecins, analysts)
- Création : nouveaux métiers (prompt engineers, AI trainers, éthiciens IA)
- Transformation : métiers qui évoluent (marketeurs utilisent MidJourney)
- Études : 30-40% des tâches automatisables, mais pas 30% des emplois (confusion courante)

Dialogue social et accompagnement :
- Impliquer les représentants du personnel (CSE)
- Communiquer de manière transparente sur les projets IA
- Former et accompagner les collaborateurs (pas de « surprise IA »)
- Gérer les peurs et résistances (écoute, pédagogie)

Transformation des métiers :
- Les métiers ne disparaissent pas, ils évoluent
- Exemple marketing : moins de temps sur création manuelle, plus sur stratégie et validation
- Montée en compétences nécessaire (formation continue)

✅ Construire un cadre éthique d’utilisation de l’IA

Principes éthiques (inspirés des frameworks internationaux) :
- Transparence : informer que l’IA est utilisée
- Équité : pas de discrimination, traitement juste de tous
- Responsabilité : quelqu’un doit répondre des décisions
- Sécurité : l’IA ne doit pas causer de dommages
- Respect de la vie privée : protection des données personnelles
- Bénéfice humain : l’IA doit servir l’humain, pas le remplacer

Comité d’éthique IA :
- Composition : diversité (IT, métiers, juridique, RH, externe)
- Rôle : évaluer les projets IA selon critères éthiques
- Pouvoir : recommandations (voire veto sur projets risqués)
- Réunions : trimestrielles ou ad-hoc (nouveau projet)

Charte éthique IA de l’entreprise :
- Document public ou interne
- Engagement de l’organisation sur l’usage responsable de l’IA
- Principes, exemples concrets, processus de décision
- Révision annuelle (l’IA évolue vite)

Cas pratiques : arbitrages éthiques :
- Cas 1 : IA de recrutement très performante mais opaque (boîte noire). L’utiliser ?
  - Pour : gain temps, qualité des candidats
  - Contre : impossible d’expliquer les rejets (RGPD, éthique)
  - Arbitrage : exiger explicabilité OU ne pas utiliser pour décision finale (seulement pré-sélection validée par humain)
- Cas 2 : IA de surveillance des salariés (productivité, temps passé, emails). Acceptable ?
  - Pour : optimiser la performance
  - Contre : atteinte vie privée, climat de méfiance, éthiquement discutable
  - Arbitrage : probable refus, sauf cas très spécifiques (secteur sécurité, transparence totale)
- Cas 3 : IA de pricing dynamique (prix différents selon profil client). Éthique ?
  - Pour : maximiser revenus
  - Contre : discrimination par le prix (clients pauvres paient plus ?)
  - Arbitrage : acceptable SI transparence + critères objectifs (moment achat, urgence) MAIS PAS caractéristiques personnelles (âge, genre, quartier)