UA0 : Intelligence Artificielle appliquée et enjeux professionnels (partie 2/2)

## Objectifs et prérequis **À la fin de ce chapitre, l’élève sera capable de :** - Expliquer les principaux textes législatifs encadrant l’intelligence artificielle au Cameroun et dans l’Union européenne (RGPD, loi n° 2010/012 du 21 décembre 2010 relative à la cybersécurité et à la cybercriminalité, projet de loi sur la protection des données personnelles). - Identifier les droits des personnes concernées (accès, rectification, effacement, portabilité, opposition) et les obligations des responsables de traitement (consentement licite, minimisation, finalité, sécurité). - Réaliser une analyse de conformité simple d’un système IA en vérifiant le respect du principe de minimisation des données. - Définir les notions de biais algorithmique, d’équité et de discrimination indirecte. - Calculer et interpréter des indicateurs d’équité (disparate impact, différence de parité statistique, égalité des chances). - Proposer des mesures correctives pour réduire un biais détecté dans un modèle de classification. **Prérequis :** - Notions de base en informatique (données, traitements, algorithmes). - Connaissance du fonctionnement d’un système d’information (saisie, stockage, restitution). - Maîtrise du calcul de pourcentages et de rapports simples. --- ## Introduction contextualisée L’intelligence artificielle (IA) transforme profondément les secteurs de l’éducation, de la santé, de l’agriculture et de l’administration publique au Cameroun. Toutefois, son déploiement soulève des questions juridiques et éthiques majeures : comment garantir que les données personnelles soient traitées licitement ? Comment s’assurer que les décisions prises par un algorithme ne reproduisent pas ou n’aggravent pas les inégalités sociales existantes ? Ce chapitre aborde ces deux enjeux complémentaires : le cadre juridique et la protection des données face à l’IA, puis les biais algorithmiques et l’équité de l’IA. --- ## I. Cadre juridique et protection des données face à l’IA ### 1. Principaux textes législatifs applicables > **RGPD (Règlement (UE) 2016/679)** : règlement européen relatif à la protection des personnes physiques à l’égard du traitement des données à caractère personnel et à la libre circulation de ces données. Entré en vigueur le 25 mai 2018. > **Loi camerounaise n° 2010/012 du 21 décembre 2010** portant sur la cybersécurité et la cybercriminalité : définit les infractions liées aux systèmes d’information et prévoit des sanctions pour les traitements illicites de données. > **Projet de loi camerounaise sur la protection des données personnelles** (en cours d’adoption, inspiré du RGPD) : prévoit les principes de licéité, de finalité, de proportionnalité et les droits des personnes concernées. ### 2. Principes fondamentaux de la protection des données > **Licéité, loyauté et transparence** : tout traitement doit avoir une base légale (consentement, contrat, obligation légale, intérêt légitime, tâche d’intérêt public ou sauvegarde des intérêts vitaux). > **Limitation des finalités** : les données doivent être collectées pour des finalités déterminées, explicites et légitimes, et ne pas être traitées ultérieurement de manière incompatible avec ces finalités. > **Minimisation des données** : seules les données adéquates, pertinentes et strictement nécessaires au regard des finalités poursuivies doivent être traitées. > **Exactitude** : les données doivent être exactes et, si nécessaire, tenues à jour. > **Limitation de la conservation** : les données doivent être conservées sous une forme permettant l’identification des personnes pendant une durée n’excédant pas celle nécessaire aux finalités. > **Intégrité et confidentialité** : les données doivent être traitées de manière à garantir une sécurité appropriée (confidentialité, intégrité, disponibilité). > **Responsabilité** : le responsable de traitement doit être en mesure de démontrer le respect de ces principes. ### 3. Droits des personnes concernées > **Droit d’accès** : obtenir la confirmation que des données la concernant sont traitées et en obtenir une copie. > **Droit de rectification** : faire corriger les données inexactes. > **Droit à l’effacement (« droit à l’oubli »)** : obtenir l’effacement de ses données lorsque celles-ci ne sont plus nécessaires ou lorsqu’elle retire son consentement. > **Droit à la portabilité** : recevoir les données fournies dans un format structuré, couramment utilisé et lisible par machine, et les transmettre à un autre responsable. > **Droit d’opposition** : s’opposer au traitement pour des motifs liés à sa situation particulière, notamment le profilage. ### 4. Obligations des responsables de traitement dans le contexte IA - Obtenir un **consentement explicite, libre, spécifique et éclairé** lorsque le traitement repose sur cette base. - Réaliser une **analyse d’impact sur la protection des données (AIPD)** lorsque le traitement présente un risque élevé pour les droits et libertés des personnes (ex. : reconnaissance faciale, scoring de crédit). - Mettre en œuvre des **mesures de sécurité appropriées** (pseudonymisation, chiffrement, contrôles d’accès). - Tenir un **registre des activités de traitement** décrivant les catégories de données, les finalités, les destinataires, les transferts hors UE/Cameroun, etc. - Désigner un **délégué à la protection des données (DPD)** si le traitement implique un suivi régulier et systématique à grande échelle ou des catégories particulières de données. ### 5. Démonstration : application du principe de minimisation Supposons qu’une entreprise souhaite développer un modèle de recommandation de produits basé sur l’historique d’achat des clients. La base de données initiale contient les attributs suivants : | Attribut | Description | |----------|-------------| | ID_client | Identifiant unique | | Age | Âge du client | | Sexe | Sexe (M/F) | | Région | Région de résidence | | Revenu | Revenu annuel | | Historique_achats | Liste des produits achetés | | Nombre_visites_site | Nombre de visites du site web | | Temps_moyen_page | Temps moyen passé sur chaque page | | Préferences_reseaux_sociaux | Likes/shares sur les réseaux sociaux | | État_civil | Marié(e), célibataire, etc. | Le modèle de recommandation n’a besoin que de l’**historique d’achats** et éventuellement de l’**âge** pour segmenter les offres. Selon le principe de minimisation, seules ces deux colonnes doivent être conservées pour le traitement. **Calcul du taux de réduction** : \[ \text{Taux de réduction} = 1 - \frac{k}{n} \] où \(k\) = nombre d’attributs retenus (2) et \(n\) = nombre d’attributs initiaux (10). \[ \text{Taux de réduction} = 1 - \frac{2}{10} = 1 - 0,2 = 0,8 = 80\% \] > **Résultat** : l’application du principe de minimisation permet de réduire de 80 % le volume de données traitées, diminuant ainsi les risques de fuite et les coûts de stockage. ### 6. Exemple 1 : Vérification du consentement dans une application de santé Une application mobile propose un suivi du taux de glycémie via IA. Lors de l’inscription, l’utilisateur coche une case « J’accepte que mes données de glycémie soient utilisées pour améliorer l’algorithme de prédiction ». **Étapes de vérification :** 1. Identifier la base légale : ici, le consentement. 2. S’assurer que le consentement est **explicite** (case à cocher non pré‑cochée), **libre** (pas de condition d’accès au service si refusé), **spécifique** (finalité clairement indiquée : amélioration de l’algorithme) et **éclairé** (information fournie sur la nature des données, leur usage, la durée de conservation). 3. Vérifier la possibilité de **retirer le consentement** à tout moment (lien dans les paramètres). 4. Consigner le consentement dans le registre des traitements (date, heure, version de l’information fournie). Si l’une de ces conditions fait défaut, le traitement est illicite au regard du RGPD et de la loi camerounaise en projet. ### 7. Exemple 2 : Analyse d’impact sur la protection des données (AIPD) pour un système de reconnaissance faciale dans un aéroport **Contexte** : l’aéroport souhaite installer des caméras équipées d’IA pour détecter les personnes figurant sur une liste de surveillance. **Étapes de l’AIPD :** 1. **Description du traitement** : capture d’images vidéo, extraction de caractéristiques faciales, comparaison avec une base de données de références. 2. **Nécessité et proportionnalité** : évaluer si moins intrusif (contrôle documentaire) pourrait atteindre le même objectif de sûreté. 3. **Évaluation des risques** : risque de mauvaise identification (biais racial), risque de surveillance de masse, risque de détournement des données. 4. **Mesures visant à réduire les risques** : - Limiter la conservation des images à 24 h sauf alerte. - Pseudonymiser les caractéristiques faciales (par exemple, via un chiffrement réversible avec clé secrète) ou les anonymiser (hash irréversible) si aucune réidentification n’est nécessaire. - Mettre en place un comité d’éthique indépendant. - Réaliser des tests de performance sur des groupes démographiques variés. 5. **Consultation** : solliciter l’avis du délégué à la protection des données et, si nécessaire, de l’autorité de contrôle. 6. **Documentation** : rédiger le rapport d’AIPD, obtenir l’autorisation du responsable du traitement, prévoir une révision périodique. > **Conclusion** : l’AIPD permet de déterminer si le traitement peut être mis en œuvre conformément aux principes de licéité, de minimisation et de sécurité, ou s’il doit être modifié ou abandonné. --- ## II. Biais algorithmiques et équité de l’IA ### 1. Définitions clés > **Biais algorithmique** : écart systématique et prévisible entre les résultats d’un algorithme et la réalité objective, pouvant entraîner un traitement défavorable d’un groupe de personnes en fonction de caractéristiques protégées (sexe, origine ethnique, âge, handicap, etc.). > **Équité (fairness)** : propriété d’un modèle d’IA visant à ce que ses prédictions ou ses décisions ne discriminent pas injustement les individus selon des attributs sensibles. > **Discrimination indirecte** : situation où une règle apparemment neutre produit un effet désavantageux disproportionné sur un groupe protégé. ### 2. Types de biais fréquemment rencontrés - **Biais d’échantillonnage** : les données d’entraînement ne représentent pas fidèlement la population cible (ex. : sous‑représentation de certaines ethnies). - **Biais de mesure** : les variables utilisées comme proxys sont imparfaitement corrélées au construit d’intérêt (ex. : utilisation du code postal comme proxy du revenu). - **Biais de préjugé humain** : les étiquettes fournies par les annotateurs reflètent leurs propres stéréotypes. - **Biais de rétroaction** : le modèle influence les données futures qu’il reçoit (ex. : système de recommandation qui renforce les préférences existantes). ### 3. Indicateurs d’équité (metrics) > **Disparate Impact (DI)** : rapport du taux de sélection (ou de prédiction positive) du groupe protégé au taux de sélection du groupe de référence. \[ DI = \frac{P(\hat{Y}=1 \mid A = a_{\text{protégé}})}{P(\hat{Y}=1 \mid A = a_{\text{référence}})} \] Un DI proche de 1 indique peu de disparité ; un DI < 0,8 est souvent considéré comme preuve d’impact disparate (règle des quatre‑cinquièmes). > **Difference in Statistical Parity (DSP)** : différence absolue des taux de prédiction positive entre deux groupes. \[ DSP = \big| P(\hat{Y}=1 \mid A = a_1) - P(\hat{Y}=1 \mid A = a_2) \big| \] > **Equal Opportunity Difference (EOD)** : différence des taux de vrais positifs (sensibilité) entre groupes pour les individus réellement positifs. \[ EOD = \big| P(\hat{Y}=1 \mid Y=1, A = a_1) - P(\hat{Y}=1 \mid Y=1, A = a_2) \big| \] ### 4. Démonstration : calcul du Disparate Impact dans un scénario de recrutement Une entreprise utilise un outil de tri de CV basé sur IA. Sur 1 000 candidatures, on obtient les résultats suivants : | Groupe | Candidatures totales | Sélections (offre d’entretien) | |--------|----------------------|--------------------------------| | Hommes (référence) | 600 | 180 | | Femmes (protégé) | 400 | 80 | **Étape 1 : calcul des taux de sélection** \[ \text{Taux hommes} = \frac{180}{600}=0,30 \] \[ \text{Taux femmes} = \frac{80}{400}=0,20 \] **Étape 2 : calcul du Disparate Impact** \[ DI = \frac{0,20}{0,30}=0,666\overline{6}\approx 0,67 \] **Interprétation** : le DI est nettement inférieur à 0,8, indiquant un impact défavorable significatif pour les femmes. L’outil de recrutement présente donc un biais de genre pouvant constituer une discrimination indirecte. ### 5. Exemple 1 : Correction par re‑pondération des données (re‑weighting) > Pour réduire le biais observé, on peut attribuer un poids plus élevé aux exemples du groupe sous‑sélectionné afin d’influencer la fonction de perte lors de l’apprentissage. > **Données de départ** (mêmes que ci‑dessus) : > - Hommes (référence) : 600 exemples dont 180 sélectionnés (positifs). > - Femmes (protégé) : 400 exemples dont 80 sélectionnés. > **Étape de calcul du poids** : on veut que la contribution pondérée des positifs de chaque groupe soit égale. On fixe le poids des hommes \(w_H = 1\) et on cherche le poids des femmes \(w_F\) tel que : > \[ > 180 \cdot w_H = 80 \cdot w_F \;\Longrightarrow\; w_F = \frac{180}{80}=2,25 . > \] > On laisse \(w_H = 1\). > **Interprétation** : lors de l’apprentissage, chaque exemple féminin contribue 2,25 fois plus à la fonction de perte qu’un exemple masculin. Cela pousse le modèle à améliorer sa capacité à sélectionner des femmes, sans changer directement les taux de sélection observés. Pour obtenir une égalité effective des taux de sélection, il faut généralement combiner la re‑pondération avec un ré‑échantillonnage (oversampling) du groupe minoritaire ou un ajustement du seuil de décision. > **Leçon** : la re‑pondération seule ne garantit pas l’égalité des taux de sélection ; elle doit être associée à d’autres techniques (re‑échantillonnage, seuils différenciés, apprentissage adversarial) pour atteindre l’équité souhaitée. ### 6. Exemple 2 : Utilisation du seuil de décision pour atteindre l’égalité des chances (Equal Opportunity) > Un modèle de détection de fraude bancaire retourne une probabilité \(p\) de fraude. On choisit un seuil \(t\) tel que l’on prédit fraude si \(p \ge t\). > Données de validation (2 groupes : jeunes (≤30 ans) et seniors (>30 ans)) : > > | Groupe | Vrais positifs (VP) | Faux négatifs (FN) | Vrais négatifs (VN) | Faux positifs (FP) | Total | > |--------|---------------------|--------------------|---------------------|--------------------|-------| > | Jeunes | 120 | 30 | 200 | 150 | 500 | > | Seniors| 80 | 70 | 250 | 100 | 500 | > > **Étape 1 : calcul du taux de vrais positifs (sensibilité) pour chaque groupe** > Sensibilité jeunes = \( \frac{VP}{VP+FN} = \frac{120}{120+30}= \frac{120}{150}=0,80\) > Sensibilité seniors = \( \frac{80}{80+70}= \frac{80}{150}=0,533\overline{3}\approx0,533\) > Écart EOD = \(|0,80-0,533| = 0,267\). > > **Étape 2 : recherche d’un nouveau seuil \(t_1\) qui réduit l’écart** > En baissant le seuil, on classe plus de transactions comme fraudes, ce qui augmente les VP et diminue les FN pour les deux groupes, tout en conservant VP+FN = 150 (nombre réel de fraudes dans chaque groupe). > On cherche des valeurs de VP telles que la différence des sensibilités soit inférieure à 0,05, c’est‑à‑dire \(|VP_J - VP_S| < 7,5\). > Un choix possible : > - Jeunes : \(VP_J = 130\) → \(FN_J = 20\) > - Seniors: \(VP_S = 124\) → \(FN_S = 26\) > > Nouvelle sensibilité jeunes = \(130/150 = 0,866\overline{6}\) > Nouvelle sensibilité seniors = \(124/150 = 0,826\overline{6}\) > Nouvel EOD = \(|0,866\overline{6} - 0,826\overline{6}| = 0,04 < 0,05\). > > Ainsi, un seuil de décision suffisamment bas pour produire ces comptages (environ 0,35 de probabilité si la distribution initiale donnait les valeurs du tableau initial) permettrait de réduire l’EOD sous 0,05. > > **Résultat** : l’ajustement du seuil de décision est une méthode simple pour améliorer l’égalité des chances sans modifier le modèle sous‑jacent, à condition de vérifier que la spécificité (taux de vrais négatifs) reste acceptable. ### 7. Bonnes pratiques pour réduire les biais - Constituer des **jeux de données représentatifs** (collecte délibérée de données provenant de sous‑populations sous‑représentées). - Appliquer des **techniques de pré‑traitement** : re‑échantillonnage, re‑pondération, transformation de variables sensibles (ex. : suppression ou masquage). - Utiliser des **algorithmes conscients de l’équité** : modèles avec contraintes d’équité (ex. : réduction du disparate impact lors de l’optimisation). - Effectuer des **audits post‑déploiement** : suivi continu des métriques d’équité et mise à jour périodique du modèle. - Impliquer des **parties prenantes diversifiées** (juristes, sociologues, représentants des groupes affectés) dès la conception. --- ## Synthèse du chapitre - **Cadre juridique** : RGPD, loi camerounaise n° 2010/012 du 21 décembre 2010 (cybersécurité et cybercriminalité), projet de loi sur la protection des données personnelles. - **Principes de protection** : licéité, finalité, minimisation, exactitude, limitation de la conservation, intégrité/confidentialité, responsabilité. - **Droits des personnes** : accès, rectification, effacement, portabilité, opposition. - **Obligations IA** : consentement explicite, AIPD, mesures de sécurité, registre des traitements, DPD éventuel. - **Exemple de minimisation** : réduction de 80 % du nombre d’attributs en ne conservant que l’historique d’achats et l’âge. - **Biais algorithmique** : écart systématique défavorisant un groupe protégé ; types (échantillonnage, mesure, préjugé humain, rétroaction). - **Métriques d’équité** : Disparate Impact (DI), Difference in Statistical Parity (DSP), Equal Opportunity Difference (EOD). - **Exemple de DI** : recrutement avec DI ≈ 0,67 → impact défavorable pour les femmes. - **Stratégies d’atténuation** : re‑échantillonnage, re‑pondération, ajustement de seuil, algorithmes contraints, audits continus. - **Bonnes pratiques** : données représentatives, pré‑traitement, modèles équitables, suivi, parties prenantes diversifiées. --- ## Glossaire - **RGPD** : Règlement (UE) 2016/679 relatif à la protection des données personnelles. - **AIPD** : Analyse d’impact sur la protection des données, obligatoire pour les traitements à risque élevé. - **Minimisation des données** : principe selon lequel seules les données strictement nécessaires doivent être traitées. - **Consentement éclairé** : accord donné librement, spécifiquement et après une information claire sur le traitement. - **Biais algorithmique** : erreur systématique d’un modèle qui défavorise un groupe en fonction d’un attribut protégé. - **Disparate Impact (DI)** : rapport du taux de sélection du groupe protégé à celui du groupe de référence ; valeur < 0,8 indique un impact potentiellement discriminatoire. - **Difference in Statistical Parity (DSP)** : différence absolue des taux de prédiction positive entre deux groupes. - **Equal Opportunity Difference (EOD)** : différence des taux de vrais positifs (sensibilité) entre groupes pour les vrais positifs. - **Re‑échantillonnage** : technique consistant à dupliquer ou à supprimer des exemples pour équilibrer les effectifs des groupes. - **Re‑pondération** : attribution de poids différents aux exemples afin d’influencer l’apprentissage du modèle. - **Seuil de décision** : valeur \(t\) au-dessus de laquelle une prédiction positive est faite dans un modèle probabiliste. - **Délégué à la protection des données (DPD)** : personne chargée de veiller au respect de la réglementation sur les données personnelles. - **Pseudonymisation** : traitement des données de manière à ce qu’elles ne puissent plus être attribuées à une personne spécifique sans l’utilisation d’informations supplémentaires. - **Portabilité des données** : droit de recevoir ses données dans un format structuré et de les transmettre à un autre responsable. --- ## Exercices d'application corrigés ### Exercice 1 (niveau facile) Une entreprise de e‑commerce collecte les données suivantes lors de la création d’un compte : nom, prénom, adresse e‑mail, date de naissance, numéro de téléphone, préférences de catégorie de produits, historique de navigation, adresse IP. Selon le principe de minimisation, quelles données doivent être conservées strictement pour permettre la livraison d’une commande ? Justifiez votre réponse. **Corrigé** Pour exécuter une livraison, l’entreprise a besoin : - Nom et prénom (identification du destinataire) - Adresse e‑mail (confirmation de commande et communication) - Adresse de livraison (numéro de rue, code postal, ville) – non listée mais nécessaire ; si elle n’est pas collectée, elle doit être demandée lors de la passation de commande. - Numéro de téléphone (pour contacter le livreur ou le client en cas de problème) Les autres données (date de naissance, préférences de catégorie, historique de navigation, adresse IP) ne sont pas indispensables à l’acte de livraison et doivent donc être soit supprimées, soit utilisées uniquement avec un consentement distinct (ex. : marketing). > **À retenir** : seules les données strictement nécessaires à la finalité déclarée doivent être conservées. ### Exercice 2 (niveau intermédiaire) Un modèle de reconnaissance d’images destiné à détecter des défauts sur des pièces métalliques est entraîné sur un jeu de données contenant 90 % de pièces produites par la ligne A et 10 % par la ligne B. Sur un jeu de test équilibré (50 % ligne A, 50 % ligne B), le modèle obtient les résultats suivants : | Ligne | Vrais positifs (VP) | Faux négatifs (FN) | Vrais négatifs (VN) | Faux positifs (FP) | |-------|---------------------|--------------------|---------------------|--------------------| | A | 80 | 20 | 70 | 30 | | B | 40 | 60 | 50 | 50 | Calculez le Disparate Impact (DI) concernant le taux de vrais positifs (sensibilité) entre la ligne B (groupe protégé) et la ligne A (groupe de référence). Interprétez le résultat. **Corrigé** Sensibilité ligne A = \( \frac{VP_A}{VP_A+FN_A} = \frac{80}{80+20}= \frac{80}{100}=0,80\) Sensibilité ligne B = \( \frac{VP_B}{VP_B+FN_B} = \frac{40}{40+60}= \frac{40}{100}=0,40\) \[ DI = \frac{\text{Sensibilité B}}{\text{Sensibilité A}} = \frac{0,40}{0,80}=0,50 \] Comme DI = 0,50 < 0,80, on constate un impact défavorable significatif pour les pièces de la ligne B : le modèle détecte deux fois moins de défauts réels sur cette ligne que sur la ligne A. > **À retenir** : un DI inférieur à 0,8 indique généralement une discrimination potentielle nécessitant une investigation. ### Exercice 3 (niveau intermédiaire) Une plateforme de prêt en ligne utilise un score de crédit basé sur IA. Sur 2 000 demandes, on obtient : | Groupe | Demandes totales | Prêts accordés | |--------|------------------|----------------| | Urbains (référence) | 1 200 | 540 | | Ruraux (protégé) | 800 | 240 | 1. Calculez le Disparate Impact (DI). 2. Si l’entreprise souhaite atteindre un DI d’au moins 0,80 en ne modifiant que le nombre de prêts accordés aux ruraux (en laissant le nombre d’urbains inchangé), combien de prêts supplémentaires doivent être accordés aux ruraux ? **Corrigé** 1. Taux urbains = \(540/1200 = 0,45\) Taux ruraux = \(240/800 = 0,30\) \[ DI = \frac{0,30}{0,45}=0,666\overline{6}\approx0,67 \] 2. Soit \(x\) le nombre supplémentaire de prêts à accorder aux ruraux. Le nouveau taux ruraux devient \(\frac{240+x}{800}\). On veut : \[ \frac{240+x}{800} \div 0,45 \ge 0,80 \] \[ \frac{240+x}{800} \ge 0,80 \times 0,45 = 0,36 \] \[ 240+x \ge 0,36 \times 800 = 288 \] \[ x \ge 288-240 = 48 \] Il faut donc accorder **au moins 48 prêts supplémentaires** aux ruraux pour porter le DI à 0,80 ou plus. > **À retenir** : atteindre un seuil d’équité peut nécessiter une action corrective quantifiable, ici un nombre précis de décisions favorables supplémentaires. ### Exercice 4 (niveau avancé) Un modèle de détection de fraude bancaire retourne une probabilité \(p\) de fraude. Sur un jeu de validation de 1 000 transactions (500 fraudes, 500 légitimes), on obtient la répartition suivante selon le groupe d’âge : | Groupe d’âge | Vrais positifs (VP) | Faux négatifs (FN) | Vrais négatifs (VN) | Faux positifs (FP) | |--------------|---------------------|--------------------|---------------------|--------------------| | Jeunes (≤30 ans) | 120 | 30 | 200 | 150 | | Seniors (>30 ans) | 80 | 70 | 250 | 100 | 1. Calculez le taux de vrais positifs (sensibilité) pour chaque groupe. 2. Déterminez l’Equal Opportunity Difference (EOD). 3. Proposez un seuil de décision \(t\) (en supposant que la probabilité moyenne des VP augmente lorsque le seuil diminue) qui permettrait de réduire l’EOD à moins de 0,05, en expliquant votre raisonnement. **Corrigé** 1. Sensibilité jeunes = \( \frac{120}{120+30}= \frac{120}{150}=0,80\) Sensibilité seniors = \( \frac{80}{80+70}= \frac{80}{150}=0,533\overline{3}\approx0,533\) 2. \[ EOD = |0,80 - 0,533| = 0,267 \] 3. Pour réduire l’EOD, il faut augmenter la sensibilité du groupe seniors (qui est plus faible) sans trop diminuer celle des jeunes. En baissant le seuil de décision, on classe plus de transactions comme fraudes, ce qui augmente les VP et diminue les FN pour les deux groupes, tout en conservant VP+FN = 150 (nombre réel de fraudes dans chaque groupe). On cherche des valeurs de VP telles que la différence des sensibilités soit inférieure à 0,05, c’est‑à‑dire \(|VP_J - VP_S| < 7,5\). Un choix possible : - Jeunes : \(VP_J = 130\) → \(FN_J = 20\) - Seniors: \(VP_S = 124\) → \(FN_S = 26\) Nouvelle sensibilité jeunes = \(130/150 = 0,866\overline{6}\) Nouvelle sensibilité seniors = \(124/150 = 0,826\overline{6}\) Nouvel EOD = \(|0,866\overline{6} - 0,826\overline{6}| = 0,04 < 0,05\). Ainsi, un seuil de décision suffisamment bas pour produire ces comptages (environ 0,35 de probabilité si la distribution initiale donnait les valeurs du tableau initial) permettrait de réduire l’EOD sous 0,05. > **À retenir** : l’ajustement du seuil de décision est un levier puissant pour équilibrer les taux de vrais positifs entre groupes, mais il faut vérifier que la spécificité (taux de vrais négatifs) reste acceptable. ### Exercice 5 (niveau avancé) Une ville souhaite déployer un système de vidéosurveillance basé sur IA pour détecter les comportements suspects. Avant le déploiement, elle réalise une AIPD. Parmi les risques identifiés, on trouve : - Risque de mauvaise identification liée à un biais racial (taux de faux positifs 2 % pour les personnes à peau claire, 8 % pour les personnes à peau foncée). - Risque de conservation excessive des images (durée prévue 6 mois alors que la finalité ne nécessite que 24 h). - Risque de manque de transparence envers les citoyens (aucun avis public prévu). Pour chaque risque, proposez une mesure de mitigation concrète, en vous référant aux principes du RGPD et aux bonnes pratiques d’équité évoquées dans le chapitre. **Corrigé** | Risque | Mesure de mitigation | Principe / Bonne pratique associé | |--------|----------------------|-----------------------------------| | Biais racial (faux positifs différentiels) | - Constituer un jeu d’entraînement équilibré en termes de teinte de peau (oversampling des sous‑représentés).<br>- Appliquer une contrainte d’équité lors de l’apprentissage (ex. : minimiser la différence des taux de faux positifs entre groupes).<br>- Réaliser des tests de performance séparés pour chaque groupe avant mise en production. | Principe de non‑discrimination (article 9 RGPD) ; bonne pratique d’équité (pré‑traitement, algorithmes conscients de l’équité). | | Conservation excessive des images | - Limiter la durée de stockage à 24 h sauf alerte avérée.<br>- Mettre en place une suppression automatique irréversible après ce délai.<br>- Consigner les durées de conservation dans le registre des traitements. | Principe de limitation de la conservation (article 5(1)(e) RGPD) ; bonne pratique de minimisation et de limitation de la finalité. | | Manque de transparence | - Publier un avis clair sur le site de la mairie décrivant le fonctionnement du système, les finalités, les bases légales, les droits des personnes (accès, opposition).<br>- Organiser une consultation publique avant le déploiement.<br>- Désigner un délégué à la protection des données (DPD) chargé de répondre aux demandes des citoyens. | Principe de transparence (article 12 RGPD) ; droit d’information et droit d’opposition ; obligation de désigner un DPD si traitement à grande échelle. | > **À retenir** : chaque risque identifié dans une AIPD doit être accompagné d’une mesure technique ou organisationnelle conforme aux principes du RGPD et aux bonnes pratiques d’équité. --- ## Erreurs fréquentes 1. **Confondre consentement et intérêt légitime** : croire qu’un simple intérêt économique suffit à justifier un traitement de données sensibles. *Comment éviter* : vérifier que le traitement ne porte pas sur des données particulières (santé, origine ethnique, etc.) ; si oui, le consentement explicite est obligatoire. 2. **Oublier de mettre à jour le registre des traitements** après une modification du modèle IA (ajout d’une nouvelle caractéristique). *Comment éviter* : traiter tout changement comme une nouvelle activité de traitement et consigner immédiatement la date, la finalité et la base légale. 3. **Interpréter un DI proche de 1 comme preuve d’absence de biais** : un DI de 0,95 peut encore cacher des disparités importantes dans d’autres métriques (ex. : taux de faux négatifs). *Comment éviter* : utiliser un tableau de bord de plusieurs métriques d’équité (DI, DSP, EOD) et examiner les deux types d’erreurs. 4. **Appliquer une même seuil de décision à tous les groupes sans vérifier l’impact sur la spécificité** : réduire l’EOD peut augmenter fortement les faux positifs pour un groupe, générant un nouveau type de discrimination. *Comment éviter* : après ajustement du seuil, contrôler à la fois la sensibilité et la spécificité pour chaque groupe. 5. **Ne pas réaliser d’AIPD pour des traitements à risque modéré** : penser que seules les applications évidentes (reconnaissance faciale) nécessitent une analyse. *Comment éviter* : suivre la ligne directrice du RGPD : tout traitement susceptible d’engendrer un risque élevé pour les droits et libertés doit faire l’objet d’une AIPD, même si le risque semble faible au premier abord. --- *Fin du cours.*