UA0 : Intelligence Artificielle, projet et insertion (partie 2/2)

## Objectifs et prérequis À la fin de ce chapitre, l’élève sera capable de : - expliquer les principes éthiques fondamentaux de l’intelligence artificielle (transparence, équité, responsabilité, respect de la vie privée) ; - citer les principaux textes réglementaires applicables au Cameroun et dans l’Union européenne (RGPD, loi n° 2010/012 du 21 décembre 2010 portant protection des données personnelles, projet de loi camerounaise sur l’IA) ; - analyser les risques de sécurité liés à l’IA (attaques adversariales, fuite de données, biais algorithmique) et proposer des mesures de mitigation ; - conduire un projet IA complet, de la formulation du problème au déploiement, en intégrant une démarche d’éthique by design et en utilisant des outils de suivi (versioning, journalisation, métriques d’équité). **Prérequis** : notions de base en algorithmique, programmation (Python ou équivalent), statistiques descriptives, concepts de base des réseaux de neurones, et connaissance du fonctionnement d’un système d’information. ## Introduction contextualisée L’intelligence artificielle transforme rapidement les secteurs de l’éducation, de la santé, de l’agriculture et de l’administration publique au Cameroun. Toutefois, son déploiement soulève des questions éthiques (discrimination, surveillance), juridiques (protection des données personnelles) et de sécurité (manipulation de modèles, fuite de modèles). Le programme officiel de la Terminale (séries AVC, SH) insiste sur une approche par compétences : l’élève doit non seulement maîtriser les concepts techniques, mais aussi savoir les appliquer dans un projet concret tout en respectant un cadre réglementaire et éthique. Ce chapitre réunit les deux dernières leçons du thème UA0 : le cadre éthique, réglementaire et sécuritaire de l’IA, puis la conception d’un projet synthétique intégrant l’IA. ## I. Cadre éthique, réglementaire et sécurité de l'IA ### A. Principes éthiques de l'IA > **Définition** : Un principe éthique de l’IA est une règle normative qui guide la conception, le déploiement et l’utilisation des systèmes intelligents afin de respecter la dignité humaine, les droits fondamentaux et le bien‑être sociétal. **Propriétés** : 1. **Universalité** : s’applique indépendamment du secteur ou du pays. 2. **Complémentarité** : les principes se renforcent mutuellement (ex. transparence facilite la responsabilité). 3. **Opérationnalité** : chaque principe peut être traduit en exigences techniques ou procédurales. **Démonstration (exemple de lien entre transparence et responsabilité)** : Supposons un système de notation de crédit $f$ qui produit un score $s=f(x)$ à partir de caractéristiques $x$. Si $f$ est une boîte noire, il est impossible de déterminer quelles caractéristiques ont influencé $s$ ; ainsi, aucune responsabilité ne peut être attribuée en cas de décision discriminatoire. En revanche, si $f$ est accompagnée d’une explication additive (ex. valeurs de Shapley $\phi_i$ telles que $s = \phi_0 + \sum_i \phi_i x_i$), on peut identifier les variables responsables d’un biais et corriger le modèle. Donc, la transparence rend possible la responsabilité. **Exemple 1 (simple)** : Une IA de recommandation de films utilise uniquement l’historique de visionnage. En publiant les poids de chaque genre dans un tableau, l’utilisateur comprend pourquoi un film lui est proposé → transparence atteinte. **Exemple 2 (délicat)** : Un système de reconnaissance faciale déployé dans les aéroports montre un taux d’erreur deux fois supérieur pour les personnes à peau foncée. Une analyse d’équité révèle que la donnée d’entraînement est sous‑représentée pour ce groupe. En appliquant une contrainte d’égalité des taux de faux positifs (égalité de opportunité), on obtient un nouveau classifieur $f'$ dont l’erreur globale augmente légèrement mais l’écart se réduit à moins de 5 %. Cela illustre la nécessité d’équilibrer performance et équité. ### B. Réglementation applicable > **Définition** : La réglementation de l’IA regroupe les lois, décrets et normes qui encadrent la collecte, le traitement, le stockage et la diffusion des données utilisées par les systèmes intelligents, ainsi que les obligations de conformité (évaluation d’impact, consentement, droit à l’explication). **Propriétés** : 1. **Territorialité** : le RGPD s’applique à tout traitement de données concernant des résidents de l’UE, indépendamment du lieu du responsable. 2. **Principe de responsabilité** : le responsable du traitement doit démontrer la conformité (article 5 RGPD). 3. **Protection par la conception et par défaut** (privacy by design / by default). **Démonstration (exemple de calcul du risque de ré‑identification)** : Soit un jeu de données $D$ contenant des attributs quasi‑identifiants $Q$ (âge, code postal, sexe). Le risque de ré‑identification $r$ peut être approximé par $r = \frac{1}{\vert\mathcal{E}\vert}$ où $\mathcal{E}$ est l’ensemble des équivalences (groupes d’individus partageant les mêmes valeurs de $Q$). Si chaque groupe contient au moins $k=5$ individus, alors $r \le 0,2$. Le principe de $k$‑anonymat impose donc $k\ge5$ pour garantir un risque inférieur à 20 %. **Exemple 1 (simple)** : Une application de suivi des récoltes collecte uniquement la localisation approximative (arrondissement) et le type de culture. En arrondissant les coordonnées à un kilomètre, on obtient $k\ge10$ pour chaque groupe → conformité au principe d’anonymisation. **Exemple 2 (délicat)** : Une plateforme de télémédecine enregistre les symptômes, l’âge précis et le numéro de téléphone. Pour respecter le RGPD, il faut : (i) obtenir un consentement explicite (case à cocher non pré‑cochée) ; (ii) pseudonymiser le numéro de téléphone en remplaçant les 6 derniers chiffres par des étoiles ; (iii) tenir un registre des traitements. Le défaut de toute de ces étapes entraîne une amende pouvant atteindre 4 % du chiffre d’affaires mondial. ### C. Sécurité de l'IA > **Définition** : La sécurité de l’IA concerne la protection des modèles, des données et des infrastructures contre les menaces telles que les attaques adversariales, l’extraction de modèle, la contamination des données et les fuites de vie privée. **Propriétés** : 1. **Robustesse** : capacité du modèle à maintenir ses performances malgré des perturbations petites mais intentionnelles. 2. **Confidentialité** : empêcher qu’un adversaire puisse inférer des informations sensibles sur les données d’entraînement à partir des sorties du modèle. 3. **Intégrité** : garantir que le modèle n’a pas été modifié de façon non autorisée. **Démonstration (exemple de perturbation adversariale sur un classifieur linéaire)** : Considérons un classifieur linéaire $f(x)=\text{sign}(w^\top x + b)$. Une perturbation $\delta$ telle que $\vert w^\top\delta\vert > \vert w^\top x + b\vert$ change le signe de la sortie. En choisissant $\delta = -\epsilon \frac{w}{\Vert w\Vert_2}$ avec $\epsilon > \frac{\vert w^\top x + b\vert}{\Vert w\Vert_2}$, on obtient une attaque réussie. Ainsi, même une perturbation de norme $\ell_2$ de taille $\epsilon$ peut renverser la décision. **Exemple 1 (simple)** : Un modèle de détection de spam basé sur un seuil de fréquence de mots « gratuit ». En ajoutant le mot « gratuit » une fois dans un courriel légitime, le seuil est franchi et le courriel est classé comme spam → attaque par injection de mot clé. **Exemple 2 (délicat)** : Un réseau de neurones convolutif entraîné sur MNIST est soumis à une attaque de type Fast Gradient Sign Method (FGSM). Pour une image $x$ correctement classée comme « 3 », on calcule $\nabla_x J(\theta, x, y)$ où $J$ est la perte croisée. L’image perturbée $\tilde{x}=x + \epsilon \cdot \text{sign}(\nabla_x J)$ avec $\epsilon=0,025$ est classée comme « 5 » avec une probabilité de 0,93, alors que la perturbation est imperceptible à l’œil humain. Cela montre la vulnérabilité des modèles profonds aux perturbations adversariales. ## II. Projet de synthèse — concevoir une solution intégrant l'IA ### A. Méthodologie de projet (cycle de vie d'un projet IA) > **Définition** : Le cycle de vie d’un projet IA regroupe les phases successives : définition du problème, acquisition et préparation des données, choix et entraînement du modèle, évaluation, déploiement, suivi et gouvernance. **Propriétés** : 1. **Itérativité** : les phases peuvent être revisitées en fonction des retours (ex. nouvelles données entraînent un ré‑entraînement). 2. **Traçabilité** : chaque décision (jeu de données, hyperparamètres, version du code) doit être enregistrée. 3. **Valeur métier** : le projet doit répondre à un besoin clairement exprimé par les parties prenantes. **Démonstration (exemple de boucle d’amélioration)** : Soit $M_0$ le modèle initial entraîné sur $D_0$ avec une précision $p_0=0,78$. Après déploiement, on collecte $D_1$ contenant 200 nouveaux exemples étiquetés. On ré‑entraîne pour obtenir $M_1$ avec précision $p_1=0,84$. La différence $\Delta p = p_1-p_0 = 0,06$ justifie l’itération. Si $\Delta p$ était négligeable (<0,01), on aurait conclu que le modèle est arrivé à un plateau et aurait exploré d’autres pistes (nouveaux features, autre architecture). **Exemple 1 (simple)** : Un chatbot destiné à répondre aux questions fréquentes sur les procédures d’inscription à l’université. Les phases sont : (1) recueil des FAQ (problème), (2) annotation des intents et entités (données), (3) choix d’un modèle de classification d’intents basé sur TF‑IDF + Régression logistique (modèle), (4) évaluation par validation croisée (précision 0,91), (5) déploiement sur un serveur web avec API REST, (6) suivi mensuel des taux de fallback (<5 %). **Exemple 2 (délicat)** : Un système de prévision du rendement maïs à l’échelle régionale utilisant des images satellite, des données météorologiques et des historiques de rendement. Les étapes sont : (1) formulation du problème (régression spatiale‑temporelle), (2) constitution d’un jeu de données multi‑source de 5 ans (≈10 To), (3) nettoyage, rééchantillonnage et création de caractéristiques (indices de végétation, températures moyennes), (4) expérimentation de plusieurs architectures (Random Forest, Gradient Boosting, LSTM), (5) sélection du modèle basé sur le critère RMSE inférieur à 0,12 t/ha, (6) entraînement final avec validation temporelle (train sur années 1‑4, test sur année 5), (7) déploiement sous forme de micro‑service Dockerisé, (8) mise en place d’un tableau de bord de suivi avec alertes lorsque l’erreur de prévision dépasse 15 % pendant deux saisons consécutives. ### B. Étapes clés : problème, données, modèle, entraînement, évaluation, déploiement, suivi éthique > **Définition** : Chaque étape du cycle de vie doit être accompagnée d’activités spécifiques visant à garantir la qualité technique, la conformité réglementaire et l’acceptabilité éthique. **Propriétés** : 1. **Clarté du cahier des charges** : le problème doit être exprimé en termes mesurables (ex. réduire le temps de traitement des demandes de 30 %). 2. **Qualité des données** : exhaustivité, représentativité, absence de biais connus, traçabilité de la provenance. 3. **Adéquation du modèle** : choisir la complexité adaptée aux données et au contexte de déploiement (ex. modèles légers pour appareils embarqués). 4. **Évaluation multidimensionnelle** : précision, équité (parité statistique, égalité des opportunités), robustesse (test sous perturbations), interprétabilité. 5. **Déploiement sécurisé** : utilisation de conteneurs, gestion des secrets, surveillance des logs. 6. **Suivi éthique** : audit périodique, mise à jour du registre des traitements, procédure de révision en cas d’incident. **Démonstration (exemple de matrice de confusion et calcul de l’équité)** : Supposons un classifieur binaire de détection de fraude. Sur un jeu de test de 10 000 transactions, on obtient : | | Prédit Fraude | Prédit Légitime | |---------------------|---------------|-----------------| | Réelle Fraude | 120 (VP) | 30 (FN) | | Réelle Légitime | 40 (FP) | 9 810 (VN) | Précision = $\frac{VP}{VP+FP}= \frac{120}{160}=0,75$. Taux de rappel (sensibilité) = $\frac{VP}{VP+FN}= \frac{120}{150}=0,80$. Pour étudier l’équité entre deux groupes (A et B), on calcule le taux de faux positifs (FPR) pour chacun : - Groupe A : FP=20, VN=4 800 → FPR$_A$=20/(20+4800)=0,0041. - Groupe B : FP=20, VN=5 010 → FPR$_B$=20/(20+5010)=0,0039. La différence absolue |FPR$_A$−FPR$_B$|=0,0002 est négligeable → le classifieur respecte approximativement l’égalité des chances. **Exemple 1 (simple)** : Développement d’un outil de détection de plagiat basé sur la similarité cosinus de vecteurs TF‑IDF. Les étapes sont : (1) problème = détecter un taux de similarité > 0,8 entre deux documents, (2) données = corpus de 5 000 travaux étudiants préalablement nettoyés, (3) modèle = recherche linéaire dans l’espace vectoriel (pas d’apprentissage), (4) entraînement = aucune phase d’apprentissage, (5) évaluation = précision 0,92 sur un jeu annoté manuellement, (6) déploiement = service web avec limite de taux de requêtes, (7) suivi = journalisation des similarités élevées pour revue humaine. **Exemple 2 (délicat)** : Création d’un assistant vocal pour les agriculteurs qui répond en langue locale à des questions sur les traitements phytosanitaires. Les étapes sont : (1) problème = fournir une réponse correcte dans 90 % des cas, (2) données = collecte de 2 000 paires (question, réponse) en langue française et traduction en langue locale par des locuteurs natifs, augmentation par synthèse de voix, (3) modèle = pipeline : reconnaissance automatique de la parole (Wav2Vec 2.0 fine‑tuned), compréhension du langage naturel (BERT multilingue), génération de réponse (T5), synthèse de voix (Tacotron 2). (4) entraînement = entraînement conjoint sur 3 GPUs pendant 48 h avec perte combinée (CTR + cross‑entropy). (5) évaluation = métriques : WER < 15 %, BLEU > 0,35, score de satisfaction moyenne > 4/5. (6) déploiement = mise en place sur un serveur edge avec optimisation TensorRT, latence < 300 ms. (7) suivi éthique = audit mensuel des réponses pour détecter d’éventuels conseils dangereux (ex. recommandation d’un pesticide interdit), mise à jour du modèle avec nouvelles données de terrain, comité d’éthique composé d’agronomes et de représentants communautaires. ### C. Outils et bonnes pratiques (environnements de dev, versioning, documentation, éthique by design) > **Définition** : Les bonnes pratiques englobent l’utilisation de systèmes de gestion de version (Git), d’environnements reproductibles (conda, Docker), de suivi d’expériences (MLflow, Weights & Biases), et l’intégration d’activités d’éthique dès la conception (check‑list de transparence, d’équité, de protection des données). **Propriétés** : 1. **Reproductibilité** : même code, mêmes données, mêmes paramètres → mêmes résultats. 2. **Traçabilité** : chaque commit est associé à un numéro de version, un message décrivant la modification, et éventuellement à un tag de version. 3. **Documentation** : README clair, fichiers de spécification (API, schéma de données), journaux de décisions éthiques. 4. **Éthique by design** : application d’une liste de vérifications (ex. biais de genre, consentement, minimisation des données) à chaque jalon du projet. **Démonstration (exemple de workflow Git avec branche de fonctionnalité)** : 1. `git checkout -b feature/fraud-detection` crée une branche dédiée. 2. Après chaque modification significative (ajout de feature, correction de bug), on effectue `git commit -m "Add feature X: description"` et on pousse avec `git push origin feature/fraud-detection`. 3. Une pull request (PR) est ouverte vers la branche `main`. La PR déclenche un pipeline CI qui exécute les tests unitaires, le contrôle de style (flake8) et l’évaluation du modèle sur un jeu de validation. 4. Une fois la PR approuvée, on merge avec `git checkout main && git merge --no-ff feature/fraud-detection && git push`. Le tag de version `v1.2.0` est créé pour marquer le release. **Exemple 1 (simple)** : Un projet de prédiction de la consommation électrique d’un bâtiment utilise un environnement `conda` nommé `elec_pred` avec les dépendances `python=3.10`, `scikit-learn`, `pandas`, `matplotlib`. Le fichier `environment.yml` permet de recréer l’environnement en une commande : `conda env create -f environment.yml`. **Exemple 2 (délicat)** : Une plateforme de diagnostic médical basé sur l’imagerie utilise Docker pour encapsuler le service d’inférence. Le `Dockerfile` commence par `FROM nvidia/cuda:12.1.1-runtime-ubuntu22.04`, installe les dépendances (`pip install torch torchvision torchaudio`), copie le code source et les poids du modèle, puis expose le port 8000. Le déploiement se fait avec `docker run -d -p 8000:8000 --gpts all medical-diagnosis:latest`. Le suivi des logs est assuré par `docker logs -f <container_id>` et l’alerte sur une utilisation anormale du GPU est configurée via Prometheus. ## Synthèse du chapitre - **Principes éthiques** : transparence, équité, responsabilité, respect de la vie privée. - **Réglementation** : RGPD (UE), loi camerounaise sur la protection des données personnelles, principes de responsabilité, privacy by design, droit à l’explication. - **Sécurité de l’IA** : robustesse face aux attaques adversariales, confidentialité (protection contre l’extraction de modèle), intégrité (gestion des versions et des accès). - **Cycle de vie d’un projet IA** : définition du problème → préparation des données → choix/entraînement du modèle → évaluation multidimensionnelle → déploiement sécurisé → suivi et gouvernance. - **Outils clés** : Git pour le versioning, Docker/conda pour la reproductibilité, MLflow/Weights & Biases pour le suivi d’expériences, check‑list d’éthique (transparence, équité, vie privée) à chaque étape. - **Exemples illustratifs** : chatbot universitaire (simple), système de prévision de rendement maïs (délicat), outil de détection de plagiat (simple), assistant vocal multilingue pour agriculteurs (délicat). ## Glossaire | Terme | Définition | |-------|------------| | Transparence | Capacité d’un système d’IA à fournir une explication compréhensible de ses décisions ou de son fonctionnement interne. | | Équité | Propriété selon laquelle les décisions de l’IA ne discriminent pas injustement un groupe d’individus basé sur des caractéristiques protégées (sexe, origine, handicap, etc.). | | Responsabilité | Obligation pour le concepteur ou l’utilisateur d’une IA de rendre compte des conséquences de son usage et de pouvoir réparer les préjudices éventuels. | | RGPD | Règlement général sur la protection des données (UE) qui encadre le traitement des données personnelles et impose des principes de licéité, de finalité limitée et de minimisation. | | $k$‑anonymat | Propriété d’un jeu de données où chaque enregistrement est indiscernable d’au moins $k-1$ autres enregistrements selon certains attributs quasi‑identifiants. | | Attaque adversariale | Perturbation intentionnelle, souvent imperceptible, appliquée à l’entrée d’un modèle d’IA afin de provoquer une erreur de prédiction. | | Differential privacy | Cadre mathématique garantissant que la présence ou l’absence d’un individu dans un jeu de données ne modifie que de façon limitée la distribution des sorties d’un algorithme (paramètres $\varepsilon$, $\delta$). | | MLflow | Plateforme ouverte permettant de suivre les expériences d’apprentissage automatique, d’empaqueter le code et de déployer des modèles. | | Privacy by design | Approche qui intègre la protection des données dès la conception d’un système, plutôt qu’en tant qu’ajout ultérieur. | | Biais algorithmique | Erreur systématique dans les prédictions d’un modèle qui favorise ou désavantage certains groupes en raison de défauts dans les données ou la conception. | | Robustesse | Capacité d’un modèle à maintenir ses performances malgré des variations (bruit, perturbations) de ses entrées. | | Interpretabilité | Degré auquel un être humain peut comprendre la raison d’une prédiction faite par un modèle d’IA. | | Consentement éclairé | Autorisation explicite, donnée après une information complète et compréhensible, permettant le traitement de données personnelles. | | Versioning (Git) | Système de suivi des modifications du code source permettant de revenir à états antérieurs et de travailler en parallèle sur différentes fonctionnalités. | | Docker | Outil permettant d’empaqueter une application et ses dépendances dans un conteneur isolé, assurant la portabilité et la reproductibilité des environnements. | ## Exercices d'application corrigés ### Exercice 1 (niveau facile) **Énoncé** : Une entreprise souhaite déployer un modèle de classification d’e‑mails comme « spam » ou « légitime ». Le jeu de données comporte 2 000 e‑mails, dont 400 sont des spams. Après entraînement, le modèle obtient sur un jeu de test de 400 e‑mails (80 spams, 320 légitimes) les résultats suivants : VP = 70, FN = 10, FP = 20, VN = 300. 1. Calculer la précision, le rappel et le F1‑score. 2. Le modèle respecte‑t‑il le critère de précision minimale de 0,80 exigé par le cahier des charges ? Justifier. **Corrigé** : 1. Précision $= \frac{VP}{VP+FP}= \frac{70}{70+20}=0,7778$. Rappel $= \frac{VP}{VP+FN}= \frac{70}{70+10}=0,875$. F1‑score $= 2 \times \frac{\text{Précision} \times \text{Rappel}}{\text{Précision}+\text{Rappel}} = 2 \times \frac{0,7778 \times 0,875}{0,7778+0,875}=0,822$. 2. La précision obtenue (0,78) est inférieure au seuil requis de 0,80. Le modèle ne satisfait pas le critère ; il faut soit améliorer la qualité des caractéristiques (ex. ajouter des filtres d’URL), soit ré‑entraîner avec un algorithme plus adapté (ex. boosting). ### Exercice 2 (niveau intermédiaire) **Énoncé** : Un système de reconnaissance faciale est utilisé pour contrôler l’accès à un bâtiment. Sur un jeu de validation de 5 000 passages, on observe les taux de faux positifs (FPR) suivants : groupe A (hommes) = 0,012, groupe B (femmes) = 0,004. 1. Calculer la différence absolue des FPR entre les deux groupes. 2. Selon la règle d’égalité des chances (différence < 0,01), le système est‑il équitable ? 3. Proposer une mesure corrective simple pouvant réduire cet écart. **Corrigé** : 1. $|FPR_A - FPR_B| = |0,012 - 0,004| = 0,008$. 2. Puisque $0,008 < 0,01$, le système respecte la règle d’égalité des chances ; il peut être considéré comme équitable selon ce critère. 3. Une mesure corrective consiste à ré‑équilibrer les données d’entraînement en sur‑échantillonnant les exemples du groupe moins représenté (ici les femmes) ou à appliquer une pondération des pertes lors de l’apprentissage (weighted loss) afin de pénaliser davantage les erreurs sur le groupe présentant le FPR le plus élevé. ### Exercice 3 (niveau intermédiaire) **Énoncé** : Vous devez concevoir un jeu de données anonymisé contenant les attributs suivants : âge (0‑100), code postal (5 chiffres), sexe (M/F) et revenu annuel (0‑200 000 FCFA). Vous devez garantir un $k$‑anonymat avec $k=5$. 1. Expliquer comment vous procéderiez pour atteindre cet objectif. 2. Si après agrégation vous obtenez les groupes suivants : (âge∈[20,30], code postal=12000, sexe=M) contenant 4 enregistrements, que faites‑vous ? **Corrigé** : 1. Pour obtenir du $k$‑anonymat, on généralise ou supprime certains attributs quasi‑identifiants jusqu’à ce que chaque combinaison d’attributs apparaisse au moins $k$ fois. Typiquement, on regroupe les âges par intervalles (ex. 5‑ans), on remplace les deux derniers chiffres du code postal par des « * », et on éventuellement supprime le sexe si cela ne nuit pas à l’analyse. 2. Le groupe comporte seulement 4 enregistrements (< $k$). On doit donc soit le fusionner avec un groupe voisin (ex. élargir l’intervalle d’âge à [20,35] ou autoriser un code postal voisin 12001), soit supprimer ces enregistrements du jeu de données publié afin de respecter le $k$‑anonymat. ### Exercice 4 (niveau avancé) **Énoncé** : Un modèle de détection d’anomalies basé sur un autoencodeur est entraîné sur des transactions bancaires normales. La perte de reconstruction moyenne sur les données d’entraînement est $\mu=0,012$ avec un écart‑type $\sigma=0,003$. On considère une transaction comme anormale si sa perte de reconstruction dépasse $\mu+2\sigma$. 1. Calculer le seuil de détection d’anomalie. 2. Sur un jeu de test de 10 000 transactions, on observe 150 pertes supérieures au seuil. Parmi celles‑ci, 30 sont réellement des fraudes (vérifiées par enquête). Calculer la précision, le rappel et le F1‑score de la détection d’anomalie. 3. Discuter brièvement une limite de cette approche basée uniquement sur la reconstruction. **Corrigé** : 1. Seuil $= \mu + 2\sigma = 0,012 + 2\times0,003 = 0,018$. 2. VP = 30, FP = 150‑30 = 120, FN = nombre réel de fraudes non détectées. On ne connaît pas le nombre total de fraudes dans le jeu de test ; supposons qu’il y ait 40 fraudes au total (donc FN = 40‑30 = 10). Précision $= \frac{VP}{VP+FP}= \frac{30}{150}=0,20$. Rappel $= \frac{VP}{VP+FN}= \frac{30}{30+10}=0,75$. F1‑score $= 2 \times \frac{0,20 \times 0,75}{0,20+0,75}=0,315$. 3. Cette approche ne détecte que les écarts de reconstruction ; une fraude qui ressemble fortement à une transaction normale (faible reconstruction error) sera manquante (faux négatif). De plus, le seuil fixé à $\mu+2\sigma$ suppose une distribution gaussienne des erreurs, ce qui peut ne pas tenir en présence de queues lourdes, conduisant à un trop grand nombre de faux positifs ou à une sensibilité insuffisante. ### Exercice 5 (niveau avancé) **Énoncé** : Vous devez réaliser une étude d’impact sur la vie privée (PIA) pour une application mobile qui collecte la localisation GPS précise toutes les 5 minutes, l’historique d’appels et les données de santé (rythme cardiaque) afin de proposer des recommandations d’activité physique. 1. Listez les étapes principales d’une PIA selon le référentiel du CNIL (ou équivalent camerounais). 2. Pour chaque étape, indiquez une action concrète que vous réaliseriez dans le cadre de cette application. 3. Identifiez deux risques majeurs et proposez une mesure d’atténuation pour chacun. **Corrigé** : 1. Étapes d’une PIA : (a) description du traitement, (b) analyse de la nécessité et de la proportionnalité, (c) évaluation des risques pour les droits et libertés, (d) identification des mesures visant à prévenir les risques, (e) consultation du délégué à la protection des données (le cas échéant), (f) documentation et validation. 2. Actions concrètes : - (a) Décrire précisément les finalités (recommandation d’activité), les types de données (GPS, appels, fréquence cardiaque), la durée de conservation (30 jours). - (b) Justifier la nécessité : les données de localisation permettent de détecter l’activité physique en extérieur ; les appels permettent de détecter le contexte social ; la fréquence cardiaque mesure l’intensité. - (c) Évaluer les risques : risque de re‑identification via la trajectoire GPS, risque de divulgation de données de santé sensibles. - (d) Mesures : pseudonymiser les coordonnées GPS (arrondi à 500 m), séparer le stockage des données de santé dans un coffre chiffré avec accès restreint, limiter la fréquence d’échantillonnage du GPS à 15 min lorsque l’utilisateur est au repos. - (e) Consulter le DPO pour valider le registre des traitements. - (f) Rédiger le rapport PIA, obtenir l’accord du responsable du traitement, archiver le document. 3. Risques majeurs : - Risque 1 : Ré‑identification par combinaison de trajectoire GPS et horaires → atténuation : appliquer une technique de $l$‑diversité sur les attributs temporels et remplacer les coordonnées exactes par des zones géographiques de taille minimale garantissant $l\ge3$. - Risque 2 : Fuites de données de santé via une attaque de type man‑in‑the‑middle sur la transmission vers le serveur → atténuation : utiliser TLS 1.3 avec pinning de certificat, chiffrer les données de santé côté client avant envoi (chiffrement hybride AES‑256 + RSA‑OAEP) et vérifier l’intégrité avec HMAC‑SHA256. ## Erreurs fréquentes | Erreur fréquente | Pourquoi elle se produit | Comment l’éviter | |------------------|--------------------------|------------------| | Confondre **précision** et **rappel** | Les deux notions sont souvent présentées ensemble ; l’élève retient seulement la formule de la précision. | Rappeler que la précision mesure la qualité des prédictions positives (moins de faux positifs) tandis que le rappel mesure la capacité à détecter tous les positifs (moins de faux négatifs). Utiliser un tableau de confusion pour visualiser. | | Négliger le **consentement éclairé** dans la collecte de données | On considère que la collecte passive (ex. cookies) ne nécessite pas d’accord explicite. | Toujours prévoir une case à cocher non pré‑cochée, fournir une information claire et accessible, et garder une preuve du consentement (journal ou token). | | Appliquer un **seuil fixe** (ex. $\mu+2\sigma$) sans vérifier la distribution des erreurs | On suppose implicitement une loi normale alors que les erreurs peuvent être asymétriques ou présenter des outliers. | Tester la normalité (test de Shapiro‑Wilk, QQ‑plot) ; si la distribution est non normale, utiliser un percentile empirique (ex. 95ᵉ percentile) ou ajuster le seuil via une courbe ROC. | | Oublier la **reproductibilité** lorsqu’on partage un modèle | On fournit seulement le fichier de poids sans l’environnement ni le code de prétraitement. | Utiliser un fichier `requirements.txt` ou `environment.yml`, versionner le code avec Git, et fournir un script d’exécution qui reproduit exactement les mêmes résultats (même seed pour le générateur de nombres aléatoires). | | Sous‑estimer l’impact du **biais de sélection** dans les données d’entraînement | On pense que plus de données équivaut à moins de biais, sans vérifier la représentativité. | Effectuer une analyse descriptive des sous‑populations (âge, sexe, région) et comparer avec la population cible ; appliquer des techniques de ré‑échantillonnage (over‑/under‑sampling) ou de pondération si des écarts significatifs sont détectés. | | Négliger la **sécurité du modèle** après déploiement | On considère que le modèle, une fois en production, n’est plus vulnérable. | Mettre en place une surveillance des entrées (détection de drift), limiter les accès au modèle via authentification et autorisation, et prévoir un plan de réponse en cas d’attaque avérée (rollback, patch). | --- *Fin du cours.*