Archives de catégorie : Données personnelles

Risques liés à l’utilisation de l’IA générative grand public pour les entreprises et les administrations

Publié le par
  • Fuite de données sensibles, confidentielles et personnelles : Des informations personnelles, confidentielles (informations qui ne doivent être accessibles qu’aux personnes autorisées) ou sensibles (informations dont la divulgation pourrait nuire à la personne ou à l’établissement) introduites par inadvertance peuvent être conservées et potentiellement divulguées ultérieurement.
  • Utilisation des données pour l’entraînement des modèles : La majorité des offres d’IA générative grand public collectent et utilisent les données soumises par les utilisateurs pour l’optimisation et l’amélioration de leurs modèles. Les informations saisies peuvent ainsi être utilisées pour entraîner le système et être divulguées en réponse à la requête d’un autre utilisateur.
  • Problèmes de fiabilité et biais des résultats : Les IA grand public sont conçues pour être généralistes et peuvent éprouver des difficultés à générer un contenu précis et fiable dans des secteurs professionnels spécifiques. Elles ne fournissent aucune garantie quant à la fiabilité du contenu et peuvent commettre des erreurs factuelles, être influencées par des biais ou même « halluciner » en inventant des informations. Il est donc crucial de toujours vérifier et recouper les informations importantes.
  • Risques de cybersécurité : L’utilisation d’IA non validées par l’établissement peut exposer à des risques importants, tels que la fuite de données sensibles, la manipulation des résultats ou la compromission des systèmes. Le code généré par l’IA peut également contenir des failles de sécurité. Les systèmes d’IA eux-mêmes peuvent être ciblés par des cyberattaques.
  • Amplification de la mésinformation et de la désinformation : L’IA peut être utilisée pour générer automatiquement du contenu trompeur, comme de fausses nouvelles.
  • Atteinte à la réputation de l’établissement : Si des informations erronées ou biaisées sont diffusées via des outils d’IA mal utilisés, cela peut ternir l’image de l’établissement.
  • Non-conformité au cadre légal et réglementaire : L’utilisation inappropriée de l’IA peut entraîner un non-respect des lois et réglementations en vigueur, notamment en matière de protection des données personnelles (RGPD, loi informatique et liberté) et potentiellement au règlement européen sur l’IA (AI Act). Les décisions prises sur la base d’informations erronées générées par l’IA pourraient avoir des conséquences juridiques.

Collecte de données par le biais des applications mobiles

Publié le par

Les Français téléchargent en moyenne 30 applications par an, sources de traitement massif de données (bancaires, géolocalisation, publicitaires…). (source CNIL)

Conseils pratiques :

  • Vérifiez régulièrement les permissions accordées à vos applications (paramètres – autorisations).
  • Privilégiez les applications qui affichent clairement leur politique de confidentialité et limitez l’accès à vos données personnelles.
  • Utilisez des outils comme Signal pour les communications sécurisées ou ProtonMail (https://protegernosdonnees.fr/la-messagerie-securisee-protonmail/) pour les emails chiffrés.