L'IA est-elle une menace pour nos libertés ?
L'exemple de la reconnaissance faciale, et des données au service de l'État
Bonjour !
Les IAs font désormais partie intégrante de nos vies. Elles gèrent aussi bien pour nous les emails à un boss toxique, l’obtention de 100 McDonald gratuits, ou nous amusent en faisant du Pape la nouvelle icône du cool de Balenciaga. Cool.
Mais les IAs représentent aussi une menace pour nos libertés. C’était l’objet de notre intervention au 52e Congrès des Présidents des Barreaux Européens le 9 février dernier. On vous raconte.
Vous êtes très nombreux à avoir lu notre première édition de JANUS, et à vous être abonnés. Merci pour votre soutien 💗
🚀Au programme aujourd’hui
Le meilleur des news de la tech.
Les IA une menace pour nos libertés ? L’exemple de la reconnaissance faciale.
La collecte de données au service de l’État : nos recos culturelles
Bonne lecture!
Ce qu’il ne fallait pas rater dans la strastosphère tech
La Mécanique des fluides de Gala Hernandez remporte le César du meilleur court-métrage. Ce film explore comment internet fédère des communautés d’hommes entre eux, et la façon dont les algorithmes les poussent à la dérive.
Après DALL.E pour les images, OpenAI lance SORA, une IA capable de créer des films. Le nouveau paradis des deepfakes?
En Chine, on peut désormais communiquer avec les morts grâce à une nouvelle IA.
Les IA sont-elles une menace pour nos libertés ? L’exemple de la reconnaissance faciale.
Les nouvelles générations d’IA sont de plus en plus performantes. Elles ne sont plus limitées aux informations integrées par leurs créateurs, mais désormais aussi nourries de toutes les données qu’elles trouvent en ligne. On parle ici de toutes les news, questions, forums et autres plateformes, mais aussi de toutes les données que vous avez partagées et/ou qui vous concernent (photos, publications, messages, profils, CV, actualités, etc…). Flippant? Attendez la suite.
En 2020, un article du NYT intitulé “la société secrète qui pourrait mettre fin à votre vie privée telle que vous la connaissez” révèle qu’une société américaine a mis au point un système de reconnaissance faciale ultrapuissant qui permet de reconnaitre n’importe qui à partir d’une simple photo. Cette société c’est CLEARVIEW AI.
Sa force? Avoir aspiré des millions de photographies de sites aussi variés que Facebook, Vimeo, Youtube, et Instagram pour créer la plus grande base de données au monde 😎.
Pourquoi l’activité de Clearview est un problème?
La société a été créée par des personnalités de la droite radicale avec comme objectif de trouver tous les immigrants clandestins aux USA. Elle a d’ailleurs un juteux contrat avec les services d’immigration. On sait que Clearview vend ses services à la police, mais aussi à des sociétés commerciales, mais nous n’en connaissons pas la liste. Son activité est opaque, et a pour motto “on vous reconnaîtra, où que vous soyez”. Bye Bye privacy…
l’IA de Clearview est biaisée et commet des erreurs: en 2023 un afro-américain a été arrêté à tort suite à une erreur de reconnaissance faciale de Clearview.
Aucune personne présente dans cette base de données ne sait que ses données sont traitées par Clearview , ni comment ou pourquoi elles font l’objet d’un traitement.
Comment on le sait ? Parce qu’après plusieurs mois de batailles judiciaires, nous avons découvert que non seulement Clearview avait nos données, notre nom, et qu’elle connaissait notre métier, mais également qu’elle avait des photos de nous que nous n’avions jamais vues, et nous matchait avec des visages qui n’étaient pas le nôtre. Et ce, sans jamais en avoir été informé, ni sachant qui avait eu accès à nos données…
Maintenant qu’on est bien stressés, on fait quoi ?
On remercie l’Union Européenne d’avoir créé le RGPD. Grâce à lui, nous avons pu porter plainte devant la CNIL, et Clearview a été condamnée à une amende de 20 millions d’Euros, et son activité est désormais interdite en France. Elle n’a donc ni le droit de vendre ses services, ni le droit de stocker des photographies ou le nom de personnes résidant en France*.
On fait encore plus attention aux photographies et contenus que l’on partage en ligne maintenant que l’on sait que les IA aspirent tout ce qu’elles trouvent.
On reste informés parce que le savoir c’est le pouvoir 💪, en regardant l’excellent documentaire de France24 sur le sujet ou en écoutant notre épisode de podcast dédié en compagnie de Jérôme Hourdeaux, journaliste chez Mediapart et auteur de l’enquête sur Clearview.
*Pour info nous avons été informés que Clearview n’a ni payé l’amende infligée par la CNIL ni supprimé nos données. N’ayant pas de siège social en Europe, c’est quasi-impossible pour la CNIL de faire respecter sa décision. Mais ne vous inquiétez pas, on y travaille 😉.
La collecte de données au service de l’État
Des recommandations culturelles en partenariat avec Vive la Culture !
A l’heure où nous livrons volontairement (ou non) tous les détails de nos vies aux algorithmes, comment les Etats pourraient-ils ne pas s’en servir pour assurer l’ordre ?
Nulle part où se cacher - 2014
Glenn Grennwald - Jean-Claude Lattès
Glenn Greenwald, est l'un des trois journalistes dépositaires des documents top secret d'Edward Snowden, dont seulement 1% a été publié à ce jour. Écrit comme un thriller ce livre ne laisse aucun doute sur les intentions de la NSA : "Tout collecter", "Tout traiter", "Tout exploiter", "Tout mettre en commun", "Tout flairer", et en définitive, "Tout savoir".
Brazil - 1985
Terry Gilliam - 20th Century Studios
Dans ce film futuriste, Sam Lowry, un archiviste au service d’un Etat totalitaire, est pris au piège de la bureaucratie. Les mésaventures d’un Edward Snowden ou d’un(e) Chelsea Manning rappellent que les archivistes pris de scrupules encourent aujourd’hui le même danger à sortir du système, que Sam Lowry dans “Brazil”.
Californium - 2016
Brice Roy - Arte France
« Californium » est un jeu vidéo conçu comme une invitation à explorer et à approfondir les sujets abordés par Philip K. Dick dans ses romans, notamment la frontière entre réalité et monde parallèle.