Si je ne suis pas dupe à l'idée de regarder un documentaire Netflix, même si celui-ci était conseillé par la revue dessinée, force est de constater que cette œuvre ne creuse pas vraiment les bonnes questions qu'ils posent.

Certes, nous sommes régis par les algorithmes dans les moment important de notre vie (choix d'une université, envoi de CV pour candidature d'un emploi, peut-être un don d'organe...) mais quel est le vrai problème? Est-ce le fait qu'ils soient imprécis et génèrent des discriminations comme cela est constamment souligné? Ou est-ce le fait que nous créons un processus que nous ne maîtrisons pas derrière lequel nous nous cachons pour prendre des décision difficiles.

Le documentaire n'est pas clair dans son déroulement. Je ne comprends finalement pas en quoi les algorithmes sont racistes. Certes ils identifient mieux les hommes blancs que les femmes noires mais on doit pouvoir corrigé cela en injectant de la donnée. C'est d'ailleurs ce qui est fait. Par ailleurs, on enchaîne sur le contrôle faciale dans une cité pauvre de Brooklyn. Quel est le message? Quelle est la suite logique? Pourquoi dit-on que ces algorithmes sont racistes pour ensuite dire que cela est dû aux donnés historiques qui lui sont injectées? Cela va même totalement à l'encontre du discours. Si l'algorithme ressort de la base de donnés qu'une certaine partie de la population ne rembourse pas ses prêts, il va forcément le faire ressortir sinon cela impliquerait que le modèle est faux. Il me semble que la vraie question serait pourquoi cette frange de la population rembourse plus mal et comment peut-on y remédier.

Par ailleurs, le documentaire rate à mon humble avis les points intéressants à mettre en exergue:

- Le RGPD en Europe beaucoup critiqué par les USA qui permet à minima de protéger les données des gens contrairement au "Far West" américain. Quelles conséquences en Europe? Pourquoi un modèle similaire n'est il pas adopté aux USA?

- La Chine qui épouse de manière assumé un modèle de surveillance qui fait peur à une grande partie de notre population. Quels sont les bons côtés? Il doit y en avoir pour que la seconde puissance mondiale pousse dans ce sens.

- Le rappel historique sur Stanislas Petrov aurait mérité d'être creusé et ferait une parfaite introduction pour montrer les conséquences de la non maitrise des mathématiques appliquée aux systèmes de détection anti-aérienne plutôt que cet exemple de masque blanc sur la reconnaissance faciale.

Qui plus est, ces scènes de bobo dans des restos chics en train de refaire un monde plus inclusif entre deux huitres et un verre de champagne sont vraiment malaisantes.

Au niveau du montage et de la réalisation, c'est très propre. Mais, je regrette qu'une attention toute particulière n'est pas aussi été portée au propos. Netflix/20

Activité sur Coded Bias

Toute votre culture au même endroit.