La r\u00e8glement europ\u00e9en interdit (confidentialit\u00e9) l’enregistrement de donn\u00e9es personnelles sensibles<\/em> et demande aux responsables de d\u00e9cision de s’assurer que celles-ci ne pr\u00e9sentent pas de caract\u00e8res discriminatoires vis \u00e0 vis des ces caract\u00e9ristiques.<\/p>\n Les questions de discrimination et confidentialit\u00e9 sont li\u00e9es. La l\u00e9gislation sur la confidentialit\u00e9 s’int\u00e9resse aux actes : enregistrement d’une information personnelle ind\u00e9pendamment des cons\u00e9quences, tandis que celle sur la discrimination se focalise sur les cons\u00e9quences ind\u00e9pendamment des moyens.<\/p>\n Par opposition \u00e0 discriminatoire<\/em>, une d\u00e9cision est dite loyale<\/em> si elle ne se base par sur l’appartenance d’une personne \u00e0 une minorit\u00e9 ou la connaissance explicite<\/em> ou implicite<\/em> d’une donn\u00e9e personnelle sensible.<\/p>\n En effet, il ne suffit pas que la variable “sensible” soit inconnues ou supprim\u00e9es des donn\u00e9es d’apprentissage pour que la d\u00e9cision soit sans biais vis-\u00e0-vis de ses modalit\u00e9s. Il reste\u00a0 souvent possible de reconstruire ou pr\u00e9voir la variable sensible \u00e0 partir des autres donn\u00e9es qui ne sont pas jug\u00e9es sensibles.<\/p>\n Ces questions concernant la caract\u00e8re discriminatoire ou le biais<\/em> d’une d\u00e9cision est tr\u00e8s bien illustr\u00e9 par la controverse entre le site Propublica<\/a> et la soci\u00e9t\u00e9 Northpointe<\/a> qui commercialise une application (COMPASS) produisant un score de risque de r\u00e9cidive pour les d\u00e9tenus. Propublica accuse ce score d’\u00eatre biais\u00e9<\/a>, d\u00e9favorable aux personnes d’origine afro-am\u00e9ricaines.<\/p>\n Cette controverse a suscit\u00e9 de nombreux articles venant renforcer une bibliographie d\u00e9j\u00e0 pr\u00e9sente sur le sujet depuis une dizaine d’ann\u00e9es avec des sessions de conf\u00e9rence d\u00e9di\u00e9es aux liens entre loi, \u00e9thique\u00a0 et m\u00e9thodes d’apprentissage machine dont celles\u00a0 de NIPS<\/a> ou\u00a0 KDD<\/a> (Knowledge Discovery and Data mining). Cette derni\u00e8re proposait un cours Algorithmic Bias from discrimination discovery to fairness-aware data mining<\/a><\/em> (S. Hajian, F. Bonchi et C. Castillo) dont ces pages reprennent quelques uns des \u00e9l\u00e9ments bibliographiques.<\/p>\n Les questions pos\u00e9es et difficult\u00e9s rencontr\u00e9es lors de la construction d’algorithmes loyaux sont directement li\u00e9es aux conditions d’apprentissage des d\u00e9cisions. En quoi l’\u00e9chantillon et-il le reflet des biais de la soci\u00e9t\u00e9? Et quoi ce biais est-il pris en compte, appris par l’algorithme? Voire m\u00eame renforc\u00e9 lorsque, par exemple, une estimation (trop) \u00e9lev\u00e9e d’un risque de cr\u00e9dit g\u00e9n\u00e8re un taux, donc des remboursements, plus \u00e9lev\u00e9s qui renforcent le risque de d\u00e9faut de paiement.<\/p>\n La premi\u00e8re difficult\u00e9 consiste \u00e0 d\u00e9finir ou choisir une<\/p>\n parmi la longue liste de celles propos\u00e9es dans la litt\u00e9ratures dont certaines sont plus ou moins adapt\u00e9es aux textes l\u00e9gislatifs des diff\u00e9rents pays.<\/p>\n Une deuxi\u00e8me plus technique et d\u00e9licate r\u00e9side dans la<\/p>\n L’apprentissage\u00a0 d’un algorithme conduisant \u00e0 une d\u00e9cision sinon loyale, tout du moins pas trop d\u00e9loyale, appara\u00eet comme un compromis entre la qualit\u00e9 de pr\u00e9vision<\/a> (justesse de d\u00e9cision) et le biais. A cette fin, plusieurs strat\u00e9gies sont propos\u00e9es dont les deux principales:<\/p>\n Toutes ces questions restent des probl\u00e8mes de recherche ouverts et ce d’autant plus que la d\u00e9tection d’un biais ou la construction d’une d\u00e9cision loyale se base sur la connaissance ou non de l’information sensible et donc censur\u00e9e par la loi. Cette derni\u00e8re question d\u00e9bouche sur la recherche d’un compromis<\/em> entre trois objectifs de qualit\u00e9, loyaut\u00e9 et confidentialit\u00e9<\/em>.<\/p>\n <\/p>\n","protected":false},"excerpt":{"rendered":" Introduction Contexte juridique La r\u00e8glement europ\u00e9en interdit (confidentialit\u00e9) l’enregistrement de donn\u00e9es personnelles sensibles et demande aux responsables de d\u00e9cision de s’assurer que celles-ci ne pr\u00e9sentent pas de caract\u00e8res discriminatoires vis \u00e0 vis des ces caract\u00e9ristiques. Les questions de discrimination et confidentialit\u00e9 sont li\u00e9es. La l\u00e9gislation sur la confidentialit\u00e9 s’int\u00e9resse aux actes : enregistrement d’une information […]<\/p>\n","protected":false},"author":177,"featured_media":0,"parent":44,"menu_order":0,"comment_status":"closed","ping_status":"closed","template":"template-full-width.php","meta":{"footnotes":""},"class_list":["post-230","page","type-page","status-publish","hentry"],"_links":{"self":[{"href":"https:\/\/perso.math.univ-toulouse.fr\/mllaw\/wp-json\/wp\/v2\/pages\/230","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/perso.math.univ-toulouse.fr\/mllaw\/wp-json\/wp\/v2\/pages"}],"about":[{"href":"https:\/\/perso.math.univ-toulouse.fr\/mllaw\/wp-json\/wp\/v2\/types\/page"}],"author":[{"embeddable":true,"href":"https:\/\/perso.math.univ-toulouse.fr\/mllaw\/wp-json\/wp\/v2\/users\/177"}],"replies":[{"embeddable":true,"href":"https:\/\/perso.math.univ-toulouse.fr\/mllaw\/wp-json\/wp\/v2\/comments?post=230"}],"version-history":[{"count":15,"href":"https:\/\/perso.math.univ-toulouse.fr\/mllaw\/wp-json\/wp\/v2\/pages\/230\/revisions"}],"predecessor-version":[{"id":291,"href":"https:\/\/perso.math.univ-toulouse.fr\/mllaw\/wp-json\/wp\/v2\/pages\/230\/revisions\/291"}],"up":[{"embeddable":true,"href":"https:\/\/perso.math.univ-toulouse.fr\/mllaw\/wp-json\/wp\/v2\/pages\/44"}],"wp:attachment":[{"href":"https:\/\/perso.math.univ-toulouse.fr\/mllaw\/wp-json\/wp\/v2\/media?parent=230"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}D\u00e9finitions<\/h3>\n
Sources<\/h3>\n
Loyaut\u00e9 des algorithmes<\/h2>\n
\n
\n
\n