La l\u00e9gislation fran\u00e7aise (Loi pour une r\u00e9publique num\u00e9rique)\u00a0 imposent de devoir expliquer <\/em>une d\u00e9cision administrative<\/em> obtenue par un traitement automatique. Le d\u00e9cret d’application<\/a> semble tr\u00e8s contraignant sur la pr\u00e9cision de celle-ci. De son c\u00f4t\u00e9 le r\u00e8glement europ\u00e9en imposera la n\u00e9cesit\u00e9 d’une explication, m\u00eame pour un profilage<\/em>, lorsque la personne physique <\/em>qui est impact\u00e9e <\/em>le demande. Cela peut concerner l’emploi, l’\u00e9ducation, la sant\u00e9, l’assurance, le traitement judiciaire, un emprunt… de cette personne.<\/p>\n Le r\u00e8glement europ\u00e9en ne pr\u00e9cise pas un niveau d’explication<\/em> alors que, sch\u00e9matiquement, deux situations peuvent \u00eatre caract\u00e9ris\u00e9es.<\/p>\n Les algorithmes concern\u00e9s sont bas\u00e9s sur des m\u00e9thodes \u00e0 l’interface entre disciplines Math\u00e9matiques (Statistique) et Informatique (Intelligence Artificielle) et sont d’une tr\u00e8s grande diversit\u00e9. Les m\u00e9thodes d’apprentissage<\/a> peuvent \u00eatre structur\u00e9es en deux groupes selon qu’elles conduisent, par construction, \u00e0 un mod\u00e8le explicite<\/em> ou \u00e0 une bo\u00eete noire<\/em>.<\/p>\n Dans le premier cas, le choix a priori<\/em> d’un type de m\u00e9thode ou de mod\u00e8le conduit \u00e0 une possibilit\u00e9 d\u2019explication de la d\u00e9cision. Dans le 2\u00e8me cas, une fois d\u00e9termin\u00e9e la m\u00e9thode conduisant \u00e0 la meilleure pr\u00e9vision, des indicateurs d’importance sont calcul\u00e9s, a post\u00e9riori. <\/em><\/p>\n Par construction, une d\u00e9cision explicable est interpr\u00e9table<\/em>. Mais, dans le cas d’un algorithme opaque<\/em>, il devient impossible de mettre simplement en relation des valeurs ou des caract\u00e9ristiques avec le r\u00e9sultat de la d\u00e9cision, notamment en cas de mod\u00e8le non lin\u00e9aire ou avec interactions. Telle valeur \u00e9lev\u00e9e d’une variable peut conduire \u00e0 une d\u00e9cision\u00a0 dans un sens ou dans un autre selon la valeur prise par une une autre variable non identifiable, voire m\u00eame une combinaison complexe d’autres variables.<\/p>\n Entre les deux strat\u00e9gies, explicabilit\u00e9 vs.<\/em> interpr\u00e9tabilit\u00e9, tout est question d’objectif et de recherche d’un meilleur compromis<\/em>\u00a0 entre niveau de compr\u00e9hension et\u00a0 qualit\u00e9 de pr\u00e9vision<\/em><\/a>.<\/p>\n Si l\u2019explication est privil\u00e9gi\u00e9e<\/em>, la strat\u00e9gie consiste \u00e0 recherche le mod\u00e8le explicable d\u00e9gradant le moins possible la qualit\u00e9 de pr\u00e9vision. Voir par exemple les efforts de\u00a0Lakkaraju et Rudin (2016).<\/p>\n Si une qualit\u00e9 n\u00e9cessaire de pr\u00e9vision n’est atteinte que par une algorithme opaque, quantifier l‘importance des variables<\/em> ou caract\u00e9ristiques. C’\u00e9tait d\u00e9j\u00e0 une proposition de Breiman (2001) pour l’algorithme des for\u00eats al\u00e9atoires, elle est reprise pour l’algorithme plus r\u00e9cent d’extreme gradient boosting<\/em> (Chen et Guestrin, 2016). Data et al.\u00a0 (2016) proposent un autre crit\u00e8re, mais applicable \u00e0 toute m\u00e9thode d’apprentissage, en vue du m\u00eame objectif d’aide \u00e0 l’interpr\u00e9tation.<\/p>\n Quel est le niveau d’interpr\u00e9tabilit\u00e9 ou d’explicabilit\u00e9 demand\u00e9 \u00e0 une d\u00e9cision algorithmique?<\/p>\n Le d\u00e9cret d’application<\/a> de la loi pour une R\u00e9publique Num\u00e9rique demande de fournir les informations suivantes si elle ne sont pas prot\u00e9g\u00e9es par la loi:<\/p>\n En r\u00e9sum\u00e9, il semble bien qu’une d\u00e9cision administrative en France concernant une personne physique ne puisse pas se baser sur un algorithme d’apprentissage\u00a0 opaque.<\/p>\n Le r\u00e8glement europ\u00e9en ne le pr\u00e9cise pas. Qu’en sera-t-il de la jurisprudence?<\/p>\nD\u00e9finitions : explicabilit\u00e9 vs.<\/em> interpr\u00e9tabilit\u00e9<\/h2>\n
\n
D\u00e9cision par apprentissage machine<\/h2>\n
\n
\u00a0Mise en \u0152uvre<\/h2>\n
Question<\/h2>\n
\n
R\u00e9f\u00e9rences<\/h2>\n