Pourquoi l’IA a besoin d’un cadre éthique

La semaine prochaine, je me rends à Bruxelles pour être confirmé comme membre du Groupe d’experts de haut niveau sur l’IA de la Commission européenne (le lien présente son mandat et la liste complète des membres). Les représentants non européens sont extrêmement rares dans ces groupes et je suis honoré d’y avoir été accepté : nous agirons comme comité de pilotage des travaux de l’Alliance européenne pour l’IA. C’est une initiative remarquable pour favoriser une vaste collaboration entre domaines d’expertise, secteurs, composantes de la société et nationalités. J’ai posé ma candidature parce que l’Europe montre l’exemple en créant les cadres de coopération et de réglementation dont nous avons besoin, tant localement qu’à l’échelle de l’Union. Il est essentiel de ne pas les rendre trop complexes et de créer une base sur laquelle le reste du monde pourra s’appuyer. 

L’éthique est sur toutes les lèvres dans le milieu de l’IA. Beaucoup d’organisations mettent en avant les normes éthiques qu’elles viennent de créer ou de revoir, pour montrer qu’elles sont du bon côté de l’histoire. Pourtant, si la plupart des gens conviennent que les machines devraient respecter des règles éthiques, je ne crois pas que nous ayons bien expliqué les limites de leur mise en œuvre, ni pourquoi nous devons encore élaborer un cadre éthique pour les machines. Après tout, n’avons-nous pas déjà des cadres éthiques? Si, mais ils encadrent le comportement des personnes en société, pas celui des machines qui automatisent notre monde. Une discussion constructive sur la réglementation de l’IA exige d’abord de comprendre comment traduire nos valeurs déclarées, quelles qu’elles soient, dans un langage que les machines comprennent.  

Comment se forment nos repères éthiques

Nous naissons dans un cadre qui nous apprend à vivre : nos parents nous transmettent leurs valeurs et posent les premiers repères de notre comportement. Après quelques années, l’école y ajoute un ensemble de règles plus large. Nous y apprenons les relations sociales et les récits sur le bien et le mal, des simples comptines aux récits historiques détaillés qui retracent ce débat toujours ouvert.

Avec le temps, nos valeurs se fixent plus ou moins, et nous devenons des adultes responsables de leur mise en pratique. L’apprentissage n’est pourtant pas terminé. Nos entreprises et nos institutions imposent des conventions de longue date sur la façon d’appliquer ces valeurs au quotidien. Les règles et les objectifs codifiés nous donnent une longue liste de devoirs éthiques explicites en tant que citoyens. La société dispose aussi de mécanismes de contrôle et de contrepoids — des signes discrets de désapprobation jusqu’à la dénonciation ouverte — qui font respecter une éthique implicite, encore non formalisée.

Ces zones grises existent parce que certains comportements font encore débat, qu’ils soient aussi anciens que l’humanité ou rendus possibles par de nouvelles technologies. Nous ne voyons pas toujours comment les effets de nos gestes peuvent s’accumuler ou entraîner des conséquences nuisibles à la société. Heureusement, un solide ensemble de contrôles et de contrepoids entretient le débat et limite les dérives pendant que nous cherchons des réponses, prolongeant ainsi le rôle de nos parents et de nos enseignants. Notre cadre éthique humain est, au fond, un dialogue. Il évolue constamment, au fil des générations et du débat sur le bien et le mal.

L’absence d’un cadre éthique pour les machines

Lorsque nous créons des modèles du monde pour automatiser des tâches, nous isolons celles-ci de notre cadre de valeurs en évolution. Avec l’IA, nous codons ces modèles en entraînant la machine à partir de données. C’est très utile : elle produit ainsi des modèles que nous ne savons pas entièrement comprendre, sans quoi nous les aurions programmés nous-mêmes. Leur coût diminue et leur précision augmente de façon exponentielle. Mais ils deviennent aussi plus complexes et moins faciles à comprendre, à mesure que des boucles de rétroaction les améliorent avec de nouvelles données. Nous ne pouvons pas en concevoir toutes les possibilités, ni donc fixer à l’avance toutes les règles nécessaires pour encadrer leur comportement.

Nous pourrions nous en accommoder avec des garde-fous adéquats, mais ceux-ci restent à construire. Le modèle de la machine peut refléter les valeurs de l’époque où ses données d’entraînement ont été recueillies et où l’intention a été fixée, consciemment ou non, puis fonctionner sans autre dialogue, pratiquement en dehors de tout cadre éthique. C’est que le langage de notre cadre éthique humain — relations sociales, institutions, mots — n’est pas celui dans lequel la machine fonctionne : les données.

Si nous voulons exploiter la puissance de ces outils dans certains domaines, nous devrons appliquer de nouvelles exigences d’hygiène à nos données, et même à notre éthique humaine. Un hôpital peut accomplir des prouesses thérapeutiques, mais il lui faut un environnement stérile. L’IA pourrait nous permettre de grandes avancées en matière de cohésion sociale, à condition de nettoyer régulièrement nos données des biais et des comportements qu’il ne serait jamais souhaitable d’automatiser. C’est en intervenant dans les boucles de rétroaction des données d’entraînement que nous créerons les moyens d’étendre notre cadre éthique au modèle de la machine.

Nous devons étendre notre dialogue éthique humain aux machines. En multipliant ces points de contact tout au long de leur développement et de leur utilisation, nous pourrons parler le même langage et nous assurer qu’elles respectent nos lois et nos valeurs. Ce dialogue sera exigeant, avec les machines comme entre nous, pour déterminer comment construire ce nouveau cadre. Il nous obligera à trancher davantage certains débats que nous avons trop longtemps laissés dans le flou.*

Ce premier pas européen est néanmoins encourageant. Nous partons sur de bonnes bases en réunissant des experts qui connaissent en profondeur nos institutions, nos lois, nos relations sociales et les débats qui les traversent. À nous, spécialistes de la technologie, de faire notre part pour construire les moyens de cette traduction, sans esquiver les questions difficiles qui ne manqueront pas de se poser.

—

*L’IA peut automatiser des biais nuisibles, mais elle peut aussi les mettre en lumière de façon frappante. Aujourd’hui, le manque d’explicabilité des algorithmes utilisés dans le système judiciaire les empêche de justifier après coup leurs décisions biaisées : les tendances discriminatoires apparaissent donc plus clairement. Cela a alimenté le débat sur les biais du système judiciaire dans son ensemble et freiné le déploiement des algorithmes, en attendant que ces discussions très difficiles aboutissent — du moins, espérons-le.

---

Vous pouvez aussi retrouver ces articles sur Medium et LinkedIn.

Photo de Joakim Honkasalo.