Pour une éthique de l'IA

De 2010 à 2020 : une transformation radicale, l’économie des plateformes, sans réelle considération éthique

Quelles sont les grandes forces de transformation en lien avec la transition numérique qui ont marqué les entreprises sur la période ?

Valérie Fernandez : Je retiens l’essor de l’économie des plateformes. Elle a transformé subrepticement les marchés, portée par des innovations technologiques mineures. Les API ont permis de créer des infrastructures de marchés bifaces. Ce qui a transformé radicalement l’économie en faveur des acteurs qui ont su modulariser les plateformes.

Pour la première fois, ce n’est pas une innovation technologique qui a émergé brutalement. C'est un progrès technologique mineur - l’amélioration des API - qui a généré un changement majeur,  la plateformisation des marchés. Prenons l’exemple de l’iPhone. D'un point de vue technologique, il n’y a rien de révolutionnaire. Ce qui l’a été, c’est l’assemblage de différentes composantes et le lancement de la plateforme iTunes. Apple a pu ainsi organiser un marché multi-offres culturelles pour une multitude de clients.

Les marchés des sociétés dominantes de l’époque ont été bouleversés avec l’arrivée des GAFAM  et des BATX en Asie. Seul le taylorisme avait autant transformé les modes d’organisation des entreprises, l’économie et la société. Depuis, ce sont toutes les grandes fonctions de l’entreprise qui ont été impactées. La logistique par exemple, mais aussi le marketing.

Des travaux de recherche ont-ils contribué à nourrir les réflexions, les politiques, les stratégies, les débats et controverses ?

VF : Les travaux de Saras Sarasvathy sur l’effectuation ont été déterminants. Dans un contexte de forte incertitude, l’effectuation a permis aux entreprises d’adopter une posture de management de l’innovation différente. Il s'agit d'innover pas à pas à partir de ce qu’elles possèdent et de ce qu’elles savent d’elles-mêmes.

Autre chercheur, Clayton Christensen qui analyse la rupture comme un processus et non comme un événement. C’est ce qui la rend si difficile à détecter pour les acteurs traditionnels. C’est ce à quoi on a assisté avec la plateformisation de l’économie.

Le développement de laboratoires de recherche pluridisciplinaires a également été important. Des ponts ont été créés entre les sciences dures et les sciences humaines. Cela a permis de rapprocher le monde de la recherche du monde de l’entreprise.

2020—2030 : la nécessité de concilier innovation technologique, éthique et acceptabilité sociale

Quelles sont les mégatrends qui marqueront la transition numérique des organisations ces dix prochaines années ?

VF : La question des technologies d’intelligence artificielle et des problématiques d’éthique associées sera la principale tendance de fond. Les biais cognitifs sont décuplés avec l’application de l’IA à tous les domaines économiques. Les entreprises vont devoir s’emparer de la question de l’innovation responsable. En effet, elles doivent prendre en compte l’acceptabilité sociale de leurs innovations.

Prenons le cas de la reconnaissance faciale sur laquelle je conduis des travaux. Ces technologies sont portées par des entreprises américaines ou asiatiques pour des usages ordinaires. Elles sont en général bien acceptées par le citoyen européen. Nous consentons souvent à l’usage de nosdonnées sans avoir conscience des risques associés.

Dans ces conditions, que faire ?

VF - Pour sortir de cette contradiction, nous allons devoir être vigilants et apporter des nuances entre la prise en compte les enjeux éthiques de l’IA, et la nécessité de ne pas freiner les entreprises européennes dans leurs innovations. Il y a là des enjeux de souveraineté.

Ces questions de souveraineté numérique doivent être portées par une volonté politique forte.  Malheureusement, nous ne l’avons pas aujourd’hui en Europe. Dans les domaines qui seront importants demain et sur lesquels l'Europe a une carte à jouer (l’informatique quantique par exemple), il est possible que nous soyons plus volontaristes et que nous privilégiions une éthique de responsabilité.

Quels sont les principaux travaux de recherche présents et à venir qui contribueront à nourrir les réflexions, les politiques, les stratégies, les débats et controverses sur ces sujets ?

VF : Les entreprises semblent conscientes de la nécessité de se former à la data science et à l'éthique . Ce sont des sujets sur lesquels les étudiants sont autant issus des sciences sociales que des sciences dures.  Par ailleurs, on doit travailler à la question de la transparence des algorithmes très en amont avec les data scientists. Ceux-cidoivent avoir la connaissance des biais cognitifs liés à ces technologies. On pourra dans les prochaines années avec ces évolutions de la formation limiter ces biais.

Sur le plan de la recherche, les think tanks mêlent aussi les sciences dures et sciences sociales. On ne peut plus penser la technologie sans les sociologues et les économistes. Un facteur favorable à ces évolutions est l’évolution des systèmes de valorisation de la recherche. En effet, ils prennent mieux en compte le rayonnement du chercheur,  sa capacité à médiatiser, à vulgariser son propos auprès des différentes parties prenantes.

Pour illustrer mon propos, la question de l’acceptabilité des technologies et de leurs usages passera par une compréhension plurielle, d’un point de vue technologique comme sociologique. Ce sera aussi une question d’attractivité des organisations. Aujourd’hui, les jeunes actifs mettent en balance l'attractivité du poste et l’utilité sociale lorsqu’ils choisissent une entreprise.

Tous les services des entreprises doivent aujourd’hui anticiper les controverses. Par exemple, le marketing ne pourra plus ignorer les signaux faibles lors du lancement d’un produit. Nous avons des nouveaux outils  pour analyser ces controverses. On peut le faire à partir des médias classiques, des réseaux sociaux... afin de retracer leurs trajectoires de construction.

Plus largement, le chantier de demain sera la régulation des réseaux sociaux. Il faut apporter des solutions politiques, voire géopolitiques à cette régulation.