Intelligence Artificielle et Big Data : construire une éthique
L’Intelligence Artificielle et le Big Data deviennent omniprésentes dans notre vie quotidienne, notre travail, nos loisirs… et reposent en grande partie sur la collecte et l’utilisation de nos données personnelles. Comment en prévenir les excès et garantir que ces technologies restent au service de l’humanité ?
Quels enjeux éthiques sont-ils associés à ce développement de l’IA et à cette exploitation des données ?
Comment un cadre réglementaire et éthique est-il en train de se construire ?
Comment puis-je à mon niveau contribuer à l’émergence et la consolidation de ce cadre ? 
Par son sujet (donner de l’intelligence aux machines, les faire se substituer à l’être humain pour des activités dites ‘intellectuelles’), la notion d’intelligence artificielle, abondamment traitée par la science-fiction depuis des décennies, suscite bien des phantasmes (ex : l’IA forte avec des machines plus intelligentes que les humains, conscientes d’elles-mêmes et capables de prendre le pouvoir, voire de détruire l’humanité). Ces questions sont proches de celles posées par la bioéthique et le transhumanisme. Leur horizon de temps est encore lointain, mais certains imaginent déjà augmenter les capacités de l’être humain en le connectant à une machine (cf. la start-up Neuralink, soutenue par Elton Musk).
Mais les applications d’IA faible actuelles posent déjà des questions éthiques fondamentales : elles reproduisent les modes de pensée et comportements qu’elles ont observées et apprises , y compris les discriminations (ex : analyse des CV pour le recrutement) ; elles peuvent prendre des décisions mettant en jeu des vies humaines et ainsi engager une responsabilité qui reste à définir (ex une voiture autonome peut décider de « sacrifier » un piéton) ; contribuer à une uniformisation des modes de consommation (via les recommandations d’achats) ; restreindre les libertés publiques (reconnaissance faciale)…
Par ailleurs, les algorithmes de machine learning supposent la collecte et l’utilisation d’une masse considérable de données souvent privées. L’accès à ces données et d’immenses capacités d’investissements donnent par ailleurs un grand avantage aux GAFAM (Google, Amazon, Facebook, Apple, Microsoft) et à leurs équivalents chinois (Baidu, Alibaba…) dans ce domaine, empêchant la concurrence de se développer.
L’exploitation de ces données posent question en termes de respect de la vie privée (par exemple, le traçage où vos habitudes sur internet sont enregistrées et exploitées)..
Sont ici en jeu les principes de dignité humaine , de justice, de bien commun et de destination universelle des biens.(1)
Dès les débuts de l’Intelligence Artificielle (dans les années 1950 !), les scientifiques, ingénieurs, mais également auteurs de science-fiction (cf. les règles d’Asimov) se sont posés des questions éthiques : comment garantir que la machine intelligente reste au service de l’humanité ?
Les acteurs étatiques et supra-étatiques ont introduit des réglementations en termes d’usage des données et de protection de la vie privée. L’Union Européenne notamment via sa législation (RGPD (2)) est plus protectrice que d’autres ensembles économiques, mais parfois au prix de sa compétitivité dans ce domaine stratégique.
Des praticiens de l’IA, ingénieurs, entrepreneurs, philosophes… réfléchissent à ces questions et sont forces de proposition. C’est le cas du think tank « Espérance & Algorithmes », lancé par le Collège des Bernardins, auteur de 14 principes (3) ; du « serment d’Hippocrate du Data Scientist ».
Autre initiative, celle de plusieurs acteurs du numériques, Microsoft, IBM, qui associés au Vatican et à la FAO ont lancé l’appel de Rome pour une IA centrée sur l’humain (4).
Certains acteurs numériques s’engagent à ne pas utiliser vos données personnelles, comme le moteur de recherche Lilo.
Certaines start-ups de l’IA mettent également en avant la capacité de leurs solutions à réduire les discriminations inhérentes aux processus humains. Mais peut-on en être sûr à 100% (5)?
Comprendre :
- Faut-il fixer des limites, des garde-fous dans le développement des applications d’Intelligence Artificielle ? Sur quels critères éthiques ?
- Quels objectifs les acteurs de l’IA devraient-ils poursuivre ? Est-ce le cas ? Pourquoi ?
- Suis-je conscient(e) des biais et des injustices que l’IA peut introduire ?
- Quelle transparence et quel contrôle possible d’algorithmes qui ne sont pas aisément lisibles ?
- Quel contrôle humain a posteriori ? Comment rester maître de la décision ? Quelle responsabilité juridique pour une décision prise par un robot / une IA ?
- Comment concilier protection de la vie privée et performance économique des acteurs numériques ?
Espérer pour demain
- Comment limiter le pouvoir des « géants du net » ? Comment limiter le pouvoir des « géants du net » ?
- Quel rôle possible et souhaitable des acteurs étatiques et supra-étatiques ? Vois-je une réglementation comme la RGPD comme une contrainte, une « balle » que se tire l’UE dans le pied face à la concurrence américaine et asiatique, ou comme une véritable garantie pour la protection de ma vie privée ? Quelles autres initiatives ces acteurs publics devraient-ils prendre ?
- Suis-je au courant d’initiatives comme l’appel de Rome ou des propositions d’Espérance et Algorithme ? Comment les encourager ?
Agir dès aujourd’hui
Comment devenir, individuellement et collectivement acteur de la construction d’une éthique de l’Intelligence Artificielle et de l’exploitation des données ?
- Ai-je conscience de ces problèmes éthiques ? M’y suis-je intéressé(e), suis-je conscient(e) de ces enjeux, ai-je cherché des informations sur le sujet (ex : MOOC sur l’Intelligence Artificielle) ?
- Comment agir à mon niveau pour que ces questions éthiques soient plus connues et discutées ?
- Ma vision chrétienne de vision de l’être humain, de sa dignité, sa place dans la création, constitue-t-elle une boussole pour ces questions ?
- Suis-je sensible à la protection de mes données personnelles, notamment dans ma consommation de services numériques ? Quelles sont mes actions et mes exigences dans ce domaine ?
[1] Fiche de la conférence des évêques de France :
Textes bibliques : La Tour de Babel : Genèse 11, 1-9 et La vrai sagesse : Job 28
[2] Règlement Général sur la Protection des Donnée ; pour en avoir plus : https://www.cnil.fr/fr/comprendre-le-rgp
[3] Pour en savoir plus : https://www.esperance-algorithmes.org/manifeste/
[4] Pour en savoir plus : https://romecall.org/
[5 ] Dans le domaine du recrutement et de la gestion RH : https://www.journaldunet.com/management/ressources-humaines/1493487-les-algorithmes-s-immiscent-a-chaque-etape-du-recrutement