Une réflexion supplémentaire : l'IA met en évidence les limites de l'intelligence humaine, elle nous fait perdre nos repères (certains s'en inquiètent, d'autres s'en réjouissent).
C'est une grande rupture anthropologique, un défi d'une ampleur inédite.
Beaucoup de finesse dans cette réflexion, Amaury, que je partage pleinement. En effet, il s’agit d’une rupture anthropologique majeure, mais également d’un bouleversement épistémologique, redéfinissant nos rapports à la connaissance et à l’innovation. Cette transition pose des défis vertigineux, mais ouvre aussi des perspectives inédites !
Merci pour la constance et la sagacité avec laquelle vous nous invitez à la réflexion chaque semaine.
Parmi les 20 réflexions sur l'IA que vous proposez en cette fin d'année, une seule me paraît contestable : la neutralité de l'IA comme outil. En d'autres termes, les usages et les destinations seraient indépendants de la technique qui les rend possibles. Vieux débat.
Les arguments sont nombreux pour penser que la technique n'est en réalité jamais neutre. Et l'IA pas plus que les technologies qui ont émergé depuis le début du XXe siècle. Tout d'abord, la technique est toujours liée à des structures de pouvoir et d'influence qui hypothèquent d'emblée sa neutralité. Vous êtes mieux placée que quiconque pour le constater à propos de l'IA. Par ailleurs, les implications de la technique sur les comportements, les valeurs, les modes de pensée sont considérables. Vos remarquables contributions hebdomadaires ne cessent du reste d'en apporter la preuve… Enfin, et un peu dans le même registre que le point précédent, la technique installe entre l'humain et la machine une médiation singulière. La technique est en quelque sorte un "médiateur engagé" dans la relation entre l'humain et le monde, et non un simple intermédiaire qui, du fait de sa neutralité, n'interagirait pas sur nos représentations et perception du réel. L'IA n'est pas un outil neutre, comme n'étaient pas neutres en leur temps l'imprimerie, l'électricité, le téléphone, la photographie, le cinéma…
Je vous souhaite de très belles fêtes de fin d'année.
Merci pour ce commentaire qui déborde d’intérêt, en dépit des protestations de votre pseudo ;)
Vous soulignez justement l’influence des structures de pouvoir et des médiations techniques sur nos valeurs et comportements. Toute la complexité de l’IA réside en effet dans son rôle de médiateur actif autant que d’outil façonné par l’humain.
Cela dit, j’aime emprunter l’hypothèse de neutralité, non pour nier les biais, mais pour déplacer le prisme : et si l’enjeu résidait moins dans l’outil que dans la manière dont nous choisissons – collectivement – de l’investir ?
Nous sommes d'accord, les enjeux résident assurément moins dans la belle ingénierie de l'IA que dans son appropriation collective, "sociétale" comme on dit désormais. Là où nous divergeons peut-être, c'est dans l'évaluation de la liberté qui serait la nôtre pour nous l'approprier. Si, comme je le pense, l'IA constitue - comme toutes les technologies de rupture - une forme d'arraisonnement du monde, elle impose alors plus qu'elle ne nous propose une relation avec le réel. De ce point de vue, l'hypothèse de sa neutralité est irrecevable. Pour le dire autrement, non seulement nous ne choisissons pas la manière de l'investir, mais de surcroît elle détermine (ou déterminera) nos modalités d'action sur le monde. Plusieurs de ses caractéristiques plaident en faveur de cette vision de l'IA. Pêle-mêle : la reductio ad data des objets comme des humains ; à terme, l'encadrement de l'autonomie de l'individu face à l'acte de création ; l'isomorphisme revendiquée avec la conception "computationnelle" de l'esprit humain (cf. les travaux de P. Churchland en neurophilosophie, auxquels je confesse adhérer…).
ça me fait penser à Jacques Ellul : une fois qu’une technologie comme l’IA est créée, elle suit la "logique autonome de la technique", souvent indépendamment des intentions initiales de ses concepteurs. En d'autres termes, l’IA tend à structurer nos choix, nos comportements et notre rapport au monde. Cette perspective rejoint pleinement votre idée d’un "arraisonnement", où l’IA impose une nouvelle relation au réel.
Cependant, il est important de nuancer cette analyse : même Ellul n’affirme pas que nous sommes totalement impuissants face à cette autonomie.
Donc admettons que l'outil n'est pas neutre : il façonne nos usages, mais il peut également être orienté et dirigé, à condition d’adopter une approche consciente et éthique dans son déploiement et son utilisation.
Nous y sommes ! Jacques Ellul nous réconcilie autour de son idée fondatrice de l'autonomie de la technique. Si bien que nous pourrions nous mettre d'accord, en paraphrasant une célèbre formule, que si l'homme crée de la technologie, il ne sait pas la technologie qu'il crée.
Mais nous divergeons à nouveau sur la question des conditions de possibilité pour que l'humain assigne une orientation délibérée à un outil, l'IA en l'occurrence.
Mon point est ici que ni la conscience ni l'éthique n'ont jamais empêché qu'une technologie soit utilisée pour le meilleur comme pour le pire. Pour quelles raisons l'IA échapperait-elle à ce destin de la technique ? Nous pourrions ouvrir un débat sur l'éthique si souvent mobilisée pour prévenir les dérives - déjà là - de l'IA. L'éthique des vertus sera d'un secours tout relatif face aux rapports de force qui décideront de la réalité des usages de l'IA. Reste une approche plus conséquentialiste qui a ma préférence, mais qui ne fera qu'entériner des usages et des dérives.
Mais tout cela nous emmène bien plus loin que ma remarque initiale sur l'illusion tenace qu'une technologie est neutre, alors même que ma position est plutôt celle d'un technophile pessimiste, ou encore d'un positiviste déterministe contrarié.
L'IA n'est pas neutre, pas plus qu'un marteau ou un aspirateur. Les outils ne sont pas neutres, tous les designers industriels le savent.
L'IA l'est encore moins que les autres outils, puisqu'elle dépend de nos productions culturelles, à nous, humains.
Rien n'est moins neutre qu'une production culturelle. Par action ou par omission.
Ainsi, l'absence totale des cultures orales, ancestrales, primitives, aborigènes, dans les données d'entraînement, est à l'évidence une omission, sinon coupable, à tout le moins problématique.
Ce n'est pas neutre non plus que de prétendre à l'intelligence, fusse-t-elle artificielle. Le choix même et l'emploi de cette dénomination si trompeuse d'"intelligence artificielle" met fin de façon définitive à tout espoir de neutralité.
"L’imparfait sera un luxe. L’unique, un privilège rare." C'est trop vrai. On le constate déjà.
Une réflexion supplémentaire : l'IA met en évidence les limites de l'intelligence humaine, elle nous fait perdre nos repères (certains s'en inquiètent, d'autres s'en réjouissent).
C'est une grande rupture anthropologique, un défi d'une ampleur inédite.
Beaucoup de finesse dans cette réflexion, Amaury, que je partage pleinement. En effet, il s’agit d’une rupture anthropologique majeure, mais également d’un bouleversement épistémologique, redéfinissant nos rapports à la connaissance et à l’innovation. Cette transition pose des défis vertigineux, mais ouvre aussi des perspectives inédites !
Il y aura beaucoup de choses à écrire en 2025 !
Merci @marie une belle manière de conclure les réflexions de cette année
A l'année prochaine autour d'un verre Anthony ;)
Très bel article qui donne à réfléchir
je vous souhaite des fêtes vibrantes d’âme
Tout pareil Thierry ;)
Chère Madame,
Merci pour la constance et la sagacité avec laquelle vous nous invitez à la réflexion chaque semaine.
Parmi les 20 réflexions sur l'IA que vous proposez en cette fin d'année, une seule me paraît contestable : la neutralité de l'IA comme outil. En d'autres termes, les usages et les destinations seraient indépendants de la technique qui les rend possibles. Vieux débat.
Les arguments sont nombreux pour penser que la technique n'est en réalité jamais neutre. Et l'IA pas plus que les technologies qui ont émergé depuis le début du XXe siècle. Tout d'abord, la technique est toujours liée à des structures de pouvoir et d'influence qui hypothèquent d'emblée sa neutralité. Vous êtes mieux placée que quiconque pour le constater à propos de l'IA. Par ailleurs, les implications de la technique sur les comportements, les valeurs, les modes de pensée sont considérables. Vos remarquables contributions hebdomadaires ne cessent du reste d'en apporter la preuve… Enfin, et un peu dans le même registre que le point précédent, la technique installe entre l'humain et la machine une médiation singulière. La technique est en quelque sorte un "médiateur engagé" dans la relation entre l'humain et le monde, et non un simple intermédiaire qui, du fait de sa neutralité, n'interagirait pas sur nos représentations et perception du réel. L'IA n'est pas un outil neutre, comme n'étaient pas neutres en leur temps l'imprimerie, l'électricité, le téléphone, la photographie, le cinéma…
Je vous souhaite de très belles fêtes de fin d'année.
Merci pour ce commentaire qui déborde d’intérêt, en dépit des protestations de votre pseudo ;)
Vous soulignez justement l’influence des structures de pouvoir et des médiations techniques sur nos valeurs et comportements. Toute la complexité de l’IA réside en effet dans son rôle de médiateur actif autant que d’outil façonné par l’humain.
Cela dit, j’aime emprunter l’hypothèse de neutralité, non pour nier les biais, mais pour déplacer le prisme : et si l’enjeu résidait moins dans l’outil que dans la manière dont nous choisissons – collectivement – de l’investir ?
Nous sommes d'accord, les enjeux résident assurément moins dans la belle ingénierie de l'IA que dans son appropriation collective, "sociétale" comme on dit désormais. Là où nous divergeons peut-être, c'est dans l'évaluation de la liberté qui serait la nôtre pour nous l'approprier. Si, comme je le pense, l'IA constitue - comme toutes les technologies de rupture - une forme d'arraisonnement du monde, elle impose alors plus qu'elle ne nous propose une relation avec le réel. De ce point de vue, l'hypothèse de sa neutralité est irrecevable. Pour le dire autrement, non seulement nous ne choisissons pas la manière de l'investir, mais de surcroît elle détermine (ou déterminera) nos modalités d'action sur le monde. Plusieurs de ses caractéristiques plaident en faveur de cette vision de l'IA. Pêle-mêle : la reductio ad data des objets comme des humains ; à terme, l'encadrement de l'autonomie de l'individu face à l'acte de création ; l'isomorphisme revendiquée avec la conception "computationnelle" de l'esprit humain (cf. les travaux de P. Churchland en neurophilosophie, auxquels je confesse adhérer…).
Je vous remercie pour cet échange.
Votre argumentation est tout à fait recevable ;)
ça me fait penser à Jacques Ellul : une fois qu’une technologie comme l’IA est créée, elle suit la "logique autonome de la technique", souvent indépendamment des intentions initiales de ses concepteurs. En d'autres termes, l’IA tend à structurer nos choix, nos comportements et notre rapport au monde. Cette perspective rejoint pleinement votre idée d’un "arraisonnement", où l’IA impose une nouvelle relation au réel.
Cependant, il est important de nuancer cette analyse : même Ellul n’affirme pas que nous sommes totalement impuissants face à cette autonomie.
Donc admettons que l'outil n'est pas neutre : il façonne nos usages, mais il peut également être orienté et dirigé, à condition d’adopter une approche consciente et éthique dans son déploiement et son utilisation.
Nous y sommes ! Jacques Ellul nous réconcilie autour de son idée fondatrice de l'autonomie de la technique. Si bien que nous pourrions nous mettre d'accord, en paraphrasant une célèbre formule, que si l'homme crée de la technologie, il ne sait pas la technologie qu'il crée.
Mais nous divergeons à nouveau sur la question des conditions de possibilité pour que l'humain assigne une orientation délibérée à un outil, l'IA en l'occurrence.
Mon point est ici que ni la conscience ni l'éthique n'ont jamais empêché qu'une technologie soit utilisée pour le meilleur comme pour le pire. Pour quelles raisons l'IA échapperait-elle à ce destin de la technique ? Nous pourrions ouvrir un débat sur l'éthique si souvent mobilisée pour prévenir les dérives - déjà là - de l'IA. L'éthique des vertus sera d'un secours tout relatif face aux rapports de force qui décideront de la réalité des usages de l'IA. Reste une approche plus conséquentialiste qui a ma préférence, mais qui ne fera qu'entériner des usages et des dérives.
Mais tout cela nous emmène bien plus loin que ma remarque initiale sur l'illusion tenace qu'une technologie est neutre, alors même que ma position est plutôt celle d'un technophile pessimiste, ou encore d'un positiviste déterministe contrarié.
Rabelais : science sans conscience n’est que ruine de l’âme. Or les IA n’en n’ont pas … pas encore 😱
Une époque où l'on croyait que nous avions une âme... On la cherche encore.
Concentrons nous sur la 11 faute de pouvoir voir advenir les 19 autres 🥹
20 pépites et autant de mercis pour vos partages toujours aussi inspirants 🙏
J'adore. Merci.
L'IA n'est pas neutre, pas plus qu'un marteau ou un aspirateur. Les outils ne sont pas neutres, tous les designers industriels le savent.
L'IA l'est encore moins que les autres outils, puisqu'elle dépend de nos productions culturelles, à nous, humains.
Rien n'est moins neutre qu'une production culturelle. Par action ou par omission.
Ainsi, l'absence totale des cultures orales, ancestrales, primitives, aborigènes, dans les données d'entraînement, est à l'évidence une omission, sinon coupable, à tout le moins problématique.
Ce n'est pas neutre non plus que de prétendre à l'intelligence, fusse-t-elle artificielle. Le choix même et l'emploi de cette dénomination si trompeuse d'"intelligence artificielle" met fin de façon définitive à tout espoir de neutralité.
"L’imparfait sera un luxe. L’unique, un privilège rare." C'est trop vrai. On le constate déjà.