<aside> 🔄

Lien avec le cours précédent

Lors de la séance précédente, nous avons interrogé la question : « L’homme techniquement augmenté est-il encore pleinement humain ? » à partir des implants, prothèses et technologies d’augmentation. Nous avons vu que la technique peut à la fois accomplir la nature humaine (Aristote) et risquer de la dénaturer lorsqu’elle transforme l’humain en simple ressource à optimiser (Heidegger).

Avec l’intelligence artificielle, la question se déplace : ce n’est plus seulement le corps humain qui est augmenté, mais ses capacités intellectuelles elles-mêmes (mémoire, calcul, analyse, création de textes et d’images). L’IA semble parfois rivaliser avec certaines formes d’intelligence humaine, voire les dépasser.

Dès lors, une inquiétude apparaît : si des systèmes artificiels deviennent plus efficaces que nous pour de nombreuses tâches cognitives, quel rôle restera-t-il à l’être humain ? Faut-il voir dans l’IA un simple outil puissant, ou une forme d’altérité menaçante capable de nous remplacer ? D’où la question : « Faut-il avoir peur de l’intelligence artificielle ? »

</aside>

<aside> 🧠

Activités

Objectif : faire émerger les représentations et les peurs spontanées liées à l’IA.

1. Brainstorming guidé (5–10 min)

• Question au tableau : « Quand tu entends “intelligence artificielle”, à quoi penses-tu ? »
• Noter les réponses des élèves en les classant en 3 colonnes :
  • Usages quotidiens (recommandations, GPS, filtres, assistants)
  • Usages spectaculaires (robots, voitures autonomes, ChatGPT…)
  • Peurs et inquiétudes (surveillance, chômage, perte de contrôle)

1. Analyse de mini-scenarii (15–20 min)

Proposer 3 courtes situations à discuter en groupes :

• IA qui remplace des emplois (caisses automatiques, rédaction automatique de rapports).
• IA qui assiste des décisions humaines (médecine, justice, orientation scolaire).
• IA qui crée des contenus (textes, images, musiques) difficilement distinguables de ceux d’humains.

Consignes de groupe :

• Indiquer pour chaque scénario :
  • Ce qui vous paraît positif.
  • Ce qui vous paraît inquiétant.
  • Si, dans ce cas précis, il y a raison d’avoir peur de l’IA ou non, et pourquoi.

1. Mise en commun et formulation de la problématique (10 min)

• Faire ressortir que la peur porte souvent sur :

  • la perte de contrôle,
  • la substitution de l’humain,
  • la concentration du pouvoir entre les mains de quelques acteurs.

• Amener la problématique :

  L’IA doit-elle être considérée comme un simple outil technique au service de l’humain, ou comme une puissance autonome dont il faudrait se méfier ?

1. Activité de fin de séance : le procès de l’IA (20–25 min)

Mettre en scène un procès fictif de l’IA pour reprendre les idées de la séance.

• Diviser la classe en plusieurs groupes :

  • L’attaque : doit montrer que l’IA est dangereuse (pour la liberté, l’emploi, la démocratie, etc.).
  • La défense : doit montrer que l’IA est une chance (outil puissant, progrès médical, aide au travail, etc.).
  • Les témoins : chaque témoin représente un point de vue particulier (un·e élève, un·e ingénieur·e, un·e médecin, un·e travailleur·euse, un·e responsable politique…). Ils apportent des exemples concrets.
  • Le jury : écoute les arguments et rend un verdict motivé à la fin (avec éventuellement une "mise en garde" plutôt qu’une condamnation ou un acquittement simples).

• Laisser un temps de préparation des arguments par groupes (5–10 min) puis lancer le procès.

• En conclusion, demander au jury de répondre à la question :

  Faut-il vraiment avoir peur de l’IA, ou plutôt apprendre à mieux la comprendre et la maîtriser ?

</aside>

<aside> 📚

Textes

1. Simondon : l’objet technique comme médiation

"La concrétisation donne à l'objet technique une place intermédiaire entre l'objet naturel et la représentation scientifique. L'objet technique abstrait, c'est-à-dire primitif, est très loin de constituer un système naturel ; il est la traduction en matière d'un ensemble de notions et de principes scientifiques séparés les uns des autres en profondeur, et rattachés seulement par leurs conséquences qui sont convergentes pour la production d'un effet recherché. Cet objet technique primitif n'est pas un système naturel, physique ; il est la traduction physique d'un système intellectuel. Pour cette raison, il est une application ou un faisceau d'applications ; il vient après le savoir, et ne peut rien apprendre ; il ne peut être examiné inductivement comme un objet naturel, car il est précisément artificiel.

Au contraire, l'objet technique concret, c'est-à-dire évolué, se rapproche du mode d'existence des objets naturels, il tend vers la cohérence interne, vers la fermeture du système des causes et des effets qui s'exercent circulairement à l'intérieur de son enceinte, et de plus il incorpore une partie du monde naturel qui intervient comme condition de fonctionnement, et fait ainsi partie du système des causes et des effets. Cet objet, en évoluant, perd son caractère d'artificialité : l'artificialité essentielle d'un objet réside dans le fait que l'homme doit intervenir pour maintenir cet objet dans l'existence en le protégeant contre le monde naturel, en lui donnant un statut à part d'existence. L'artificialité n'est pas une caractéristique dénotant l'origine fabriquée de l'objet par opposition à la spontanéité productrice de la nature : l'artificialité est ce qui est intérieur à l'action artificialisante de l'homme, que cette action intervienne sur un objet naturel ou sur un objet entièrement fabriqué ; une fleur obtenue en serre chaude et qui ne donne que des pétales (fleur double), sans pouvoir engendrer un fruit, est la fleur d'une plante artificialisée : l'homme a détourné les fonctions de cette plante de leur accomplissement cohérent, si bien qu'elle ne peut plus se reproduire que par des procédés tels que le greffage, exigeant intervention humaine. L'artificialisation d'un objet naturel donne des résultats opposés à ceux de la concrétisation technique : la plante artificialisée ne peut exister que dans ce laboratoire pour végétaux qu'est une serre, avec son système complexe de régulation thermiques et hydrauliques. Le système primitivement cohérent des fonctionnements biologiques s'est ouvert en fonction indépendantes les unes des autres, rattachées seulement par les soins du jardinier ; la floraison est devenue une floraison pure, détachée, anomique ; la plante fleurit jusqu'à épuisement, sans produire de graines. Elle perd ses capacités initiales de résistance au froid, à la sécheresse, à l'insolation ; les régulations de l'objet primitivement naturel deviennent les régulations artificielles de la serre. L'artificialisation est un processus d'abstraction dans l'objet artificialisé.

Au contraire, par la concrétisation technique, l'objet, primitivement artificiel, devient de plus en plus semblable à l'objet naturel. Cet objet avait besoin, au début, d'un milieu régulateur extérieur, le laboratoire ou l'atelier, parfois l'usine ; peu à peu, quand il gagne en concrétisation, il devient capable de se passer du milieu artificiel, car sa cohérence interne s'accroît, sa systématique fonctionnelle se ferme en s'organisant. L'objet concrétisé est comparable à l'objet spontanément produit ; il se libère du laboratoire associé originel, et l'incorpore dynamiquement à lui dans le jeu de ses fonctions ; c'est sa relation aux autres objets, techniques ou naturels, qui devient régulatrice et permet l'auto-entretien des conditions de fonctionnement ; et objet n'est plus isolé ; il s'associe à d'autres objets, ou se suffit à lui-même, alors qu'au début il était isolé et hétéronome."

Gilbert Simondon, Du mode d'existence des objets techniques, 1969, Aubier, pp. 46-47.

Idées clés pour l’IA :

• L’objet technique (dont l’IA) est une médiation entre la nature, l’humain et la science.
• Il contient du réel humain (nos intentions, nos valeurs, nos usages) : l’IA n’est pas neutre, elle porte les choix de celles et ceux qui la conçoivent.
• Avoir peur de l’IA comme d’une entité autonome, c’est parfois oublier qu’elle est d’abord le résultat d’une histoire humaine et de décisions techniques.

2. La technique comme instrument / la technique comme système

(on peut ici mobiliser les analyses vues précédemment sur la technique en général)

• Vision instrumentale : la technique est un moyen au service de fins humaines. L’IA serait alors un outil puissant, mais fondamentalement maîtrisable.
• Vision systémique (Heidegger, Ellul…) : la technique forme un système qui impose ses propres logiques (efficacité, calcul, vitesse), indépendamment des intentions individuelles. L’IA pourrait alors renforcer un monde où tout devient mesurable et prévisible.

3. Intelligence humaine / intelligence artificielle

• L’IA fonctionne par traitement de données, calcul de probabilités, apprentissage statistique.
• L’intelligence humaine implique aussi la conscience, la subjectivité, la responsabilité morale, la capacité à donner du sens.

Question : même si l’IA accomplit certaines tâches mieux que nous, peut-on parler d’intelligence au même sens que pour l’humain ?

</aside>

<aside> 🔍

Études de cas

1. ChatGPT et les outils de génération de texte

   • Usages : aide à la rédaction, correction, résumé, traduction.
   • Inquiétudes : triche scolaire, uniformisation des discours, dépendance.
   • Question : l’élève qui délègue tout à l’IA apprend-il encore ? De quoi devrait-on vraiment avoir peur ici : de l’IA ou de notre usage paresseux de l’outil ?

2. Algorithmes de recommandation et de profilage

   • Usages : personnalisation des contenus (réseaux sociaux, plateformes de streaming, publicité ciblée).
   • Risques : bulles de filtres, manipulation des opinions, atteintes à la vie privée.
   • Question : la peur de l’IA n’est-elle pas surtout une peur de perdre notre autonomie de jugement ?

3. Véhicules autonomes et robots dans l’industrie

   • Usages : sécurité routière potentielle, efficacité, baisse des coûts.
   • Risques : disparition de certains emplois, accidents difficiles à attribuer, responsabilité diffuse.
   • Question : l’IA remplace-t-elle l’humain ou transforme-t-elle le travail humain ?

4. Le dilemme du Trolley et les voitures autonomes

   Le dilemme du Trolley (Philippa Foot, 1967)

   • Scénario de base : Un tramway fou se dirige vers 5 personnes sur la voie. Vous pouvez actionner un levier pour dévier le tramway sur une voie latérale, mais cela tuera 1 personne qui s'y trouve. Devez-vous actionner le levier ?
   • Principe moral : Ce dilemme interroge la distinction entre tuer (action directe) et laisser mourir (inaction), ainsi que le calcul utilitariste (sauver le plus grand nombre).
   • Variantes : Dans la version du "gros homme", il faut pousser une personne du haut d'un pont pour arrêter le tramway. Même calcul (1 mort pour 5 vies sauvées), mais intuition morale différente.

   Application aux voitures autonomes : le cas Mercedes

   • En 2016, un responsable Mercedes-Benz déclare que leurs voitures autonomes seront programmées pour protéger leurs passagers en priorité, même si cela signifie percuter plus de piétons.
   • Justification de Mercedes : il faut éviter l'incertitude lors des calculs en temps réel. Protéger le passager est plus prévisible que d'évaluer le nombre de victimes potentielles à l'extérieur.
   • Critiques : Cette position transforme un dilemme moral en décision commerciale. Les clients achètent une voiture qui les protège, mais au détriment de la société.

   Questions éthiques soulevées :

   • Peut-on programmer la morale dans une machine ? Qui décide des règles ?
   • Doit-on appliquer un calcul utilitariste (minimiser le nombre total de morts) ou privilégier la responsabilité envers le client ?
   • Une entreprise privée peut-elle prendre des décisions morales qui engagent toute la société ?
   • Comment éviter que les inégalités économiques se traduisent par des inégalités devant la valeur de la vie ?

   Pour aller plus loin : Moral Machine

   • Le projet Moral Machine du MIT permet de tester ses propres intuitions morales face à ces dilemmes.
   • Les utilisateurs jugent des scénarios où une voiture autonome doit choisir entre différentes victimes (jeunes/âgés, riches/pauvres, respectueux/non respectueux du code de la route, etc.).
   • Résultats : Les préférences morales varient selon les cultures, l'âge, le niveau d'éducation. Il n'y a pas de consensus universel sur ces questions. </aside>

<aside> 🎬

</aside>

<aside> ✏️

</aside>

<aside> 📌

</aside>

<aside> 🧷

</aside>