Les organismes-machines nous menacent-ils ?

Merci !

Fiches
Classe(s) : Tle ST2S - Tle STI2D - Tle STL - Tle STMG | Thème(s) : La technique

L’automatisation croissante de la machine, cependant, nous oblige à penser le terme de ce processus : comment envisager notre rapport avec elle, le jour où sa puissance et son autonomie seront telles qu’elle n’aura plus besoin de l’homme pour fonctionner ? Elle ne serait alors plus machine-outil mais machine-organisme autonome : là où l’outil n’était souvent qu’un organe supplémentaire, prolongeant notre propre corps, elle deviendrait un ensemble cohérent d’organes composant une structure fonctionnelle, c’est-à-dire un organisme. Ce questionnement est au cœur de ce qu’on peut appeler le mouvement transhumaniste.

A Une machine peut-elle penser ?

Le premier enjeu de cette autonomisation de la machine, qui finirait par être une véritable intelligence artificielle, est celle de sa puissance, et de sa concurrence avec l’humanité. Si elle se met à penser véritablement, pourrait-elle aller jusqu’à prendre le pouvoir ? Nous créons déjà des ordinateurs capables d’apprendre au contact des êtres humains : on peut donc penser que ce n’est qu’une question de temps, avant qu’une forme de pensée plus complète et autonome n’advienne. C’est un des plus courants des scénarios de science-fiction : l’humanité, dépassée par la surpuissance des machines qu’elle a elle-même créées, est finalement concurrencée, asservie ou menacée par elles.

Mais cette question de la puissance de la création technique face à celle de son créateur n’est en réalité pas la plus préoccupante, si l’on considère que l’homme demeure le concepteur et programmateur de ces machines. À l’exemple du codage génétique des cellules, qui les condamne au suicide si elles deviennent néfastes, ou suivant les réflexions amorcées par l’écrivain de science-fiction Isaac Asimov avec ses lois de la robotique, on peut supposer d’inclure dans la programmation une forme de verrou.

Exemple

Les trois lois de la robotique, formulées par Asimov, sont les suivantes :

« 1. un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger ;

2. un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi ;

3. un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi. »

B Humanisation de la machine et technisation de l’être humain

Un sujet plus délicat est soulevé par l’humanisation de l’organisme-machine, puisqu’on peut constater une nette tendance à la création de robots humanoïdes. Les problèmes pourraient être en effet multiples, sur le plan moral notamment : que penser et que faire de robots qui seraient de véritables androïdes ? Devrons-nous les considérer comme des êtres humains ? Sera-t-il encore moralement acceptable de les traiter comme des êtres entièrement à notre service ? La Corée du Sud, par exemple, réfléchit déjà à une charte éthique des robots, censée empêcher qu’ils soient maltraités par l’homme.

La question devient plus épineuse encore quand, à l’inverse de cette machine humanisée, c’est l’être humain qui devient un objet technique. En effet, les limites d’une vie humaine « normale » sont remises en cause par les projets transhumanistes : un être humain a un corps, naît, vit et meurt, a des désirs. L’être humain « augmenté » pourrait-il n’avoir aucune de ces caractéristiques ? L’hypothèse soulève des problèmes éthiques et politiques innombrables.

Exemple

Si on postule que la puissance des ordinateurs sera bientôt telle qu’ils seront capables de simuler un cerveau humain, rien n’empêche d’imaginer que le contenu de ce cerveau, transféré dans une machine, sera enfin débarrassé des contraintes biologiques et pourra s’augmenter et s’améliorer pour devenir toujours plus intelligent. Mais un être humain, sans corps, réduit aux données contenues de son cerveau, sera-t-il encore un être humain ?

Enfin, cet effacement progressif de la frontière entre l’humain et la machine constitue-t-il nécessairement une remise en question de la nature humaine ? Si l’on envisage un moment où se généraliserait l’existence d’êtres hybrides, humains au corps modifié ou augmenté par la machine, rien n’oblige cependant à considérer la chose comme catastrophique pour la nature humaine : tout dépend de la manière d’envisager la question. Donna Haraway (née en 1944), dans Manifeste Cyborg, suggère ainsi que cette hybridation pourrait être le moyen de remettre en question des différences conceptuelles et morales entre êtres naturels et créés, mais aussi, par ricochet, entre diverses espèces naturelles, pour vivre ce qu’elle appelle un « compagnonisme », c’est-à-dire une coexistence enfin pacifiée entre les espèces. De plus, la porosité des frontières entre organismes naturel et artificiel pourrait être une chance pour l’humanité : la figure du cyborg, hybride et inclassable, nous permettrait d’abandonner des catégories qui peuvent nous sembler essentielles (genre, ethnies) mais nous empêchent de vraiment « faire humanité ».