Conscience et Modernité 15 février 2024

LA CONSCIENCE MORALE EXISTE-T-ELLE ENCORE ?

Le Lardin, jeudi 15 février, 18h00

Lorsque Henri m‘a proposé d’intervenir à cette rencontre-débat sur le thème de la conscience morale et plus précisément sur la question : la conscience morale existe-t-elle encore ? avec en arrière-fond tout les changements qui sont intervenus dans notre société et l’ont profondément modifiée depuis quelques décennies, mon premier réflexe a été d’hésiter

Puis je me suis dit qu’après tout j’avais peut-être des choses à partager ! La réflexion morale ou éthique est un sujet qui m’intéresse et j’ai fait quelques études en ce sens. L’informatique et tout ce qui concerne le numérique est aussi un sujet qui m’intéresse. J’ai eu mon premier ordinateur, il y a une quarantaine d’années, quasiment en même temps que je faisais mes études de théologie morale. Et depuis, sans forcément être un spécialiste, j’essaye de rester au contact des évolutions qui ont suivi le développement de l’informatiques et qui sont en fait une véritable révolution numérique. Je me situe donc en observateur de cette évolution et de l’impact qu’elle me paraît avoir sur nous et sur notre société. Ce sont ces observations que j’entends partager avec vous

A l’époque où j’ai fait mes études de théologie morale, la question de l’existence-même de la conscience morale ne se posait pas. A côté de la conscience psychique qui est la connaissance que l'homme a de sa propre activité psychique, de la réalité de sa personne, de ses actes, il y a la conscience morale qui consiste, elle, à porter des jugements de valeur morale sur ses actes. La conscience morale est le propre de l’être humain ! Et la question que chaque individu doit se poser pour vérifier la moralité de ses actes, de son comportement, est la suivante : est-ce humanisant ou pas ? Cela va-t-il dans le sens d’une plus grande humanisation ou pas

1 - La démarche morale Le propre de la démarche morale, c’est de chercher à faire le Bien et à éviter le Mal ! Le Bien est l’idéal vers lequel l’homme doit tendre, ce à quoi il aspire. Pour définir ce Bien et en même temps le Mal, on recherche ce qui est valable pour toute société, en tout temps et en tout lieu. On cherche les valeurs universelles, les invariants, les interdits, etc, on élabore les principes universels et absolus, des préceptes premiers qui sont au-delà du temps et constituent en quelque sorte une utopie vers laquelle chaque individu doit tendre et qui questionne sans cesse l'agir concret. On est dans la dimension universelle de la morale

Ces préceptes premiers doivent ensuite être traduits en normes concrètes applicables dans une société donnée, à une époque donnée. Ces normes sont élaborées par des hommes en fonction d'une situation socio-culturelle précise. Elles ne sont donc pas universelles ni éternelles. Elles sont provisoires. Nous sommes dans la dimension particulière de la morale. La morale cherche également à prendre en compte l'unicité, la singularité de chaque personne et de chaque situation. On est dans là dans la dimension singulière de la morale. Elle cherche ce qui s'avère effectivement possible pour tel individu ou tel groupe dans telle situation concrète.

A l’intérieur de la démarche morale, la conscience joue un rôle essentiel. Elle est en quelque sorte l’instance qui nous amène à orienter notre vie vers le Bien, en posant la question : est-ce humanisant ou pas ? Est-ce que ça me fait progresser vers le Bien ou pas ? Et cela ne relève pas d'une simple disposition naturelle, ça s'apprend ! La conscience a besoin de formation et d'information. L'éducation a un rôle essentiel, fondamental ! C'est elle qui met l’être humain en contact avec le monde des valeurs, des règles de vie, des prescriptions, etc., qui régissent la vie en société, la vie familiale, la vie professionnelle, etc. Éduquer, c'est rendre responsable. La conscience va de pair avec la responsabilité. Le signe d'une conscience authentique, c'est sa capacité à assumer les conséquences des actes posés, pour le meilleur et pour le pire, et son aptitude à en répondre devant soi, devant les autres et devant Dieu

Cela veut dire qu’il n'y a pas de conscience véritable sans discernement. Discerner, c'est évaluer les possibilités qui se présentent, envisager les risques, et choisir ; prendre une option la meilleure possible ou la moins mauvaise possible. Cela demande tout un travail de recherche qui est nécessaire pour distinguer le vrai du mensonge, le bien du mal, etc. et déterminer une hiérarchie des valeurs relatives à une situation donnée. C'est ainsi que peut s'acquérir la vigilance morale indispensable pour opérer un vrai discernement

La conscience morale a besoin de repères pour s'exercer de façon authentique. C'est dans la confrontation à la Loi, aux normes extérieures (qu'elles soient sociales, religieuses, professionnelles…), qu'elle se forge. Ces normes extérieures sont, par exemple, les valeurs sur lesquelles est fondé le “vivre ensemble” que la société nous propose et qui pour la société française sont : liberté, égalité, fraternité. Ce sont également les valeurs proposées par la religion : la fraternité, la charité, la dignité de l’être humain, l’engagement, etc

C’est plus ou moins l‘apprentissage que chacun de nous a fait ! On nous a enseigné la morale à l’école, pour beaucoup d’entre nous, on a suivi le catéchisme. On a intégré un certain nombre de préceptes, de principes qui régissent la vie morale et dont on trouve une expression dans le Décalogue : ne pas tuer, ne pas voler, etc. ou dans les Droits de l’Homme. Mais cet apprentissage de la démarche morale va se trouver confronté à une évolution du monde, de la société, que l’on peut qualifier de révolution ; la révolution numérique

2 - La révolution numérique : ordinateur, internet, smartphone, réseaux sociaux, e-commerce, cloud, assistants vocaux, intelligence artificielle, etc. Chacune de ces innovations s’accompagne d’un modèle économique destiné à en tirer le maximum de bénéfices. J’ai eu mon premier ordinateur en 1983 ! Il n’avait pas de disque dur, mais deux lecteurs de disquettes souples dont la capacité de stockage était de 128 ko = 128000 octets. Aujourd’hui un ordinateur personnel est équipé d’un disque dur d’au moins 1 To, c’est-à-dire 1000 milliards d’octets ! Mon ordinateur, un Apple 2E, avait un écran capable d’afficher 40 caractères par ligne. C’est ce qu’affiche un smartphone aujourd’hui ! Finalement l’ordinateur, dans ses débuts, était une machine à écrire perfectionnée, permettant de taper un texte, de le modifier, de l’imprimer, de le stocker. Puis au fur et à mesure que la puissance de calcul des ordinateurs s’est développée, sont apparus des logiciels capables d’organiser l’information, de tenir une comptabilité, de traiter des quantités considérables de données, de modifier des images, etc. Pendant longtemps on n’a pensé qu’en termes de puissance de calcul, de capacité de stockage. Toujours plus de puissance, de vitesse ! Aujourd’hui, n’importe quel smartphone est plus puissant que les ordinateurs qui ont permis d’envoyer l’homme sur la lune ! Aujourd’hui, l’ordinateur, la tablette, le téléphone, est devenu un simple terminal, par lequel on accède à un monde virtuel de plus en plus vaste, couvrant de plus en plus de domaines et que l’on a de plus en plus de mal à maîtriser. Il n’y a finalement que très peu de choses stockées sur l’ordinateur ou le smartphone, essentiellement les logiciels nécessaires pour permettre d’accéder au contenu du net

Ce contenu est si vaste que pour nous aider à nous y retrouver, on a inventé les assistants numériques de tous ordres qui, si nous n’y prêtons pas attention, semblent penser pour nous et font de nous des assistés ! Quand vous tapez un texte (pardon, il faut dire un texto !) sur un smartphone, celui-ci vous suggère des mots, des expressions ou des emojis. Exemple des sms pour anniversaire : d’une année sur l’autre on risque de rédiger exactement le même message ! Des assistants domestiques, des assistants vocaux, nous sont proposés pour nous faciliter la vie, du moins en apparence ! Ils sont capables de choisir pour vous un film, de mettre votre musique préférée, etc. La particularité de ce monde numérique, c’est que tout est dématérialisé sur le cloud ! Autrement dit sur les disques durs de ce que l’on appelle des data centers, où sont stockés toutes les données (data) générées par le simple fait de se connecter. Ces data centers peuvent se trouver dans n’importe quelle partie du monde ! Les data : pas seulement ce que l’on produit (par exemple le texte que l’on tape !) , mais toutes les données qui sont collectées sans que nous le sachions et qui permettent aux prestataires de service d’analyser nos habitudes, nos centres d’intérêt et de nous proposer des produits susceptibles de nous plaire. Vous n’avez pas remarqué que lorsque vous faites une recherche internet sur un produit qui vous intéresse, vous recevez aussitôt des pubs portant sur ce produit ou un produit semblable ? 4 Interface homme /machine : au départ, il s’agissait de c

Interface homme /machine : au départ, il s’agissait de copier le fonctionnement du cerveau humain pour rendre la machine performante, une machine pensée comme étant au service de l’homme. Aujourd’hui on a plutôt le sentiment que c’est l’homme qui est asservi à la machine ! Il doit se plier aux exigences de la machine pour obtenir le service qu’il attend d’elle. Autrefois, il fallait prendre en main un programme, apprendre à le maîtriser, aujourd’hui, c’est lui qui nous prend en main, qui définit pour nous les options de départ, les options par défaut, que la plupart des gens ne modifient pas alors qu’ils en ont la possibilité. C’est ainsi que nous sommes victimes de ce que j’appelle le « prêt à penser » de Microsoft ! Par exemple : si vous recevez un courrier tapé dans Word, vous avez de fortes chances que la police de caractère soit Calibri, que les marges soient de 2,5 cm

Et l’Intelligence Artificielle ! Réponse de ChatGPT à la question : « la conscience morale individuelle existe-t-elle encore ? » En tant qu'assistant virtuel, je n'ai pas de conscience morale, mais je peux vous donner mon point de vue. La question de l'existence de la conscience morale individuelle est un débat philosophique complexe. Certains pensent que la conscience morale est une caractéristique intrinsèque de l'individu, tandis que d'autres soutiennent que la moralité est influencée par des facteurs externes tels que la culture et l'éducation. Il est important de noter que les opinions sur ce sujet peuvent varier en fonction des croyances et des valeurs de chaque personne. 3 - Éléments pour l’échange : - Je crois qu’il serait intéressant de s’attarder sur le vocabulaire utilisé : on ne parle plus, on twitte (gazouiller en anglais), on n’aime pas on like, on n’est pas un ami mais un follower, on n’a pas des maîtres à penser mais des influenceurs, ce ne sont pas des programmes espions mais des cookies (biscuit en anglais), on ne stocke pas sur des disques durs mais sur le cloud (nuage), etc. Quand on sait l’importance du langage et du vocabulaire dans l’éducation, le développement de la culture, on peut s’interroger sur le type de culture à laquelle cela nous fait accéder. Pour moi, il s’agit d’un vocabulaire qui infantilise, qui cherche à maintenir les gens dans une dépendance ! Le vocabulaire de l’homme s’appauvrit au fur et à mesure que celui de la machine s’enrichit. On se met à appliquer à l’humain le vocabulaire inventé pour la machine. Par exemple plutôt que de dire qu’il faut changer son discours ou son raisonnement, on va dire qu’il changer de logiciel ! De quelqu’un qui fait un lapsus, on va dire qu’il a bugué ! - Quelle vision de l’homme ? Transhumanisme, homme augmenté, etc. Là, on ne parle plus d’une interface homme/machine, mais d’une connexion directe homme/machine. Avec quand même un a-priori favorable à la machine ! C’est elle qui augmente l’homme et non pas l’inverse ! Quelles sont les valeurs dont ces notions sont porteuses ? Qu’est-ce qui est humanisant ou déshumanisant ? - Dématérialisation. Virtuel / réel. Comment se construit la conscience morale dans sa dimension singulière, s’il n’y a plus cette confrontation au réel

- Responsabilité / sans engagement. Comment assumer la responsabilité de ses actes si la notion d’engagement disparaît ? - Discernement / options par défaut. Que devient le discernement indispensable à toute vie morale si je me contente de ce que les autres ont pensé pour moi ? - Mémoire : on apprend plus la manière d’accéder à un contenu qu’à mémoriser le contenu lui-même. - Remise en question de certains droits qui semblaient définitivement acquis : le droit à l’image, la propriété des données, etc.

Jean-Michel BOUYGUES

QUESTIONS/REPONSES suite à l’intervention de Jean-Michel Bouygues : Q : Une « révolution préoccupante » : une innovation annoncée en domotique. On peut installer des capteurs espions dans son domicile. Ces capteurs indiqueront comment optimiser nos comportements. Ce système peut aussi bien être installé dans un atelier pour surveiller les employés et optimiser leur rendement. Ce serait une révolution si on l’accepte. A la responsabilité de chacun d’accepter ou pas. R : Dès à présent toutes nos données sont exploitées : nos recherches et courriers mais aussi notre géolocalisation…. IL est possible de bloquer et de résister : c’est la responsabilité de chacun !!! Pour l’avenir et ses prévisions : en 1984 toutes les prévisions des spécialistes, toutes les innovations prévues se sont révélées fausses, rien ne s’est réalisé et les limites « incontournables » prévues ont été enfoncées. Chaque individu a à cultiver sa conscience morale. Mais : « si moi je dis à quelqu’un ce qu’il doit faire, je suis immoral. Un être humain doit toujours suivre sa conscience, c’est à lui de prendre sa décision. Après bien sûr avoir été éclairé par des références et des confrontations, en particulier sur les conséquences sur lui et sur les autres »

Q : Défaut des médias : on choisit celui qui correspond à nos préjugés. Ce qui conforte évidemment notre opinion

R : Vous avez tout à fait raison

Q : Blaise Pascal a tout dit « Le cœur a ses raisons que la raison ignore ». La machine n’a pas de cœur, juste une raison puissante.

R : Nous avons tous ici la même culture ; la question est pour l’avenir : quelle est la culture qui se développe, aujourd’hui, chez les plus jeunes ? C’est déjà une culture différente : Wikipédia… Quelle est cette culture ?

Q : Vous parlez du Bien et du Mal : les 2 sont-ils nécessaires à la réflexion ? A noter l’individualisme exacerbé et les manipulations faciles avec les médias puissants actuels.

R : Importance de la formation, de l’éducation de l’esprit critique, du discernement… Mais il ne faut pas être pessimiste : les jeunes ne sont pas tous sur le même modèle ! Ex vécu : une jeune femme qui dit : « je reproche une seule chose à mes parents : c’est de ne m’avoir jamais rien interdit ». Il faut retrouver des maitres à penser, développer la lecture…

Q : Quel rapport entre morale et informatique ? Quelle différence entre Conscience et esprit ?

Q : Pour vous, comme cela a été pour moi, avez-vous été surpris par la fréquence des « Acceptez-vous les cookies ? » que, par facilité nous cliquons tous sans avoir lu les petites lignes ?

R : Plus on facilite les choses, et les sites facilitent volontairement beaucoup, moins on est vigilant. Personnellement je suis devenu très rapidement méfiant. Q : Les démarches administratives sont devenues incontournables en ligne. L’outil est formidable ,mais qui en a la maitrise ? Au profit de qui ? Dans quel but ?

R : Nous sommes saturés d’informations… un click sans lire et analyser est le premier pas vers la perte d’intimité. Il y a un début de législation mais les contournements sont faciles : avertissement écrit… mais en tout petit !

Q : Paul Ricoeur : « La visée éthique, c’est la visée de la voie bonne, avec et pour les autres, dans des institutions justes ». C’est-à-dire qu’il y a à lutter pour un comportement personnel « Bon » mais aussi pour des institutions plus justes : les GAFA font partie des institutions et donc on doit pouvoir les contrôler, les réguler. Ou au moins être des citoyens vigilants. Devant une telle révolution il faudra longtemps pour légiférer et réglementer leur fonctionnement, pour qu’il devienne éthique.

Q « Dans « Que choisir » : mise au point d’un logiciel permettant que les données de l’utilisateur ne soient pas diffusées. Logiciel créé par Que Choisir. Un livre « L’individu fin de parcours : le piège de l’IA » de Julien Gobin avec un exemple : un banquier refuse un prêt et dit : ce n’est pas moi c’est l’IA qui refuse…

Q : La conscience morale étant individuelle jusqu’où une société peut aller quand une partie importante est avec d’autres référents ou est amorale ?

R : Une telle société se met peut-être en place. C’est peut-être une telle société qui a conduit au nazisme… L’IA n’est qu’un outil : que veut on en faire ? Il faudra du temps pour évaluer les bénéfices et les méfaits…

Q : J’entends les mêmes remarques que quand la calculatrice est arrivée : « ‘humain ne saura plus compter… ». Mais c’est juste un outil qui nous aide Le danger est plutôt la faute morale de l’humanité : se pose le problème de la conscience de la machine. Le problème est plutôt : quand la machine va-t-elle avoir une conscience ? Il y aura alors des esclaves à qui on déniera la capacité de conscience. Qu’est-ce que la conscience ? est la vraie question.

R : Vous pré supposez que l’IA aura une conscience ? Pour moi, non, jamais. Ce n’est qu’un outil.

QR : L’instruction et l’éducation sont LA solution. Intelligence ? Non ce n’est qu’une accumulation de données

Q : Quels sont les écueils que l’on doit éviter avec ces nouveaux outils très intrusifs ?

QR : La conscience morale n’est pas un moyen immédiat et infaillible de connaitre le bien et le Mal. Je pense qu’il faut travailler, que ça s’acquiert

QR : La dimension morale c’est la recherche du Bien et éviter le Mal. Dans notre société le Bien est relativisé ; chacun tire la situation de son côté. Avant il y avait des commissions d’éthique auprès des dirigeants. Il en existe de moins en moins. La vérité, les valeurs ça ne change pas. La conscience doit être aiguisée par l’éducation et par le catéchisme dans notre société qui a une histoire chrétienne. Ce peut être des moyens pour développer une société pour qu’elle avance vers des valeurs universelles ;

R : Tout à fait d’accord, c’est ce que nous avons reçu dans le passé. Mais ! aujourd’hui nous sommes dans la mondialisation, la rencontre des cultures… J’ai un peu de mal à retrouver l’universel. Qu’est-ce qu’une valeur : c’est quelque chose à quoi je tiens, qui vaut que j’aille jusqu’à donner ma vie ! L’Inde, la Chine… c’est très différent ! Est-ce qu’il y a des invariants ? Peut-être on arrivera à une espèce de consensus mais dans très longtemps ! Pour moi, en tant que chrétien, l’Homme achevé c’est Le Ressuscité. Mais c’est ma Foi à moi ! Je ne veux pas l’imposer à tout le monde ! Q : En premier la première des valeurs à enseigner, n’est-ce pas le respect : respect de soi-même, respect des autres ? R : Tout à fait !!!

Q : Maman de 3 adolescents : ils sont très conscients des dangers. Ce qui m’inquiète plus c’est le prêt à penser qu’on nous fait ingurgiter. On flotte dans une espèce de bienpensance, unifiée. Une religion de la laïcité actuellement. Comment résister à ça ?

R : Il ne faut pas être pessimiste par rapport aux jeunes : ils sont lucides. Mais les médias renvoient une image bêtifiante avec des « followers » de youtubeurs ou d’influenceurs. L’essentiel aujourd’hui c’est la relation, en particulier avec les jeunes. Un mail ne remplace jamais les rencontres. Le visage de l’autre (Levinas) qui donne humanité. La rencontre est toujours à privilégier.

Q : On peut très bien s’exprimer à travers un mail, en bon français. Un point à souligner : l’IA et ses conséquences. L’informatique a mis 40 ans à s’épanouir ; l‘IA ça va être une révolution bien plus importante et rapide ! Un exemple familial : l’entreprise, qui employait 50 traducteurs à travers le monde, va avec une seule personne et l’IA les remplacer tous. Bouleversement de l’entreprise et du modèle social !!!

Q : Certains s’adaptent plus vite que d’autres. Cette technicité entraine comme toujours dans l’histoire de l’Humanité. Jusqu’au début du XX° siècle on vivait dans un cercle de 15 Km de rayon. Maintenant il n’y a plus de limites : c’est mondialisé. Il faut considérer ce qui est de l’ordre de la sensibilité, ne pas se limiter au raisonnable. Être Humain c’est « vivre avec » comme dit, se parler. Se parler c’est diminuer la violence. L’être humain a à se rebrancher sur la notion de « vivre », au-delà de l’homo économicus.

R : Emmanuel Levinas (philosophe) : l’autre est humain parce que je le regarde comme humain, tout spécialement son visage. Le visage de l’autre ! C’est moi qui lui donne son humanité. On a une responsabilité des uns envers les autres : reconnaitre en chaque homme ou femme un être humain ! Ce n’est possible que par la rencontre !

Q : l’IA c’est une technique : mais dés à présent il existe l’IA générative qui fait des calculs, des algorithmes… mais en plus elle agit, elle passe à l’action sans intervention humaine. Par exemple, en médecine, elle donnera le diagnostic ET le traitement. Peut-être un jour quelqu’un introduira des données économiques dans le programme : et là, sans visage, on arrêtera les soins d’une personne, automatiquement, d’une personne selon son âge, son utilité sociale, sa validité…

R : Pendant le COVID, pendant la pénurie de respirateurs, il y a eu ce tri en fonction de l’économie.

R’ : Il s’agissait d’une situation exceptionnelle, sans plan programmé, et c’était une pénurie matérielle. C’est une autre perspective quand le choix vital est fait en se regardant dans les yeux !

R’’ : Tout dépend si l’IA aura une conscience R’’’ : Les exemples se multiplient : drones prenant la décision et passant au tir d’un missile sans poser question à un humain. Il est très important de légiférer, tout cela doit être régulé. R’’’’ Dans l’armée française c’est impossible ; il faut l’accord du chef de l’Etat. Aux Etats Unis les drones sont programmés pour autonomie

Q : Dématérialisation des cartes d’identité, permis de conduire… danger. Il faut prendre conscience de nos responsabilités.

Q : Il y a beaucoup de peurs car il y a beaucoup de sortes d’intelligence. Se pose le problème de l’acceptation : par exemple on accepte les « cookies » souvent par négligence ou manque de temps. Un drame se prépare on veut remplacer les médecins par la télémédecine et l’IA. Il s’agit en fait d’un marché énorme ! N’est-ce pas la cause de ces projets ??? Chaque décision a un côté éthique qui est à considérer.

R : Le mot qui revenait le plus dans les démarches était « Patientez ». Dans un monde obsédé de vitesse internet et IA ont pu apparaitre comme une bonne solution. ……..

En guise de CONCLUSION : Tout part de nous. Il faut cultiver sa conscience. On est dans un progrès que l’on ne peut nier : on est obligé de s’adapter et de travailler, à notre mesure, à réguler ces révolutions. Personnellement et collectivement

Quelques photos de cette soirée