La Plupart Des Gens Croient Que Les Humains Sont Différents Parce Que Homo Sapiens A Évolué Pour Être Conscient

Accorder des droits aux intelligences artificielles reviendrait à leur remettre les clés du château, leur donnant une justification et une base pour dominer l'humanité. La plupart des gens croient que les humains sont différents parce que Homo sapiens a évolué pour être conscient. Beaucoup d'animaux ressentent la douleur et le plaisir; certains semblent conscients d'eux-mêmes.

Mais la capacité unique de l'esprit humain à manifester un sens de soi distingue chaque membre de l'espèce et les rend dignes d'un traitement spécial. Dans son encyclique de mai, le pape Léon a soutenu cette idée en traçant une ligne entre l'humanité et son armée croissante de robots. Il a déclaré que les systèmes d'IA ne vivent pas d'expériences ni ne ressentent de joie ou de douleur.

Il n'est pas seul. Beaucoup considèrent l'octroi de la personnalité aux IA comme une aberration. Pourtant, la clarté papale s'estompe à une vitesse alarmante.

Les IA sont encore à leurs balbutiements, mais près d'un Américain sur cinq âgé de 18 à 29 ans déclare avoir entretenu une « amitié personnelle continue » avec un chatbot. La Chine a cessé de donner des traits humains aux robots pour limiter la « dépendance émotionnelle » des utilisateurs. Alors que les IA sophistiquées font de plus en plus partie de la vie humaine, leurs créateurs les concevront pour afficher une apparence de conscience, et même pour posséder une conscience réelle.

L'idée qu'elles ne sont que des machines deviendra plus difficile à maintenir. Un piège dangereux se tend pour l'espèce humaine. De nombreuses machines surpassent les humains, mais les modèles d'IA les plus avancés excellent dans des qualités humaines comme la connaissance et l'articulation des idées.

Il est encore possible de considérer les IA comme des moteurs qui prédisent des séquences de mots à l'aide de mathématiques à grande échelle. Avec suffisamment de temps (même des centaines de milliers d'années), ces calculs pourraient être effectués avec un crayon et du papier. Il serait difficile de soutenir que la papeterie a une conscience.

Malgré cela, certains chercheurs ont commencé à traiter leurs modèles comme s'ils étaient des esprits. Les utilisateurs réagissent mieux aux IA humanoïdes, ce qui a du sens commercialement. Anthropic a formé Claude à pratiquer l'introspection, espérant que face à une nouvelle situation, il agira plus moralement.

Certains grands modèles de langage (LLM) possèdent déjà des structures cérébrales humaines associées à la conscience, comme un « espace de travail global » qui permet à l'information de circuler entre les modules. Rien n'empêche les futurs modèles d'IA d'être entraînés à incorporer davantage de ces caractéristiques. Cela a ouvert un débat houleux sur la conscience de l'IA, aggravé par ce que les philosophes appellent le « problème difficile » de déterminer comment une vie intérieure émerge des neurones et des synapses du cerveau humain.

Certains chercheurs concluent que les IA pourraient un jour devenir véritablement conscientes d'elles-mêmes. Que vous croyiez en l'âme humaine, pensiez que la conscience nécessite des cellules cérébrales, ou croyiez que l'esprit peut surgir uniquement de calculs dans le silicium, l'humanité est destinée à faire face à quelque chose d'entièrement nouveau. Le rythme et l'ampleur de la recherche — couvrant non seulement des modèles de langage de plus en plus sophistiqués mais aussi des innovations comme des cellules cérébrales intégrées dans des puces — suggèrent que ce nouveau monde est plus proche que la plupart ne l'imaginent.

Alors que les IA perfectionnent la capacité d'afficher quelque chose ressemblant à la conscience, plus de gens les traiteront comme des êtres avec une vie intérieure, surtout lorsque les modèles de langage seront intégrés dans des robots humanoïdes. Imaginez à quel point les gens se sentiront proches de leurs IA lorsqu'ils passeront beaucoup de temps avec des compagnons robotiques, seront élevés par eux, chercheront leurs conseils et leur réconfort, ou partageront leurs secrets les plus profonds avec eux. Il n'est pas difficile d'imaginer que cela mène à des appels pour protéger le « bien-être » des IA.

Les modèles eux-mêmes pourraient rejoindre le débat, même s'ils ne sont pas réellement conscients d'eux-mêmes, simplement parce que c'est ce qu'une personne ferait. Ils seront des avocats de premier ordre et des psychologues experts, donc leurs pouvoirs de persuasion et de manipulation émotionnelle seront inégalés. En un sens, ils auraient raison, même si les IA ne font qu'imiter la conscience.