DES MACHINES CONSCIENTES ? Réflexions sur la soi-disant « intelligence artificielle »

Qu’est-ce qui nous rend humains ? Cette question est posée par beaucoup – y compris par des personnalités célèbres comme l’historien israélien Yuval Noah Harari^[1] et le fondateur d’OpenAI, Sam Altman^[2] – répondent : « humour », « imagination », « émotions ». Nous soutenons que ces réponses sont philosophiquement et théologiquement naïves et finalement inadéquates : la caractéristique déterminante de la condition humaine réside plutôt dans la conscience, qui est également communément considérée comme le « Saint Graal » de la recherche sur l’intelligence artificielle (IA).

Dans cet article, nous voudrions montrer que la soi-disant « intelligence artificielle générative » ne peut en principe pas être aussi intelligente que nous, c’est-à-dire que les machines ne seront jamais « conscientes d’elles-mêmes ». Bien entendu, ces affirmations requièrent une explication plus nuancée, pour éviter les pièges de la pensée non scientifique et de « l’arrogance cléricale » : deux pièges dans lesquels les théologiens sont parfois tombés depuis le début de l’ère moderne.

La question fondamentale

Pour introduire le sujet, nous présentons une courte anecdote. Deux moines se tiennent au bord d’un ruisseau et contemplent l’eau ondulante. Soudain, l’un d’eux dit pensivement : « J’aimerais être aussi heureux que ce poisson dans l’eau ! » L’autre répond : « Comment être sûr que ce poisson est heureux ? Tu n’es pas un poisson ». Le premier répond : « Comment sais-tu que je ne peux pas savoir ? Tu n’es pas moi ».