L’article de 1950 d’Alan Turing : le document qui a lancé l’intelligence artificielle

En octobre 1950, la revue britannique Mind publia un article d’Alan Turing intitulé « Computing Machinery and Intelligence ». Il débutait par une phrase qui allait devenir l’une des plus citées de l’histoire des sciences : « I propose to consider the question, ‘Can machines think?’ »

Cet article ne ressemblait à rien de ce qui avait paru auparavant dans une revue de philosophie. Son auteur n’était pas philosophe, mais mathématicien et logicien. Pendant la Seconde Guerre mondiale, il avait contribué à briser le chiffre Enigma à Bletchley Park. Dès 1936, il avait posé les fondements théoriques du calcul avec son concept de machine de Turing universelle. À présent, cinq ans seulement après la construction des premiers ordinateurs électroniques, Turing posait la question de savoir si ces machines pourraient un jour être capables de penser.

L’article est remarquable non seulement par la question qu’il soulève, mais par la qualité des réponses qu’il anticipe. Turing y examine et réfute neuf objections distinctes à l’intelligence des machines, abordant des arguments issus de la théologie, des mathématiques, de la philosophie de la conscience et du bon sens avec une clarté et une honnêteté intellectuelle qui restent impressionnantes soixante-quinze ans plus tard. Presque tous les débats sur l’intelligence artificielle survenus depuis 1950 avaient été anticipés, sous une forme ou une autre, dans l’article de Turing.

Le jeu de l’imitation

Turing comprit que la question « Les machines peuvent-elles penser ? » est mal posée. Les mots « machine » et « penser » sont trop vagues pour permettre une réponse rigoureuse. Plutôt que de tenter de définir la pensée, il proposa de remplacer la question par un test pratique.

Ce test, que Turing appela le jeu de l’imitation (connu par la suite sous le nom de test de Turing), fonctionne de la manière suivante. Un interrogateur humain communique par écrit avec deux interlocuteurs : un être humain et une machine. L’interrogateur ne sait pas lequel est lequel. À travers une série de questions et de réponses, il tente de déterminer qui est l’humain et qui est la machine. Si la machine parvient à tromper l’interrogateur de manière régulière, soutenait Turing, nous devrions la considérer comme pensante, ou du moins nous ne pouvons lui refuser la capacité de penser sur aucun fondement de principe.

Turing fut prudent quant à ce que le test établit et ce qu’il n’établit pas. Il n’affirma pas que réussir le test prouve qu’une machine est consciente. Son argument était le suivant : si le comportement d’une machine est indiscernable de celui d’un humain, la question de savoir si elle pense « vraiment » perd tout son sens. De la même façon, la question de savoir si une autre personne pense « vraiment » (plutôt que de simplement se comporter comme si elle pensait) reste, en définitive, sans réponse possible.

Les neuf objections

La majeure partie de l’article est consacrée à l’examen et à la réfutation d’objections. Turing en dénombra neuf, chacune représentant une raison différente de nier que les machines puissent penser.

L’objection théologique : la pensée est une fonction de l’âme, que Dieu n’a accordée qu’aux humains. Turing fit observer que les arguments théologiques sur les limites de la puissance divine manquent de force de conviction et que cette objection aurait pu s’appliquer tout aussi bien à n’importe quelle technologie suffisamment nouvelle.

L’objection de l’autruche : les conséquences de machines pensantes seraient trop terribles, donc cela ne peut pas être vrai. Turing écarta cet argument comme un simple vœu pieux.

L’objection mathématique : les théorèmes d’incomplétude de Gödel montrent qu’il existe des vérités mathématiques qu’aucun système formel ne peut démontrer. Puisque les ordinateurs sont des systèmes formels, il y a des choses qu’ils ne peuvent accomplir mais que les humains peuvent. La réponse de Turing fut subtile : il nota que les humains sont eux aussi limités dans leurs capacités mathématiques et qu’il n’existe aucune preuve que les humains puissent accomplir des choses dont l’impossibilité pour les machines est démontrée.

L’objection de la conscience : une machine ne peut véritablement penser car elle est dépourvue d’expérience subjective. Turing reconnut la force de cette objection, mais fit remarquer que nous n’avons aucun moyen de savoir si d’autres êtres humains possèdent eux-mêmes une expérience subjective. La seule preuve dont nous disposons de l’existence d’autres esprits, c’est le comportement. Et le jeu de l’imitation évalue précisément le comportement.

Les arguments tirés de diverses incapacités : les machines ne peuvent pas apprécier la beauté, tomber amoureuses, apprendre de l’expérience, ni produire quoi que ce soit de véritablement nouveau. Turing répondit que toutes ces affirmations portent sur des capacités spécifiques et que de futures machines pourraient les posséder. Le fait que les machines actuelles en soient dépourvues ne prouve rien sur les machines en tant que telles.

L’objection de Lady Lovelace : les machines ne font que ce pour quoi elles ont été programmées ; elles ne peuvent rien produire d’original. La réponse de Turing fut l’une de ses plus visionnaires : il nota que les résultats d’une machine peuvent surprendre son programmeur, tout comme le travail d’un élève peut surprendre son professeur. Le fait qu’une machine suive des règles ne signifie pas que son comportement soit prévisible ou dénué d’originalité.

L’argument de la continuité : le système nerveux est continu (analogique) tandis que les ordinateurs sont discrets (numériques). Turing montra que les machines discrètes peuvent simuler des processus continus avec la précision souhaitée, ce qui rend cette distinction sans objet dans la pratique.

L’informalité du comportement : le comportement humain ne peut être réduit à des règles ; par conséquent, les machines (qui suivent des règles) ne peuvent reproduire le comportement humain. Turing remit en cause la prémisse en soutenant qu’il n’existe aucune preuve que le comportement humain ne soit pas, à un certain niveau, gouverné par des règles.

La perception extrasensorielle : Turing prit cette objection au sérieux (la perception extrasensorielle jouissait en 1950 d’une crédibilité bien supérieure à celle d’aujourd’hui) et suggéra qu’une pièce isolée contre la télépathie pourrait être nécessaire pour un test équitable. Cette section est généralement considérée comme la moins aboutie de l’article.

Les machines apprenantes

La dernière section de l’article contient les idées les plus tournées vers l’avenir. Turing y soutint que plutôt que de tenter de programmer une machine pour simuler directement un esprit humain adulte, il serait plus pratique de construire une machine simulant l’esprit d’un enfant, puis de l’éduquer. La machine apprendrait de l’expérience, modifiant son propre comportement en réponse à des récompenses et des punitions, à la manière d’un enfant.

Cette idée anticipe de plusieurs décennies l’approche centrale de l’apprentissage automatique moderne. Les réseaux de neurones actuels apprennent en ajustant leurs paramètres internes en fonction des données d’entraînement, un processus qui correspond, dans ses grandes lignes, exactement à ce que Turing avait décrit. Les grands modèles de langage qui alimentent les systèmes d’IA modernes (comme GPT et ses successeurs) sont entraînés sur d’immenses jeux de données et modifient leur comportement par un processus d’apprentissage, et non par la programmation explicite de règles.

Turing prédit également qu’une machine pensante commettrait des erreurs, qu’elle se comporterait parfois de façon imprévisible et que ses processus internes pourraient être trop complexes pour que ses programmeurs les comprennent entièrement. Toutes ces prédictions se sont vérifiées pour les systèmes d’IA modernes.

La réception de l’article

L’article parut dans Mind, l’une des plus anciennes et des plus respectées revues de philosophie du monde anglophone. Sa réception fut mitigée. Les philosophes débattirent de la pertinence du jeu de l’imitation comme test de la pensée. Les scientifiques s’intéressèrent davantage aux suggestions pratiques concernant les machines apprenantes. Le grand public, dans la mesure où il eut connaissance de l’article, trouva l’idée de machines pensantes tantôt enthousiasmante, tantôt inquiétante.

L’expression « test de Turing » ne fut forgée que plus tard (Turing lui-même parlait du jeu de l’imitation). Le test devint l’expérience de pensée la plus célèbre de la philosophie de l’esprit et le critère officieux de la recherche en intelligence artificielle, bien qu’aucun système d’IA n’ait réussi une version rigoureuse du test avant les années 2010 (et même alors, les résultats furent contestés).

L’influence de l’article grandit au cours des décennies suivantes, à mesure que le domaine de l’intelligence artificielle se développait. Chaque grand débat en IA, de l’argument de la « Chambre chinoise » de John Searle (1980) aux discussions actuelles sur les grands modèles de langage et la conscience, prend l’article de Turing comme point de départ.

L’héritage de Turing

Turing ne vécut pas assez longtemps pour voir naître le domaine qu’il avait imaginé. Il mourut le 7 juin 1954, à l’âge de quarante et un ans, d’un empoisonnement au cyanure. Sa mort fut classée comme suicide, bien que certains biographes aient avancé qu’il pouvait s’agir d’un accident. Turing avait été poursuivi en justice en 1952 pour homosexualité (alors un délit pénal en Grande-Bretagne) et soumis à une castration chimique. Ce traitement l’avait dévasté physiquement et moralement.

L’injustice du traitement infligé à Turing est aujourd’hui largement reconnue. Il reçut une grâce royale posthume en 2013, et la « loi Alan Turing » (2017) gracia rétroactivement des milliers d’hommes condamnés en vertu des mêmes dispositions. Son visage figure sur le billet de cinquante livres de la Banque d’Angleterre, et le prix Turing (le « prix Nobel de l’informatique ») porte son nom.

Mais le plus grand héritage de Turing est d’ordre intellectuel. Son article de 1936 sur la calculabilité a défini ce qu’est un ordinateur. Son travail en temps de guerre à Bletchley Park a démontré ce que les ordinateurs pouvaient accomplir. Et son article de 1950 a posé la question de ce que les ordinateurs pourraient devenir. Ces trois travaux, pris ensemble, constituent le fondement intellectuel de l’ère numérique.

Les documents

Le travail de Turing à Bletchley Park pendant la guerre, qui a façonné sa réflexion sur l’intelligence des machines, est documenté dans l’édition Kronecker Wallis de la Dissertation de Turing sur l’Enigma (édition anglaise). Connu sous le nom de « The Prof’s Book » parmi ses collègues de Bletchley Park, le manuscrit décrit les méthodes cryptanalytiques que Turing mit au point pour briser le chiffre Enigma. L’édition préserve les corrections et annotations manuscrites de Turing, offrant un aperçu direct de ses méthodes de travail.

L’ordinateur à programme enregistré qui rendit physiquement possible la vision de Turing en matière d’intelligence artificielle est décrit dans le rapport EDVAC (édition anglaise) de John von Neumann. Imprimé sur papier Fabriano bleu en caractères à chasse fixe, ce rapport constitue le plan architectural des machines sur lesquelles fonctionne chaque système d’IA. Ensemble, la vision théorique de Turing et l’architecture pratique de von Neumann ont créé les fondations sur lesquelles tout le domaine de l’intelligence artificielle s’est construit.

La question qui ne s’éteint pas

Trois quarts de siècle après que Turing a demandé « Les machines peuvent-elles penser ? », la question reste sans réponse. Les systèmes d’IA modernes peuvent générer du texte, reconnaître des images, traduire des langues et battre des champions du monde à des jeux complexes. La question de savoir s’ils pensent fait toujours débat. L’article de Turing ne tranche pas la question, mais il la formule avec une précision et une honnêteté qu’aucun traitement ultérieur n’a surpassées.

Ce qu’il y a peut-être de plus remarquable dans cet article, c’est son ton. Turing écrit sans dogmatisme et sans posture défensive. Il reconnaît la force des objections qu’il examine. Il formule ses prédictions avec modestie, admettant qu’il pourrait se tromper. Et il conclut par une phrase qui capture l’esprit même de la recherche scientifique : « We can only see a short distance ahead, but we can see plenty there that needs to be done. » Soixante-quinze ans plus tard, il reste encore beaucoup à faire. Turing l’avait vu le premier.