Harnad, S. (2001) What's Wrong and Right About Searle's Chinese RoomArgument? In: M. Bishop & J. Preston (eds.) Essays on Searle's Chinese Room Argument. Oxford University Press.
Searle's Chinese Room Argument showed a fatal flaw in computationalism (the idea that mental states are just computational states) and helped usher in the era of situated robotics and symbol grounding (although Searle himself thought neuroscience was the only correct way to understand the mind).
Depuis le début du cours, nous avons discuté de plusieurs éléments qui ont un côté « faible » et un côté « fort », ou un côté « facile » et un côté « difficile ». Le texte de Searle vient rajouter celui de l’A.I forte et faible. Comme je me mélangeais beaucoup entre ces différents concepts, j’ai décidé de faire une liste concise de ceux que l’on a vu jusqu’à maintenant :
ReplyDeleteProblème :
Problème facile : comprendre comment est-ce que les humains sont capable de faire ce qu’ils sont capable de faire (le mécanisme causal) et pourquoi.
Problème difficile : comprendre le ressenti (le fait de voir, d’entendre, de sentir) et à quoi il sert. Pourquoi et comment ne sommes-nous pas des zombies?
Thèse Church-Turing :
Thèse Church-Turing faible : Machine de Turing = computation. En fait, la machine de Turing peut faire toutes les computations que les mathématiciens peuvent faire.
Thèse de Church-Turing forte : Machine de Turing = computation + capacité de simulation de presque tout ce qui existe (ex. : aspirateur simulé, qui est identique, mais ne peut pas réellement aspirer de la poussière)
Équivalence :
Équivalence faible : même sortie pour la même entrée (la machine de Turing serait une équivalence faible du cerveau humain)
Équivalence forte : même sortie pour la même entrée + même algorithme (c’est-à-dire que non seulement le résultat est le même, mais le processus l’est également)
Intelligence artificielle :
L’I.A faible : ordinateur = outil pour formuler et tester des hypothèses de façon rigoureuse et précise, pour étudier l’esprit
L’I.A forte : ordinateur (qui exécute un programme formel) = un esprit qui comprend et a d’autres états cognitifs, et qui a donc une intentionnalité. Se rapproche du computationnalisme.
Presque exacte Florence!
DeleteL'IA faible est la même chose que la TC-T forte
L'IA forte est exactement la même chose que le computationnalisme (cognition = computation)
Bravo!
Un petit résumé de ma compréhension du cours.
ReplyDeleteSelon l’objectif des sciences cognitives, qui est de comprendre ce qui se passe dans la « boîte noire » qu’est notre tête, un programme capable de passer le test de Turing T2 serait suffisant pour que la cognition soit expliquée au moins en partie par la computation. Le test T2 nécessite que le programme puisse communiquer par le langage verbal (ex : par courriel) avec une personne sans que cette dernière réalise qu’il ne s’agit pas d’un humain. Le T2 demande donc au programme de maitriser la capacité verbale et la manipulation du langage. En effet, le langage est un outil auquel les individus sont si sensibles, et tellement fort, que s’il est bien maitrisé, on peut déjà avoir l’impression que l’autre parti est doté de cognition.
Cependant, pour passer le T2 (ce qui n’a pas été fait), il faudrait déjà avoir un robot qui passe le T3. Le T3 est un autre test de Turing qui nécessite, en plus des exigences pour passer le T2, que le programme soit dans un robot qu’on ne pourrait pas différencier d’un humain (extérieurement). Donc pour réussir le T3, le robot qui vit des interactions avec son environnement et dont les paroles sont cohérentes avec ce qu’il vit et ce qu’il voit. Les deux items pour passer les tests T2 et T3 étant intimement reliés, il serait nécessaire que le programme ait les capacités de T3 pour réussir le T2.
En ce qui est des tests T4 et T5, ces tests demandent que le robot soit identique à un humain en ce qui est de son fonctionnement neuronal, puis dans l’ensemble de son physique. Ces propriétés ne sont pas nécessaires pour atteindre les buts fixés dans le cadre des sciences cognitives.
Intelligence artificielle :
L’intelligence artificielle comporte deux thèses principales : une forte et une faible. La thèse de l’intelligence artificielle faible est équivalente à la thèse de Turing forte, soit que l’on peut presque tout simuler avec l’ordinateur. L’Intelligence Artificielle forte est synonyme au computationnalisme.
L’IA forte aurait trois prémisses :
• L’idée est un logiciel, puisque la cognition = la cognition.
• Le cerveau n’est pas important. Le logiciel est indépendant de son matériel, sauf pour son exécution. En effet, peu importe quel matériel permet d’appliquer le logiciel, il aura les même propriétés, et il comprendra de la même façon.
• Test T2 de Turing est décisif. Donc, si un logiciel peut réussir T2, on peut dire qu’il a cognition.
Par son argument de la chambre chinoise, Searle a tenté de réfuter la thèse forte de l’intelligence artificielle, se définissant par trois aspects :
ReplyDelete1. La cognition est un programme computationnel ;
2. Le cerveau (la matière, ou structure) n’a pas d’importance ;
3. Le test de Turing est décisif.
La thèse forte de l’IA étant équivalente à la théorie du computationnalisme, voulant que la cognition ne soit que de la computation, Harnad suggère une reformulation de ces trois aspects afin qu’ils soient plutôt identifiables au computationnalisme, plus connu que la thèse forte de l’IA. On aurait alors
1. Les états mentaux ne sont que des états computationnels ;
2. Les états computationnels sont indépendants de la structure de l’implémentation ;
3. Il n’existe pas de meilleur test empirique pour vérifier la présence d’états mentaux que le test de Turing, il est donc décisif.
Puisque le test de Turing ne prend en compte que les capacités cognitives pouvant être testées par écrit (T2), on suppose qu’une machine computationnelle passant le test T2 a alors des états mentaux et peut comprendre, ce qui a été réfuté par Searle.
Suite à ma lecture de l’article ‘’ MINDS, MACHINES AND SEARLE 2:
ReplyDeleteWHAT'S RIGHT AND WRONG ABOUT THE CHINESE ROOM ARGUMENT ‘’ j’essayerais de résumer ma compréhension à l’égard des explications données concernant Searle.
Tout d’abord, la théorie de Searle et de la chambre chinoise semblent expliquer que le mental ne peut pas être l’équivalent d’un programme d’ordinateur comme le stipulait Turing. En fait, pour Searle la chambre chinoise est le même phénomène qui se passe à l’intérieur d’un ordinateur, une sorte de manipulation de règles qui gère les symboles selon leurs formes. Mais Searle semble affirmer que la cognition humaine est beaucoup plus qu’un ensemble de règles manipulant des symboles.
Concernant l’explication de l’intelligence artificielle on l’explique auprès de la thèse forte. Celle-ci est comparable à la notion du computationnalisme, elle se résume à trois hypothèses :
1) La cognition est computationnelle
2) Le cerveau n’a pas de réelle importance
3) Le logiciel est dissocié de son matériel, mis à part en ce qui concerne son opération. En fait, le test de Turing est décisif.
Un peu plus loin dans l’article, l’auteur Harnad redéfinit cette thèse de façon plus explicite :
1) Les états mentaux sont seulement computationnels
2) Les états mentaux sont dissociés à tout ce qui a trait à l'exécution
3) Le test de Turing est la meilleure manière de vérifier l’entité consciente (les états mentaux)
De plus, l’auteur semble expliquer que les états inconscients dans les entités non conscientes comme un grille-pain par exemple ne sont effectivement pas un état mental. Il ajoute ensuite que même pour une entité consciente, comme nous les humains, nos états mentaux inconscients sont d’une courte durée.
Les explications de la théorie de Searle données à l’intérieur de l’article semblent tous menés vers une même direction, celle de l’opposition au computationnaliste. Par contre, ses réflexions m’ont amené à comprendre le sens de la cognition dite incarnée qui stipule que la cognition est en fait ancrée à l’intérieur de notre corps. En effet, de ce que j’ai pu comprendre notre pensée n’est pas indépendante de notre corps, elle est en fait à l’origine d’une certaine expérience sensorielle.
This comment has been removed by the author.
ReplyDeleteThis comment has been removed by the author.
ReplyDeleteSuite à la lecture de ce texte, je me demande ce que les computationaliste entendent par les "détails" physique du système informatique. Le terme détail m'a l'air pour le moins vague et relatif, il semble nuire à la vérifiabilité (dans le sens adopté par Karl Popper) de la thèse computationaliste selon laquelle le cerveau (hardware) n'importe pas.
ReplyDeleteIl demeure toutes fois que Searle a par son expérience de la Chambre Chinoise réfuté la forme forte du computationalisme, il n'a cependant pas démontré que le cerveau ne peut pas contenir des processus computationnel. En effet, les 3 prémisses qui sous-tendent le computationalisme sont que l'esprit est un programme informatique, que le cerveau n'est pas pertinent à la mise en place de ce programme en question et le Test Turing est un moyen décisif pour démontrer la présence de capacité mentale d'une machine.
Searle est capable de démontrer que la seconde prémisse est fausse en expliquant que même s’il utilisait le programme pour générer les réponses appropriées cela ne ferait pas de lui une personne qui comprend le Chinois. La réponse ad hoc d'un défenseur du computationalisme semblerait être restreinte à deux options : rejeter la prémisse que le Test de Turing T2 est décisif ou rejeter l'hypothèse que l'implémentation au niveau des éléments physiques de l’ordinateur ne sont pas pertinent, concédant ainsi implicitement que le cerveau et structure sont pertinents. Searle démontre donc que la conjonction des 3 prémisses est déraisonnable cependant il ne suit point de son argument que de dire que les 3 prémisses sont nécessairement fausses.
Selon les récapitulations de S. Harnad, le débat fut et est encore houleux entre computationalistes et Searle. Les premiers se basent sur le Test de Turing (TT) pour induire que l'esprit et les "états mentaux" sont formellement et seulement des "état computationnels". Le compuationalisme repose sur trois principes:
ReplyDelete(1*) Les "états mentaux" sont seulement les exécutions (implementations) d'"état computationnels";
(2*) Les états computationnel sont indépendants de leur mise en oeuvre (le logiciel est indépendant du disque-dur);
(3*) Le Test de Turing est décisif pour la théorie computationaliste, car il n'y a pas d'autres test empiriques plus précis pour détecter la présence d'état mentaux.
Selon Harnad, Searle a d'abord maladroitement traduit ces trois principes ce qui a créé des débats impertinents. Cela a permis aux computationnalistes de générer deux contre arguments au contre argument de Searle:
1. Searle ne serait pas la bonne sorte de machine pour executer le programme, mais cela reviendrait é un contre argument contre le "tenet" 2 du computationalisme, c'est-é-dire que le "implant" (le programme) est indépendant du contenant, de la machine qui le fera fonctionner, et donc que n'importe quelle machine peut le faire fonctionner;
2. Searle serait trop lent ou inapte à faire fonctionner le programme. Cela encore va contre le sens du computationalisme, car cela fait dépendre le fonctionnement du logiciel (software) de sa machine (hardware).
3. Le systéme au complet "comprend" alors qu'une partie, disons Searle étant une partie de la chambre chinoise qui est le systèeme, ne comprend pas. Là-dessus Searle et les défenseurs du System Reply sont d'accord. Alors, Searle tourne cet argument au ridicule en montrant qu'il est facile de le considérer lui-même comme un système. Certains concédent à Searle qu'il n'y a effectivement pas de compréhension consciente, mais plutôt une adaptation du système tacite reliée à la tâche, mais de ce fait ils évacuent la question de la conscience ou du ressenti.
Je crois que nous ne pourrons jamais avoir une certitude telle celle de Descartes sur le fonctionnement des autres esprits à moins que le computationalisme soit vrai et que nous puissions reproduire le même "état computationnel" d'une autre personne ou animal, ce qui reproduirait en nous-même un "état mental". Cela toutefois ne donnerait pas de réponse au problème difficile: Qu'Est-ce que qui resent? D'où vient le ressenti?
ReplyDeleteL'hypothèse de l'IA forte devient est de plus en plus évidante à contredire à la fin du cours .
Les programmeurs, même avec des logiciels qui apprennent par eux meme, ne créeront pas un logiciel avec un ressentit.
Ceux qui se positionne pour l'hypothèse de l'IA faible, voient que nous nous approchons d'une simulation «parfaite» des fonctions du cerveau humain. Avec une machine T4. Cependant, cela ne nous éclairerait pas plus sur le pourquoi et le comment.
Possible un jour, ils imiteront si bien les fonctions cognitives que personne ne pourra les différencier.
En regardant ce qui se passe à l'intérieur du cerveau et en voyant ces impulsions ne répondra pas à la première question: Comment percevoir tout cela devient possible. Et encore, on se cogne au problèmes des autres esprits dans notre analyse. Personne ne peut jamais être sûr à cent pour cent qu'un autre être humain est conscient possède un certain«stade mental». Comment puis-je être certain qu'un autre être humain n'est pas seulement un robot répondant aux stimuli de manière complexe de la même manière que moi?