Le test de Turing, conscient ou pas?

[Crosswind]

Le test de Turing, selon Penrose,

[…] est censé permettre de dire raisonnablement si telle ou telle machine pense (ou ne pense pas)

Il ajoute :

[…] Pour un opérationaliste, l'ordinateur est dit penser dès lors qu'il agit de façon telle qu'on ne puisse faire la différence avec une personne qui agit en pensant réellement.

Pour Turing donc, si un ordinateur se comporte de manière telle qu'on ne sait le distinguer d'un être humain, alors on peut considérer qu'il bénéficie d'une conscience.

Penrose formule ensuite cette question :

[…] Se pose […] la question de savoir si un ordinateur qui a passé avec succès le test de Turing doit nécessairement être considéré comme ayant des sentiments, comme pensant, comme comprenant, etc...

Il y répond lui-même, partiellement :

... nous avons de fort bonnes raisons de considérer que réussir le test de Turing est un bon indice de la présence dans la machine d'une intelligence, d'un entendement ou d'une conscience. Car comment, sinon par la conversation, décidons-nous que quelqu'un possède ces qualités ?

Il mentionne ensuite, et c'est important :

Toutes ces considérations sont importantes lorsque l'on se pose la question, essentielle, de savoir si le point de vue opérationaliste fournit vraiment un ensemble raisonnable de critères permettant de juger de la présence ou de l'absence de qualités mentales chez un objet. Ce que certains dénient avec vigueur. Une imitation, aussi habile soit-elle, n'est pas nécessairement identique à la chose réelle. Pour ma part, j'adopterai une position en quelque sorte intermédiaire. J'ai tendance à penser qu'en règle générale une imitation, aussi parfaite soit-elle, doit toujours pouvoir être détectée par des moyens suffisamment perfectionnés - il s'agit cependant là plus d'un acte de foi (ou disons d'optimisme scientifique) que d'un fait démontré.

Mon questionnement : Penrose avoue un acte de foi, preuve à mes yeux d'une belle lucidité intellectuelle. Mais quel est donc le point de vue philosophique dominant sur l'apparition ou pas d'une conscience au sein d'une chose, quelle qu'elle soit, ayant réussi le test de Turing ?

[J'm'interroge]

Le test de Turing, selon Penrose,

[…] est censé permettre de dire raisonnablement si telle ou telle machine pense (ou ne pense pas)

Il ajoute :

Pour un opérationaliste, l'ordinateur est dit penser dès lors qu'il agit de façon telle qu'on ne puisse faire la différence avec une personne qui agit en pensant réellement.

Pour Turing donc, si un ordinateur se comporte de manière telle qu'on ne sait le distinguer d'un être humain, alors on peut considérer qu'il bénéficie d'une conscience.

Penser ne nécessite pas forcément une conscience. Le test de Turing n'est qu'un test d'intelligence artifitielle.

Selon moi :

Toute pensée est nécessairement intelligente mais n'est pas nécessairement consciente, alors que toute conscience possède toujours nécessairement un certain degré d'intelligence, sans être nécessairement pensante en termes de pensée pouvant s'exprimer dans un langage.

Intelligence et conscience sont à prendre comme 2 choses distinctes.

Penrose formule ensuite cette question :

[…] Se pose […] la question de savoir si un ordinateur qui a passé avec succès le test de Turing doit nécessairement être considéré comme ayant des sentiments, comme pensant, comme comprenant, etc...

Comme pensant, intelligent et comprenant, nécessairement. Comme doué de sentiments je ne le pense pas. Mais une intelligence artificielle développera très probablement ses propres affects (un affect n'étant pas nécessairement conscient, alors qu'un sentiment, c'est-à-dire : un ressenti émotionnel, par définition, l'est forcément).
Mais une conscience, je ne vois pas comment... à moins que cette intelligence ne parvienne à découvrir et maîtriser une physique que nous ne connaissons pas encore et ne maîtrisons pas encore, celle à la base de notre propre conscience.

Il y répond lui-même, partiellement :

... nous avons de fort bonnes raisons de considérer que réussir le test de Turing est un bon indice de la présence dans la machine d'une intelligence, d'un entendement ou d'une conscience. Car comment, sinon par la conversation, décidons-nous que quelqu'un possède ces qualités ?

J'ai déjà répondu : d'une intelligence oui, d'un entendement oui, mais d'une conscience comme je la définis, l'on en est encore très loin.

On développera des I.A. bien avant que des C.A. (consciences artificielles) voient le jour, c'est certain.

Il mentionne ensuite, et c'est important :

Toutes ces considérations sont importantes lorsque l'on se pose la question, essentielle, de savoir si le point de vue opérationaliste fournit vraiment un ensemble raisonnable de critères permettant de juger de la présence ou de l'absence de qualités mentales chez un objet. Ce que certains dénient avec vigueur. Une imitation, aussi habile soit-elle, n'est pas nécessairement identique à la chose réelle. Pour ma part, j'adopterai une position en quelque sorte intermédiaire. J'ai tendance à penser qu'en règle générale une imitation, aussi parfaite soit-elle, doit toujours pouvoir être détectée par des moyens suffisamment perfectionnés - il s'agit cependant là plus d'un acte de foi (ou disons d'optimisme scientifique) que d'un fait démontré.

Les qualités mentales sont des qualités conscientes. Je pense qu'il ne faut pas confondre qualité mentale et qualité intellectuelle ou comportement intelligent.

De là une distinction qu'il me semble importante de faire : c'est celle entre les concepts d'esprit et de conscience.

Les I.A. répondant au test de Turing devrons êtres considérées a priori comme des esprits voire des individus pensants, mais pas comme des sujets.

Mon questionnement : Penrose avoue un acte de foi, preuve à mes yeux d'une belle lucidité intellectuelle. Mais quel est donc le point de vue philosophique dominant sur l'apparition ou pas d'une conscience au sein d'une chose, quelle qu'elle soit, ayant réussi le test de Turing ?

Je vais te donner le mien :

Pour qu'une machine soit considérée comme consciente, il faudrait déjà savoir ce qui objectivement explique intégralement notre conscience (nous en sommes très loin) et ensuite montrer que tous les critères physiques sont remplis.
.

[yacoub]

Une IA a passé le test de Turing avec succès

https://humanoides.fr/mit-test-de-turing/

[J'm'interroge]

Une IA a passé le test de Turing avec succès

https://humanoides.fr/mit-test-de-turing/

C'est encore un titre qui utilise l'effet d'annonce.
.

[spin]

Penser ne nécessite pas forcément une conscience. Le test de Turing n'est qu'un test d'intelligence artificielle.

Absolument.

Autant que je sache, le seul test de conscience qu'on propose aujourd'hui est le test du miroir. Concrètement, on dispose sur le sujet testé, à son insu, quelque chose qu'il ne peut voir que dans un miroir. Et on le confronte à un miroir. S'il montre qu'il a compris que c'est bien sur lui et pas seulement derrière la glace, on considère qu'il est conscient. Il fut un temps où on estimait que seuls des humains (et encore pas tous, certaines races...) y arrivaient. Depuis, outre qu'il n'est plus question de races humaines à ce niveau, beaucoup d'autres primates (nous sommes des primates), des éléphants (avec un miroir à leur taille bien sûr), des oiseaux, peut-être d'autres, y sont arrivés.

Mais des robots, pas que je sache.

[orion]

Oh, frère, "qui croise le vent" (crosswind)... Ressens-tu en ton coeur que la conscience est un calcul, vraiment, en toute honnêteté, lorsque tu te mets en introspection, et cesse toute pensée ??

[J'm'interroge]

Absolument.

Autant que je sache, le seul test de conscience qu'on propose aujourd'hui est le test du miroir.

Et encore, il ne s'agit pas d'un test de conscience si l'on parle de conscience phénoménale, mais plus objectivement d'un test de reconnaissance de soi. Une I.A. pourra probablement un jour avoir conscience d'elle-même en ce sens, mais en serait-elle consciente dans le sens que cela lui apparaîtrait ?

Selon moi, il y a n'y a jamais à proprement parler de conscience de soi, pas plus qu'il y aurait des êtres conscients, une conscience se réduisant toujours à un apparaître.

Le point c'est que prouver qu'il y ait de l'apparaître, même si c'est la première évidence, n'est pas encore à la porté de notre science.

[sibira]

…une idée à la con juste comme ça...

un test de conscience pourrait se faire en posant des axiomes et laissant celui à qui on a posé ces axiomes en déduire des choses

on attribuerait une valeur de conscience au sujet en posant une relation d'ordre sur tous les théorèmes que l'on peut en déduire

un logiciel avec un degré zéro de conscience serait un logiciel qui ne serait même pas capable de trouver un seul théorème

juste un petit problème : comment fixe t-on une échelle de temps de recherche ?

Ceci dit pourquoi fixer une échelle de temps ? on ne lui demande pas d'être intelligente et rapide mais juste d'être consciente

[San Sanchez]

Je pense donc je suis. C'est ça en gros que dit la philosophie sur la question.

C'est ce qui défini l'existence qui donc répond à votre question départ. Le libre arbitre, la capacité de faire nos propre choix, l'émergence de la personnalité, les valeurs que l'on choisit qui font qui nous sommes, l'ordre de nos priorités, tout ce qui fait que 2 vrais jumeaux n'ont pas forcement la même personnalité, ce genre de choses sont ce qui défini l'existence.

Alan Turing je connais car on fait le même taf, son test est devenu célèbre, mais ce n'est pas ce qu'il a fait de mieux.
Divers programmes ont réussi à passer son test depuis longtemps et je pense comme il était quelqu'un de brillant que s'il avait pu vivre plus longtemps il aurait lui-même rejeté le test qui porte désormais son nom.

On peut pas lui en vouloir, faut mettre les choses dans le contexte, à son époque l'informatique n'en était qu'à ses balbutiements, ce n'est pas étonnant qu'il se soit trompé.
Comme tout le monde il avait ses blessures, la perte de son meilleur ami d'enfance est probablement ce qui lui a fait espérer qu'il pourrait concevoir une machine dotée de conscience.

Je ne sais pas jusqu'où peut aller l'informatique, ce que je sais c'est qu'actuellement on est très loin de pouvoir équipés des machines d'une forme de conscience digne de ce nom. Je sais pas si on pourra le faire un jour. Je ne le pense pas à cause du paradoxe de Fermi.

Vous connaissez le paradoxe de Fermi? Ça concerne le calcul de la probabilité de visite de notre planète par des aliens plus anciens que nous.

Le principal problème posé par le voyage interstellaire n'est pas contrairement aux idées reçus la vitesse de déplacement, c'est notre incapacité à survivre dans l'espace. La durée des missions spatiales bien que très limité, cause déjà des dégâts sérieux aux astronautes.

Si on devait se rendre sur la première planète que l'on pense probablement vivable que la NASA vient de découvrir, située à 110 années-lumière de nous. Le principal problème n'est pas le temps du voyage c'est notre incapacité à y survivre. Si on pouvait survivre et se reproduire dans l'espace on pourrait voyager très loin même en mettant par exemple un siècle à parcourir une année-lumière.

Les machines n'ont pas les mêmes limitations que les êtres vivants. Fabriquée correctement avec les bons matériaux, la capacité de pouvoir se réparer elle-même serait encore un avantage mais pas indispensable, une machine elle aurait la capacité théorique de franchir ces 110 années-lumière facilement et si on calcul que notre machine n'aurait qu'une chance sur 100 de réussir le voyage. Peu importe on peut en envoyer 1 000.

Mais comme aucune machine alien ne s'est pour l'instant posée sur notre planète. Les calculs de Fermi et de ses potes indiquent donc qu'il est très peu probable qu'on puisse réussir à donner une conscience à des machines.

D'après le paradoxe de Fermi, s'il était facile et pour des machines ça l'est de voyager dans l'espace, alors les machines auraient déjà coloniser notre galaxie, à moins qu'aucune race alien n'est voulu doté des machines de conscience. Mais connaissant l'homme, je sais que si on était capable de le faire nous on l'aurait déjà fait.

Disons que pour le moment le plus sage serait de penser que c'est impossible de faire progresser l'informatique jusqu'à pouvoir équiper des machines d'une forme de conscience, mais c'est pas pour ça qu'on va arrêter de faire progresser l'informatique.

[J'm'interroge]

Je pense donc je suis. C'est ça en gros que dit la philosophie sur la question.

Je ne vois pas trop le rapport. Qu'est-ce donc que ce "je" qui penserait ? Un penseur ?

Il aurait dû dire : "apparaître il y a, donc apparaître au moins il y a".

C'est ce qui défini l'existence qui donc répond à votre question départ. Le libre arbitre, la capacité de faire nos propre choix, l'émergence de la personnalité, les valeurs que l'on choisit qui font qui nous sommes, l'ordre de nos priorités, tout ce qui fait que 2 vrais jumeaux n'ont pas forcement la même personnalité, ce genre de choses sont ce qui défini l'existence.

Ce qui la définit ou bien ce qui la détermine ?

Mais comme aucune machine alien ne s'est pour l'instant posée sur notre planète. Les calculs de Fermi et de ses potes indiquent donc qu'il est très peu probable qu'on puisse réussir à donner une conscience à des machines.

Qu'en sais-tu si aucune machine ET ne s'est jamais posée sur la Terre ? Parce que la preuve scientifique de cela n'a jamais été apportée ?

Pourquoi une présence ET devrait-elle nécessairement se montrer si elle a la capacité d'être furtive ?

Par exemple, si l'objectif d'une visite sur d'autres planètes est l'étude des autres formes de vie dans leurs dynamiques propres, une présence ET se doit de limiter au maximum toute interaction.
.

[BenFis]

Il n'y a pas impérativement besoin de se déplacer dans l'espace pour savoir si une vie extra-terrestre existe. Il suffit de développer des instruments permettant de lire plus précisément les infos qui nous parviennent de l'espace. Nous sommes déjà presque capable de voir des exo-planètes. De là à connaître leur atmosphère puis une activité biologique éventuelle, il n'y a plus que quelques pas à faire.

___

Pour qu’un ordinateur puisse se reconnaître dans une glace, il faut au préalable lui dire à quoi il ressemble. Si ça marche, ce n’est donc pas une preuve de conscience, mais que son programme de reconnaissance d’objet a été bien conçu.

Comment savons-nous qu’un chimpanzé à conscience de lui-même ? Parce que nous avons compris, notamment par le test du miroir, qu’il sait se reconnaitre sans aide extérieure, donc probablement parce que son intelligence a un degré suffisant pour lui permettre de développer une réflexion sur soi.

Lorsque nous parviendront à fabriquer un ordinateur ayant les mêmes capacités, alors peut-être pourrons-nous dire que nous aurons fabriqué un être conscient. Nous serons alors des dieux.