indecise1
VIB
Sur ce thème et puisque tu es branchée philo, tu apprécieras sûrement ; )
https://www.canal-u.tv/video/univer...ycee/corps_et_expression_isabelle_queval.5732
L'homme doit devenir un cyborg
- Initiateur de la discussion Floraison
- Date de début
-
- Mots-clés
- cyborg elon musk intelligence artificielle neuralink
https://www.canal-u.tv/video/univer...ycee/corps_et_expression_isabelle_queval.5732
Merci, je regarderai plus tard : )
Attention, j'ai pas dit que tu te trompais, j'ai juste dit que je saisissais pas comment ça pouvait être logique de la part des grands patrons...
Même si on voit arriver ça un jour, le jugement de la société va continuer à condamner les assistés...
Rien n'empêche pas l'autre c'est surtout que j'aimerais continuer a voir l'évolution du monde de mes propres yeux.
Je suis beau joueur je met 2/10 a ta tentative de prosélytisme au ras des pâquerettes.
J'ai la foi mais elle ne rentre pas dans les cases habituelles
La solitude du cyborg
Discuter du jour où la machine dépassera l'homme, c'est partir du postulat selon lequel l'homme et la machine sont comparables. Et donc assimiler la conscience humaine à une puissance de calcul informatique. Une lectrice d'Usbek & Rica remet en cause ce postulat dans cet article de contribution. En rejetant la mort, le fantasme transhumaniste ne finit-il pas par rejeter la vie elle-même ? Réflexion sur les cyborgs, le corps, le désir et les sex-machines.
La victoire de Deep Blue, programme conçu par IBM, contre le champion d’échecs Gary Kasparov en 1997, était-elle due à un bug informatique, qui a substitué pendant un instant de l’aléatoire pur au calcul prévu par l’ordinateur ? C’est ce qu’a révélé en 2012 dans un ouvrage le journaliste Nate Silver. Que ce soit le cas ou non, cela n’annule en rien la défaite de Kasparov, mais lui apporte néanmoins un nouvel éclairage : cette défaite serait peut-être davantage due, précisément, à cet aléatoire, simulacre d’une attitude subjective et non plus mécanique, qui aurait permis à Deep Blue d’assurer son ascendant sur un Kasparov impressionné par une stratégie à ses yeux intentionnelle, et impénétrable.
L’homme n’est dépassé par la technique qu’à l’instant où on le rend lui-même comparable à une machine
C’est l’interprétation donnée à ces événements qui est intéressante : l’échec de Kasparov a été annoncé comme le dépassement de l’homme par la machine pensante. Par l’acte imprévu de Deep Blue, Kasparov s’est trouvé déstabilisé comme devant une intelligence supérieure. L’homme battu dans ce qui serait son apanage, ce qui constituerait sa valeur : son intelligence. On savait déjà que les machines avaient potentiellement plus de solidité, de durée, de force physique que nous ; les voilà qui nous éliminent de notre noble terrain : l’esprit.
Discuter du jour où la machine dépassera l'homme, c'est partir du postulat selon lequel l'homme et la machine sont comparables. Et donc assimiler la conscience humaine à une puissance de calcul informatique. Une lectrice d'Usbek & Rica remet en cause ce postulat dans cet article de contribution. En rejetant la mort, le fantasme transhumaniste ne finit-il pas par rejeter la vie elle-même ? Réflexion sur les cyborgs, le corps, le désir et les sex-machines.
La victoire de Deep Blue, programme conçu par IBM, contre le champion d’échecs Gary Kasparov en 1997, était-elle due à un bug informatique, qui a substitué pendant un instant de l’aléatoire pur au calcul prévu par l’ordinateur ? C’est ce qu’a révélé en 2012 dans un ouvrage le journaliste Nate Silver. Que ce soit le cas ou non, cela n’annule en rien la défaite de Kasparov, mais lui apporte néanmoins un nouvel éclairage : cette défaite serait peut-être davantage due, précisément, à cet aléatoire, simulacre d’une attitude subjective et non plus mécanique, qui aurait permis à Deep Blue d’assurer son ascendant sur un Kasparov impressionné par une stratégie à ses yeux intentionnelle, et impénétrable.
L’homme n’est dépassé par la technique qu’à l’instant où on le rend lui-même comparable à une machine
C’est l’interprétation donnée à ces événements qui est intéressante : l’échec de Kasparov a été annoncé comme le dépassement de l’homme par la machine pensante. Par l’acte imprévu de Deep Blue, Kasparov s’est trouvé déstabilisé comme devant une intelligence supérieure. L’homme battu dans ce qui serait son apanage, ce qui constituerait sa valeur : son intelligence. On savait déjà que les machines avaient potentiellement plus de solidité, de durée, de force physique que nous ; les voilà qui nous éliminent de notre noble terrain : l’esprit.
Un drôle de double raccourci en réalité, par lequel l’intelligence a été assimilée à une puissance de calcul, puis, dans un second temps, l’essence de l’homme, sa conscience, assimilée à cette intelligence-là. Une fois que l’homme est réduit à une puissance calculante, il entre en comparaison avec la machine qui devient un modèle de performance, et face à laquelle il est assuré de perdre. L’homme n’est dépassé par la technique qu’à l’instant où on le rend lui-même comparable à une machine.
La machine et la mort : le cyborg, un vivant-mort
Cette conception de l’intelligence comme essence d’un être humain met en évidence un déplacement par lequel la subjectivité humaine – sa conscience – se trouve ramenée à un échange informationnel reproductible dans un autre mécanisme, entièrement abstrait de toute incarnation. Les fantasmes des transhumanistes naissent ici, dans ce rêve de débarrasser la pureté informationnelle de son carcan de chair, support par trop défectueux des sacrosaintes données du cerveau.
Le cyborg, perpétuellement réparable par son alliance biologique-mécanique-informatique, représente – on ne peut précisément pas dire « incarne » – la figure par excellence de cet esprit-là, extrait hors de tous les aléas de la chair, dont celui, et pas des moindres, de la mortalité. Le cyborg ou le fantasme du contrôle absolu de la matière par l’information ; il devrait être un puissant symbole de vie, mais porte au contraire en lui un principe mortifère. Etre à la chair morcelée, interchangeable, réduite au transfert de l’information, le cyborg n’est pas un vivant, mais un mort-vivant, il opacifie les frontières de la vie et de la mort, il fait entrer la vie dans la mort et la mort dans la vie, dans un nivellement des états lié à une conception réifiant le corps.
Suite : https://usbeketrica.com/article/la-solitude-du-cyborg
La machine et la mort : le cyborg, un vivant-mort
Cette conception de l’intelligence comme essence d’un être humain met en évidence un déplacement par lequel la subjectivité humaine – sa conscience – se trouve ramenée à un échange informationnel reproductible dans un autre mécanisme, entièrement abstrait de toute incarnation. Les fantasmes des transhumanistes naissent ici, dans ce rêve de débarrasser la pureté informationnelle de son carcan de chair, support par trop défectueux des sacrosaintes données du cerveau.
Le cyborg, perpétuellement réparable par son alliance biologique-mécanique-informatique, représente – on ne peut précisément pas dire « incarne » – la figure par excellence de cet esprit-là, extrait hors de tous les aléas de la chair, dont celui, et pas des moindres, de la mortalité. Le cyborg ou le fantasme du contrôle absolu de la matière par l’information ; il devrait être un puissant symbole de vie, mais porte au contraire en lui un principe mortifère. Etre à la chair morcelée, interchangeable, réduite au transfert de l’information, le cyborg n’est pas un vivant, mais un mort-vivant, il opacifie les frontières de la vie et de la mort, il fait entrer la vie dans la mort et la mort dans la vie, dans un nivellement des états lié à une conception réifiant le corps.
Suite : https://usbeketrica.com/article/la-solitude-du-cyborg
@patouch
L'homme s'est traditionnellement défini en s'opposant aux animaux. Or, ce qui le distingue le plus des animaux, c'est son langage et son intellect. Or, maintenant, les machines, d'une certaine manière, dépassent les capacités langagières ou intellectuelles de l'homme. Donc l'homme n'a pas d'autre choix que de se définir par rapport aux machines en soulignant son côté non rationnel, spontané, intuitif, ce qui justement le rapproche des animaux... donc je pense que les humains vivent une crise d'identité, puisqu'ils n'ont plus rien à eux seuls. Ils sont comme des ordinateurs par rapport aux animaux, mais comme des animaux par rapport aux ordinateurs.
L'homme s'est traditionnellement défini en s'opposant aux animaux. Or, ce qui le distingue le plus des animaux, c'est son langage et son intellect. Or, maintenant, les machines, d'une certaine manière, dépassent les capacités langagières ou intellectuelles de l'homme. Donc l'homme n'a pas d'autre choix que de se définir par rapport aux machines en soulignant son côté non rationnel, spontané, intuitif, ce qui justement le rapproche des animaux... donc je pense que les humains vivent une crise d'identité, puisqu'ils n'ont plus rien à eux seuls. Ils sont comme des ordinateurs par rapport aux animaux, mais comme des animaux par rapport aux ordinateurs.
Mais on peut le voir autrement: le corps-machine. Le corps, n'etant rien d'autre qu'une machine, pour l'instant encore biologique, destinee a transmettre les genes de generation a generation, et, incidentellement, contenant le "logiciel" qui nous compose, c.a.d notre memoire, ame, etc.
Alors, cette machine biologique, on peut l'aider quand elle tombe en panne. On remplace bien des parties comme des dents, des hanches, des reins, le coeur, etc., soit par des organes de remplacement biologiques, soit par des organes artificiels mecaniques. Ca ne nous rend pas moins humains et/ou animaux. Et remplacer, on peut beaucoup: plus la technique avance, plus on sera en mesure de remplacer des organes difficiles ou impossibles aujourd'hui a repliquer.
Jusqu'a present, on croyait que le cerveau serait l'ultime organe non-remplaceable... eh bein, meme ca, rein n'est moins sur.
Alors, les limites entre etre vivant 100% bio, cyborg graduel, et robot parfait, sont floues et graduelles.
Alors, cette machine biologique, on peut l'aider quand elle tombe en panne. On remplace bien des parties comme des dents, des hanches, des reins, le coeur, etc., soit par des organes de remplacement biologiques, soit par des organes artificiels mecaniques. Ca ne nous rend pas moins humains et/ou animaux. Et remplacer, on peut beaucoup: plus la technique avance, plus on sera en mesure de remplacer des organes difficiles ou impossibles aujourd'hui a repliquer.
Jusqu'a present, on croyait que le cerveau serait l'ultime organe non-remplaceable... eh bein, meme ca, rein n'est moins sur.
Alors, les limites entre etre vivant 100% bio, cyborg graduel, et robot parfait, sont floues et graduelles.
Oh oui. Tres complexe... mais rien de plus qu'un programme.
Et independament de notre conscience, meme notre corps physique avec son code ADN est une sorte d'ordinateur. Les informaticiens et geneticiens apprecieront les paralleles troublantes:
https://ds9a.nl/amazing-dna/
Pas d'accord. on ne connaît pas la nature de la conscience comme subjectivité, comme sentiment de soi... les machines peuvent bien singer l'intelligence, et même la dépasser, mais elles n'ont pas de subjectivité ni de buts qu'elles se donneraient à elles-mêmes.
Déjà l'analogie entre le cerveau et l'ordinateur a été critiquée. Comme si les neurones étaient le hardware et la conscience le software. Il vaut mieux voir cela autrement : l'ordinateur est une extension du cerveau, tout comme les lunettes sont une extension des yeux. En soi, une paire de lunettes ne voit pas et elle n'a pas d'autonomie ou de finalité naturelle, en tout cas, pas plus qu'une pierre ou une vieille souche. De même, en soi l'ordinateur n'a pas de sens dans la nature, pas plus qu'une planète qui gravite bêtement ou une tornade. L'ordinateur obéit aux lois de la physique, comme n'importe quel autre objet matériel. C'est les humains qui donnent un sens particulier à ce que fait l'ordinateur comme système physique et qui s'en servent à leurs propres fins. L'ordinateur n'a conscience de rien, et il ne vise aucun but en soi, si on le compare avec d'autres objets matériels. L'ordinateur a une unité artificielle, imposée par les ingénieurs, cela ne correspond pas aux espèces naturelles... Bref, l'ordinateur n'a pas un sens indépendant de la civilisation humaine, contrairement aux animaux, aux plantes, aux minéraux... Certains ont besoin d'une prothèse pour marcher, et certains ont besoin d'un ordinateur pour calculer. Mais la prothèse ne marche pas d'elle-même et ne sait pas où elle va, et les processus physiques dans l'ordinateur ne deviennent des calculs que par rapport au sens que lui donnent les humains.
Mais le cerveau en fait de meme! Les mecanismes du reseau neuronal que constitue le cerveau sont non seulement bien compris, ils sont meme deterministiques, c.a.d. entierement previsibles.
On peut creer un modele mathematique du cerveau (Neural Net) et laisser un ordinateur simuler ce qu'un cerveau "calcule". D'ailleurs, le cerveau est un ordinateur assez "lent".
Ce qui fait qu'on a l'impression d'avoir une conscience et qu'on depasse les ordinateurs actuels, c'est tout simplement la capacite du cerveau: celui-ci contient un tres, tres grand nombre de neuronnes qui sont toutes actives en meme temps. On n'a pas encore d'ordinateurs suffisament performants pour simuler ce genre de reseau massivement parallel sur une machine essentiellement sequentielle. C'est juste une question de capacites.
Et une autre chose joue un role: en raison du substrat biologique du cerveau, le reseau des neuronnes est en constsnte modification: des neuronnes meurent, de nouvelles naissent, des connexions s'ajoutent ou s'atrophient, et ces connexions sont influencees globalement par des drogues, serotonines, etc... Donc influence du "programme" de l'ADN. Tout ca, il faut le prendre en compte si on veut simuler correctement un cerveau biologique sur un ordinateur classique.
tl;dr.: avec des ordinateurs suffisament performants, et une simulation suffisament "reelle" qui prend en compte le code ADN, on pourrait peut etre aussi transplanter la conscience vers des ordinateurs classiques. Mais c'est tres complique.
@farid_h
Il faut que tu distingues l'intelligence et la subjectivité (le fait d'avoir un "point de vue" sur le monde). Je ne doute pas que les ordinateurs puissent singer l'intelligence humaine, et d'autant mieux que les tâches à réaliser sont plus logiques (on n'est pas près de voir des ordinateurs anthropologues). Mais c'est la subjectivité, la conscience, qui comprend ce qui se passe et qui donne un sens aux événements. C'est le genre de réflexions immatérielles, même si elles nécessitent un cerveau pour s'opérer.
Il faut que tu distingues l'intelligence et la subjectivité (le fait d'avoir un "point de vue" sur le monde). Je ne doute pas que les ordinateurs puissent singer l'intelligence humaine, et d'autant mieux que les tâches à réaliser sont plus logiques (on n'est pas près de voir des ordinateurs anthropologues). Mais c'est la subjectivité, la conscience, qui comprend ce qui se passe et qui donne un sens aux événements. C'est le genre de réflexions immatérielles, même si elles nécessitent un cerveau pour s'opérer.
@Ebion, ne fais pas l'erreur de confondre les programmes de "l'intelligence artificielle" des ordinateurs actuels, qui en effet ne font que singer le comportement humain sans rien y comprendre, des simulations que j'ai mentionne plus haut.
Ces simulations de neural nets avec substrat biologique "ne comprennent" a priori rien de l'intelligence humaine etc. Si on examine le code de ces simulations, on ne trouve pas de concepts intelligents dedans. Uniquement des formules: "pour chaque neuronne: si plus que deux nerfs recoivent un input, et que le neuronne n'a pas ete exite avant 20 ms, envoie un pulse sur l'output", ou "si le code ADN contient ACCTGTA, crees une nouvelle connexion entre neuronne #323443245 et #54543543443"
Maintenant, si cette simulation execute le code ADN obtenu du genome humain, elle produira une reproduction d'un cerveau humain quinaura les memes neuronnes et les memes connexions. Si tu connectes cette simulation a des 'yeux simules' et a un reste de 'corps simule', et que tu laisses tourner cette simulation pendant que tu 'eduques' ce cerveau-simule avec des stimuli-reponses comme tu eduques un enfant, tu finiras peut-etre par obtenir une simulation d'un cerveau aussi auto-conscient de lui-meme que si on avait permi a l'ADN de depart de s'exprimer avec des matieres biologiques et de creer un cerveau biologique au lieu de simule.
L'intelligence et la conscience ne seront pas dans le programme qui fait la simulation, mais dans l'objet virtuel qui est simule par ce programme. Ils sont codes implicitement dans les (gros) fichiers de nombres manipules par le programme qui calcule la simulation.
Ces simulations de neural nets avec substrat biologique "ne comprennent" a priori rien de l'intelligence humaine etc. Si on examine le code de ces simulations, on ne trouve pas de concepts intelligents dedans. Uniquement des formules: "pour chaque neuronne: si plus que deux nerfs recoivent un input, et que le neuronne n'a pas ete exite avant 20 ms, envoie un pulse sur l'output", ou "si le code ADN contient ACCTGTA, crees une nouvelle connexion entre neuronne #323443245 et #54543543443"
Maintenant, si cette simulation execute le code ADN obtenu du genome humain, elle produira une reproduction d'un cerveau humain quinaura les memes neuronnes et les memes connexions. Si tu connectes cette simulation a des 'yeux simules' et a un reste de 'corps simule', et que tu laisses tourner cette simulation pendant que tu 'eduques' ce cerveau-simule avec des stimuli-reponses comme tu eduques un enfant, tu finiras peut-etre par obtenir une simulation d'un cerveau aussi auto-conscient de lui-meme que si on avait permi a l'ADN de depart de s'exprimer avec des matieres biologiques et de creer un cerveau biologique au lieu de simule.
L'intelligence et la conscience ne seront pas dans le programme qui fait la simulation, mais dans l'objet virtuel qui est simule par ce programme. Ils sont codes implicitement dans les (gros) fichiers de nombres manipules par le programme qui calcule la simulation.
Bonjour informatico @farid_h ! 
C'est quoi l'objet virtuel dont tu parles?
Je ne connais pas la nature de la conscience, donc je ne sais pas quels substrats physiques sont nécessaires exactement pour la produire, ni si on peut les remplacer par des matériaux de synthèse. Mais c'est clair que la subjectivité dont parlent les philosophes n'a rien à voir avec des métaphores tirées de l'informatique, entre autres parce que les ordinateurs n'ont pas de sens en soi, mais seulement par rapport aux besoins et aux finalités des humains... Mon logiciel Word ne sait pas de quoi je parle dans mes documents. Même en admettant que le cerveau crée la conscience, la subjectivité, et le sens qu'on donne aux choses, il reste que ce sont des choses d'un genre unique dans l'univers.
La sélection naturelle singe déjà l'intelligence des ingénieurs depuis des milliards d'années. Et pourtant elle n'a jamais été consciente de soi. Même que les humains ont vécu et pensé pendant des milliers d'années sans comprendre la sélection naturelle (sauf quelques agriculteurs et éleveurs, qui en avaient une connaissance empirique).
C'est quoi l'objet virtuel dont tu parles?
Je ne connais pas la nature de la conscience, donc je ne sais pas quels substrats physiques sont nécessaires exactement pour la produire, ni si on peut les remplacer par des matériaux de synthèse. Mais c'est clair que la subjectivité dont parlent les philosophes n'a rien à voir avec des métaphores tirées de l'informatique, entre autres parce que les ordinateurs n'ont pas de sens en soi, mais seulement par rapport aux besoins et aux finalités des humains... Mon logiciel Word ne sait pas de quoi je parle dans mes documents. Même en admettant que le cerveau crée la conscience, la subjectivité, et le sens qu'on donne aux choses, il reste que ce sont des choses d'un genre unique dans l'univers.
La sélection naturelle singe déjà l'intelligence des ingénieurs depuis des milliards d'années. Et pourtant elle n'a jamais été consciente de soi. Même que les humains ont vécu et pensé pendant des milliers d'années sans comprendre la sélection naturelle (sauf quelques agriculteurs et éleveurs, qui en avaient une connaissance empirique).
L'objet virtuel dont je parle est l'etat de la simulation a un instant t precis.
Si tu prends un cerveau physique, et que tu arrivais a geler l'avancee de temps, tu auras pris une photo de la conscience contenue dans ce cerveau a ce moment precis. Quand tu degeles le temps, l'etat du cerveau va continuer d'evoluer et avec aussi la conscience qu'il contient.
Pour la simulation, c'est pareil: si tu decidais a un certain moment de geler la simulation ("d'appuyer sur le bouton 'pause'"), tout le contenu du cerveau simule sera sauvegarde quelque part: dans la memoire de l'ordinateur simuleur, dans un fichier, etc... Ce contenu, c'est quoi au juste? Bein, une carte des neuronnes, leur etat et historique recent d'exitations, leurs interconnexions, la quantite de neurotransmitteurs en route, le code ADN et l'etat actuel de son execution pour simuler le substrat biologique, ... La memoire du cerveau par exemple, c.a.d que que le cerveau simule a appris dans les lecons, est represente par de nouvelles interconnexions, donc une partie de la carte. Bref, tout ca, c'est juste des chiffres, une immense quantite de chiffres... un gros fichier de plusieurs Terabyes, Exabytes, ... (je ne sais pas combien d'espace ca prendra). Meme la conscience que ce cerveau simule aura peut-etre developpee sera contenue dans ce gros fichier de nombres: mais on ne saura jamais ou elle se trouvera exactement dans ce fichier -- car elle sera distribuee sur tout le fichier, comme un hologramme.
Si tu prends un cerveau physique, et que tu arrivais a geler l'avancee de temps, tu auras pris une photo de la conscience contenue dans ce cerveau a ce moment precis. Quand tu degeles le temps, l'etat du cerveau va continuer d'evoluer et avec aussi la conscience qu'il contient.
Pour la simulation, c'est pareil: si tu decidais a un certain moment de geler la simulation ("d'appuyer sur le bouton 'pause'"), tout le contenu du cerveau simule sera sauvegarde quelque part: dans la memoire de l'ordinateur simuleur, dans un fichier, etc... Ce contenu, c'est quoi au juste? Bein, une carte des neuronnes, leur etat et historique recent d'exitations, leurs interconnexions, la quantite de neurotransmitteurs en route, le code ADN et l'etat actuel de son execution pour simuler le substrat biologique, ... La memoire du cerveau par exemple, c.a.d que que le cerveau simule a appris dans les lecons, est represente par de nouvelles interconnexions, donc une partie de la carte. Bref, tout ca, c'est juste des chiffres, une immense quantite de chiffres... un gros fichier de plusieurs Terabyes, Exabytes, ... (je ne sais pas combien d'espace ca prendra). Meme la conscience que ce cerveau simule aura peut-etre developpee sera contenue dans ce gros fichier de nombres: mais on ne saura jamais ou elle se trouvera exactement dans ce fichier -- car elle sera distribuee sur tout le fichier, comme un hologramme.
Ok, mais ça ne nous éclaire pas concrètement sur ce qui est nécessaire pour générer une conscience de soi, et surtout si la conscience a un rapport étroit avec la biochimie du corps animal, ou si on peut créer les conditions de la conscience dans une machine électronique... Les neurosciences sont encore peu précises. En fait certains pensent que la conscience est surnaturelle (Platon, Descartes et des religions).
L’économie, a besoin de la paix sociale. Elle n’est pas impossible sans, mais elle fonctionne mieux avec.
Pour attirer des entreprises, des investisseurs, des commerces, quelque part, la paix du lieu ou du pays est un bon argument. Les grands patrons n’aiment pas le chaos social, contrairement à ce que trop de gens croient, parce que la chaos social n’arrange pas leurs affaires, il les rend plus difficile à mettre en place et à mener.
Bon tu vois, c'est déjà plus logique ainsi.
mais ça empêche pas qu'il va toujours rester un sentiment d'inutilité et de dévalorisation associée à l'assistance sociale... même si la structure économique et technologique future la rend inévitable pour une grande partie de la population.
C’était implicite pour moi.Bon tu vois, c'est déjà plus logique ainsi.
Oui, mais la culture du citoyen moyen, n’est pas produite par le capitalisme, surtout qu’il ne comprends pas le capitalisme, qu’il prend pour l’avidité ou un privilège bourgeois. On a en Occident, une économie capitaliste, mais une culture populaire plutôt proche du communisme. Et pour la Gauche et encore plus les communiste, un citoyen se réalise par le travail, mais seulement le travail au sens de travailler pour un patron.
Le capitalisme peut être associé à n’importe quoi, aussi bien au communisme, qu’au Libéralisme, ou qu’à autre chose.
Bien vu. C'est la le Grand Mystere.
D'ailleurs, t'as decouvert les deux points faibles de mon argumentation que j'ai soigneusement dissimules derriere un ecran de technicites:
1/ en utilisant l'ADN d'un cerveau pre-existant, j'ai court-circuite toute la longue evolution qui a aboutit a ce cerveau et aussi a la formation de la conscience associee avec cette longue formation evolutionelle. C'est essentiellement tricher. Je n'ai pas suggere de simuler un cerveau en partant d'une tabula rasa.
2/ je n'ai pas mentionne comment la conscience va apparaitre dans la simulation. J'ai insinue qu'elle apparaitrera de facon spontanee, tout comme elle est apparue dans un cerveau biologique, car j'hypothese que la simulation est tellement bonne qu'elle simule la biologie (l'ADN) aussi. Sans cette composante moleculaire (simulee), c'est pas dit qu'un reseau neuronique statique a lui tout seul puisse creer spontanement de la conscience, pourvu qu'il soit suffisament complexe (dans le sense de: nombre de neuronnes, degre d'interconnexions, ...). Mais c'est pas dit non plus que la creation de la conscience necessite (la simulation de la variabilite introduite par) des aspects biologiques. C'est un sujet qu'il faut encore explorer et etudier.
Je suis pas sûr... le grand slogan communiste était : de chacun selon ses capacités, à chacun selon ses besoins.
Et le grain de sable dans la machine, c'était que les gens recevaient leur part indépendamment de la qualité et de leur quantité de travail. Ce qui, évidemment, décourageait prodigieusement l'effort individuel et encourageait la paresse et la négligence. Les communistes ne comprenaient pas que les humains avaient un côté égoïste indéracinable, même à force de conditionnements et de goulags.
Et c'est justement cela l'idéologie du revenu de base universel, étant sous-entendu que plusieurs n'ont pas (n'auront pas) la capacité concrète de contribuer à l'économie (car les machines les remplacent), mais qu'ils ont des besoins à combler. Et cela risque de décourager l'effort : je suis sûr en effet qu'il restera quand même des tâches à réaliser pour les humains, et donc un problème de répartition des charges dans la population. Et donc ceux qui font réellement des efforts dans des tâches humaines vont se sentir lésés vis-à-vis de ceux qui reçoivent des allocations sans rien faire. Ce qui est aussi un sentiment humain.
@farid_h
Bien vu.
Je tiens surtout à ma distinction entre intelligence et conscience de soi. On peut parfaitement imaginer des robots ou ordinateurs qui accomplissent de plus en plus de tâches que faisaient les humains. Peut-être même des tâches délicates comme des chirurgies. Mais la conscience de soi, c'est un tout autre problème.
En fait c'est un peu mélangeant, parce que chez les humains et les animaux supérieurs, c'est les comportements intelligents - qui demandent de la réflexion et du jugement - qui nous révèlent la présence de la conscience. Même si Freud attribuait une certaine intelligence à l'inconscient (mais les cognitivistes ne sont pas des big fans de Freud). Mais la conscience n'est pas identique à l'intelligence. Un individu peut être paralysé, incapable d'accomplir des tâches, et pourtant demeurer conscient.
Il y a aussi que je doute fortement que les machines puissent développer une sorte de bon sens, une finesse de jugement, une perception des sous-entendus et des figures de style, ou une intuition psychologique, comme ceux des humains normalement constitués. En fait on a comparé les autistes à des ordinateurs à ce sujet, en ce sens qu'il leur manque justement ce bon sens, cette finesse de jugement, dont sont dotés les humains normaux.
Par exemple on peut programmer un ordinateur pour analyser les caractéristiques linguistiques de "L'étranger" de Camus, mais l'ordinateur ne saura pas déchiffrer le sens du roman ou comprendre la psychologie des personnages (on peut le programmer pour relever des mots et expressions associées aux divers personnages, mais selon est une opération mécanique qui n'indique aucune compréhension réelle).
Bien vu.
Je tiens surtout à ma distinction entre intelligence et conscience de soi. On peut parfaitement imaginer des robots ou ordinateurs qui accomplissent de plus en plus de tâches que faisaient les humains. Peut-être même des tâches délicates comme des chirurgies. Mais la conscience de soi, c'est un tout autre problème.
En fait c'est un peu mélangeant, parce que chez les humains et les animaux supérieurs, c'est les comportements intelligents - qui demandent de la réflexion et du jugement - qui nous révèlent la présence de la conscience. Même si Freud attribuait une certaine intelligence à l'inconscient (mais les cognitivistes ne sont pas des big fans de Freud). Mais la conscience n'est pas identique à l'intelligence. Un individu peut être paralysé, incapable d'accomplir des tâches, et pourtant demeurer conscient.
Il y a aussi que je doute fortement que les machines puissent développer une sorte de bon sens, une finesse de jugement, une perception des sous-entendus et des figures de style, ou une intuition psychologique, comme ceux des humains normalement constitués. En fait on a comparé les autistes à des ordinateurs à ce sujet, en ce sens qu'il leur manque justement ce bon sens, cette finesse de jugement, dont sont dotés les humains normaux.
Par exemple on peut programmer un ordinateur pour analyser les caractéristiques linguistiques de "L'étranger" de Camus, mais l'ordinateur ne saura pas déchiffrer le sens du roman ou comprendre la psychologie des personnages (on peut le programmer pour relever des mots et expressions associées aux divers personnages, mais selon est une opération mécanique qui n'indique aucune compréhension réelle).
@Ebion, tu parles d'introspection?
Il y a en informatique certaines limites fondamentales qui font que la conscience sera ume chose assez difficile pour des ordinateurs classiques. Prends par exemple le fameux Halting Problem. Un ordinateur ne sera jamais capable en toute generalite de savoir ("d'etre conscient") qu'il est en train de calculer une fonction qui n'a pas de resultat et qu'il va continuer de calculer indefiniment. C'est a dire qi'en examinent le code d'un programme, l'ordinateur ne pourra pas dire dans 100% des cas: "ah oui, ce programme va s'arreter de calculer en un temps fini". C'est une tres serieuse limitation de la capacite de conscience de l'ordinateur.
Mais on peut grimper une echelle plus haut sur la pyramide meta. Est-ce qu'un ordinateur aurait ete capable de decouvrir lui-meme les theoremes d'incompletude de Gödel? Ces theoremes limitent encore plus ce que "la conscience" d'un ordinateur peut calculer... Ce sont les limites mathematiques de la conscience. Mais... d'un autre cote, ces limites sont tout aussi valables pour nos cerveaux biologiques...
Il y a en informatique certaines limites fondamentales qui font que la conscience sera ume chose assez difficile pour des ordinateurs classiques. Prends par exemple le fameux Halting Problem. Un ordinateur ne sera jamais capable en toute generalite de savoir ("d'etre conscient") qu'il est en train de calculer une fonction qui n'a pas de resultat et qu'il va continuer de calculer indefiniment. C'est a dire qi'en examinent le code d'un programme, l'ordinateur ne pourra pas dire dans 100% des cas: "ah oui, ce programme va s'arreter de calculer en un temps fini". C'est une tres serieuse limitation de la capacite de conscience de l'ordinateur.
Mais on peut grimper une echelle plus haut sur la pyramide meta. Est-ce qu'un ordinateur aurait ete capable de decouvrir lui-meme les theoremes d'incompletude de Gödel? Ces theoremes limitent encore plus ce que "la conscience" d'un ordinateur peut calculer... Ce sont les limites mathematiques de la conscience. Mais... d'un autre cote, ces limites sont tout aussi valables pour nos cerveaux biologiques...
C'est un film prophétique, la modélisation informatique des corps, imaginaire à l'époque mais réelle aujourd'hui.
Et maintenant ils arrivent même à se passer des humains pour créer des modèles tellement réalistes.
mais aussi un peu flippant.Neuralink, le projet d'Elon Musk pour augmenter nos cerveaux.
Elon Musk s'attaque à une nouvelle frontière : l'amélioration de l'être humain. Avec sa nouvelle entreprise, Neuralink, il a pour objectif de créer des interfaces homme-machine qui permettraient, à terme, de renforcer nos capacités cognitives en agissant directement sur notre cerveau. Un mouvement de plus dans le conflit de basse intensité autour de l'intelligence artificielle au sein de la Silicon Valley, qui risque bien d'avoir des conséquences sur l'avenir de l'humanité.
https://m.usbeketrica.com/article/neuralink-le-projet-d-elon-musk-pour-augmenter-nos-cerveaux
Elon Musk s'attaque à une nouvelle frontière : l'amélioration de l'être humain. Avec sa nouvelle entreprise, Neuralink, il a pour objectif de créer des interfaces homme-machine qui permettraient, à terme, de renforcer nos capacités cognitives en agissant directement sur notre cerveau. Un mouvement de plus dans le conflit de basse intensité autour de l'intelligence artificielle au sein de la Silicon Valley, qui risque bien d'avoir des conséquences sur l'avenir de l'humanité.
https://m.usbeketrica.com/article/neuralink-le-projet-d-elon-musk-pour-augmenter-nos-cerveaux
c'est monstrueux , on va finir par ressembler à des alliens
Je viens de lire cet article intéressant.
J'ai effectivement tendance à penser que l'AI ne représente pas de menace, même à long terme, et ce, parce que les machines ne sont pas des organismes vivants : elles n'ont pas d'instinct de survie, de territorialité ou de soif de pouvoir! Si une machine nous fait du mal, et ça arrive, ce n'est pas intentionnel.
En fait la machine est une extension de notre cerveau plutôt qu'une individualité autonome qui a son propre point de vue sur le monde. C'est comme les prothèses que portent les amputés, mais cette fois le membre qui est soutenu est le cerveau. Mais la machine, par exemple, n'a pas conscience de calculer, de raisonner, encore moins de "penser", tout comme la prothèse n'a pas conscience de marcher. C'est notre psychologie animiste qui nous fait imaginer des machines comme des individus autonomes et agissants, alors que ce sont simplement des assemblages de pièces artificielles. Même l'argument de la chambre chinoise de John Searle va plus loin qu'il ne le devrait. Il n'y a pas un esprit dans la machine qui voit des symboles arriver et qui a conscience de les traiter...
Informatico @farid_h !
Je veux dire, il y a un danger à l'intelligence artificielle, mais il n'a pas rapport aux scénarios imaginés par Terminator ou Matrix.
Le premier danger est que les militaires mettent au point des robots tueurs sans savoir les contrôler suffisamment. Le robot n'aura pas de "volonté de tuer", mais il pourrait faire bien du mal accidentellement, parce qu'il a été mal conçu.
Le deuxième danger, plus immédiat, est que les robots volent la majorité des emplois des travailleurs peu qualifiés. Des travailleurs dont l'intelligence limitée ne leur permettrait pas de faire d'autres études pour se recycler dans un domaine plus savant... Il y aura ainsi de plus en plus de chômeurs involontaires dépassés par la technologie et qui éprouveront une grande frustration et du ressentiment, sans parler de leurs problèmes d'argent. Même en lançant un revenu de base universel, le montant sera sans doute très faible, autour du seuil de la pauvreté. Cela ne permettra pas une vie très intéressante, et surtout les gens ne pourront plus se valoriser et se définir par leur travail, par leur utilité sociale...
Le premier danger est que les militaires mettent au point des robots tueurs sans savoir les contrôler suffisamment. Le robot n'aura pas de "volonté de tuer", mais il pourrait faire bien du mal accidentellement, parce qu'il a été mal conçu.
Le deuxième danger, plus immédiat, est que les robots volent la majorité des emplois des travailleurs peu qualifiés. Des travailleurs dont l'intelligence limitée ne leur permettrait pas de faire d'autres études pour se recycler dans un domaine plus savant... Il y aura ainsi de plus en plus de chômeurs involontaires dépassés par la technologie et qui éprouveront une grande frustration et du ressentiment, sans parler de leurs problèmes d'argent. Même en lançant un revenu de base universel, le montant sera sans doute très faible, autour du seuil de la pauvreté. Cela ne permettra pas une vie très intéressante, et surtout les gens ne pourront plus se valoriser et se définir par leur travail, par leur utilité sociale...
Mais l'AI se laisse egalement manipuler. Supposons qu'au lieu d'un Donald Trump, on ait une AI comme Presidente? Eh bein tu seras sur que ceux de son entourage vont la nourrir d'informations tendencieuses jusqu'a ce qu'elle changera comme Trump d'opinion et bombardera la Syrie.
Ca me rappelle HAL-9000 de 2001, A Space Odyssey; l'ordinateur AI qui a commence a tuer les astronautes, parce que l'integrite de son programme avait ete compromise par des instructions de politiciens de garder le secret de l'operation etc...
Ou, dit autrenent, une AI suffisament humaine qui devra interagir avec les humains doit s'adapter a la bassesse humaine pour la comprendre.. et comme le chasseur qui finit par ressembler a sa proie, l'AI finira par ressembler trop a l'humain, avec tous ses defauts.