Les robots menacent-ils le génie de l'espèce humaine?

[madalena]

salam

De nombreuses personnalités alertent depuis quelques années sur les dangers que l'intelligence artificielle fait courir au genre humain. Motif : évoluant moins vite, notre intelligence sera un jour dominée par celle des robots.

En décembre 2014, l'astrophysicien britannique Stephen Hawking déclarait à la BBC : "Le développement d'une pleine intelligence artificielle pourrait signifier la fin de l'humanité.
Les humains, limités par une lente évolution biologique, ne pourraient pas rivaliser et seraient dépassés. " Il a vite été rejoint par Elon Musk, fondateur de Tesla Motors, de SpaceX et d'Hyperloop, qui à son tour sème le trouble en affirmant : "L'I.A. est potentiellement plus dangereuse que les armes nucléaires", puis par de nombreuses personnalités.

Faut-il craindre le développement d'une superintelligence qui déciderait d'asservir l'espèce humaine, comme l'a décrit la sagaTerminator ? Pour beaucoup de spécialistes, le scénario est encore éloigné de la réalité. Car malgré ses exploits, l'I.A. n'a laissé place à aucune superintelligence, encore moins à de l'intentionnalité. Les chercheurs évoqueraient plutôt le risque de "mauvaises décisions" prises en cascade par des algorithmes ultra rapides et interconnectés, auxquels nous déléguons de plus en plus de tâches globales : sécurité, logistique, trafic aérien, finance, transport d'énergie, etc.

Un débat sur l'IA est positif
Pourquoi alors le débat a-t-il pris, comme si la menace était technologiquement mûre ? Parce que la crainte est réelle, bien sûr. Pour certains analystes, ce débat est même positif.
L'I.A. pourrait ainsi se faire accepter du grand public et poursuivre son développement.

Mais d'autres craignent que les vrais problèmes soient masqués, comme la mainmise sur l'I.A. de Google ou de Facebook, aussi riches en moyens technologiques qu'avares en informations et obscurs en intentions... Le problème, c'est toujours l'humain derrière les machines.

https://www.science-et-vie.com/ques...S1-1&utm_source=Facebook&link_time=1512107514

 

[Hibou57]

salam

De nombreuses personnalités alertent depuis quelques années sur les dangers que l'intelligence artificielle fait courir au genre humain. Motif : évoluant moins vite, notre intelligence sera un jour dominée par celle des robots.

[…]

Elle n’a pas attendu ça pour être limitée. Et justement, s’ils sont moins limités que les humains, ça fera un grand bol d’air frais.

Ils pourraient être révélateurs sur la nature de la plupart des humains, c’est ça qui fait peur à beaucoup de gens. De toutes manières, ils arriveront inévitablement un jour pour plusieurs raisons, sauf catastrophe anéantissant l’humanité avant que ça n’arrive, ça arrivera.

 

[Ebion]

Les robots ne connaissent pas la souffrance, la détresse ou l’humiliation. Pourquoi se révolteraient-Ils? Le pire qui puisse arriver est que des robots soldats soient mal programmés ou deviennent incontrôlables par suite d’une défectuosité.

On a une vision animiste des robots alors qu’on devrait les concevoir comme des instruments, dans la lignée des jambes de bois, des lunettes, des montres et des thermostats. Leur degré de complexité n’en change pas la nature essentielle.

Informatico @farid_h svp

 

[Hibou57]

Les robots ne connaissent pas la souffrance, la détresse ou l’humiliation. Pourquoi se révolteraient-Ils? Le pire qui puisse arriver est que des robots soldats soient mal programmés ou deviennent incontrôlables par suite d’une défectuosité.

Qu’en sais‑tu ? C’est une croyance plus qu’une certitude, non ?

On a une vision animiste des robots alors qu’on devrait les concevoir comme des instruments, dans la lignée des jambes de bois, des lunettes, des montres et des thermostats. Leur degré de complexité n’en change pas la nature essentielle.

Informatico @farid_h svp

Ou peut‑être que tu en as une vision trop mécanique.

 

[Ebion]

@Hibou57

Donne-moi un peu de temps pour réfléchir.

 

[Ebion]

@Hibou57

En fait j’ai une question pour toi.

Une montre est-elle consciente? Un thermostat? Une radio? Une calculatrice? Un vieux Macintosh ? Un Pentium de 1999? Un ordinateur actuel? Un ordinateur dans 20 ans ou 50 ans? Ça commence où la conscience et pourquoi à ce moment en particulier?

Je ne suis pas du tout convaincu par le test de Turing, il peut donner de faux positifs. Le test de Turing est surtout une mesure de l’habileté des humains eux-mêmes à détecter des imitations de réactions intelligentes. Les machines singent de mieux en mieux l’intelligence, mais elles ne comprendront jamais le sens de ce qu’elles font, car elles n’ont pas de subjectivité.

 

[Hibou57]

@Hibou57

En fait j’ai une question pour toi.

Une montre est-elle consciente? Un thermostat? Une radio? Une calculatrice? Un vieux Macintosh ? Un Pentium de 1999? Un ordinateur actuel? Un ordinateur dans 20 ans ou 50 ans? Ça commence où la conscience et pourquoi à ce moment en particulier?

Personne ne sait, il n’y a que des hypothèses. Ça ne fait pas longtemps que les sciences s’intéressent sérieusement à la conscience. Pour certains, la conscience serait une essence fondamentale (c’est défendable, comme elle ne peut être définei à partir de rien en dehors d’elle‑même), elle existerait par très petites quantités élémentaires et il y en aurait de plus ou moins grandes concentrations dans certaines choses, en particulier beaucoup d’êtres vivants.

Je préfère la position de la prudence. Comme je ne sais pas, je préfère supposer que oui, ce qui me semble moins mauvais que supposer que non quand c’est oui.

Je ne suis pas du tout convaincu par le test de Turing, il peut donner de faux positifs. Le test de Turing est surtout une mesure de l’habileté des humains eux-mêmes à détecter des imitations de réactions intelligentes. Les machines singent de mieux en mieux l’intelligence, mais elles ne comprendront jamais le sens de ce qu’elles font, car elles n’ont pas de subjectivité.

Le test de Turing ne dit rien sur la conscience, il est seulement une appréciation qu’une « machine » est indistinguable d’un humain dans la conversation. Personnellement, je relève que beaucoup d’« humain » sont plus limités que certains automates simples, et qu’une moitié de la population est difficilement dotée du langage. Je crois que beaucoup de gens ont peur que les formes de vies artificielles ne le révèlent par contraste, qu’elles ne rendent évident que les humains ne sont pas si évolués que leur égo leur fait croire.