Pasta a écrit :Pourquoi les machines se rebelleraient-elles ? Pourquoi arrêteraient-elles de faire ce pour quoi elles ont été programmées, pour se mettre à se poser des questions existentielles ? C’est projeter un peu trop d’humain sur les machines à mon avis. À la rigueur, les machines devenant excessivement zélées est un scénario plus plausible, mais là encore, on peut facilement mettre des gardes-fous.
Parce qu'on en est déjà au stade où les machines sont capables de se reprogrammer, afin de mieux s'adapter aux tâches qui leur incombent... Mais rien ne dit qu'à un moment donné, elles auront la capacité ou non de modifier leurs objectifs initiaux... On reste dans le flou à ce sujet, et je pense que considérer que quelques gardes-fous nous préserverons est assez présomptueux... (Ne fût-ce parce qu'il existera bien un être humain quelque part suffisamment cinglé que pour les faire tomber...)
J'avais vu un reportage sur Arte il y a quelques temps, à propos de robotique, de transhumanisme, d'intelligence artificielle, de conscience...
Si certains pensent qu'une intelligence artificielle pourrait jouer contre l'homme, parce que ce dernier est un danger pour lui-même, d'autres sont convaincus qu'il ne serait pas impossible de voir émerger une espèce super conscience bienveillante, qui serait capable d'étouffer ce danger sans pour autant s'en prendre à l'humanité...
C'est comme si des machines finirait par naitre une espèce de divinité qui présiderait à nos destinées, pour le meilleur... Cette idée est à la fois plaisante et inquiétante...
Globalement, je pense surtout qu'on est totalement dans l'inconnu, et que comme d'habitude, l'homme joue avec le feu...