Pourquoi le futur n'a pas besoin de nous...1
Je me permets de vous livrer cette article de Bill Joy sur les nanotechnologies. C'est très long mais c'est un incontournable pour comprendre vraiment ce que représente cette nouvelle technologie.
POURQUOI LE FUTUR N’A PAS BESOIN DE NOUS...
par Bill Joy
Les technologies les plus puissantes du XXIe siècle : la robotique, le génie génétique et les nanotechnologies menacent d’extinction l’espèce humaine.
Mon implication dans le développement des nouvelles technologies s’est toujours accompagnée de préoccupations d’ordre éthique, et ce depuis le premier jour. Cependant, ce n’est qu’à l’automne 1998 que j’ai pris conscience des graves dangers que nous faisait courir le XXIe siècle. Les premiers symptômes de ce malaise profond sont apparus le jour de ma rencontre avec Ray Kurzweil, l’inventeur, au succès bien légitime, de maintes choses extraordinaires, dont le premier appareil permettant aux non-voyants de lire.
Ray et moi nous exprimions tous deux à la conférence « Telecosm » de George Gilder. Nos interventions respectives terminées, j’ai fait sa connaissance par hasard au bar de l’hôtel, où je me trouvais en conversation avec John Searle, un philosophe de Berkeley spécialiste de la conscience. C’est alors que Ray s’est approché, et qu’une conversation s’est engagée autour d’un thème qui, depuis lors, n’a cessé de me hanter.
J’avais raté l’intervention de Ray et la tribune qui avait suivi, dont John et lui étaient les invités. Or les voilà qui reprenaient le débat où ils l’avaient laissé. Ray affirmait que les progrès en matière de technologie allaient connaître une accélération de plus en plus rapide et que nous étions voués à devenir des robots, à fusionner avec nos machines ou quelque chose d’approchant. Soutenant qu’un automate n’est pas doué de conscience, John rejetait, quant à lui, cette idée.
Si ce genre de discours m’était relativement familier, les robots doués de sensation restaient pour moi du domaine de la science-fiction. Or, là, sous mes yeux, un individu qui présentait toutes les garanties de sérieux affirmait avec beaucoup de conviction l’imminence d’une telle perspective. J’étais interloqué. Surtout connaissant la capacité avérée de Ray à non seulement imaginer le futur, mais aussi à l’inventer de manière concrète. Qu’il fût alors devenu possible de refaire le monde en s’appuyant sur des technologies nouvelles comme le génie génétique ou les nanotechnologies [], cela n’était pas une surprise pour moi. Par contre, inscrire dans un avenir proche un scénario réaliste de robots « intelligents », voilà qui me laissait perplexe.
Ce genre de découvertes capitales perd vite de son piquant. Chaque jour ou presque, un bulletin d’informations nous informe d’une avancée supplémentaire dans un domaine ou un autre de la technologie ou des sciences. Reste qu’en ce cas précis, la prédiction se détachait du lot. Là, dans ce bar d’hôtel, Ray m’a remis un jeu d’épreuves extraites de son livre, The Age of Spiritual Machines, alors sur le point de paraître. Dans cet ouvrage, il traçait les grandes lignes d’une utopie visionnaire : une utopie selon laquelle, en s’unissant à la technologie robotique, l’être humain devenait une créature quasi immortelle. Au fil des pages, mon sentiment de malaise allait croissant : non seulement Ray, à coup sûr, minimisait les dangers d’une telle voie, mais il réduisait également l’importance de ses potentiels effets dévastateurs.
C’est alors que j’ai été bouleversé par un passage exposant en détail un scénario dystopique :
« Admettons que les chercheurs en informatique parviennent à développer des machines “intelligentes” capables de surpasser l’être humain en toute chose. Dès lors, l’ensemble du travail serait probablement assuré par des systèmes automatisés tentaculaires à l’organisation rigoureuse, lesquels rendraient superflu tout effort humain. En ce cas, de deux choses l’une : ou bien on laisse ces machines entièrement maîtresses de leurs décisions, libres de toute supervision par l’homme, ou bien c’est l’hypothèse du contrôle humain qui prévaut.
Face à la perspective d’unités laissées entièrement maîtresses d’elles-mêmes, dans la mesure où il est exclu d’en anticiper le comportement, nous nous garderons de toute spéculation sur un dénouement possible. Reste que dès lors, il convient de le souligner, le destin de l’humanité tomberait entre leurs mains. L’argument selon lequel jamais le genre humain n’aura la naïveté de s’en remettre totalement aux machines est recevable. Notre propos, toutefois, n’est pas davantage un scénario où l’homme investirait délibérément des pleins pouvoirs les machines, qu’un autre où celles-ci prendraient le pouvoir d’autorité. De fait, ce que nous redoutons, c’est une dérive rapide du genre humain vers une telle dépendance à l’égard de celles-ci, dont, concrètement, il ne lui resterait plus d’autre choix que d’accepter en bloc leurs décisions. A mesure que la complexité de la société et des problèmes auxquels elle doit faire face iront croissants, et à mesure que les dispositifs deviendront plus “intelligents”, un nombre toujours plus grand de décisions leur seront confiées. La raison en est simple : on obtiendra de meilleurs résultats. On peut même imaginer qu’à terme, les prises de décisions nécessaires à la gestion du système atteindront un degré de complexité tel qu’elles échapperont aux capacités de l’intelligence humaine. Ce jour-là, les machines auront effectivement pris le contrôle. Les éteindre ? Il n’en sera pas question. Etant donné notre degré de dépendance, ce serait un acte suicidaire. L’option alternative consisterait à asservir les machines au contrôle de l’homme. Si, dans une telle hypothèse, l’individu lambda conserve la maîtrise de certains appareils personnels tels que sa voiture ou son ordinateur, celle des systèmes de grande envergure devient le monopole d’une élite restreinte - comme c’est le cas aujourd’hui, mais à deux détails près. Avec l’évolution des techniques, cette élite exercera sur les masses un contrôle renforcé. Et puisqu’à ce stade la main-d’œuvre humaine ne sera plus nécessaire, les masses elles-mêmes deviendront superflues. Elles ne seront plus qu’un fardeau inutile alourdissant le système. Si l’élite en question est cruelle, il se peut qu’elle décide simplement d’exterminer l’humanité. Si elle est humaine, elle peut recourir à la propagande ou à d’autres techniques psychologiques ou biologiques, pour provoquer une chute du taux de natalité telle que la masse de l’humanité finirait par s’éteindre. L’élite pourrait alors imposer ses vues au reste du monde. Ou encore, serait-elle constituée de démocrates au cœur tendre, elle pourrait fort bien s’investir du rôle du berger menant avec bienveillance le reste de l’humanité. Ses tenants veilleront à ce que les besoins matériels soient satisfaits, à ce qu’une éducation soit assurée à tout enfant dans un climat psychologique sain, à ce que chacun s’occupe avec un passe-temps hygiénique et qu’enfin, quiconque s’estime mécontent subisse un “traitement” destiné à régler son “problème”. Bien entendu, la vie sera tellement vide de sens qu’il conviendra de soumettre les individus à des manipulations biologiques ou psychologiques, soit destinées à éradiquer toute velléité de pouvoir, soit à “sublimer” cette soif de pouvoir en quelque passe-temps inoffensif. Dans une telle société, ces êtres humains manipulés vivront peut-être heureux ; pour autant, la liberté leur sera clairement étrangère. On les aura réduits au rang d’animaux domestiques []
Publicité