Ça fait peur et ça avance très vite. Chaque fois que je lis ce genre d’article, je pense à Terminator. OK! c’est extrême comme pensée mais, comment voir autrement avec ce qui est prévu par tous ceux qui travaillent à connecter un cerveau à une machine ? Avec l’humain augmenté, on flirte avec la sur-humanité, où on se demande, quelle sera la place du fragile bipède. Les militaires sont très concernés par ces « avancées » et, nous ne sommes pas prêts de voir la fin des guerres. C’est pas inquiétant tout ça, avec tous les pays qui rivalisent pour ne pas se retrouver largués?.. Merci Françoise G.
Thierry Berthier est Maitre de Conférences en Mathématiques à l’Université de Limoges.. En dehors de tâches d‘enseignement, il anime le site Cyberland: Cyberespace, cyberdéfense, cybersécurité. Stratégies, Concurrences, duels et projections algorithmiques. Il est membre du comité de pilotage de Europe-solidaire.eu
Cyberland http://cyberland.centerblog.net/Jean-Paul Baquiast pour Automates Intelligents (AI)
Cher Thierry Berthier, depuis plusieurs mois déjà vous publiez le cyberland.centerblog.net qui est devenu une source précieuse, en français, permettant de porter un œil critique sur les développements les plus récents des systèmes dits notamment de cyberdéfense et de cyberattaque. Ceux-ci sont devenus aujourd’hui, sans que nous en soyons vraiment conscients, des acteurs considérables du monde numérisé dans lequel nous vivions.
Mais vous ne vous limitez pas à cela. Vous poursuivez des recherche dans la plupart des domaines qui font l’objet de nos propres réflexions et qui peuvent conduire à des êtres vivants « augmentés » selon la formule, hommes augmentés et sociétés augmentées en ce qui concerne les humains. Dans cette perspective, certains auteurs, comme Ray Kurzweil, responsable de l’ingénierie de Google et fondateur de l’Université de la Singularité, ont annoncé à échéance de quelques dizaines d’années la mise en place d’un cerveau global dans lesquels nos propres cerveaux joueront le rôle de neurones individuels.
Ces développements ne surviendront pas spontanément. Nous savons que certains des « grands du web » américain y travaillent activement, notamment Google avec Kurzweil. Mais il y aussi les militaires, et parmi eux l’agence de recherche du ministère de la défense des États-Unis, la Darpa. Vous estimez que cette agence est en fait aujourd’hui le moteur le plus efficace vers le passage à une société radicalement augmentée dite « société transhumaniste » ou transhumanisme. Le fait que des militaires, en principe soumis au secret défense, deviennent les pionniers du transhumanisme, et que de plus il s’agisse de militaires américains dont l’emprise sur le monde présent est déjà très forte, ne peut qu’inquiéter. Nous y reviendrons. Mais dans l’immédiat, pouvez vous nous rappeler ce qu’est la Darpa?
Thierry Berthier (TB):
La Darpa (Defense Advanced Research Projects Agency) est l’agence américaine en charge des projets de recherche avancés de défense. A l’origine de technologies de rupture à usage militaire et d’avancées majeures à impact mondial, l’agence fait figure aujourd’hui de grand précurseur de l’innovation. On lui doit en particulier le développement du réseau ARPANET qui est devenu l’internet actuel et le programme Transit en 1958, ancêtre du système GPS. Créée en 1958 elle s’impose à l’époque comme une réponse stratégique au programme soviétique Spoutnik qui avait pris de vitesse la recherche spatiale américaine.
AI. Qu’en est-il de ses innovations plus récentes, étant entendu que sa mission est de maintenir une avance technologique de plusieurs années, par rapport aux concurrentes du reste du monde, ceci au profit de l’armée américaine et, plus généralement des Etats-Unis ?
TB. Dès 1960, la Darpa mène des recherches sur les drones, avions sans pilote et vols hypersoniques. Plus tard elle oriente ses efforts sur la furtivité aérienne et lance dès 1970 plusieurs programmes d’avions furtifs. Elle est à l’origine des commandes de vol électrique, des ailes supercritiques et de la poussée vectorielle. Dans les années 1980, elle engage ses équipes de recherche sur les programmes Joint Strike Fighter JSF, E8 Joint Stars et poursuit son développement de drones, avec le Boeing X-37, le drone hypersonique, le Boeing SolarEagle.
AI. Signalons à propos du JSF que le programme est aujourd’hui considéré comme un échec industriel et un gouffre financier, même s’il a permis la mise au point d’un grands nombre de sous-ensemble innovants. Le Rafale français à fait mieux à un moindre prix, comme vient de le reconnaître concrètement l’Inde. Mais la Darpa investit dans d’autres domaines…
TB. Oui. Parmi ses projets actuels, on trouve de très nombreux programmes de robotique comme Big Dog et Cheetah développés par la filiale de Google Boston Dynamics pour le compte de la Darpa, comme Atlas le robot humanoïde, ou comme les exosquelettes motorisés XOS…Vous avez d’ailleurs rendu compte de ces réalisations dans vos articles. Depuis la création de l’agence, l’intelligence artificielle reste en effet un domaine de recherche prioritaire. La mémoire holographique et l’interface neuronale font l’objet de nombreux travaux.
AI. On peut remarquer que la Darpa, sur ces questions, bénéficie des financements de firmes telles que Google, laquelle a racheté récemment presque toutes les start-up (s) compétentes en AI et en robotique intelligente. Ceci montre bien l’interpénétration aux Etats-Unis du civil et du militaire. Mais qu’en est-il du transhumanisme?
TB. Le futur selon la Darpa est un futur résolument transhumaniste tourné vers l’augmentation de toutes les capacités humaines. L’armée américaine, comme annoncé par la National Science Foundation dès 2002, sera à l’horizon 2030 l’armée de la convergence NBIC (Nanotechnologies,Biotechnologies, Informatique, sciences Cognitives), de l’intelligence artificielle présente sur le champ de bataille et de la smart-guerre menées conjointement sur les espaces physiques et numériques. Les appels à contribution de recherche lancés cette année par la Darpa témoignent de l’engagement stratégique futuriste de l’agence. Le dernier rapport publié par la Darpa en mars 2015 (lien ci-dessous) donne les grandes orientations qui rejoignent souvent celles du projet global de Google. Ses projets évoquent clairement un engagement vers une pré-Singularité Technologique…
AI. Rappelons que, dans la terminologie de Kurzweil, le terme de Singularité désigne un moment où la convergence et le développement exponentiel des NBIC rendraient possibles d’innombrables solutions considérées aujourd’hui comme théoriques. Pouvez-vous évoquer certains de ces projets?
« Building Ressource Adaptative Software Systems »
TB. Oui. Prenons par exemple le programme de recherche Brass (Building Ressource Adaptative Software Systems) lancé tout récemment, en avril 2015. Ce programme a pour objectif de construire des applications logicielles capables de s’adapter aux changements de spécifications du projet sans aucune reprogrammation. Il s’agirait ainsi du premier logiciel capable de durer un siècle en restant performant et fonctionnel.
AI. Sur quoi reposerait cette capacité?
TB. Il s’agirait d’une véritable rupture technologique dans la course aux armements algorithmiques, autrement dit logiciels. L’utilisateur est aujourd’hui habitué aux cycles rapprochés de mise à jour des logiciels et à l’obsolescence programmée ou non des systèmes. Cette instabilité temporelle engendre de l’insécurité dans les applications de l’armée américaine. Dans l’absolu, un code adaptatif capable d’évoluer de manière autonome durant cent ans pourrait garantir une sécurité fondée sur la stabilité. Il permettrait de réaliser des économies importantes en terme de maintenance et développement. Le programme Brass qui s’étend sur quatre années doit donner naissance à des systèmes algorithmiques robustes, fonctionnels à très longue durée de vie. Ils s’adapteront dynamiquement aux changements de ressources dont ils dépendent et aux évolutions de l’environnement dans lequel ils opèrent.
Pour réaliser cet objectif, il faudra inventer de nouvelles méthodes de calcul formel et de nouvelles abstractions sémantiques. L’objectif de Brass est particulièrement ambitieux puisqu’il s’agit de construire des systèmes capables de suivre l’évolution de leurs environnements (numérique et physique), de mesurer et « comprendre » les mutations, d’évaluer les fonctionnalités manquantes avant adaptation puis à les développer de manière autonome.
AI. Il s’agirait ainsi d’un programme quasi-vivant, s’adaptant comme celui d’un système biologique aux changements de l’environnement, capable également de se réparer lui-même…Comme vous le dites, on se situe là en lisère d’une Singularité Technologique.
TB. En effet, le niveau d’intelligence artificielle impliquée dans le processus complexe de mise à niveau autonome du logiciel est forcément très élevé. Le code autonome qui évolue dans le temps en s’adaptant aux nouvelles demandes nécessite une remise en perspective totale des méthodes de calculs et des architectures actuelles. S’il devient réalité, il sera la meilleure réponse aux problèmes de cybersécurité puisque les mises à jour s’effectueront au même rythme que les cyberattaques. Du côté des hackers, il faudra utiliser le même type d’architecture adaptative évoluant en fonction de la défense des systèmes pour espérer tromper la cible. Les futurs duels seront algorithmiques et seulement algorithmiques.
AI. Certes. Mais si de telles propriétés demeurent la propriété exclusive des systèmes militaires (ou des hackers), alors qu’ils pourraient bénéficier à tout l’univers de la programmation, le risque politique sera considérable.
TB. La Darpa ne réserve pas aux seuls systèmes d’armes les innovations qu’elle promeut. Vous en avez un exemple avec les véhicules autonomes qu’elle a encouragés. Mais il est évident que l’armée américaine est la première bénéficiaire de ses recherches. Ainsi en est-il dans le cas des véhicules autonomes terrestres ou aériens visant à remplacer le personnel humain sur le champ de bataille.
AI. Pouvez-vous nous donner un autre exemple de quasi-Singularité à portée des recherches de la Darpa?
Un programme d’interface neuronale
TB. Je peux citer le programme Re-Net, visant à redonner de l’autonomie aux soldats américains blessés au combat, en perte d’autonomie, ou nécessitant la pose de prothèses à la suite d’ une amputation. L’interface neuronale réalise alors le lien entre la prothèse et le cerveau humain afin d’établir un neuro-contrôle de cette prothèse. Depuis 2010, de nombreux succès technologiques sont venus confirmer la pertinence de ce programme. On imagine sans peine que les résultats peuvent être adaptés à l’interfaçage neuronale d’individus non blessés dans un contexte d’augmentation des capacités cognitives. L’augmentation du handicapé est éthiquement admissible et globalement acceptée.
AI. Qu’en est-il d’une augmentation sur individu valide?
TB. Le programme Re-Net rencontre comme je l’indiquais au début de cet entretien la thématique majeure du transhumanisme. Google travaille d’ailleurs depuis quelques années sur le même type d’interface neuro-cloud destinées à connecter le cerveau humain à l’espace numérique. Il s’agit d’une tendance forte qui, selon Ray Kurzweil, devrait devenir opérationnelle à l’horizon 2030, c’est-à-dire dans une petite quinzaine d’années. Il ne faut pas perdre de vue que cette course vers l’humain augmenté est mondiale. La Darpa n’est pas la seule dans la compétition mais devra comme toujours, compter avec les avancées chinoises, russes, coréennes, japonaises et (peut-être) européennes.
Les premières nations qui maîtriseront cette technologie de rupture disposeront alors de capacités stratégiques nouvelles dont les effets et la puissance sont difficilement mesurables aujourd’hui. Celles qui n’auront pas engagé d’efforts de recherches dans le domaine auront définitivement perdu la course. Lorsque l’on parle de course, il faut la comprendre en terme de perte de souveraineté technologique, de perte de souveraineté nationale, et d’effondrement dans le classement mondial techno-économique. L’interfaçage neuronal constitue certainement le plus grand défi technologique du 21 ème siècle.
La Darpa le sait depuis plus d’une décennie. Elle prépare activement cette révolution et adapte l’infrastructure militaire américaine au changement de paradigme technologique.
AI. Vous évoquez ici les progrès que devront faire les autres pays pour rester au niveau de la Darpa, de l’armée américaine, de la NSA, de la CIA et finalement des grands du web américains qui sont associés aux précédents. Autant que nous puissions dire de cette question ici, ces progrès sont fort cahotiques et dispersés. Il est difficile de juger de ce que font la Chine et le Japon, mais concernant la Russie, l’Inde et bien évidemment l’Europe, peut-on affirmer que leurs chercheurs et leurs entreprises sont dans la course? L’intitulé des programmes financés par l’Union européenne dans ce domaine pourrait rassurer, mais à y regarder de près, en caricaturant un peu, on pourrait dire qu’ils forment des scientifiques ou bien encouragent des entreprises qui finalement entrent dans l’orbite américaine pour n’en plus sortir. Ne donnons pas d’exemple ici, mais ils sont nombreux.
TB. Si l’Europe se laisse distancer dans cette course technologique civile et militaire, elle perdra définitivement une grand partie de sa souveraineté. C’est certainement l’enjeu stratégique principal de ce début de 21 eme siècle.
Pour en savoir plus
Le rapport Darpa 2015 (format pdf) :
http://www.darpa.mil/WorkArea/DownloadAsset.aspx?id=2147488951Note au 14/04/1015
Les systèmes avancés de défense développés par la Darpa ne se limitent évidemment pas à ceux évoqués dans cet entretien. Voir par exemple un article de Spacewar.com http://www.spacewar.com/reports/New_DARPA_Programs_Simultaneously_Test_Limits_of_Technology_Credulity_999.html
Jean-Paul Baquiast pour Blog Médiapart
Voir du l’auteur:
Rencontre Vladimir Poutine-Roi Salman à Moscou
Psychotropes, meurtres et terrorisme.
Quand j’ai vu Pistorious aux JO avec ses protheses, j’me suis immédiatement dit: « Ah v’là le mec qui fait la pub, pour que des abrutis se fassent couper les pattes pour s’en faire greffer « des qui courent plus vite ». »
Les buts de la recherche scientifique qui n’a pas vraiment de frontière avec la technologie sont fondées majoritairement (grâce à la naïveté et la cupidité de ceux qui la développent) par la domination d’une infime élite sur le reste de l’humanité, l’extermination d’une de ses parties -jugée inutile- et la mise en esclavage de l’autre. Ce système intrinsèquement taré n’aura qu’un temps. Il faut espérer que ceux qui survivront -s’il en reste- à son effondrement en tireront les bonnes résolutions.