S’exprimant à la tribune de l’Assemblée générale de l'ONU, Boris Johnson met en garde contre les dangers des nouvelles technologies

Aujourd’hui vous pouvez cacher des choses à vos amis, vos parents, vos enfants et même votre médecin, mais pas à Google, a-t-il dit.

Les technologies peuvent être utilisées pour surveiller chaque citoyen 24 heures sur 24 et demain, votre réfrigérateur pourra décider pour vous du choix de votre menu.

Un orage va éclater, a prédit M. Johnson, et nous ne savons pas comment le maîtriser. Nous ne savons pas qui va utiliser les ressources et les algorithmes. Nous ne savons pas si ces machines ont été programmées pour nous mentir, d’autant que, dans certains cas, l’autoritarisme numérique est déjà une réalité.

Il s’agit donc de savoir si demain, nous vivrons dans un monde orwellien ou dans un monde émancipé de débat et d’accès au savoir, a déclaré le Premier Ministre britannique.

Monsieur le Président, Excellences, Mesdames et Messieurs, fidèle audience de fin de soirée.

Il est de coutume que le Premier ministre britannique se présente devant les Nations Unies et s’engage à promouvoir nos valeurs et à défendre nos règles, les règles d’un monde pacifique. Protéger la liberté de navigation dans le Golfe. Persévérer dans la tâche vitale de parvenir à une solution à deux États du conflit du Moyen-Orient. Et bien sûr, je suis fier de faire toutes ces choses.

Mais personne ne peut ignorer une force de rassemblement qui redéfinit l'avenir de chaque membre de cette Assemblée. Il n'y a rien eu de pareil dans l'histoire Quand je pense aux grandes révolutions scientifiques du passé - l’imprimé, la machine à vapeur, l’aviation, l’ère atomique - je pense aux nouveaux outils que nous avons acquis mais sur lesquels nous, la race humaine, avions l’avantage, Que nous avons contrôlé. Ce n'est pas nécessairement le cas à l'ère numérique.

Vous pouvez garder des secrets de vos amis, de vos parents, de vos enfants, de votre médecin - même de votre entraîneur personnel - mais il faut un réel effort pour dissimuler vos pensées à Google. Et si cela est vrai aujourd'hui, à l'avenir, il n'y aura peut-être nulle part où se cacher.

Les villes intelligentes tireront avec des capteurs, tous reliés par « l'internet des objets », des bornes communiquant de manière invisible avec des lampadaires. Donc, il y a toujours une place de parking pour votre voiture électrique, de sorte qu'aucune poubelle ne soit laissée libre, aucune rue non balayée, et l'environnement urbain est aussi antiseptique qu'une pharmacie zurichoise.

Mais cette technologie pourrait également être utilisée pour garder chaque citoyen sous surveillance permanente. Une future Alexa prétendra prendre les commandes. Mais cette Alexa vous surveillera, gloussant sa langue et frappant du pied.

Dans le futur, la connectivité vocale sera dans toutes les pièces et presque tous les objets : votre matelas surveillera vos cauchemars; votre réfrigérateur émettra un bip pour plus de fromage; votre porte d'entrée s'ouvrira au moment où vous vous approcherez, comme un majordome silencieux; votre compteur intelligent ira bousculer - s'il est d'accord - pour l'électricité la moins chère.

Et chacun d'entre eux transcrit minutieusement chacune de vos habitudes dans une sténographie électronique minuscule, stockée, non pas dans leurs puces ni dans leurs entrailles - nulle part ailleurs, vous la trouverez, mais dans un grand nuage de données qui imprègne de plus en plus la race humaine. Un énorme nuage noir en attente d'éclater.

Et nous n'avons aucun contrôle sur comment et quand les précipitations auront lieu. Et chaque jour que nous tapons sur notre téléphone ou travaillons sur nos ipads - comme certains d'entre vous le font maintenant -, nous laissons non seulement notre fléau indélébile dans l’éther, mais nous devenons nous-mêmes une ressource. Clic par clic, frappe par frappe. Tout comme la période carbonifère créait une richesse indescriptible - feuille par feuille en décomposition - en hydrocarbures.

Les données sont le pétrole brut de l'économie moderne et nous sommes maintenant dans un environnement où nous ne savons pas qui devrait posséder ces nouveaux champs de pétrole. Nous ne savons pas toujours qui devrait avoir les droits ou le titre sur cette foutue trésorerie. Et nous ne savons pas qui décide comment utiliser ces données.

Peut-on faire confiance à ces algorithmes avec nos vies et nos espoirs ? Les machines - et seulement les machines - doivent-elles décider si nous sommes éligibles à un prêt hypothécaire ou à une assurance ? Ou quelle chirurgie ou quels médicaments devrions-nous recevoir ? Sommes-nous condamnés à un avenir froid et sans cœur dans lequel l'ordinateur dit oui - ou l'ordinateur dit non ? Avec la finalité d'un empereur dans l'arène ?

Comment plaidez-vous avec un algorithme ? Comment l'obtenir pour voir les circonstances atténuantes ? Et comment savons-nous que les machines n'ont pas été programmées insidieusement pour nous duper ou même pour nous tromper ?

Nous utilisons déjà toutes sortes de services de messagerie offrant une communication instantanée à un coût minimal. Les mêmes programmes, plates-formes, pourraient également être conçus pour la censure en temps réel de chaque conversation, les mots offensants étant automatiquement supprimés, ce qui se produit même dans certains pays.

L’autoritarisme numérique n’est pas, hélas, l’essence d’un fantasme dystopique, mais d’une réalité émergente.

La raison pour laquelle je prononce ce discours aujourd'hui, c'est que le Royaume-Uni est l'un des leaders mondiaux de la technologie - et je pense que les gouvernements ont tout simplement été pris au dépourvu par les conséquences inattendues de l'internet ; Une percée scientifique plus profonde dans son impact psychologique quotidien que toute autre invention depuis Gutenberg.

Et quand vous considérez combien de temps il a fallu pour que les livres soient généralisés, l'arrivée d'Internet est bien plus grande que l'imprimé. Il est plus grand que l'âge atomique - Mais c’est comme l’énergie nucléaire dans la mesure où elle est capable à la fois de bien et de mal, bien sûr, elle n’est pas seule.

Alors que les nouvelles technologies semblent se diriger vers nous de très loin, nous nous fatiguons les yeux au fur et à mesure pour déterminer si elles sont bonnes ou mauvaises - amies ou ennemis ?

AI - qu'est-ce que ça veut dire ? Des robots utiles pour laver et soigner une population vieillissante ? ou des terminateurs aux yeux roses renvoyés du futur pour abattre la race humaine ? Que signifie la biologie synthétique - restaurer nos foies et nos yeux avec une régénération miracle des tissus, comme un remède fantastique contre la gueule de bois ? ou apportera-t-elle des poulets terrifiants, sans membres, à nos tables ? La nanotechnologie nous aidera-t-elle à vaincre la maladie ou laissera-t-elle de minuscules robots se répliquer dans les crevasses de nos cellules ?

C’est un trope aussi vieux que la littérature que toute avance scientifique est punie par les dieux.

Lorsque Prométhée a mis le feu à l'humanité dans un tube de fenouil, comme vous vous en souvenez peut-être, Zeus l'a puni en l'enchaînant à un rocher tartare pendant que son foie était picoré par un aigle. Et chaque fois que son foie regarnissait, l’aigle revenait et le picorait à nouveau. Et cela a duré éternellement - un peu comme l'expérience du Brexit au Royaume-Uni, si certains de nos parlementaires réussissaient.

En fait, c’était une pratique poétique classique de maudire les heurètes des protos - la personne responsable de toute percée scientifique ou technique. Si seulement ils n'avaient jamais inventé le navire, alors Jason n'aurait jamais navigué vers Colchis et toutes sortes de catastrophes ne se seraient jamais produites. Et c’est un instinct humain profond de se méfier de tout progrès technique.

En 1829, ils pensèrent que le corps humain ne résisterait pas aux vitesses atteintes par la fusée de Stephenson. Et il y a aujourd'hui des gens qui sont encore anti-science. Tout un mouvement appelé anti-Vaxxers, qui refuse de reconnaître la preuve que les vaccinations ont éradiqué la variole et qui, par leurs préjugés, mettent en danger les enfants mêmes qu’ils veulent protéger. Et je rejette totalement ce pessimisme anti-scientifique.

Je suis profondément optimiste quant à la capacité des nouvelles technologies à servir de libérateurs et à refaire le monde de manière merveilleuse et bienfaisante. En effet, à bien des égards, la technologie le fait déjà.

Aujourd'hui, la nanotechnologie - comme je l'ai mentionné précédemment - révolutionne la médecine en concevant des robots d'une fraction de la taille d'un globule rouge, capables de nager dans notre corps, de dispenser des médicaments et d'attaquer des cellules malignes comme une armada de Star Wars. La technologie d'interface neuronale produit une nouvelle génération d'implants cochléaires, permettant d'offrir une audition à des personnes qui autrement ne pourraient pas entendre la voix de leurs enfants.

Une société de technologie londonienne a trouvé un moyen d’aider les aveugles à naviguer plus librement avec rien de plus qu’une application sur leurs smartphones - Les nouvelles technologies, produites en Grande-Bretagne, aident les sourds à entendre et les aveugles à voir. Et nous avions l'habitude de penser que l'impression était quelque chose que vous avez fait pour utiliser une carte d'embarquement. Une entreprise britannique utilise maintenant l’impression 3D pour fabriquer un moteur capable de propulser une fusée dans l’espace.

Dans les pays africains, des millions de personnes sans compte bancaire peuvent désormais transférer de l'argent en utilisant une application simple. ils peuvent acheter de l’énergie solaire et passer d’une transaction à une autre, de l’absence d’électricité à l’énergie verte. Et les nouvelles avancées rendent les énergies renouvelables toujours moins chères, contribuant ainsi à notre lutte commune contre le changement climatique.

Notre compréhension du monde naturel est en train d'être transformée par le séquençage du génome. La découverte de l'essence même de la vie elle-même, du code génétique secret qui anime l'esprit de chaque être vivant et permet des percées médicales telles que nous ne les avons jamais connues. Des traitements adaptés à la constitution génétique précise de l'individu.

Jusqu'à présent, nous avons découvert les secrets de moins de 0,3% de la vie complexe sur la planète. Pensez à ce que nous allons réaliser quand - et c'est une question de savoir quand - nous comprendrons 1 ou 2%, sans parler de 5 ou 10%.

Cependant, la manière dont nous concevons les technologies émergentes à l’origine de ces avancées - et les valeurs qui guident leur conception - façonnera l’avenir de l’humanité. C’est ce que je voulais dire pour vous ce soir, mes amis, Excellences. Il s’agit de savoir si nous léguerons un monde orwellien, conçu pour la censure, la répression et le contrôle, ou un monde d’émancipation, de débat et d’apprentissage, où la technologie menacera la famine et la maladie, mais non. nos libertés.

Il y a sept décennies, cette Assemblée générale a adopté la Déclaration universelle des droits de l'homme sans voix dissidente, unissant l'humanité pour la première et peut-être la seule fois derrière un ensemble de principes. Et notre déclaration - notre déclaration commune - défend la « liberté d'opinion et d'expression », la « vie privée » du « domicile ou la correspondance » et le droit de « chercher… et de communiquer des informations et des idées ».

À moins de veiller à ce que les nouvelles technologies reflètent cet esprit, je crains que notre déclaration ne veuille rien dire et ne tienne plus.

La mission du Royaume-Uni et de tous ceux qui partagent nos valeurs doit donc être de veiller à ce que les technologies émergentes soient conçues dès le départ pour la liberté, l'ouverture et le pluralisme, avec les garanties appropriées en place pour protéger nos peuples.

Mois après mois, des décisions cruciales sont prises par les comités académiques, les salles de conseil d'entreprise et les groupes de normalisation de l'industrie. Ils écrivent les règles du futur, portent des jugements éthiques, choisissent ce qui sera rendu possible ou non. Ensemble, nous devons nous assurer que les nouvelles avancées reflètent nos valeurs dès la conception.

L’UE, le Commonwealth et, bien entendu, les Nations Unies, dont le rôle est vital, s’efforcent de veiller à ce qu’aucun pays ne soit exclu des formidables avantages de cette technologie et de la révolution industrielle qu’elle entraîne.

Mais nous devons être encore plus ambitieux. Nous devons trouver le juste équilibre entre liberté et contrôle, entre innovation et réglementation, entre l'entreprise privée et le contrôle du gouvernement. Nous devons insister sur le fait que les jugements éthiques inhérents à la conception de nouvelles technologies sont transparents pour tous. Et nous devons faire entendre notre voix plus fort dans les organismes de normalisation qui rédigent les règles.

Avant tout, nous devons convenir d’un ensemble commun de principes mondiaux pour définir les normes et standards qui guideront le développement des technologies émergentes.

Alors, voici la bonne nouvelle, je vous invite l'année prochaine à un sommet à Londres, une ville merveilleuse où, d'ailleurs, il ne pleut pas 94% du temps et où, à un moment donné - quand j'étais maire de Londres - nous avons découvert que nous avions plus de restaurants étoilés Michelin que Paris. Les Français se sont rapidement rétablis - selon un processus que je n’étais pas tout à fait sûr d’être tout à fait juste. Mais nous avons toujours de loin, au Royaume-Uni, de loin le plus grand secteur technologique - technologies financières, biotechnologies, technologies médicales, nanotechnologies, technologies vertes - toutes les technologies à Londres - le plus grand secteur technologique d'Europe, peut-être un demi-million de personnes travaillant dans la technologie seule.

J'espère que vous viendrez là où nous chercherons à réunir la coalition la plus large possible pour faire avancer cette tâche vitale, en misant sur tout ce que le Royaume-Uni peut contribuer à cette mission en tant que leader mondial des technologies éthiques et responsables.

Si nous relevons ce défi - et je ne doute pas que nous pourrons le faire -, nous ne ferons pas que sauvegarder nos idéaux, nous dépasserons les limites qui jadis contraignaient l’humanité et triomphaient des périls qui ont mis fin à tant de vies.

Ensemble, nous pouvons vaincre des maladies mortelles, éliminer la famine, protéger l'environnement et transformer nos villes.

Le succès dépendra, comme toujours, de la liberté, de l’ouverture et du pluralisme, formule qui non seulement émancipe l’esprit humain, mais libère également l’ingéniosité sans bornes et l’inventivité de l’humanité, et que le Royaume-Uni s’efforce surtout de préserver et de faire progresser.

Excellences, Mesdames et Messieurs, merci de votre aimable attention.

• SOURCE : Le Gouvernement britannique.