Passer au contenu

Comment les données alimentent le fascisme

Yuval Noah Harari explique très bien en quoi les données sont un enjeu de pouvoir, et donc pourquoi éviter leur concentration est indispensable à la sauvegarde de la démocratie.

La suite est reprise depuis le site de TED (je n’ai fait que traduire pour la version en Français).

Dans un discours profond sur la technologie et le pouvoir, l’auteur et historien Yuval Noah Harari explique la différence importante entre le fascisme et le nationalisme – et ce que la consolidation de nos données signifie pour l’avenir de la démocratie.

Apparaissant comme un hologramme en direct de Tel-Aviv, Harari avertit que le plus grand danger auquel fait face la démocratie libérale est que la révolution des technologies de l’information rendra les dictatures plus efficaces et capables de contrôle.

« Les ennemis de la démocratie libérale piratent nos sentiments de peur, de haine et de vanité, puis utilisent ces sentiments pour polariser et détruire », dit Harari. « Il est de la responsabilité de chacun d’entre nous de connaître nos faiblesses et de nous assurer qu’elles ne deviennent pas des armes. »

(Suivi d’une brève conversation avec le conservateur de TED, Chris Anderson)

Transcription

Bonjour à tous. C’est drôle, parce que j’ai écrit que les humains deviendraient numériques, mais je ne pensais pas que ça arriverait si vite et que ça m’arriverait. Mais je suis ici, en tant qu’avatar numérique, et vous voilà, alors commençons. Et commençons par une question. Combien de fascistes y a-t-il dans le public aujourd’hui ?

Eh bien, c’est un peu difficile à dire, car nous avons oublié ce qu’est le fascisme. Les gens utilisent maintenant le terme « fasciste » comme une sorte d’abus à des fins générales. Ou ils confondent fascisme et nationalisme. Prenons donc quelques minutes pour clarifier ce qu’est réellement le fascisme et comment il est différent du nationalisme.

Les formes les plus douces du nationalisme ont été parmi les créations humaines les plus bienveillantes. Les nations sont des communautés de millions d’étrangers qui ne se connaissent pas vraiment. Par exemple, je ne connais pas les huit millions de personnes qui partagent ma citoyenneté israélienne. Mais grâce au nationalisme, nous pouvons tous nous soucier les uns des autres et coopérer efficacement. C’est très bien. Certaines personnes, comme John Lennon, imaginent que sans le nationalisme, le monde sera un paradis paisible. Mais beaucoup plus probable, sans le nationalisme, nous aurions vécu dans le chaos tribal. Si vous regardez aujourd’hui les pays les plus prospères et pacifiques du monde, des pays comme la Suède, la Suisse et le Japon, vous verrez qu’ils ont un très fort sentiment de nationalisme. En revanche, les pays qui n’ont pas un fort sentiment de nationalisme, comme le Congo, la Somalie et l’Afghanistan, ont tendance à être violents et pauvres.

Alors, qu’est-ce que le fascisme, et en quoi est-ce différent du nationalisme ? Eh bien, le nationalisme me dit que ma nation est unique et que j’ai des obligations spéciales envers ma nation. Le fascisme, au contraire, me dit que ma nation est suprême et que j’ai des obligations exclusives à son égard. Je n’ai pas besoin de m’occuper de personne ou de quelque chose d’autre que ma nation. Habituellement, bien sûr, les gens ont beaucoup d’identités et de loyautés envers différents groupes. Par exemple, je peux être un bon patriote, loyal envers mon pays, et en même temps, être loyal envers ma famille, mon voisinage, ma profession, l’humanité dans son ensemble, la vérité et la beauté. Bien sûr, quand j’ai des identités et des loyautés différentes, cela crée parfois des conflits et des complications. Mais, bien, qui vous a jamais dit que la vie était facile ? La vie est compliquée. Faites avec.

Le fascisme est ce qui arrive quand les gens essaient d’ignorer les complications et de rendre la vie trop facile pour eux-mêmes. Le fascisme nie toutes les identités à l’exception de l’identité nationale et insiste sur le fait que j’ai des obligations seulement envers ma nation. Si ma nation exige que je sacrifie ma famille, alors je sacrifierai ma famille. Si la nation exige que je tue des millions de personnes, alors je tuerai des millions de personnes. Et si ma nation exige que je trahisse la vérité et la beauté, alors je devrais trahir la vérité et la beauté. Par exemple, comment un fasciste évalue-t-il l’art ? Comment un fasciste peut-il décider si un film est un bon film ou un mauvais film ? Eh bien, c’est très, très, très simple. Il n’y a vraiment qu’un critère : si le film sert les intérêts de la nation, c’est un bon film ; si le film ne sert pas les intérêts de la nation, c’est un mauvais film. C’est tout. De même, comment un fasciste décide-t-il de ce qu’il faut enseigner aux enfants à l’école ? Encore une fois, c’est très simple. Il n’y a qu’un critère : vous enseignez aux enfants tout ce qui sert les intérêts de la nation. La vérité n’a pas d’importance du tout.

Maintenant, les horreurs de la Seconde Guerre mondiale et de l’Holocauste nous rappellent les terribles conséquences de cette façon de penser. Mais habituellement, quand nous parlons des maux du fascisme, nous le faisons de manière inefficace, parce que nous avons tendance à dépeindre le fascisme comme un monstre hideux, sans vraiment expliquer ce qui était si séduisant. C’est un peu comme ces films hollywoodiens qui dépeignent les méchants – Voldemort ou Sauron ou Dark Vador – comme laids, méchants et cruels. Ils sont cruels même envers leurs propres partisans. Quand je vois ces films, je ne comprends jamais – pourquoi quelqu’un serait-il tenté de suivre un être dégoûtant comme Voldemort ? Le problème avec le mal est que dans la vie réelle, le mal n’a pas nécessairement l’air laid. Cela peut paraître très beau. C’est quelque chose que le christianisme connaissait très bien, c’est pourquoi dans l’art chrétien, par opposition à Hollywood, Satan est généralement représenté comme un bel individu. C’est pourquoi il est si difficile de résister aux tentations de Satan, et pourquoi il est aussi difficile de résister aux tentations du fascisme.

Le fascisme fait que les gens se considèrent comme appartenant à la chose la plus belle et la plus importante du monde : la nation. Et puis les gens pensent : « Eh bien, ils nous ont appris que le fascisme est moche, mais quand je me regarde dans le miroir, je vois quelque chose de très beau, alors je ne peux pas être un fasciste, n’est-ce pas ? » Faux. C’est le problème du fascisme. Quand vous regardez dans le miroir fasciste, vous vous voyez plus beau que vous ne l’êtes réellement. Dans les années 1930, lorsque les Allemands ont regardé dans le miroir fasciste, ils ont vu l’Allemagne comme la plus belle chose au monde. Si aujourd’hui les Russes regardent dans le miroir fasciste, ils verront la Russie comme la plus belle chose du monde. Et si les Israéliens regardent dans le miroir fasciste, ils verront Israël comme la plus belle chose du monde. Cela ne signifie pas que nous sommes maintenant confrontés à une reprise des années 1930.

Le fascisme et les dictatures pourraient revenir, mais ils reviendront sous une nouvelle forme, une forme beaucoup plus adaptée aux nouvelles réalités technologiques du XXIe siècle. Dans les temps anciens, la terre était l’atout le plus important dans le monde. La politique était donc la lutte pour contrôler la terre. Et la dictature signifiait que toute la terre appartenait à un seul souverain ou à un petit groupe d’oligarques. Puis à l’époque moderne, les machines sont devenues plus importantes que la terre. La politique est devenue la lutte pour contrôler les machines. Et la dictature signifiait que trop de machines étaient concentrées entre les mains du gouvernement ou d’une petite élite. Maintenant, les données remplacent à la fois la terre et les machines comme l’atout le plus important. La politique devient la lutte pour contrôler les flux de données. Et la dictature signifie maintenant que trop de données sont concentrées entre les mains du gouvernement ou d’une petite élite.

Le plus grand danger auquel fait face la démocratie libérale est que la révolution des technologies de l’information rendra les dictatures plus efficaces que les démocraties.

Au XXe siècle, la démocratie et le capitalisme ont vaincu le fascisme et le communisme parce que la démocratie était mieux à même de traiter les données et de prendre des décisions. Compte tenu de la technologie du XXe siècle, il était simplement inefficace d’essayer de concentrer trop de données et de trop de puissance en un seul endroit.

Mais ce n’est pas une loi de la nature que le traitement centralisé des données soit toujours moins efficace que le traitement des données distribuées. Avec l’avènement de l’intelligence artificielle et de l’apprentissage automatique, il devient possible de traiter très efficacement d’énormes quantités d’informations en un seul endroit, de prendre toutes les décisions en un seul endroit, puis le traitement centralisé des données sera plus efficace. Et puis le principal handicap des régimes autoritaires du 20ème siècle – leur tentative de concentrer toutes les informations en un seul endroit – deviendra leur plus grand avantage.

Un autre danger technologique qui menace l’avenir de la démocratie est la fusion de la technologie de l’information et de la biotechnologie, qui pourrait aboutir à la création d’algorithmes qui me connaissent mieux que je ne me connais moi-même. Et une fois que vous avez de tels algorithmes, un système externe, comme le gouvernement, ne peut pas simplement prédire mes décisions, il peut aussi manipuler mes sentiments, mes émotions. Un dictateur peut ne pas être en mesure de me fournir de bons soins de santé, mais il sera capable de se faire aimer et de me faire haïr l’opposition. La démocratie aura du mal à survivre à un tel développement car, finalement, la démocratie ne repose pas sur la rationalité humaine ; elle est basée sur des sentiments humains. Pendant les élections et les référendums, on ne vous demande pas: « Que pensez-vous ? » On vous demande en fait: « Comment vous sentez-vous? » Et si quelqu’un peut manipuler efficacement vos émotions, la démocratie deviendra un spectacle de marionnettes émotives.

Alors que pouvons-nous faire pour empêcher le retour du fascisme et la montée de nouvelles dictatures ? La première question à laquelle nous sommes confrontés est : « Qui contrôle les données ? » Si vous êtes ingénieur, trouvez des moyens d’éviter que trop de données soient concentrées dans trop peu de mains. Et trouvez des moyens de s’assurer que le traitement des données distribuées est au moins aussi efficace que leur traitement centralisé. Ce sera la meilleure garantie pour la démocratie. Pour le reste d’entre nous qui ne sommes pas ingénieurs, la première question à laquelle nous sommes confrontés est de savoir comment ne pas nous laisser manipuler par ceux qui contrôlent les données.

Les ennemis de la démocratie libérale ont une méthode. Ils piratent nos sentiments. Pas nos courriels, pas nos comptes bancaires – ils piratent nos sentiments de peur et de haine et de vanité, puis utilisent ces sentiments pour polariser et détruire la démocratie de l’intérieur. C’est en fait une méthode que la Silicon Valley a inventée pour nous vendre des produits. Mais maintenant, les ennemis de la démocratie utilisent cette même méthode pour nous vendre la peur, la haine et la vanité. Ils ne peuvent pas créer ces sentiments à partir de rien. Donc, ils apprennent à connaître nos propres faiblesses préexistantes. Et puis les utiliser contre nous. Et c’est donc la responsabilité de chacun d’entre nous de connaître nos faiblesses et de nous assurer qu’elles ne deviennent pas une arme entre les mains des ennemis de la démocratie.

Apprendre à connaître nos propres faiblesses nous aidera aussi à éviter le piège du miroir fasciste. Comme nous l’avons expliqué plus tôt, le fascisme exploite notre vanité. Cela nous fait voir que nous sommes beaucoup plus beaux que nous ne le sommes réellement. C’est la séduction. Mais si vous vous connaissez vraiment, vous ne tomberez pas dans ce genre de flatterie. Si quelqu’un met un miroir devant vos yeux qui cache tous vos vilains morceaux et vous fait voir comme plus beau et plus important que vous ne l’êtes vraiment, il suffit de briser ce miroir.

Je vous remercie.

Questions

Chris Anderson : Yuval, merci. C’est tellement agréable de vous revoir. Donc, si je vous comprends bien, vous nous alertez à deux grands dangers ici. L’un est la résurgence possible d’une forme séduisante de fascisme, et l’autre, des dictatures qui ne sont peut-être pas fascistes, mais contrôlent toutes les données. Je me demande s’il y a une troisième préoccupation que certaines personnes ont déjà exprimée, à savoir où, pas les gouvernements, mais les grandes sociétés contrôlent toutes nos données. Comment appelez-vous cela, et à quel point devrions-nous être inquiets à ce sujet ?

Yuval Noah Harari : Eh bien, en fin de compte, il n’y a pas une si grande différence entre les sociétés et les gouvernements, parce que, comme je l’ai dit, les questions sont : « Qui contrôle les données ? » Si vous appelez cela une société ou un gouvernement – si c’est une société et qu’elle contrôle vraiment les données, c’est notre vrai gouvernement. Donc, la différence est plus apparente que réelle.

CA : Mais d’une façon ou d’une autre, au moins avec les entreprises, vous pouvez imaginer des mécanismes de marché où ils peuvent être supprimés. Je veux dire, si les consommateurs décident simplement que l’entreprise ne fonctionne plus dans leur intérêt, cela ouvre la porte à un autre marché. Il semble plus difficile d’imaginer, disons, que les citoyens se lèvent et démolissent un gouvernement qui contrôle tout.

YNH : Eh bien, nous n’en sommes pas encore là, mais encore une fois, si une société vous connaît vraiment mieux que vous ne vous connaissez vous-même – au point qu’elle peut manipuler vos propres émotions et vos désirs les plus profonds – vous ne réaliserez même pas que ce n’est pas votre « moi authentique ». Donc en théorie, oui, on peut s’élever contre une entreprise, tout comme, en théorie, on peut se dresser contre une dictature. Mais en pratique, c’est extrêmement difficile.

CA : Donc, dans « Homo Deus », vous soutenez que ce serait le siècle où les humains sont devenus des dieux, soit par le développement de l’intelligence artificielle, soit par le génie génétique. Cette perspective de changement de système politique a-t-elle eu un impact sur votre vision de cette possibilité ?

YNH : Eh bien, je pense que c’est encore plus probable, et plus probable que cela se produise plus rapidement, car en temps de crise, les gens sont prêts à prendre des risques qu’ils n’auraient pas autrement pris. Et les gens sont prêts à essayer toutes sortes de technologies à risque et gains élevés. Ce genre de crises pourrait donc avoir la même fonction que les deux guerres mondiales du XXe siècle. Les deux guerres mondiales ont grandement accéléré le développement de technologies nouvelles et dangereuses. Et la même chose pourrait arriver au 21ème siècle. Je veux dire, vous devez être un peu fou pour courir trop vite, disons, avec le génie génétique. Mais maintenant vous avez de plus en plus de fous en charge de différents pays dans le monde, donc les chances deviennent plus élevées, pas plus basses.

CA : Donc, tout cela ensemble, Yuval, vous avez cette vision unique. Avançons l’horloge de 30 ans. Quelle est votre estimation – est-ce que l’humanité, en quelque sorte, racle, regardera en arrière et dira: « Waouh, c’était un risque, mais nous y sommes arrivés ! » Ou pas ?

YNH : Jusqu’à présent, nous avons réussi à surmonter toutes les crises précédentes. Et surtout si vous regardez la démocratie libérale et que vous pensez que les choses sont mauvaises maintenant, rappelez-vous à quel point les choses étaient pires en 1938 ou en 1968. Donc, ce n’est vraiment rien, ce n’est qu’une petite crise. Mais vous ne pouvez jamais savoir, parce que, en tant qu’historien, je sais que vous ne devriez jamais sous-estimer la bêtise humaine. C’est l’une des forces les plus puissantes qui façonnent l’histoire.

CA : Yuval, c’est un plaisir absolu de vous avoir avec nous. Merci d’avoir fait le voyage virtuel. Passez une bonne soirée à Tel Aviv. Yuval Harari !

YNH : Merci beaucoup.

Soyez le Premier à Commenter

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.