Yuval Harari : « Il faut empêcher l’intelligence artificielle d’interagir en se faisant passer pour un humain »

Phrases importantes tirées d’une interview de Yuval Harari au ton prudent face au basculement vers l’IA

Harari a souligné que, dans de nombreux pays démocratiques, la crise de l’espace public est alimentée par des algorithmes et des chatbots qui s’immiscent dans les conversations des gens pour diffuser de fausses informations et des théories du complot. Il a déclaré que la question de distinguer les bots est importante, car il est difficile de préserver la démocratie si l’on ne sait pas si l’on parle à une personne ou à un bot.

« Indépendamment de la contribution de l’IA, toutes les données sont imprégnées de biais. Mais selon les efforts fournis, il n’est pas impossible de s’en affranchir. Dans les inégalités liées à l’IA, il existe un problème comparable au début de la révolution industrielle, où un petit nombre de pays ont envahi et dominé le reste du monde. Il a fallu plus de 100 ans aux autres pays pour combler cet écart, et le même phénomène pourrait se reproduire avec l’IA. »

« L’IA accélère de plus en plus le rythme de la vie et du changement. Tout le monde ressent de l’anxiété et une forme de compulsion. C’est la tension entre le rythme biologique, organique, de l’être humain et celui, inorganique, de l’ordinateur. La vie organique suit des cycles — activité, repos, sommeil —, tandis que les ordinateurs restent allumés en permanence. À mesure que l’IA s’intègre dans toujours plus de domaines et imprègne la société, nous sommes nous aussi contraints de nous adapter au rythme des machines. Cela va au-delà de l’anxiété : c’est dangereux. Si les humains, qui sont des organismes vivants, restent en permanence “allumés” comme des machines, ils finissent par s’effondrer. »

[nuthatch]

Ainsi, en m’appuyant sur ce qui avait été publié la dernière fois,
j’ai demandé à ChatGPT, lorsqu’il répond, d’indiquer ses sources et d’exclure toute opinion.
Malgré cela, sur d’autres aspects, il semble encore plus humain qu’un humain, ce qui est déstabilisant.