Gareth Edwards, le réalisateur du prochain film de science-fictionLe créateur, a partagé ses réflexions sur la manière dont les décès causés par l'intelligence artificielle (IA) pourraient devenir un problème notable dans le monde réel.
Alors que l’IA est encore en développement à travers le monde, nombreux sont ceux qui s’expriment haut et fort sur le danger que cette technologie pourrait représenter.
Certaines des inquiétudes les plus manifestes remettent en question la sécurité de l’IA contrôlant des véhicules autonomes, par exemple.
DansLe créateurL’intelligence artificielle est apparue plus tôt dans l’histoire et fait désormais partie de la vie quotidienne des gens du monde entier. Cependant, aux États-Unis, quelque chose tourne mal et une ogive nucléaire est déclenchée à Los Angeles.
Le directeur des créateurs sur les dangers de l'IA
Russ Milheim de The Direct s'est entretenu en exclusivité avecLe créateurle réalisateur Gareth Edwards à propos de son prochain film de science-fiction, où il met en garde contre les dangers de l'IA dans le monde moderne.
Avant de donner cet avertissement, The Direct a demandé au réalisateur s'il pouvait expliquer ce qui s'est passé exactement dans le monde fictif du film avec l'IA et l'explosion nucléaire catastrophique à Los Angeles. Le cinéaste a confirmé que ces détails sont« volontairement laissé au public : »
« Oui, l'événement est... les détails sont volontairement laissés au public, car ce n'est pas le cas. Quoi que nous ayons fait pour les détails de cet événement, ce n'était pas important pour l'histoire. »
Edwards a expliqué qu'il essayait de penser à un scénario qui aboutirait à ce que toute la nation interdise véritablement l'IA. Il a commencé par réfléchir à« voitures autonomes »à« Si [l’IA sur] un avion avait un problème : »
« … Ce que je voulais surtout faire, c’est que ce soit l’équivalent de voitures autonomes équipées d’intelligence artificielle, et si une voiture tombe en panne, elle tuerait peut-être une ou deux personnes, n’est-ce pas ? Est-ce qu’on interdirait alors l’intelligence artificielle ? Je ne sais pas. Et puis on se dit : « Et si un avion tombait en panne ? À cause de l’intelligence artificielle à bord ? Est-ce qu’on l’interdirait des avions ? Peut-être ? Peut-être pas ? » Et puis, on se dit : « Et si un équipement militaire doté d’une capacité nucléaire faisait quelque chose qui causait une catastrophe ? » Nous l’interdirions alors sans hésiter. »
Edwards a averti qu'une situation catastrophique"viendra"dans le monde réel, même si c'est« pas la version nucléaire. »
Il a poursuivi en expliquant comment la maîtrise humaine de l’IA aura bientôt des effets secondaires fatals, qui peuvent être considérés comme des pertes acceptables pour beaucoup :
« J’essayais juste de créer un scénario dans lequel – et cela va arriver. Pas la version nucléaire, mais l’IA va bientôt se planter d’une manière ou d’une autre et provoquer une tragédie, n’est-ce pas ? À quelle échelle, nous ne le savons pas, simplement parce que les gens, comme fondamentalement – si je vous disais : « Ok, nous allons avoir l’IA, ce sera cet outil incroyable, il va libérer le monde, tout le monde sera finalement très content de l’avoir. L’inconvénient est qu’elle tuera 40 000 personnes chaque année en Amérique. » Vous êtes toujours d’accord avec ça ? Vous diriez : « Non, non, non, arrêtez, arrêtez. C’est terrible. Nous ne pouvons pas faire ça. » Mais nous l’avons fait avec les voitures, n’est-ce pas ? Les voitures tuent 40 000 personnes chaque année, mais nous le tolérons parce que les avantages sont énormes, n’est-ce pas ? Nous acceptons donc en quelque sorte cela comme faisant partie du fait d’avoir une voiture. »
En développant le monde du film, Edwards voulait trouver le point où les humains« ne pas accepter une technologie incroyable » :
« Et donc, la question est de savoir à quel moment nous n’accepterons plus une technologie incroyable, vous savez, et donc, j’essayais juste de créer une situation où l’on obtient cette polarisation dans le monde où la moitié de la planète se dit : c’est terrible, nous n’en voulons pas, cela devrait être interdit, et il n’y aurait pas de nouveaux produits. Et vous pouvez imaginer, par exemple, que vous achetez un produit et que vous avez un petit logo qui dit « pas d’IA ». Nous voyons déjà un peu cela. L’ironie de tout ce concept, c’est que lorsque j’ai présenté le film au début, tout le monde se demandait pourquoi interdire l’IA ? Mais pourquoi l’interdire, vous savez, et maintenant nous sommes en 2023. »
Il a noté qu'il existe déjà de nombreux« des voix surgissent »sur les questions d'IA de« beaucoup de gens différents »dans de nombreux secteurs industriels :
« C'est déjà là, comme ces voix qui surgissent, vous savez, de la part de beaucoup de gens différents dans [divers] secteurs de l'industrie qui sont préoccupés par cela. Et je trouve que le simple fait d'essayer de polariser le monde dans lequel se déroule notre film, comme pour et contre, c'est comme une bonne chose, comme une batterie yin yang – positive-négative… »
En ce qui concerne l'exploration de l'IA dans la narration, cela a été fait assez souvent. Mais avecLe créateur, quels tropes particuliers Gareth Edwards voulait-il éviter ?
Le réalisateur avait pour objectif de prendre la« c'était un robot après tout »hors de l'image, ce qu'il a contribué à réaliser en« [en] précisant clairement dans la conception… qui est l'IA et qui ne l'est pas : »
« Je pense que ce que je voulais d'emblée supprimer, c'était le fait qu'il était un robot après tout. J'ai donc essayé de faire comprendre clairement dans la conception du film qui est une IA et qui ne l'est pas. Nous ne voulions pas jouer ce tour au public. Ce n'était donc pas un film sur ce genre de retournement de situation. »
Il a expliqué comment d'autres cinéastes comme James Cameron, Steven Spielberg et Stanley Kubrick ont tous eu une forte influence sur lui.Le créateur:
« Je pense aussi qu’on ne peut pas faire un film comme celui-ci sans s’appuyer sur les épaules de gens comme James Cameron, vous savez, et même [Steven] Spielberg et [Stanley] Kubrick… Et c’est comme si c’était la base, une sorte de fondation pour commencer à faire un film comme celui-ci. J’espère que la mise en place de notre film, comme les 50 premières minutes, donne l’impression que ce genre de films se mélangent un peu. Et puis, il part dans sa propre tangente. »
Malgré ces influences, Edwards a exprimé comment il voulait représenter un« Version très, très humaine de l’IA » :
« Je pense que si je voulais que le film s'oriente vers une version très humaine de l'IA, je voulais que, lorsque vous rencontrez une IA et que vous lui parlez, ou lorsque vous la rencontrez dans ce voyage dans le film, elle soit incroyablement... elle est exactement comme nous. »
Il est même allé jusqu'à« [ne pas] dire aux gens s’ils allaient devenir des IA ou non »lors du travail avec les acteurs du film :
« Certains des moments les plus passionnants du film ont été de filmer de vrais villages dans l’Himalaya, au Cambodge ou ailleurs, puis de transformer [les gens] en IA. Ils ne se soucient pas d’être dans un film, et ils n’essaient pas de faire quelque chose de spécial. Et tout est jeté à la poubelle. Et ce genre de naturalisme, avec des robots et ce que nous appelons des simulants dans le film, était vraiment important, et j’en suis même arrivé au point où je n’ai pas dit aux gens s’ils allaient être des IA ou non, parce que je ne voulais pas qu’ils se comportent différemment. »
L’IA vaudra-t-elle la peine de subir des dommages collatéraux dangereux ?
L'un des passages les plus intéressants des citations de Gareth Edwards est sa comparaison avec les décès liés aux voitures, car c'est tout à fait vrai. D'innombrables personnes meurent chaque jour uniquement à cause de cette technologie, et pourtant la société dans son ensemble considère ces décès comme des pertes acceptables.
Qui peut dire que l'intelligence artificielle n'atteindra pas le même stade ? Après tout, en ce qui concerne les voitures, les fonctions de conduite autonome sont activement développées et améliorées pour une utilisation quotidienne par le consommateur.
Espérons que cela n'arrivera jamais au point où cela se produit.Le créateur— et est totalement tenue à l’écart des armes nucléaires. Plus l’IA se rapproche des opérations militaires, plus cette pente devient glissante.
Il est dommage que le film ne donne pas plus de détails sur ce qui s'est passé à Los Angeles. Cependant, on comprend parfaitement pourquoi Edwards a choisi cette approche.
Ceux qui ont vu le film en sont déjà très élogieux, et nous espérons que ce sentiment positif se transmettra au public du monde entier lorsqu'il le verra le 29 septembre.
