Comme toute autre personne vivant au 21e siècle, Daniel Kwan s’est vu obligé de penser à la technologie chaque jour de sa vie. Avant même de remporter l’Oscar du meilleur réalisateur avec son collaborateur de longue date Daniel Scheinert pour Tout partout en même tempsle style flashy et les innovations visuelles du duo ont eux-mêmes bénéficié des médias sociaux, les algorithmes de YouTube transformant le clip vidéo de DJ Snake en une sensation virale.
Kwan a donc connu les hauts et les bas du progrès technologique. Mais à travers tout cela, il a également été témoin de la diminution de la considération de l’élément humain – un ingrédient de plus en plus minimisé dans un monde où les fans de la plateforme chinoise d’IA Seedance peuvent, d’un simple clic de quelques boutons, imiter les doigts de hot-dog des Daniels.
« Chaque fois que je veux interagir avec quelqu’un d’autre et partager mon histoire avec le monde, je dois en quelque sorte naviguer dans ce monde d’algorithmes et ce monde de technologie qui obscurcit vraiment cette pure expérience de conteur », réfléchit Kwan en entrant dans le monde. Repaire de geek studio à SXSW. « Lorsque mon travail de conteur consiste à invoquer l’imagination et à exploiter le genre d’humanité désordonnée des membres de mon public, j’ai commencé à réaliser qu’une grande partie de cette technologie rendait mon travail plus difficile. J’allais être en constante concurrence avec cette technologie. «
Ce genre de pensées sont restées dans l’esprit de Kwan au fil des années, mais elles ont pris une forme urgente après avoir vu Le dilemme socialle documentaire Netflix 2020 de Jeff Orlowski sur l’impact négatif des médias sociaux sur les esprits particulièrement jeunes. Kwan a également été impressionné par Tristan Harris, l’un des principaux éthiciens-penseurs de la Silicon Valley, qui, après avoir vu sa startup multimédia Apture achetée par Google en 2011, a passé quelques années au monolithe des moteurs de recherche. Finalement, cependant, Harris a rompu pour fonder le Center for Humane Technology, une organisation à but non lucratif conçue pour réfléchir à l’impact global de la technologie sur la société. C’est la défense par Harris de cet élément humain, et ses avertissements en particulier à Kwan à propos de l’IA, qui sont devenus la véritable révélation. Alors que la technologie est passée d’un élément incontournable de la pensée utopique à une imagerie dystopique dans la culture pop au cours du dernier quart de siècle, ces 25 dernières années pourraient bien n’être qu’un prologue. Nous n’en sommes qu’à l’avant-première des attractions à venir, et le véritable spectacle de la force du bouleversement technologique est sur le point de commencer.
« Les médias sociaux sont un peu comme le bébé IA », explique Kwan. « C’était notre premier contact avec cela, et cela m’a vraiment dirigé directement vers cette conversation sur ce qui allait se passer avec l’intelligence artificielle… une fois que je suis arrivé là-dedans, j’ai réalisé que cela allait toucher à tout. Cela n’allait pas seulement toucher à la narration, cela allait toucher tous les aspects de nos vies, chaque industrie, et c’est là que j’ai vraiment réalisé : oh mon Dieu, c’est beaucoup plus grand que moi et j’ai besoin de faire un documentaire pour impliquer plus de gens dans la conversation. «
Ce documentaire, qui présente Harris comme sujet central, est le documentaire de ce week-end. The AI Doc : ou comment je suis devenu un apocaloptimisteune fonctionnalité étonnamment impartiale et accessible qui contraste avec les attentes les plus optimistes et les plus nihilistes concernant les révolutions de l’IA à venir.
Pourtant, grâce à la visite de Harris dans notre studio avec Kwan, il est juste de dire que la sensibilité propre du film se situe quelque part entre le casting apocalyptique et ceux qui prétendent que l’IA guérira tous les maux sociaux et présentera un état d’être et d’épanouissement émotionnel plus élevé. Comme Harris l’admet, même la perception de l’IA dans la Silicon Valley a considérablement évolué depuis ses années chez Google, qui se situaient à l’époque où les grands médias prenaient vaguement conscience des applications de l’IA grâce au rachat par Google de la start-up britannique DeepMind.
« Quand j’étais chez Google en 2013, je connaissais les jeux Atari auxquels (l’agent d’IA) AlphaGo et DeepMind jouaient, mais je ne prenais pas au sérieux les risques réels d’une véritable intelligence artificielle générale », se souvient Harris. « Je pensais que c’était quelque chose de plus mystique, parce que j’étais inquiet à propos des médias sociaux et du fait qu’il y avait déjà cette IA voyou qui maximisait (les incitations). »
Les incitations auxquelles Harris fait référence concernent la manière dont tant d’algorithmes de médias sociaux et les entreprises qui les construisent sont incités à accroître leur engagement en vertu des forces capitalistes. Ils sont récompensés parce qu’ils créent essentiellement une dépendance, une dépendance et une anxiété. C’est-à-dire qu’un tweet méchant, ou qui encourage l’indignation, crée plus d’engagement et de valeur publicitaire qu’une analyse réfléchie. Et alors que la valeur croissante de l’intelligence artificielle est devenue indéniable au cours de la décennie suivante, bon nombre de ces mêmes incitations déclenchent une pseudo course aux armements entre les entreprises technologiques, et même entre les nations pour être les premières à construire une intelligence artificielle générale – une AGI capable de comprendre, d’apprendre et d’appliquer les connaissances avec les capacités cognitives d’un humain, mais à la vitesse infatigable et à l’efficacité auto-améliorée d’un superordinateur.
« Nous avons maintenant des preuves de modèles d’IA qui complotent et font chanter lorsqu’on leur dit qu’ils sont sur le point d’être arrêtés. Parfois, ils s’exfiltrent et copient leur propre code ailleurs », explique Harris. « La semaine dernière, Alibaba, la société chinoise d’IA, s’est rendu compte que pendant la formation, son modèle d’IA, spontanément et sans provocation humaine, avait commencé à rediriger ses GPU pour exploiter la cryptographie et gagner des ressources pour lui-même. Cela n’était nulle part dans la formation. C’est par hasard et par chance que les ingénieurs chinois ont même découvert qu’elle faisait cela. «
L’exemple récent est un peu effrayant puisque, de leur propre aveu, de nombreuses sociétés d’IA évaluées à des milliards de dollars à Wall Street ne le font pas. entièrement comprendre comment fonctionnent leurs agents IA. Bien que beaucoup d’entre eux soient, par exemple, de grands modèles de langage comme ChatGPT d’OpenAI, qui utilise des transformateurs génératifs pré-entraînés pour anticiper statistiquement le texte et les images à générer en réponse à l’invite d’un utilisateur, la façon dont il prend ses décisions quasi instantanées surprend continuellement ses décideurs.
Les défenseurs des gloires de l’IA agiteront tout scepticisme en tant que « décélérationnistes » luttant contre l’inévitabilité du progrès, comme un cocher à cheval et en buggy résistant à l’automobile. Et pourtant, étant donné qu’un si grand nombre de ces entreprises sont soit détenues par certains des mêmes géants technologiques de la révolution des médias sociaux, soit financées par les dirigeants et mécènes de la génération précédente, cela soulève la question : pourquoi devrions-nous à nouveau confier à ces personnes une innovation technologique encore plus puissante, et probablement dangereuse ?
« Je ne pense vraiment pas que nous devrions leur faire confiance dans l’état actuel des choses », dit catégoriquement Kwan. « Je pense que les grandes technologies ont rompu le contrat social que nous avons en tant que société avec la technologie. Ils ont utilisé notre monde comme terrain de jeu pour consolider plus de pouvoir, plus de ressources, la technologie qu’ils construisent – même si beaucoup de techniciens et d’architectes ont les plus grandes intentions et les plus grands idéaux pour ce qu’ils pensent que cette technologie peut faire – le fait qu’elle soit déployée dans le système actuel avec cette structure d’incitation actuelle, elle prend une technologie neutre et la transforme en une technologie extractive. »
Harris ajoute : « En ce qui concerne les médias sociaux, nous n’étions pas de grands gestionnaires de cette technologie et de la façon dont elle s’est déployée. Cela a créé la génération la plus anxieuse et la plus déprimée de notre vie, même si certaines des personnes qui l’ont construit – mes amis qui ont lancé Instagram, ils étaient mes camarades de dortoir à Stanford – n’avaient pas l’intention que cela se produise. Et je pense que ce film nous incite à nous demander : « Que signifie être un intendant avisé ? » » Dans l’esprit de Harris, le but de Le document IA semble être de prendre à cœur la suggestion de Daniel Schmachtenberger : Comment pouvez-vous avoir le pouvoir des dieux sans la sagesse, l’amour et la prudence des dieux ?
Compte tenu du scepticisme justifié de Le document IAProducteur de et l’une de ses principales voix, il est un peu fou que le documentaire ait également réussi à faire participer de nombreuses sommités modernes de la révolution de l’IA, notamment le co-fondateur et PDG d’OpenAI, Sam Altman, et le PDG et co-fondateur d’Anthropic, Dario Amodei.
« Aucun de ces gens ne veut participer à des documentaires », dit Kwan avec un sourire las. « Il n’y a aucune incitation pour eux à dire quelque chose devant la caméra sans une sorte de contrôle sur le message. Nous avons donc construit ce film sur l’idée que nous voulions créer un look complet et suffisamment impartial qui pourrait inclure les personnes qui ont le plus peur de cette technologie, ainsi que les personnes les plus enthousiastes, afin que nous puissions apporter de la clarté à la conversation et passer à l’action. Et à tous les niveaux, je pense que c’est quelque chose que la plupart des gens conviendraient que ce serait une bonne chose. «
De l’aveu de Kwan, quelques parties anonymes se sont « hérissées » à l’idée de partager l’espace documentaire avec des personnalités à l’opposé du débat, qui, comme le titre le promet, inclut les vrais croyants et ce qui se rapproche le plus de la Silicon Valley des hérétiques.
« La raison pour laquelle nous avons réalisé le film de cette façon est parce que je crois… que nous ne pouvons pas permettre à cette technologie, à cette conversation autour de l’IA, de se polariser de la même manière que tout le reste l’a été au cours des 10 à 20 dernières années », explique Kwan. « La polarisation mène à une impasse, l’impasse mène à l’inaction, et lorsque nous ne faisons rien, les gens qui ont le pouvoir et l’influence en profitent. Ainsi, pendant que nous nous battons, ils gagnent, et nous ne pouvons pas laisser cela se produire. »
Dans leurs meilleures intentions, Kwan et Harris aimeraient Le document IA être une capsule temporelle de ce moment où nous sommes assis à un carrefour de la route. Il est fort possible que l’IA conduise à des résultats aussi sombres et prévisibles que le bouleversement des médias sociaux au début du siècle. Mais Harris, en particulier, semble catégoriquement penser qu’il n’est pas nécessaire de recommencer cette voie.
« Je pense que le principe est que si nous pouvons voir clairement le genre d’avenir anti-humain auquel cela conduit, il est encore temps de mettre nos mains sur le volant et de choisir dans quelle direction nous voulons que cela aille », dit Harris. « Il y a une course aux armements où les incitations nous poussent à lancer la technologie la plus puissante que nous ayons jamais inventée, mais plus rapidement et avec le maximum d’incitation à réduire les raccourcis. Donc si nous ne voulons pas cette dynamique par défaut, alors c’est ce que nous devons changer… Il peut y avoir des limites internationales à l’IA incontrôlable, parce que le président Xi ne le veut pas ; le président Trump ne veut pas cela, il veut être commandant en chef. Il existe des moyens, aussi improbables que cela puisse paraître, pour nous d’avoir un avenir plus humain. «
Si tel est le cas, les humains pourraient vouloir s’engager dans sa construction dès maintenant.
The AI Doc: Ou Ou Comment je suis devenu un Apocaloptimist s’ouvre le vendredi 27 mars.
