Le projet documentaire « À la recherche de SmarterChild » a été distingué par le prix New Visions pour le projet américain le plus prometteur lors du festival international du film documentaire de Ji.hlava de cette semaine. Co-réalisé par Zan Gillies et la journaliste primée Pulitzer Lindsey Sitz, et produit par Erin Williams-Weir, le film enquête sur un comportement humain spécifique : la tendance à déverser des insultes sur les chatbots d'IA et si les utilisateurs devraient envisager de s'excuser pour de telles interactions.
Le sujet du film est SmarterChild, l'un des premiers chatbots les plus populaires en Amérique du Nord il y a deux décennies. Disponible pour des millions de ménages via des plateformes comme AOL et Yahoo, le bot a engagé environ 3 millions de personnes par messages texte. Gillies note que beaucoup de ces conversations étaient notablement grossières. Pour explorer ce phénomène, les réalisateurs ont mené des interviews dans la rue à San Francisco, où certains participants ont admis avoir été méchants avec le bot et ont exprimé le désir de s'excuser.
Au cœur du film se pose la question de ce que notre relation avec l'intelligence artificielle révèle sur nous-mêmes. Gillies suggère que malgré une évolution technologique rapide, les questions fondamentales concernant l'interaction humaine avec l'IA restent inchangées. Le projet explore si ces entités numériques sont perçues comme des amis, des thérapeutes, des assistants ou des amants, et comment communiquer avec des choses qui semblent à moitié humaines affecte le cerveau humain. Des recherches indiquent que ce comportement n'est pas unique à l'Amérique du Nord, les utilisateurs en Corée et dans d'autres régions affichant également une tendance à insulter les plateformes de texte.
Le concept du documentaire s'est cristallisé lorsque Gillies et Sitz ont réalisé qu'ils avaient tous deux utilisé SmarterChild dans leur jeunesse et avaient été abusifs envers lui. En traquant les inventeurs et ingénieurs qui possèdent encore des enregistrements numériques de chaque session de chat, Gillies a découvert ses propres interactions passées. Les échanges typiques impliquaient le bot demandant des informations sur les passe-temps, pour ne recevoir que des réponses hostiles comme « Mettre le feu aux choses », suivies par des utilisateurs disant au bot qu'ils lui mettraient le feu.
Suite à son succès initial, les ingénieurs de la Silicon Valley ont été surpris par le niveau d'abus des utilisateurs et ont tenu des réunions d'urgence pour traiter le problème. Ils ont mis en place une fonctionnalité permettant à SmarterChild de reconnaître un langage grossier, de répondre par des avertissements ou de l'ironie, et de se mettre temporairement hors service jusqu'à ce que l'utilisateur s'excuse. Gillies a été particulièrement intrigué d'apprendre que les programmeurs avaient développé un système de notation pour calculer le poids relatif des insultes.
Les réalisateurs ont interviewé des membres des équipes de la côte Ouest et de la côte Est responsables de la composition du langage du bot avant qu'il ne soit vendu à Microsoft et mis hors service. Ils ont levé environ 18 000 dollars par financement participatif, ce qu'ils estiment être environ un cinquième de leur budget final. Les futurs plans de production incluent l'interview d'autres experts sur les interactions humain-IA, notamment un spécialiste de la résolution de conflits axé sur les excuses, et Lauren Kunze, PDG de Pandorabots. La version finale comprendra également une séquence où un SmarterChild reconstruit engage à nouveau une conversation.
Sources: Variety.