Il progetto documentario "Searching for SmarterChild" è stato premiato con il New Visions Award per il progetto statunitense più promettente durante la settimana al Festival del Documentario Ji.hlava. Co-diretto da Zan Gillies e dalla giornalista vincitrice del Premio Pulitzer Lindsey Sitz, e prodotto da Erin Williams-Weir, il film indaga un comportamento umano specifico: la tendenza a sfogare abusi sui chatbot AI e se gli utenti dovrebbero considerare di scusarsi per tali interazioni.
Il soggetto del film è SmarterChild, uno dei primi chatbot più popolari in Nord America due decenni fa. Disponibile per milioni di famiglie attraverso piattaforme come AOL e Yahoo, il bot ha coinvolto circa 3 milioni di persone tramite messaggi di testo. Gillies nota che molte di queste conversazioni erano notevolmente scortesi. Per esplorare questo fenomeno, i registi hanno condotto interviste per strada a San Francisco, dove alcuni partecipanti hanno ammesso di essere stati cattivi con il bot e hanno espresso il desiderio di scusarsi.
Nel suo nucleo, il film chiede cosa la nostra relazione con l'intelligenza artificiale riveli su noi stessi. Gillies suggerisce che, nonostante la rapida evoluzione tecnologica, le domande fondamentali riguardanti l'interazione umana con l'AI rimangono invariate. Il progetto esplora se queste entità digitali siano percepite come amici, terapeuti, assistenti o amanti, e come comunicare con cose che suonano semi-umane influisca sul cervello umano. Le ricerche indicano che questo comportamento non è unico del Nord America, con utenti in Corea e altre regioni che mostrano anch'essi una tendenza a insultare le piattaforme di testo.
Il concetto per il documentario si è cristallizzato quando Gillies e Sitz hanno realizzato di aver entrambi utilizzato SmarterChild nella loro giovinezza e di essersi comportati in modo abusivo verso di esso. Inseguendo gli inventori e gli ingegneri che possiedono ancora registrazioni digitali di ogni sessione di chat, Gillies ha scoperto le sue stesse interazioni passate. Gli scambi tipici coinvolgevano il bot che chiedeva informazioni sugli hobby, ricevendo solo risposte ostili come "Mettere le cose in fiamme", seguite da utenti che dicevano al bot che lo avrebbero messo a fuoco.
Dopo il suo successo iniziale, gli ingegneri della Silicon Valley sono rimasti sorpresi dal livello di abuso degli utenti e hanno tenuto riunioni di emergenza per affrontare il problema. Hanno implementato una funzione che permetteva a SmarterChild di riconoscere un linguaggio scortese, rispondere con avvertimenti o sarcasmo e spegnersi temporaneamente finché l'utente non si fosse scusato. Gillies è stato particolarmente incuriosito nell'apprendere che i programmatori avevano sviluppato un sistema di valutazione per calcolare il peso relativo degli insulti.
I registi hanno intervistato membri sia dei team della Costa Ovest che della Costa Est responsabili della composizione del linguaggio del bot prima che venisse venduto a Microsoft e chiuso. Hanno raccolto circa 18.000 dollari attraverso il crowdfunding, che stimano essere circa un quinto del loro budget finale. I piani di produzione futuri includono l'intervista a più esperti sulle interazioni umano-AI, tra cui uno specialista nella risoluzione dei conflitti focalizzato sulle scuse e Lauren Kunze, CEO di Pandorabots. La versione finale includerà anche una sequenza in cui un bot SmarterChild ricostruito si impegna nuovamente in conversazione.
Fonti: Variety.