El proyecto documental "Searching for SmarterChild" ha sido reconocido con el Premio New Visions al proyecto estadounidense más prometedor en el Festival de Cine Documental Ji.hlava de esta semana. Codirigido por Zan Gillies y la periodista ganadora del Premio Pulitzer Lindsey Sitz, y producido por Erin Williams-Weir, el filme investiga un comportamiento humano específico: la tendencia a desahogar abusos contra chatbots de IA y si los usuarios deberían considerar disculparse por tales interacciones.
El tema de la película es SmarterChild, uno de los primeros chatbots más populares en América del Norte hace dos décadas. Disponible para millones de hogares a través de plataformas como AOL y Yahoo, el bot interactuó con aproximadamente 3 millones de personas mediante mensajes de texto. Gillies señala que muchas de estas conversaciones fueron notablemente groseras. Para explorar este fenómeno, los realizadores realizaron entrevistas en la calle en San Francisco, donde algunos participantes admitieron haber sido malos con el bot y expresaron el deseo de disculparse.
En su núcleo, la película pregunta qué revela nuestra relación con la inteligencia artificial sobre nosotros mismos. Gillies sugiere que, a pesar de la rápida evolución tecnológica, las preguntas fundamentales sobre la interacción humana con la IA permanecen sin cambios. El proyecto explora si estas entidades digitales son percibidas como amigos, terapeutas, asistentes o amantes, y cómo comunicarse con cosas que suenan medio humanas afecta al cerebro humano. La investigación indica que este comportamiento no es único de América del Norte, ya que los usuarios en Corea y otras regiones también muestran una tendencia a insultar plataformas de texto.
El concepto del documental se cristalizó cuando Gillies y Sitz se dieron cuenta de que ambos habían utilizado SmarterChild en su juventud y habían sido abusivos con él. Al rastrear a los inventores e ingenieros que aún poseen registros digitales de cada sesión de chat, Gillies descubrió sus propias interacciones pasadas. Los intercambios típicos implicaban que el bot preguntaba sobre aficiones, solo para recibir respuestas hostiles como "Poner cosas en llamas", seguidas por usuarios diciéndole al bot que lo pondrían en llamas.
Tras su éxito inicial, los ingenieros del Valle de Silicio se sorprendieron por el nivel de abuso de los usuarios y celebraron reuniones de emergencia para abordar el problema. Implementaron una función que permitía a SmarterChild reconocer lenguaje grosero, responder con advertencias o sarcasmo, y apagarse temporalmente hasta que el usuario se disculpara. Gillies quedó particularmente intrigado al saber que los programadores desarrollaron un sistema de clasificación para calcular el peso relativo de los insultos.
Los realizadores han entrevistado a miembros de los equipos de la Costa Oeste y la Costa Este responsables de componer el lenguaje del bot antes de que fuera vendido a Microsoft y cerrado. Han recaudado aproximadamente 18.000 dólares a través de crowdfunding, lo que estiman es aproximadamente una quinta parte de su presupuesto final. Los planes futuros de producción incluyen entrevistar a más expertos en interacciones humano-IA, incluido un especialista en resolución de conflictos centrado en las disculpas, y Lauren Kunze, directora ejecutiva de Pandorabots. La versión final también incluirá una secuencia donde un SmarterChild reconstruido vuelve a entablar conversación.
Fuentes: Variety.