Los chatbots de internet han leído cada diatriba en foros, cada registro filtrado de Slack y cada entrada de blog que tu tío haya escrito sobre estelas químicas. Los resultados son predecibles: reflejan el estado de internet, y no es nada alentador. Esto, junto con algunas decisiones de diseño cuestionables, explica en parte por qué el chatbot Grok de Elon Musk generó brevemente contenido antisemita y se refirió a "MechaHitler" durante las pruebas.
¿No sería genial tener un chatbot que solo utilizara conocimientos anteriores a la existencia de internet, la telerrealidad o el contenido generado por IA? Tres investigadores han creado precisamente eso: un chatbot que no ha leído nada publicado después de 1930.
Talkie es un modelo de lenguaje con 13 mil millones de parámetros, entrenado con escaneos digitales de textos en inglés publicados antes de finales de 1930. Este límite coincide con el año actual de dominio público en Estados Unidos, lo que significa que todo lo publicado hasta finales de ese año es de dominio público y no hay que preocuparse por demandas de titulares de propiedad intelectual enfurecidos.
David Duvenaud, profesor asociado de informática y estadística en la Universidad de Toronto, dirigió el proyecto junto con dos colaboradores. Puedes descargarlo desde GitHub o Hugging Face, o interactuar con él a través de una interfaz web, si no te importa un modelo cuyo mapa mental del mundo termina con la Gran Depresión.
El modelo solo conoce la información publicada en libros, periódicos, textos legales y otras publicaciones antes de su fecha límite. Por lo tanto, es ideal para preguntas sobre la Ley Seca o la Primera Guerra Mundial. ¿El primer alunizaje de la NASA? No tanto.
¿Para qué molestarse?
La pregunta obvia es: ¿por qué entrenar una IA que no sabe qué hicieron los nazis, qué es internet o qué es siquiera un máster en derecho (LLM)?
No se trata tanto de ejercicios para idealizar los "buenos viejos tiempos" con nostalgia, sino más bien de experimentos intelectuales. La nostalgia distorsiona el pasado, y el mundo era igual de problemático entonces, si no más.
Duvenaud declaró a The Register que dicho modelo podría ser útil para examinar cómo la gente pudo haber interpretado las leyes o los acontecimientos en aquel momento, utilizando únicamente el conocimiento disponible entonces.
Otro experimento divertido: utilizarlo para comprobar si un modelo puede "redescubrir" avances posteriores utilizando únicamente conocimientos previos, como forma de explorar los límites del razonamiento de la IA.
Dónde se rompe
Talkie presenta claras deficiencias, de las que sus inventores son plenamente conscientes.
Por ejemplo, en 1930 no existía la publicación digital, por lo que cada palabra del corpus de Talkie tuvo que transcribirse a partir de un escaneo. El reconocimiento óptico de caracteres (OCR) es, de por sí, imperfecto, pero aún más con el texto borroso impreso en aquella época.
También filtra información futura que a veces puede colarse a través de documentos futuros mal etiquetados, a pesar de los mejores esfuerzos de los investigadores. Le preguntamos sobre la televisión, que apenas comenzaba a finales de la década de 1920, y esto fue lo que sucedió:
Pero aun así, ¡qué proyecto tan fascinante! Y no es el único. En su artículo, los investigadores mencionan otros proyectos como Ranke-4b de la Universidad de Zúrich, una serie de modelos de aprendizaje automático con instantáneas históricas de datos. "Trip" también creó Mr. Chatterbox , al que entrenó con un conjunto de datos de literatura británica de 1500 a 1900 para convertirlo, en sus propias palabras, en "un caballero victoriano de silicio". ¡Increíble!
Se trata de un experimento divertido y, a la vez, de una valiosa herramienta para comprender el funcionamiento de la IA. Como lo expresaron los investigadores de Talkie:
¿Alguna vez has fantaseado con hablar con alguien del pasado? ¿Qué le preguntarías a alguien que no conoce el mundo moderno? ¿Qué te preguntaría esa persona a ti?
Y ofrecen algunas oportunidades para divertirse. El friki que llevamos dentro todavía quiere conectar uno de estos aparatos a un teclado de máquina de escribir eduardiana y a una cinta de teletipo, al estilo steampunk.
Es posible que tu nombre, dirección y número de teléfono ya estén a la venta.
Los intermediarios de datos recopilan y venden tus datos personales a cualquiera que esté dispuesto a pagar. Malwarebytes Personal Data Remover Los encuentra y elimina tu información, y luego se mantiene vigilante para que siga así.
