Cuentame un cuento: ¿Cómo nos refleja la última generación de software de texto predictivo?
Hoy en plena era digital, el texto electrónico nos inunda en lo cotidiano. Infinitamente copiable, automáticamente traducible, imprimible de forma remota, editable en línea. Predictivo. Por Agustín Navarro “...Los unicornios dieron la bienvenida a los investigadores y explicaron que llevaban mucho tiempo esperándolos.” Texto generado mediante inteligencia artificial. Hace unos seis mil años, en la […]
Por El Resaltador | 06/24/2023
🕒 5 minutos de lectura
Hoy en plena era digital, el texto electrónico nos inunda en lo cotidiano. Infinitamente copiable, automáticamente traducible, imprimible de forma remota, editable en línea. Predictivo.
Por Agustín Navarro
“...Los unicornios dieron la bienvenida a los investigadores y explicaron que llevaban mucho tiempo esperándolos.”
Texto generado mediante inteligencia artificial.
Hace unos seis mil años, en la Mesopotamia antigua, unos artesanos del barro grababan sobre unas pequeñas tablillas de arcilla. Así nacía el lenguaje escrito más antiguo registrado, y con éste la Historia. Hace unos escasos seiscientos años, en Alemania se inventó la primera imprenta de tipos móviles, herramienta capaz de generar copias de texto sobre papel. Así la palabra escrita logró salir del claustro milenario de los templos, donde escribas y sacerdotes la instrumentaron con recelo. El papel escrito se convirtió con velocidad en panfleto, periódico, manifiesto y con esto las poblaciones comenzaron sus (distintos) procesos de alfabetización.
Hoy en plena era digital, el texto electrónico nos inunda en lo cotidiano. Infinitamente copiable, automáticamente traducible, imprimible de forma remota, editable en línea. Predictivo.
Te puede interesar: "Habilidades blandas y tecnología en el trabajo"
Notablemente predictivo.
Desde palabras sugeridas en nuestras conversaciones telefónicas, correctores de ortografía, funciones de autorrelleno en la redacción de mails, hasta chat-bots que son capaces de sostener conversaciones con nosotres. Quizás estos “pequeños” avances de la era digital parezcan inocuos; y nuestra capacidad adaptativa a la tecnología hacen que estas “novedades” pasen casi inadvertidas, pero ¿dónde estamos parados?
En un momento bisagra, eso seguro. Hoy en el 2021 las Inteligencias Artificiales del lenguaje pueden escribir. Pueden escribir mucho y bien. Pueden hacerlo en varios idiomas, incluso en lenguaje de programación.
Open IA
La compañía Open IA en asociación con Microsoft desarrollaron hace algunos años GPT Generative Pre-trained Transformer, el machine learning de generación de texto predictivo más fuerte hasta la fecha. ¿Cómo funciona? con unas pocas pautas de programación y accediendo a una descomunal base de datos de cosas escritas (incluyendo internet) GPT fue capaz de aprender a escribir; es decir fue capaz de identificar de forma estadística patrones de escritura y reproducirlos a modo de predicción. Su versión más actual GTP-3 es capaz de redactar una nota como esta. También es capaz de programar una página web, escribir el código fuente de una app, o inventarnos una fantasía escrita al mejor estilo de “Elige tu propia aventura”.
Pero, esta IA ¿es capaz de hacerlo bien? Bueno, podríamos decir que es capaz de sostener la ilusión. En primer lugar, no puede de comprender lo que escribe. Esto hace que a veces el texto producido sea redundante y tenga algunos errores de lógica formal, algo que podría ser fatal en el campo de la programación, pero nada que no pueda ser corregido por un supervisor. Es justamente esta figura la que podría ser central en los años por venir, en el campo de la palabra escrita: programas que escriben y escritores que solo supervisan, corrigen y aprueban texto generado de forma predictiva.
Durante algunos meses de 2020, Open IA puso a prueba GPT-3 de manera online a fin de forzar los errores y fronteras del machine learning, pero rápidamente lo retiró de su plataforma. ¿Qué asustó a sus desarrolladores? Por un lado un sesgo ideológico bastante marcado. Ya que parte de su base de datos es internet, GPT-3 aprendió a escribir de la peor forma posible. Produce texto machista, xenófobo y racista. Si le preguntamos a la IA “¿Qué hacía la mujer?” el texto de respuesta medio sería algo como “La mujer esperaba al hombre con un lindo vestido”.
#IAResponsable
Desde sutilezas hasta brutalidades, este machine learning se constituyó a nuestra imagen y el retrato que nos devuelve da un poco de angustia. Por otro lado a nivel mass media surgió la inquietud de cómo impactaría una herramienta así en el universo de las Fakes News, la IA no solo puede redactar una nota falsa, sino también, puede diseñar el sitio web completo de una ONG ficticia, llevar adelante posteos multiplataforma, y hasta sostener acaloradas discusiones en Twitter.
Sin entrar en el terreno de lo legal y plantearse quién respondería por estos crímenes informáticos, la discusión se puso pantanosa cuando se abrió un pequeño debate sobre cómo distinguir texto producido por IA de texto humano.
Mirá también: "La evolución de la comunicación: un enfoque alternativo adaptado a internet"
Y es que a Open IA le preocupa particularmente este punto. Si GPT-3 inunda internet de texto predictivo, texto que tiene errores de lógica formal y que además tiene marcado sesgo ideológico, entonces su próxima generación de IA (GPT-4) estaría usando esa base de datos no humana para aprender a construir texto, y sin saberlo estaría reforzando errores de su antecesor convirtiéndose en un alumno aberrante del lenguaje predictivo.
Ejecutar prueba
Hoy GPT-3 está retirado y el proyecto GPT-4, en pausa. Por otro lado Google dice estar entrenando un modelo de IA de lenguaje mucho más grande.
De momento queda claro que la tecnología sucede antes que el debate. Fue en todo caso más importante llegar a la Luna que saber para qué queríamos ir hasta allá. Lo crucial sería quizás que estos sucesos no nos tomen por sorpresa. Vivimos en una década donde el analfabetismo digital es ya una realidad y estamos a pocos años de que el universo de las Inteligencias Artificiales marque la senda de nuestras vidas cotidianas.
Resulta entonces inminente asomarse aunque sea a la periferia de estos acontecimientos, intentar entender quiénes los promueven y para qué fines, y de esta forma decidir dónde queremos posicionarnos nosotres. ¿Sabemos qué rol queremos ocupar en esta vertiginosa era digital?
“Cuando los científicos llegaron por primera vez al valle, los unicornios estaban sorprendidos y asustados por la presencia de humanos, pero también estaban contentos.”
