El canal internacional
de noticias en español
más visto en el mundo
Actualidad

Compañía respaldada por Elon Musk crea una tecnología de IA capaz de generar noticias falsas pero se niega a hacerla pública

Publicado:
La empresa teme que personas malintencionadas puedan utilizar el sistema para hacerse pasar por otras, automatizar la producción de contenido falso y 'spam' en las redes sociales.
Compañía respaldada por Elon Musk crea una tecnología de IA capaz de generar noticias falsas pero se niega a hacerla pública

Una organización sin fines de lucro respaldada por Elon Musk, OpenAI, ha decidido no hacer pública su tecnología de generación de texto basada en la inteligencia artificial (IA) por temor a que pueda ser utilizada para crear noticias falsas a gran escala.

Según informa OpenAI en su blog, además de las noticias engañosas, la empresa teme que personas malintencionadas puedan utilizar la tecnología para hacerse pasar por otras personas en línea, automatizar la producción de contenido falso en redes sociales y automatizar la producción de 'spam' o ataques de 'phishing'.

El propio Musk expresó abiertamente en repetidas ocasiones su preocupación por los riesgos que puede causar la IA para la civilización humana.

De acuerdo con sus creadores, la tecnología de OpenAI, conocida como 'GPT-2', es un gran modelo de lenguaje basado en un transformador con 1.500 millones de parámetros, entrenado en un conjunto de datos de 8 millones de páginas web con el objetivo de predecir la siguiente palabra, dadas todas las palabras anteriores dentro de algún texto. La diversidad del conjunto de datos, por su parte, permite al sistema generar continuaciones realistas y coherentes sobre un tema elegido.

La historia 'bastante realista' de los unicornios

A modo de ejemplo, los investigadores le dieron a GPT-2 un texto escrito por humanos para que el sistema escribiera su continuación.

"En un hallazgo impactante, un científico descubrió una manada de unicornios que viven en un valle remoto, previamente inexplorado, en las montañas de los Andes. Aún más sorprendente para los investigadores fue el hecho de que los unicornios hablaban un inglés perfecto", dice el texto original.

La máquina, por su parte, generó el resto del artículo:

"El científico nombró a la criatura, por su distintivo cuerno, el Unicornio de Ovidio. Estos unicornios blancos plateados de cuatro cuernos eran previamente desconocidos para la ciencia. Ahora, después de casi dos siglos, el misterio de lo que provocó este extraño fenómeno finalmente está resuelto. El doctor Jorge Pérez, un biólogo evolutivo de la Universidad de La Paz, y varios compañeros, estaban explorando las montañas de los Andes cuando encontraron un pequeño valle, sin otros animales o humanos...", reza el texto artificial.

Mientras tanto, OpenAI admite que el sistema no es perfecto. Así que se necesitaron 10 intentos para generar el artículo sobre los unicornios.

La compañía señala que lanzará una versión más pequeña de GPT-2, dando tiempo a la comunidad de IA para discutir el impacto social de tales sistemas.

RT en Español en vivo - TELEVISIÓN GRATIS 24/7