X

Mensaje a RT

Nombre * Error message here
Correo electrónico * Error message here
Su comentario *
1 800 Error message here
feedback
Imprimir https://es.rt.com/6jwv

Compañía respaldada por Elon Musk crea una tecnología de IA capaz de generar noticias falsas pero se niega a hacerla pública

Publicado: 16 feb 2019 04:32 GMT | Última actualización: 16 feb 2019 04:40 GMT

La empresa teme que personas malintencionadas puedan utilizar el sistema para hacerse pasar por otras, automatizar la producción de contenido falso y 'spam' en las redes sociales.

Compañía respaldada por Elon Musk crea una tecnología de IA capaz de generar noticias falsas pero se niega a hacerla pública
Elon Musk, durante un evento en Hawthorne, California, el 18 de diciembre de 2018.
Robyn Beck / Reuters
Síguenos en Facebook

Una organización sin fines de lucro respaldada por Elon Musk, OpenAI, ha decidido no hacer pública su tecnología de generación de texto basada en la inteligencia artificial (IA) por temor a que pueda ser utilizada para crear noticias falsas a gran escala.

Según informa OpenAI en su blog, además de las noticias engañosas, la empresa teme que personas malintencionadas puedan utilizar la tecnología para hacerse pasar por otras personas en línea, automatizar la producción de contenido falso en redes sociales y automatizar la producción de 'spam' o ataques de 'phishing'.

El propio Musk expresó abiertamente en repetidas ocasiones su preocupación por los riesgos que puede causar la IA para la civilización humana.

De acuerdo con sus creadores, la tecnología de OpenAI, conocida como 'GPT-2', es un gran modelo de lenguaje basado en un transformador con 1.500 millones de parámetros, entrenado en un conjunto de datos de 8 millones de páginas web con el objetivo de predecir la siguiente palabra, dadas todas las palabras anteriores dentro de algún texto. La diversidad del conjunto de datos, por su parte, permite al sistema generar continuaciones realistas y coherentes sobre un tema elegido.

La historia 'bastante realista' de los unicornios

A modo de ejemplo, los investigadores le dieron a GPT-2 un texto escrito por humanos para que el sistema escribiera su continuación.

"En un hallazgo impactante, un científico descubrió una manada de unicornios que viven en un valle remoto, previamente inexplorado, en las montañas de los Andes. Aún más sorprendente para los investigadores fue el hecho de que los unicornios hablaban un inglés perfecto", dice el texto original.

La máquina, por su parte, generó el resto del artículo:

"El científico nombró a la criatura, por su distintivo cuerno, el Unicornio de Ovidio. Estos unicornios blancos plateados de cuatro cuernos eran previamente desconocidos para la ciencia. Ahora, después de casi dos siglos, el misterio de lo que provocó este extraño fenómeno finalmente está resuelto. El doctor Jorge Pérez, un biólogo evolutivo de la Universidad de La Paz, y varios compañeros, estaban explorando las montañas de los Andes cuando encontraron un pequeño valle, sin otros animales o humanos...", reza el texto artificial.

Mientras tanto, OpenAI admite que el sistema no es perfecto. Así que se necesitaron 10 intentos para generar el artículo sobre los unicornios.

La compañía señala que lanzará una versión más pequeña de GPT-2, dando tiempo a la comunidad de IA para discutir el impacto social de tales sistemas.

RT

Etiquetas:

Últimas noticias

Este sitio web utiliza cookies, puede obtener más información aquí

Aceptar Cookies