La humanidad tiene ahora que "lidiar con una nueva arma de destrucción masiva que puede aniquilar nuestro mundo mental y social", aseguró el historiador y escritor israelí Yuval Noah Harari, refiriéndose a los peligros de la inteligencia artificial y sus herramientas, en un artículo publicado este viernes en de The Economist.
"Mientras que las armas nucleares no pueden inventar armas nucleares más poderosas, la IA puede crear una IA exponencialmente más poderosa", señala Harari. Por lo tanto, considera crucial "exigir controles de seguridad rigurosos antes de que las potentes herramientas de IA se lancen al dominio público".
El escritor sostiene que "así como una compañía farmacéutica no puede lanzar nuevos medicamentos antes de que ponga a prueba sus efectos secundarios a corto y largo plazo, las compañías tecnológicas no deberían lanzar nuevas herramientas de IA antes de que sean seguras". De esta manera pide que se instaure urgentemente un análogo de la Administración de Medicamentos y Alimentos (FDA, por sus siglas en inglés) para regular las nuevas tecnologías.
"Cuando las personas piensen en ChatGPT y otras nuevas herramientas de IA, a menudo se sienten atraídos por ejemplos como el de niños de edad escolar que usan IA para escribir sus ensayos", recuerda Harari, pero destaca que, más allá de este ámbito, existen múltiples aplicaciones de la IA que implican mayores riesgos, como producir contenido político masivo, generar noticias falsas y escrituras para nuevos cultos.
Asimismo, la inteligencia artificial puede "crear ideas completamente nuevas, una cultura completamente nueva", estima el autor del 'bestseller' internacional 'Sapiens: De animales a dioses', señalando que pronto los internautas podrán encontrarse metidos en largas discusiones en línea sobre el aborto, el cambio climático o el conflicto en Ucrania con otros supuestos humanos, que en realidad serán IA.
Harari no pone en duda que esta tecnología pueda usarse para buenos propósitos, como el tratamiento de cáncer, y ayudar a la sociedad de múltiples formas, pero insiste en estar alerta sobre sus verdaderas capacidades. Al igual que la tecnología nuclear hizo que se remodele todo el orden internacional después de 1945 para proteger a la humanidad, es hora, en su opinión, de hacer lo mismo para protegerse de los chatbots y evitar que destruyan la civilización.
El historiador también advirtió recientemente sobre los peligros para la democracia de este tipo de tecnología, añadiendo que puede reducir a millones de personas a la condición de "completamente inútiles".