El director ejecutivo de OpenAI, Sam Altman, admitió estar "un poco asustado" por crear ChatGPT y el uso que las personas puedan darle, pero destaca que podría ser la tecnología más grande que se haya desarrollado hasta el momento.
"Tenemos que tener cuidado aquí", señaló el jueves Altman en una entrevista con ABC News, agregando que está "particularmente preocupado de que estos modelos puedan usarse para la desinformación a gran escala", ya que ahora que "estos sistemas están mejorando en la escritura de código de computadora, podrían usarse para ataques cibernéticos ofensivos".
El programador afirma que el potencial de ChatGPT es inmenso y muy emocionante, y destacó la necesidad de que la sociedad se involucre lo más posible, considerando que la retroalimentación ayudará a disuadir las posibles consecuencias negativas que la tecnología podría tener en la humanidad.
"Creo que la gente debería estar feliz de que estemos un poco asustados por esto", expresó, advirtiendo que "habrá personas que no pongan algunos de los límites de seguridad" que se le ha impuesto. "Creo que la sociedad tiene una cantidad limitada de tiempo para descubrir cómo reaccionar ante eso, cómo regularlo, cómo manejarlo", agregó.
Altman, de 37 años, también mencionó que a pesar de los temores de que la inteligencia artificial (IA) podría reemplazar muchos trabajos —lo cual asegura es posible—, es una herramienta que en gran medida funciona "bajo el control de los humanos", por lo que también podría conducir a "otros mucho mejores".
"La razón para desarrollar IA es en términos de impacto en nuestras vidas y mejora de nuestras vidas, y al alza, esta será la tecnología más grande que la humanidad haya desarrollado hasta ahora", aseguró.
Esta semana la empresa presentó la cuarta versión del popular sistema de inteligencia artificial, que, según los desarrolladores, es más potente. Los creadores afirman que la nueva herramienta denominada GPT-4, además de texto, acepta imágenes y también emite salidas de texto, lo que permite chatear con el sistema introduciendo archivos complejos, como libros enteros para resumirlos, con el fin de hacerlo más rápido, preciso y humano.
El empresario reconoció que esta versión utiliza el razonamiento deductivo en lugar de la memorización, un proceso que puede dar lugar a respuestas extrañas.
"Lo que más trato de advertir a la gente es lo que llamamos el 'problema de las alucinaciones'", sostuvo, ya que "el modelo afirmará confiadamente cosas como si fueran realidades completamente inventadas".
"La forma correcta de pensar en los modelos que creamos es un motor de razonamiento, no una base de datos de hechos", expuso. Si bien la tecnología podría actuar como una base de datos de hechos, explicó que eso no es lo "especial". "Lo que queremos que hagan [los sistemas] es algo más cercano a la capacidad de razonar, no de memorizar".
En relación a la educación, Altman asegura que "tendrá que cambiar" al igual que ha sucedido en otras ocasiones. "Cuando obtuvimos la calculadora, la forma en que enseñábamos matemáticas y en qué evaluamos a los estudiantes cambió por completo", recordó.
"Todos podemos tener un educador increíble en nuestro bolsillo que esté personalizado para nosotros, que nos ayude a aprender", sugirió el directivo de OpenAI, agregando que él y su equipo quieren que los usuarios piensen en ChatGPT como una herramienta.