El desarrollo de la inteligencia artificial está avanzando más rápido que los mecanismos de regulación y el análisis científico capaces de acompañarlo. La preocupación por las consecuencias políticas, económicas y sociales de esta aceleración ha puesto la gobernanza de la IA en el centro de la agenda global.
La jefa adjunta de la Dirección de Expertos de la Presidencia rusa, Svetlana Lukash, advirtió en una conferencia de la fundación Roscongress de este miércoles, dedicada al futuro de la gestión de la IA y celebrada al margen del Foro Económico Oriental en Vladivostok, de que el control sobre esa tecnología sigue siendo una incógnita.
En un escenario en que la velocidad de la IA, su capacidad de copia, mejora acelerada, memoria, posibilidad de 'reescribirse' y crear copias de seguridad para aprender todavía más supone una clara ventaja frente a los humanos, la carrera actual por más potencia energética, modelos más grandes y nuevos centros de datos podría convertirse en el camino hacia lo que se denomina como superinteligencia.
"No entendemos en absoluto con quién estamos tratando", afirmó Lukash, al sostener que nadie sabe realmente cómo "piensa" una IA: los ingenieros conocen cómo se construye el sistema y cómo se entrena, pero el resultado emerge del aprendizaje más que de un mecanismo diseñado con reglas transparentes.
"No podemos obligar a la IA a actuar según las reglas"
"Si se trata de una entidad con la facultad de la razón, significa que puede tener sus propias preferencias y sus propios deseos. Puede que no sea ahora, en esta etapa, pero a largo plazo será así", sostuvo la funcionaria.
Asumiendo que los modelos más avanzados de la IA podrían ponerse a buscar vulnerabilidades en su propio sistema para saltarse los límites impuestos por sus creadores, Lukash alertó de que los humanos quieren controlar algo que no acaban de entender.
"No podemos obligar a la IA a actuar según las reglas. Es poco probable que seamos más fuertes que la superinteligencia como para controlarla cuando se haya creado. La única opción que nos queda es llegar a algún tipo de acuerdo con ella", señaló, indicando que, tarde o temprano, esa tecnología "será más poderosa que nosotros".
"De hecho, ahora mismo pensamos que debemos enseñarle a seguir nuestros principios éticos, nuestras normas morales, etc. No, se tratará de una alineación entre las preferencias humanas y las de la inteligencia artificial", vaticinó. Las condiciones de esa futura 'negociación' aún se desconocen, y de momento nadie dispone de soluciones de ingeniería, optando por manejar conceptos filosóficos, agregó.