Mrinank Sharma, que era el responsable del equipo de investigación de salvaguardias de la empresa emergente estadounidense de inteligencia artificial Anthropic, dejó este lunes su trabajo y explicó las razones en una carta de renuncia que compartió en su cuenta de X.
"He logrado lo que quería aquí. Llegué a San Francisco [EE.UU.] hace dos años, después de haber terminado mi doctorado y con el deseo de contribuir a la seguridad de la IA. Me siento afortunado de haber podido contribuir a lo que tengo aquí: comprender la adulación a la IA y sus causas; desarrollar defensas para reducir los riesgos del bioterrorismo asistido por IA; poner esas defensas en producción; y escribir uno de los primeros casos de seguridad de la IA", escribió.
En este sentido, indicó que está especialmente orgulloso de su proyecto final sobre cómo los asistentes de IA podrían hacernos menos humanos o distorsionar nuestra humanidad.
"Sin embargo, tengo claro que ha llegado el momento de seguir adelante. Continuamente me encuentro lidiando con nuestra situación. El mundo está en peligro. Y no solo por la IA o las armas biológicas, sino por toda una serie de crisis interconectadas que se desarrollan en este mismo momento", advirtió.
Asimismo, Sharma señaló que al parecer el ser humano como civilización se está acercando a un umbral en el que su sabiduría debe crecer en igual medida que su capacidad de afectar al mundo, para no enfrentar las consecuencias.
"A lo largo de mi tiempo aquí, he visto repetidamente lo difícil que es dejar que nuestros valores gobiernen nuestras acciones. Lo he visto dentro de mí mismo, dentro de la organización, donde constantemente nos enfrentamos a presiones para dejar de lado lo que más importa, y también en toda la sociedad", añadió.
Finalmente, reveló que su intención ahora es "crear espacio" para dejar de lado las estructuras que le han retenido estos últimos años y observar qué podría surgir en su ausencia, detallando que planea escribir sobre el lugar en el que nos encontramos, situando la verdad poética junto con la verdad científica, argumentando que ambas tienen "algo esencial" que aportar al desarrollar nuevas tecnologías.
