OpenAI alertó al FBI después de que Darren Zhou, de 25 años y entonces analista del grupo de inversión Goldman Sachs, utilizara el chatbot de la compañía para describir amenazas y planes violentos contra su expareja, informa The Palm Beach Post. "Voy a matarla antes de que termine este mes. Si no puedo tenerla yo, nadie podrá", escribió el empleado en ChatGPT, según mensajes incluidos en documentos judiciales.
De acuerdo con los investigadores, Zhou comenzó a utilizar la herramienta de inteligencia artificial en marzo para hablar sobre la ruptura con su novia. Las conversaciones pasaron rápidamente de los celos y el deseo de reconciliarse a amenazas de violencia sexual y asesinato. En otro mensaje escribió: "Le envié un mensaje diciéndole que iba a violarla esta noche". También describió un plan para esperarla en el estacionamiento de su gimnasio, detallando que, si ella lo rechazaba, sacaría un arma.
El analista fue detenido en mayo y pasó dos días en la cárcel del condado de Palm Beach antes de pagar una fianza de 100.000 dólares. Posteriormente fue acusado de acoso agravado, amenazas escritas de muerte y uso ilegal de un teléfono. El 13 de agosto se declaró culpable de los tres cargos tras alcanzar un acuerdo con la Fiscalía. Fue condenado a ocho años de libertad vigilada y deberá llevar un dispositivo electrónico durante los dos primeros años, además de cumplir otras restricciones. Goldman Sachs lo despidió.
Cuidado con lo que preguntas a ChatGPT (podría estar en la web)
Como actúa OpenAI ante posibles amenazas en ChatGPT
OpenAI explica que utiliza sistemas automatizados para detectar actividades potencialmente preocupantes en ChatGPT. Cuando una cuenta o conversación es marcada, personal especializado revisa el contenido y su contexto. Solo una parte limitada de los casos de mayor riesgo pasa a una investigación más profunda y, cuando una conversación indica un riesgo inminente y creíble de daño a otras personas, la compañía notifica a las fuerzas del orden.
En los casos más complejos, expertos en salud mental y comportamiento ayudan a evaluar el riesgo. La compañía señala que una amenaza puede considerarse potencialmente grave incluso si el usuario no especifica de forma explícita el objetivo, los medios o el momento del acto violento previsto. OpenAI también puede revocar el acceso a sus servicios o desactivar cuentas cuando detecta intentos de utilizar sus herramientas para planear o cometer actos violentos.
Otro caso criminal relacionado con ChatGPT
Un caso distinto se conoció recientemente en Estados Unidos. Arjun Aravind, de 17 años, fue detenido después de que su madre de 45 años y su hermano de 14 fueran encontrados muertos en su vivienda de Acton (Massachusetts). La investigación determinó que el adolescente había utilizado Internet y ChatGPT para buscar información vinculada con ideas y fantasías relacionadas con matar a su familia. Se presume que golpeó a sus dos víctimas hasta quitarles la vida.
La investigación continúa para esclarecer las causas exactas de la muerte y las circunstancias alrededor del crimen.
