Le dijo a ChatGPT que quería asesinar a su hijo de 8 años y luego fue arrestado por la policía

Primer plano de un teléfono inteligente que muestra la aplicación ChatGPT, situado frente a una estatua de la Dama de la Justicia con una balanza.Fuente de la imagen,Getty Images

ADVERTENCIA: Este artículo contiene referencias sobre violencia y suicidio.

«Le ofrecí 50.000 para que me matara a mí y a mi hijo, pero no quiso porque se trataba de un niño».

«Quería saber de dónde viene este deseo de matar gente. Me gusta la sensación de ver sufrir a otra persona».

Durante casi dos meses, un agricultor brasileño intercambió estos y otros mensajes con el asistente de inteligencia artificial ChatGPT, en lo que la policía describe como planes para matar a su hijo de 8 años, atacar a otras personas y luego quitarse la vida.

Y fueron precisamente estos mensajes, a los que tuvo acceso BBC News Brasil, los que llevaron al arresto del hombre.

En uno de los pocos casos conocidos de este tipo, el hombre, de 36 años, fue arrestado después de que OpenAI, el creador de ChatGPT, denunciara sus mensajes al FBI, que a su vez notificó a las autoridades brasileñas.

Su abogado afirma que le estaba «diciendo tonterías» a un chatbot y que no cometió ningún delito.

Este caso pone de relieve un reto creciente para la policía, los tribunales y las empresas de IA: ¿Qué debería ocurrir cuando los chatbots de IA identifican una amenaza potencial antes de que se haya cometido ningún delito?