Un hombre de 36 años fue detenido en Espírito Santo bajo sospecha de haber ideado un plan para asesinar a su propio hijo de 8 años. El objetivo sería evitar pagar pensión alimenticia a su expareja. Las investigaciones comenzaron después de que OpenAI, creador de ChatGPT, detectara mensajes de usuarios que detallaban el plan criminal y reportara los datos a las autoridades estadounidenses.
El FBI, a su vez, remitió la información al Ministerio de Justicia de Brasil, que a su vez la remitió a la Policía Civil de Espírito Santo. La orden de arresto fue cumplida el 19 de junio, en la zona rural de São Gabriel da Palha, ubicada en el noroeste del estado. La Policía Civil informó que, en interacciones con inteligencia artificial, el sospechoso mencionó su intención de contratar a un pistolero, e hizo referencia a armas, cuerdas y sustancias venenosas. Según informes, también expresó su deseo de llevar a cabo ataques contra instituciones como escuelas, iglesias y organismos públicos.
El individuo fue objeto de detención preventiva y registro e incautación, permaneciendo la investigación policial en curso.
El episodio saca a la luz varias cuestiones jurídicas complejas, como el carácter confidencial de las conversaciones con inteligencia artificial, la posibilidad de utilizarlas como prueba jurídica y si la mera planificación de un delito puede dar lugar a responsabilidad penal.
Para arrojar luz sobre estos y otros aspectos, el portal escuchó al especialista en Derecho Digital, Luiz Augusto Filizzola D’Urso, y a la abogada penalista Maíra Beauchamp Salomi.
Asesoramiento jurídico sobre planificación del delito y responsabilidad penal.
La criminalista Maíra Salomi aclara que, por regla general, la simple planificación de un hecho delictivo no genera responsabilidad penal.
Detalla que el proceso de un delito, conocido como *iter criminis*, se divide en cuatro etapas: consideración, actos preparatorios, ejecución y consumación del delito.
El abogado explica que la cavilación, que consiste en la idealización mental del delito, no es de interés para el Derecho Penal. Luego vienen las acciones preparatorias, como adquirir herramientas, analizar el lugar o formular la mejor manera de cometer el acto. Estas conductas, por regla general, tampoco están sujetas a sanción, salvo cuando exista una disposición legal específica.
La imputación delictiva sólo se produce cuando el agente supera esta fase y comienza a realizar la conducta delictiva descrita en la ley.
En el caso específico de un homicidio, por ejemplo, la rendición de cuentas comienza en el momento en que se ejecuta el verbo “matar”, yendo más allá de la simple planificación o preparación de la muerte de la víctima.
Por ello, el criminalista afirma que la mera planificación de un delito rara vez tendrá relevancia en el ámbito penal. También señala que el Código Penal establece que la adecuación, determinación, instigación y asistencia de un delito sólo son punibles si el delito llega, al menos, a la fase de tentativa.
Sin embargo, D’Urso destaca que, en este caso concreto, ésta será una de las cuestiones cruciales que deberá examinar el Poder Judicial.
Según el perito, corresponderá al juez determinar si las interacciones con la inteligencia artificial quedaron en el ámbito de los actos preparatorios o si ya representaron el inicio de la ejecución del delito, escenario en el que podría surgir responsabilidad penal.
La vigencia de las conversaciones con inteligencia artificial como evidencia en procesos
Maíra Salomi afirma que las conversaciones con herramientas de inteligencia artificial sí pueden utilizarse como prueba, siempre que se cumplan los criterios de admisibilidad, autenticidad y confiabilidad inherentes a la evidencia digital.
El abogado destaca que, como cualquier tipo de prueba electrónica, las conversaciones son susceptibles de manipulación o edición, por lo que es fundamental preservar la cadena de custodia.
También será necesario verificar el origen de las pruebas, la autenticidad de los mensajes, quién estaba utilizando realmente la herramienta en el momento de las conversaciones y si todo el material se obtuvo de forma lícita.
Si se producen y validan bajo el escrutinio de procedimientos contradictorios, estas interacciones tienen el potencial de incluso respaldar una condena penal.
El criminalista, sin embargo, enfatiza que aún queda un desafío importante: demostrar la verdadera intención del usuario al interactuar con la inteligencia artificial en esos diálogos.
D’Urso añade que las conversaciones con inteligencia artificial pueden tener repercusiones que van más allá del ámbito criminal.
En el análisis del perito, aunque el contenido no sea suficiente para constituir un delito, puede sustentar otras decisiones judiciales, como medidas de protección infantil, incluidas cuestiones de custodia, siempre que el Poder Judicial identifique un riesgo concreto demostrado por las conversaciones.
Derechos ChatGPT para compartir interacciones con autoridades
Según D’Urso, OpenAI sí puede compartir las conversaciones de los usuarios con las autoridades, siempre que dichas acciones cumplan con las condiciones establecidas en los términos de uso de la plataforma.
El abogado explica que ChatGPT garantiza la privacidad de las conversaciones ante terceros, pero también prevé circunstancias concretas en las que OpenAI podrá tener acceso a estos contenidos. Estas condiciones incluyen la mejora de modelos de inteligencia artificial y situaciones que supongan un riesgo para la vida o la integridad física de cualquier persona.
En estos escenarios, afirma, la empresa tiene la prerrogativa de enviar la información a los órganos competentes para salvaguardar un bien jurídico considerado superior: la vida.
Obligación de OpenAI de denunciar el caso a las autoridades
En opinión de D’Urso, OpenAI no tenía la obligación legal de informar el caso a las autoridades.
Explica que, en la actual legislación brasileña, no existe ninguna norma que imponga a las empresas que desarrollan inteligencia artificial la obligación de alertar a las autoridades cuando identifiquen riesgos para la vida o la salud de sus usuarios o de terceros.
Esta decisión, por tanto, queda en manos de la política interna de cada empresa, según sus condiciones de uso.
Respecto a OpenAI, el abogado aclara que la empresa optó por incluir esta posibilidad contractualmente, elección que considera adecuada dada la gravedad de las situaciones que pueden surgir.
Análisis del impacto de la tesis del STF sobre la responsabilidad de las plataformas digitales en las IA
Otro punto de discusión generado por el caso tiene que ver con la reciente tesis establecida por el Tribunal Supremo Federal, que amplió las circunstancias en las que los proveedores de aplicaciones de Internet pueden ser considerados responsables por contenidos ilícitos publicados por terceros, flexibilizando la protección que antes ofrecía el artículo 19 del Marco Civil da Internet.
Sin embargo, D’Urso enfatiza que este entendimiento no se aplica actualmente directamente a la inteligencia artificial conversacional, como ChatGPT.
Esto se debe a que la decisión del STF se redactó con base en plataformas que alojan y difunden contenidos creados por usuarios a otros usuarios, dinámica que difiere de las herramientas de IA generativa.
El experto, sin embargo, valora que esta realidad podría cambiar en el futuro. A medida que la inteligencia artificial amplía sus funcionalidades y comienza a asumir roles más similares a los de las plataformas digitales tradicionales, los debates sobre la responsabilidad civil en Internet pueden, de hecho, abarcar también este tipo de servicio.