A partir de una inquietante conversación con ChatGPT, que disparó una alarma en Estados Unidos, la Policía Federal argentina logró frustrar a un chico de 15 años que planeaba un ataque en su colegio para matar a varios de sus compañeros utilizando asesoramiento de la Inteligencia Artificial.

 

A diferencia de otras alertas, que pueden pasar por fantasías de adolescentes, en este caso encontraron material puntual: en el domicilio del chico en Quilmes hallaron material táctico, indumentaria y material fílmico, que ya se encuentra incorporado a la causa.

 

La investigación comenzó el pasado 19 de agosto a partir de una alerta remitida por el Agregado Jurídico del FBI en la Embajada de Estados Unidos en Argentina, relacionada con un usuario de Gmail que habría mantenido una conversación en ChatGPT, en la que hablaba de sus planes de realizar un tiroteo en una escuela, inicialmente previsto para el año 2027, aunque fantaseaba con adelantar los plazos.

 

Según confirmaron a Clarín fuentes oficiales, uno de los datos que hizo saltar las alarmas era que el chico había manifestado un elevado interés en la compra de vestimenta y de cuchillos tácticos. En los chats con la IA, también había mencionado que era menor de edad.

 

A partir de estos datos, se activó un protocolo que derivó el alerta al FBI primero y a la Argentina después.

 

"Se investigó por medio del FBI, que dio intervención a la PFA Antiterrorismo, que tomó conocimiento de que un alumno, un menor de Quilmes, que estuvo preguntando a la IA qué se necesita para llevar adelante un atentado contra un colegio y sus compañeros", contó Alejandro de Mena, auxiliar letrado de la Fiscalía Penal Juvenil N° 1 de Quilmes, quien tuvo a cargo el caso.

 

La policía secuestró celulares, máscaras y otros elementos.

 

En una entrevista con Radio Mitre, el funcionario brindó algunos detalles más de la investigación, que se encuentra bajo estricto secretismo por tratarse de un menor de edad.

 

"Dan intervención al país por el IP de la conexión y, a raíz de eso, se puede establecer de dónde vino la búsqueda y se llegó a la zona de Quilmes", precisó. Según explicó, se realizó un operativo de oficio.

 

Desde el FBI los pusieron al tanto del caso y automáticamente se impartieron las primeras directivas para seguir adelante la investigación. Según explicaron a Clarín, comenzaron las tareas de campo que incluyeron análisis de fuentes abiertas, redes sociales y vigilancia en la casa señalada.

 

Entre los elementos que pudieron encontrar en las pesquisas se destacan una serie de consultas a la IA, además de conversaciones con otras personas en el exterior vinculadas con este plan.

 

Entre el alerta de Estados Unidos y el allanamiento pasaron apenas ocho días. El pasado 28 de agosto, un grupo comando entró a la casa y comenzaron la requisa. "Fue positivo, porque se consiguió una foto del menor que estaba probándose máscaras", contó De Mena.

 

Se secuestraron dos teléfonos celulares, dos pares de guantes tácticos, un gorro tipo piluso camuflado militar, una balaclava con diseño de calavera, un pasamontaña camuflado militar y gafas de protección táctica de color negro. Los teléfonos serán peritados para buscar más información del plan.

 

Según confirmó De Mena, el joven está acusado de intimidación pública en grado de tentativa. No prestó declaración al momento de ser allanado. Intervino en la investigación la Fiscalía de Responsabilidad Penal Juvenil Nº1, a cargo del Dr. Walter Bruno.

 

Del chat con la IA al FBI

 

ChatGPT es una de las herramientas de IA más utilizadas.(Foto: EFE/ Filip Singer)

 

Según figura en el apartado de reglas de la comunidad de Open AI, cuando detectan un caso con indicios de daño potencialmente grave en el mundo real, la empresa lo remite a un nivel superior para una investigación más exhaustiva.

 

"Esta etapa se reserva para un subconjunto limitado de casos y tiene como objetivo garantizar que los escenarios de mayor riesgo se evalúen con contexto y conocimientos especializados adicionales. Cuando las conversaciones indican un riesgo inminente y creíble de daño a terceros, notificamos a las autoridades policiales", sentencian.

 

En las políticas de privacidad además especifican que comparten información personal sobre el usuario en el caso de que sea necesario para "proteger la seguridad y la integridad de nuestros productos, empleados, usuarios o el público".

 

El de Quilmes no es el primer caso de una alerta que sale desde OpenAI a las autoridades respecto a un usuario con potencial de cometer un crimen. En abril de este año, un hombre de 37 años le preguntó a ChatGPT en Francia cómo conseguir una Glock semiautomática para "matar a un agente de inteligencia de la CIA, el Mossad o la Direction Générale de la Sécurité Intérieure (DGSI)", el equivalente francés de la dirección de inteligencia.

 

Horas después, el hombre fue detenido por las fuerzas de seguridad, según relató Le Figaró. El medio además tuvo la chance de hablar con un vocero de OpenAI, que confirmó cómo es el proceso de alerta.

 

Primero la herramienta detecta elementos que pueden indicar un daño potencial a otros. En ese caso, se reenvía a un grupo de moderadores humanos.

 

"Si los moderadores humanos determinan que un caso representa una amenaza inminente de daño físico grave a otras personas, podemos denunciarlo a las autoridades", contó el vocero.

 

No es el único caso de este año. En agosto, un aviso de OpenAI al FBI contribuyó al arresto de un hombre que se encontraba planeando el asesinato de su exnovia a través de su conversación con ChatGPT.

 

Darren Zhou, un exanalista de Goldman Sachs y egresado con honores de la Universidad del nordeste de Boston, fue acusado de debatir con la IA los planes para violar y asesinar a su ex. "La voy a matar para fin de mes, si no es mía no quiero que nadie la tenga", le escribió al chat en uno de los mensajes que la firma le compartió a las autoridades federales.

 

Según publicó el USA Today, Zhou comenzó en marzo de este año a discutir con la IA sus planes para matar a su ex, con quien había cortado seis meses atrás. Le contó cuáles eran sus hobbies, los lugares que solía frecuentar, los celos que sentía por los hombres que la rodeaban y su deseo de volver a estar con ella.

 

Las autoridades contactaron a la exnovia, quien contó que venía recibiendo llamadas y amenazas de Zhou. Con esos elementos, la policía de Florida lo detuvo en mayo. En un juicio abreviado, aceptó su culpabilidad para evitar casi 25 años de cárcel por acecho agravado y amenazas de muerte.