Hackmetrix crea unidad especializada de hackers éticos para detectar vulnerabilidades de agentes de IA
El nuevo equipo se enfocará en la prevención de filtraciones de datos por mal uso de herramientas de inteligencia artificial en empresas y el diseño seguro de arquitecturas e infraestructura en productos basados en IA, y ya tiene sus primeros pilotos.
Por: Marco Zecchetto
Publicado: Martes 5 de agosto de 2025 a las 13:05 hrs.
Adriel Araujo, Francisco Canteli, Gabriela Díaz, Nicolás Mery y Matías Dib, de Hackmetrix.
Noticias destacadas
Hackmetrix, la startup chilena fundada en 2017 por los argentinos Adriel Araujo y Alejandro Parodi y el chileno Matías Dib, enfocada en servicios de gestión y obtención de certificaciones de ciberseguridad, creó una unidad especializada en protección de arquitecturas y agentes de inteligencia artificial (IA) en Latinoamérica, que integran hackers éticos certificados en técnicas de evaluación y explotación de modelos generativos y expertos en normativas de gobernanza de IA.
El equipo, que se enfocará en el aseguramiento de IA, estará liderado por el CTO de Hackmetrix, Nicolás Mery, quien tiene una maestría en seguridad en entornos de aprendizaje automático en el Instituto de Tecnología de Massachusetts (MIT); Jacqueline Gutiérrez, especialista en ISO/IEC 42001; y Francisco Canteli, líder del equipo de hackers éticos que integran Adriel García y Gustavo Contreras.
Araujo explicó que esta unidad se especializará en el diseño seguro de infraestructuras y arquitecturas para empresas que desarrollan productos basados en IA, como agentes de inteligencia artificial -capaces de ejecutar tareas- “para que esta tecnología no se convierta en un vector de ataque que exponga datos confidenciales de clientes o permita a un atacante moverse lateralmente hacia otros sistemas de la empresa”, dijo.
Ya están trabajando en pruebas con agentes de IA de startups, como Rocketbot, Betterfly, y Fintoc. “En el caso de Betterfly, por ejemplo, verificamos que su agente de chat no devuelva información confidencial de sus usuarios, que esté montado de forma segura y que no nos permita pivotear y hackear los otros componentes de la aplicación”, comentó Araujo.
También apuntan a prevenir filtraciones de datos por el mal uso de herramientas de IA, a través del diseño de políticas y procedimientos “claros” para que los colaboradores de una empresa “sepan qué tipo de datos pueden ingresar en herramientas de terceros, como ChatGPT, y cómo hacerlo de forma segura”, y así evitar filtraciones de información confidencial.
“Por ejemplo, recientemente, un error de configuración en ChatGPT provocó que, si alguien convertía sus conversaciones en enlaces públicos, estas podían ser indexadas por Google. Esto permitía que cualquier persona buscara en Google y accediera a conversaciones ajenas, constituyendo una fuga de datos. Queremos precisamente prevenir incidentes como ese, educando y normando el uso seguro de herramientas de IA”, señaló el cofundador.
Planes
Araujo señaló que en noviembre lanzarán oficialmente el servicio de hacking ético, y además, tienen una alianza con Amazon Web Services lo que les permitirá integrar sus servicios de aseguramiento de IA en Bedrock –la plataforma de herramientas de IA generativa de AWS- y acceder a su red de más de 5 mil clientes activos en IA en la región.
Añadió que proyectan ejecutar entre 50 y 60 proyectos de aseguramiento en IA, hacking ético y certificaciones durante 2025.
Te recomendamos
Contenido reciente
VER MÁS
Providencia se convierte en la primera comuna en impulsar una enmienda para frenar efectos de la nueva OGUC
El municipio busca limitar los efectos de las nuevas reglas de densificación y conjuntos armónicos, ante el riesgo de un crecimiento inmobiliario que altere la calidad de vida de sus barrios.
De cierres de maternidades a nuevos focos de inversión: cómo la salud privada enfrenta la crisis de natalidad
En la última década, los partos en prestadores privados han caído más de un 60%, llevando a las clínicas a reforzar sus servicios de reproducción asistida y atención de embarazos de alto riesgo.
BRANDED CONTENT
La disponibilidad de espacios en el mercado de oficinas de Vitacura depende cada vez más del sector y del tipo de edificio
Mientras la comuna registra una tasa de desocupación de 9,67%, edificios en el eje de Alonso de Córdova presentan una ocupación prácticamente total. Conoce más aquí