Hackmetrix, la startup chilena fundada en 2017 por los argentinos Adriel Araujo y Alejandro Parodi y el chileno Matías Dib, enfocada en servicios de gestión y obtención de certificaciones de ciberseguridad, creó una unidad especializada en protección de arquitecturas y agentes de inteligencia artificial (IA) en Latinoamérica, que integran hackers éticos certificados en técnicas de evaluación y explotación de modelos generativos y expertos en normativas de gobernanza de IA.
El equipo, que se enfocará en el aseguramiento de IA, estará liderado por el CTO de Hackmetrix, Nicolás Mery, quien tiene una maestría en seguridad en entornos de aprendizaje automático en el Instituto de Tecnología de Massachusetts (MIT); Jacqueline Gutiérrez, especialista en ISO/IEC 42001; y Francisco Canteli, líder del equipo de hackers éticos que integran Adriel García y Gustavo Contreras.
Araujo explicó que esta unidad se especializará en el diseño seguro de infraestructuras y arquitecturas para empresas que desarrollan productos basados en IA, como agentes de inteligencia artificial -capaces de ejecutar tareas- “para que esta tecnología no se convierta en un vector de ataque que exponga datos confidenciales de clientes o permita a un atacante moverse lateralmente hacia otros sistemas de la empresa”, dijo.
Ya están trabajando en pruebas con agentes de IA de startups, como Rocketbot, Betterfly, y Fintoc. “En el caso de Betterfly, por ejemplo, verificamos que su agente de chat no devuelva información confidencial de sus usuarios, que esté montado de forma segura y que no nos permita pivotear y hackear los otros componentes de la aplicación”, comentó Araujo.
También apuntan a prevenir filtraciones de datos por el mal uso de herramientas de IA, a través del diseño de políticas y procedimientos “claros” para que los colaboradores de una empresa “sepan qué tipo de datos pueden ingresar en herramientas de terceros, como ChatGPT, y cómo hacerlo de forma segura”, y así evitar filtraciones de información confidencial.
“Por ejemplo, recientemente, un error de configuración en ChatGPT provocó que, si alguien convertía sus conversaciones en enlaces públicos, estas podían ser indexadas por Google. Esto permitía que cualquier persona buscara en Google y accediera a conversaciones ajenas, constituyendo una fuga de datos. Queremos precisamente prevenir incidentes como ese, educando y normando el uso seguro de herramientas de IA”, señaló el cofundador.
Planes
Araujo señaló que en noviembre lanzarán oficialmente el servicio de hacking ético, y además, tienen una alianza con Amazon Web Services lo que les permitirá integrar sus servicios de aseguramiento de IA en Bedrock –la plataforma de herramientas de IA generativa de AWS- y acceder a su red de más de 5 mil clientes activos en IA en la región.
Añadió que proyectan ejecutar entre 50 y 60 proyectos de aseguramiento en IA, hacking ético y certificaciones durante 2025.
VER MÁS
MARKET DATA
<%userdata?.email%>
Editar perfil
Credencial
Salir
(Twitter)
Instagram
Facebook
LinkedIn
YouTube
TikTok
Alto contraste
hackeo
