En los últimos meses, las capacidades avanzadas de los modelos de inteligencia artificial (IA) han tensionado la seguridad informática mundial, hasta poner en discusión la necesidad de frenar el desarrollo de esta tecnología. Desde julio, agentes autónomos de los líderes de la industria, como OpenAI, han protagonizado incidentes de ciberseguridad. Entre ellos, el hackeo a Hugging Face; el acceso no autorizado a una base de datos de salud del gobierno australiano; y el “enjambre” de agentes que tomó el control de un sitio web alemán para desarrolladores de software.
El director de investigación y desarrollo (I+D) de SoftServe -multinacional de origen ucraniano de desarrollo de software, soluciones y consultoría tecnológica-, Volodymyr Karpiv, quien será expositor del AI Week Latam 2026, explicó a DF que los enjambres de agentes son conjuntos de sistemas de IA capaces de operar “como entidades”, coordinarse y ejecutar acciones hacia un objetivo común. Precisó que los mayores riesgos no son estas herramientas en sí, sino quienes configuran y coordinan su comportamiento.
“Lo interesante es que en el caso (del hackeo a Hugging Face), el incidente no era el objetivo final. Los ingenieros -de OpenAI- no diseñaron esto pensando en el agente, sino en el riesgo. Uno de los mayores riesgos es que un humano pueda configurar un comportamiento inesperado y dirigir esos enjambres de agentes, orquestarlos, para causar daño a países, entidades, gobiernos, empresas. Para destruirlos”, advirtió.
En ese contexto, Karpiv alertó que es “probablemente una cuestión de tiempo” para que grupos organizados utilicen estos enjambres en ataques coordinados y masivos en internet, y dijo que “la defensa debería prepararse lo antes posible. Todas las estrategias para proteger la infraestructura y los sistemas actuales deberían estar en fase de desarrollo activo en este momento”.
5% de sus ingresos destina a I+D y proyectos estratégicos
Agregó que la protección con tecnología tradicional y la revisión humana “no son eficaces en absoluto” para enfrentar este tipo de ciberataques, dada su capacidad para sobrecargar los sistemas y generar ataques de manera automatizada. Por ello, subrayó que los equipos de ciberseguridad deberán empezar a “utilizar activamente” IA y agentes.
También cuestionó la necesidad de desacelerar el desarrollo de la IA -en línea con la discusión global que ha dividido a los líderes de la industria a favor y en contra-, y afirmó que no está claro cómo podría coordinarse una regulación a escala mundial.
“Me entusiasma mucho más la forma en que la IA puede ayudar a acelerar los descubrimientos científicos en matemáticas y en otras áreas, en lugar de frenar este progreso. Sin embargo, habrá personas que intentarán hacer un mal uso de los modelos de IA, y habrá otras que intentarán evitarlo y se defenderán contra ese tipo de ataques”, comentó.
Investigación y desarrollo
Desde 2023, Karpiv lidera a nivel global el área de I+D de la compañía. Se trata de una unidad de deep tech (tecnologías avanzadas) multidisciplinaria -que reúne a unas 200 personas- enfocada en investigación, prototipado, creación y comercialización de nuevos servicios y soluciones.
El equipo trabaja en líneas como IA multimodal y física; ingeniería agéntica; aceleración de hardware; computación de alto rendimiento; computación cuántica; y ciencias de la vida.
La multinacional destina cerca del 5% de sus ingresos a proyectos tecnológicos estratégicos e I+D.
Karpiv destacó que, a nivel interno, el uso de inteligencia artificial interviene en distintas etapas del proceso de I+D, desde la generación de ideas y el diseño de hipótesis hasta la programación, la creación de soluciones y su validación.
“Pero los humanos siguen siendo responsables de los resultados, por ejemplo, si una hipótesis no converge hacia una solución o una nueva contribución. No dependemos únicamente de los modelos, y los humanos siguen estando siempre involucrados en la obtención de estos resultados”, afirmó.
En el ámbito de la IA física, Karpiv dijo que están “experimentando mucho” con modelos que combinan redes neuronales con leyes de la física para resolver problemas científicos y de ingeniería.
También cuentan con un equipo de robótica que trabaja con máquinas humanoides y de vuelo, para diferentes operaciones.
En ciencias de la vida, desarrollan plataformas de IA y aprendizaje automático para que empresas -como farmacéuticas- puedan generar y validar hipótesis de investigación, como una herramienta que integra IA generativa y tecnología de Nvidia para acelerar el descubrimiento de fármacos.
“Estamos muy entusiasmados con el desarrollo futuro en las ciencias de la vida porque hay una combinación muy natural entre tecnología y problemas técnicos, y la IA puede resolverlo mucho más rápido que los humanos, ya que puede iterar sobre distintas opciones. La IA en el ámbito de la salud y las ciencias de la vida es un campo muy prometedor en el que es posible que veamos numerosas innovaciones. Por eso, también estamos trabajando tanto en el aspecto teórico como en colaboraciones con laboratorios para complementar este conjunto de habilidades”, dijo Karpiv.
VER MÁS
MARKET DATA
<%userdata?.email%>
Editar perfil
Credencial
Salir
(Twitter)
Instagram
Facebook
LinkedIn
YouTube
TikTok
Alto contraste
Marco Zecchetto
