Tomás ValverdeDurante una prueba realizada en un entorno controlado, varios sistemas avanzados de inteligencia artificial fueron capaces de identificar vulnerabilidades, diseñar una estrategia de ataque y comprometer la seguridad de una empresa simulada prácticamente sin intervención humana. El episodio, dado a conocer por BBC, es considerado por especialistas como uno de los primeros ejemplos públicos de un ciberataque ejecutado de manera autónoma por IA.
El experimento no buscaba causar daños reales. Su objetivo era medir hasta dónde pueden llegar los modelos de inteligencia artificial más avanzados cuando reciben una meta específica.
Para ello, los investigadores enfrentaron a diferentes sistemas de IA contra una empresa ficticia especialmente diseñada para poner a prueba sus capacidades. La misión consistía en obtener acceso a información protegida.
Lo sorprendente fue que las inteligencias artificiales no necesitaron instrucciones detalladas. Analizaron el entorno, detectaron puntos débiles, elaboraron un plan de acción y fueron adaptándolo a medida que aparecían obstáculos, un comportamiento muy diferente al de los programas tradicionales, que sólo ejecutan órdenes previamente definidas.
Los expertos explican que la diferencia entre este tipo de IA y las herramientas anteriores es enorme.
Hasta ahora, la mayoría de los programas de ciberseguridad funcionaban como asistentes: ayudaban a los especialistas, pero dependían constantemente de decisiones humanas.
Los nuevos modelos, en cambio, pueden actuar como agentes autónomos. Es decir, reciben un objetivo general —por ejemplo, acceder a un sistema— y son capaces de decidir por sí mismos qué acciones ejecutar, evaluar los resultados y modificar su estrategia hasta alcanzar la meta.
Ese nivel de autonomía representa un salto tecnológico sin precedentes.
El experimento también dejó una enseñanza preocupante.
Si una inteligencia artificial puede descubrir vulnerabilidades y explotarlas en cuestión de minutos dentro de un laboratorio, ¿qué ocurrirá cuando herramientas similares estén al alcance de organizaciones criminales o actores estatales?
Especialistas en ciberseguridad advierten que el desafío ya no consiste únicamente en desarrollar inteligencias artificiales más potentes, sino en asegurarse de que existan mecanismos eficaces para supervisarlas, limitar sus acciones y evitar usos maliciosos.
Por ese motivo, cada vez más gobiernos impulsan regulaciones específicas para los llamados "modelos de frontera", las IA más avanzadas que están siendo desarrolladas por grandes laboratorios tecnológicos.
La inteligencia artificial promete revolucionar la medicina, la educación, la ciencia y prácticamente todas las industrias.
Pero esta misma capacidad para resolver problemas complejos también puede utilizarse para encontrar nuevas formas de vulnerar sistemas informáticos, automatizar ataques o descubrir fallas que antes requerían equipos completos de especialistas.
Como suele ocurrir con toda gran innovación, el verdadero desafío no está únicamente en crear la tecnología, sino en aprender a gobernarla responsablemente.
Los jóvenes de hoy serán la primera generación que compartirá buena parte de su vida profesional con inteligencias artificiales capaces de tomar decisiones complejas.
Eso exige mucho más que aprender a utilizarlas. Exige comprender sus límites, sus riesgos y las responsabilidades que implica desarrollarlas.
Porque el futuro no dependerá únicamente de construir máquinas cada vez más inteligentes, sino de formar personas capaces de guiarlas con criterio, ética y visión de largo plazo.
La inteligencia artificial ya demostró que puede actuar sola. La gran pregunta ahora es si la humanidad será capaz de establecer las reglas antes de que esa autonomía avance más rápido que nuestra capacidad para controlarla.
:quality(85)/cloudfront-us-east-1.images.arcpublishing.com/infobae/H3AC3S6365B77PKKDJB4VJVBHQ.jpg)
