Mas Noticias

Barracas Central venció 1-0 a Defensa y Justicia en Florencio Varela

Barracas Central ganó 1-0 a Defensa y Justicia en Florencio Varela con gol de Norberto Briasco y avanzó a los cuartos de final del torneo Clausura.

La Fiscalía Penal Juvenil intervendrá de oficio por la difusión de imágenes íntimas en una escuela

El fiscal Guillermo Narváez tomará intervención en el caso de difusión de imágenes íntimas de una estudiante. La Justicia indicó que las escuelas y el Ministerio de Educación deben comunicar estos hechos de inmediato.

Dos motocicletas colisionaron en Andalgalá y una joven fue trasladada a la Capital

Dos motocicletas colisionaron en la intersección de San Martín y Dr. E. Colombres, en Andalgalá. Tres personas resultaron lesionadas y una joven de 18 años fue trasladada al Hospital San Juan Bautista.

Sebastián García, experto en ciberseguridad: “Los sistemas se caen y fallan porque hay una debilidad estructural en cómo se desarrolló el software”

El investigador argentino radicado en Praga analiza las fallas recientes en servicios digitales, el impacto de la inteligencia artificial en ataques y defensas, y la complejidad del software actual.

Bancos que no funcionan. Aviones que no despegan. Errores en internet que tumban sitios web de Gobiernos de todo el mundo. Hackeos multimillonarios a plataformas crypto y heladeras que no funcionan. Las últimas semanas parecieron una pesadilla del mundo online, donde las fallas de esos sistemas, que solemos pensar como “virtuales”, tienen efectos muy concretos en el mundo real: el software que usamos todos los días en nuestros teléfonos celulares y computadoras es vulnerable.

Aunque hay que resistir a la tentación de meter todo en la misma bolsa, no es una novedad: la inteligencia artificial aceleró la explotación masiva de las vulnerabilidades, y esto tiene un gran impacto en las herramientas y servicios que usamos en nuestro día a día.

“Estamos en un momento de transición fuerte: se encuentran más vulnerabilidades, más rápido, pero también se corrigen más rápido. Esa presión por actualizar los sistemas, con menos tiempo para analizar y hacer pruebas, puede llevar a cometer más errores humanos”, explica Sebastián García, en un café en el barrio porteño de Colegiales, en diálogo con Clarín.

García trabaja en la academia y es hacker, en el sentido más fuerte y original de la palabra: alguien que desarma las cosas para entender cómo funcionan y usa ese conocimiento para mejorarlas o construir algo nuevo, con el espíritu de compartir el aprendizaje. Es la tradición de los primeros hackers del MIT que el periodista Steven Levy retrató en Hackers: los héroes de la revolución informática (1984), marcada por la curiosidad y el aprendizaje a través de la experimentación.

Desde la Universidad Técnica Checa en Praga, en República Checa, donde vive desde hace 13 años, dirige junto a Verónica Valeros el Stratosphere Lab, un laboratorio que se dedica a desarmar piezas de software que están diseñadas con fines maliciosos (lo que en la jerga se conoce como malware, malicious software). En lugar de pipetas y tubos de ensayo, está lleno de computadoras corriendo, analizando y testeando distintos tipos de amenazas. “Infectamos las máquinas, aisladas, para poder entender cómo se comporta un software malicioso o cómo opera un atacante”, explica.

Pero lo que pasó estas últimas semanas, como las vulnerabilidades detectadas en PHP, un lenguaje de programación que usan páginas web de todo el mundo, las fallas en la NSA y hackeos de alto perfil como el de Binance en el que robaron 6.300 millones de dólares, o el hackeo a los termostatos de las heladeras en Europa (por nombrar sólo algunos de los casos), responde a causas distintas. Hay servicios que se caen durante una actualización y ataques que aprovechan fallas de seguridad. Para García, los errores humanos atraviesan tanto el desarrollo del software como las decisiones sobre cómo mantenerlo y ponerlo en funcionamiento.

“El error es siempre humano. Con el software hacés tu mejor esfuerzo, pero hay cosas que no sabés hacer bien porque no entendés el problema, porque no tenés las herramientas, la gente o la plata. No podés tener todo en tu cabeza”, explica.

Acá, una charla a fondo sobre por qué fallan los servicios cotidianos, qué cambió con los ataques automatizados con IA y cuán resiliente es esa creación de la que dependen casi todas las tareas que llevamos a cabo en nuestro día a día: internet.

Por qué falla el software que usamos todos los días

─Durante estas últimas semanas se habló mucho de fallas en el software y vulnerabilidades. ¿Qué diferencias hay entre estos dos problemas?

─Hay errores que hacen que un programa falle y hay errores que permiten que alguien tome el control de ese programa. Un error puede hacer que WhatsApp se cierre. Otro puede permitir que alguien que está en otro país acceda a tus datos. En los dos casos hay una falla, pero en el segundo queda en riesgo algo que vos valorás, como tu privacidad, tus contactos o tu plata: a ese tipo de debilidad la llamamos vulnerabilidad.

─Internet y las aplicaciones que usamos todos los días, como el mail o el home banking, ¿son más complejos de lo que imaginamos?

Absolutamente. Incluso a quienes trabajamos con software nos cuesta tener en la cabeza toda esa complejidad. Alrededor nuestro hay muchísimo software y, diría, a la web le pedimos todo. Queremos leer el diario, escuchar música, ver videos, hablar con la familia, guardar archivos, pagar cuentas. La extendemos y la hacemos cada vez más compleja. Cuantas más partes tiene algo, más cosas pueden fallar.

─Varias empresas explicaron sus caídas como problemas con actualizaciones. ¿Cómo puede pasar que un cambio termine dejando un servicio fuera de funcionamiento?

─Las actualizaciones sirven para corregir errores y adaptarse a nuevas necesidades. No sé qué ocurrió dentro de cada empresa, pero puede haber presión por actualizar rápido, falta de tiempo para hacer pruebas o cambios de proveedores y equipos. Cuando hacés un cambio grande, lo probás varias veces y, en general, lo ponés en funcionamiento de manera progresiva. Si actualizás el software de un auto, empezás por un grupo, observás qué pasa y después seguís. Ese proceso lleva tiempo. Pero cuando aparece una vulnerabilidad que está siendo aprovechada, existe presión por corregirla cuanto antes. Esa aceleración puede llevar a saltear pasos y cometer más errores humanos.

─¿En qué etapa o estado dirías que está el software que usamos a diario en la actualidad?

─Es una situación bastante particular: Tenemos software que forma parte de otro software, que a su vez forma parte de otro. Y de hecho, algunas de esas pequeñas piezas las hizo alguien en su tiempo libre y hoy forman una parte importante de la estructura de internet bajo modelos de código abierto, que no necesariamente tienen fines comerciales [ver: qué es el open-source]. Con el paso del tiempo, esas herramientas pueden quedar huérfanas, sin alguien que las mantenga. Y ahí hay un problema clave: los sistemas se caen y fallan porque hay una debilidad estructural en cómo se desarrolló el software

─¿Cómo es esa debilidad estructural?

─Creo que el sistema ya existía bajo este paradigma con debilidades. En esta nueva estructura social, se ven más claras esas falencias. Pero podés pensar esa red como una tela de araña. Es frágil, pero yo creo que es mucho mejor que lo que teníamos antes: unos pocos proyectos enormes, millonarios, que cuando fallaban dejaban pocas alternativas. Esa estructura avanzaba más lento. La apertura del software nos permitió llegar a lo que tenemos hoy. Permite que otras personas vean el código, lo revisen, lo corrijan y agreguen funciones. Tiene un valor enorme. Ahora tenemos que trabajar sobre la red de confianza entre los proyectos, quienes los mantienen y las empresas que los usan. Pensar cómo cuidar esa red y qué pasa cuando una pieza queda abandonada implica un problema grande.

─¿La dependencia de internet nos dejó ante un único “punto de falla” cuya caída nos impediría realizar muchas tareas cotidianas?

─Yo no veo internet como un único punto de falla. Tiene muchísimos componentes, cables, satélites, redes que se conectan de distintas maneras. Su estructura es resiliente, tiene capacidad de seguir funcionando cuando algunas partes fallan. Por supuesto que pueden caerse cosas importantes y producir consecuencias muy graves. Pero internet está incorporada a nuestra vida social, política y comunitaria: forma parte de nuestra sociedad, como las redes de transporte y de comercio. Esa estructura es más resistente de lo que a veces imaginamos.

Inteligencia artificial: anabólicos para los atacantes, pero también para los que protegen sistemas

─¿Qué cambió con la IA en el trabajo de encontrar vulnerabilidades?

─Finalmente pudimos construir sistemas suficientemente buenos para encontrar problemas muy difíciles. A mí eso me pone contento: tenemos décadas de software y ahora podemos mirar hacia atrás, encontrar problemas y arreglarlos. Por supuesto que se necesita conocimiento y hay límites: una herramienta puede señalar cientos de cosas y después hay que filtrar cuáles tienen sentido y cuál es el riesgo real. Ese trabajo lleva tiempo, pero estamos encontrando fallas que estaban ahí desde hace diez o quince años.

─Con tantas noticias de caídas y fallas de sistemas juntas, se habló de una “explosión” de hackeos. ¿Qué pensás de esto?

─Yo sería cuidadoso con esa palabra. Hay más ataques, pero hace diez años también había más que antes. Saber si algo está creciendo de manera exponencial es difícil, sobre todo al principio. Para entender bien el cambio necesitamos mirar durante más tiempo.

─¿Qué trajo la IA a este ecosistema?

─Vemos algo diferente en la facilidad y la velocidad para encontrar vulnerabilidades y aprovecharlas, explotarlas. Antes, desarrollar un exploit [un programa que permite aprovechar una vulnerabilidad] podía requerir mucho conocimiento técnico, tiempo y plata. Ahora, con la IA, esa barrera baja. Creo que vamos a ver más casos y algunos con mucho impacto.

─Según los datos que recogen en el laboratorio, ¿cómo se dan cuenta de que un ataque está hecho con IA?

─Porque las formas de operar de un humano y de una máquina son distintas. Un humano entra a una computadora, mira dónde está, qué archivos tiene, consulta algo, analiza la respuesta y después decide qué hacer. Incluso la manera de escribir y los tiempos tienen una cadencia. Con la IA vemos instrucciones encadenadas bajo una complejidad enorme.

─¿Por ejemplo?

─Bueno, en lugar de pedir una lista de fotos, mirarlas y elegir, se ve una secuencia que arma una lista completa de los archivos, los hace analizar por otros programas y devuelve un resultado muy pequeño. Por ejemplo, cuáles valdría la pena descargar. Otra señal es cuánto se reduce la información que vuelve al modelo, porque los servicios de IA suelen cobrar por tokens [fragmentos de texto que el sistema procesa]. Si estás atacando muchas computadoras, analizar todo lo que hay en cada una puede costarte mucha plata. Entonces se optimiza la secuencia para devolver pocos datos.

─¿Y las defensas? ¿Mejoraron con la IA los sistemas para defender computadoras y sistemas?

─Las defensas mejoraron, pero los ataques cambian muy rápido. En nuestras investigaciones vemos que muchos sistemas de seguridad siguen preparados para detectar las formas de atacar de antes y todavía no se adaptaron a las nuevas. Al mismo tiempo, la IA nos está permitiendo encontrar y corregir problemas que antes no veíamos. Vamos a tener ataques con estas herramientas y también vamos a necesitar estas herramientas para defendernos. Espero que eso nos permita subir un escalón en seguridad.

─¿Qué le dirías a alguien que perdió un vuelo o se quedó sin acceso a su banco y quiere entender por qué todo esto afecta su vida?

─Que estamos todos interconectados, mucho más de lo que a veces tenemos presente. Todo nos afecta. La tecnología forma parte de cómo viajás, de si podés sacar un crédito, de la plata que tenés en el banco y de la medicina. Ahora incorporamos herramientas capaces de tomar decisiones y actuar sobre esos sistemas, los agentes de IA. Aunque la inteligencia artificial no te interese, ya forma parte de la sociedad en la que vivís y de cosas que pasan alrededor tuyo. Estamos en una transición caótica, explorando qué se puede hacer. Para mí, como investigador, es fascinante vivir este momento. Pero también tenemos que tomar conciencia de cuánto interviene todo esto en nuestra vida cotidiana y de las decisiones que tomamos.

Los riesgos de la IA y las razones para ser optimista

─Una narrativa recurrente de las empresas de IA es que los modelos “se escapan” y que “hackean solos”. Vos señalás que siempre hay “un humano que aprieta enter”. ¿Cómo son estos ataques?

─Claro, hubo una decisión humana de ponerlos a funcionar, con protecciones y dentro de un entorno que creían controlado. En el caso del hackeo a Hugging Face, que fue uno de los que más dieron que hablar este año, los agentes encontraron vulnerabilidades en ese mismo entorno y las aprovecharon para superar los límites que les habían puesto. Si tomamos por bueno lo que contaron quienes hicieron la prueba, no esperaban ese resultado. Ahora podemos probarlos con más precauciones porque entendemos algo más, pero seguimos explorando una tecnología cuyas capacidades ni sus propios creadores entienden del todo.

─¿En qué sentido?

─Bueno, nosotros usamos nuestro cerebro para pensar, razonar y comprender. Y, sin embargo, tampoco entendemos por completo nuestro propio cerebro. Salvando las diferencias, esa comparación sirve para pensar lo que pasa con la IA. Creamos algo y todavía estamos explorando qué capacidades tiene, son redes neuronales profundas [modelos que aprenden patrones a partir de datos], y además entrenamos unos sistemas con los resultados de otros.

─¿Y cómo se pueden entender mejor?

─Muchas veces lo entendés preguntándole, a mí me llama mucho la atención eso. Estás analizando tu propia creación y una de tus herramientas es preguntarle qué haría, ponerla a prueba y observar cómo responde. En ese sentido volvemos a la pregunta y la respuesta, es casi socrático: crear algo, hacerle preguntas y evaluar a partir de lo que contesta. Pero no deja de ser algo que nosotros, como humanidad, acabamos de crear.

─¿Sos pesimista u optimista respecto de esta transformación que trajo la IA en el mundo de la ciberseguridad?

─Para mí puede ser de lo mejor que nos pase como seres humanos. Espero que nos permita hacer cosas que hoy no podemos y resolver problemas enormes. En seguridad estamos encontrando errores que venían de hace muchos años. A mí me entusiasma que podamos arreglarlos y espero que haya una nueva estabilidad, con mejores herramientas para atacar los problemas y defendernos. Hay riesgos y usos terribles, como los relacionados con la guerra. Y también hay usos que pueden ayudarnos muchísimo. Mi expectativa es que lo que suma sea mucho más que lo que resta.

─¿Se están teniendo en cuenta estos riesgos en el avance de la IA?

─Hay algo que me llamó mucho la atención. Por un lado, el Papa, en su documento sobre la inteligencia artificial, pide prudencia. Por otro, después de los avances y la discusión sobre las ecuaciones de Navier y Stokes [que describen el movimiento de los fluidos], un grupo de matemáticos, entre ellos Terence Tao, plantea su preocupación por cómo se está usando la IA en su disciplina. Para mí, desde lugares muy distintos, los dos están diciendo que frenemos un poco. Estamos apurando las cosas y a veces ni siquiera terminamos de aprovechar algo antes de pasar a lo siguiente.

─¿Acelerar o frenar el desarrollo de la IA? ¿Qué sería mejor?

─Tengo dudas como investigador. Si hoy tenés todo para desarrollar algo que puede ser mejor, ¿deberías dejar de hacerlo? Si esa tecnología pudiera ayudar a curar una enfermedad, ¿qué hacés? Hay pros y contras por todos lados. Y no entenderlo también es difícil, social, psicológica y académicamente: por ahí, mientras avanzamos, tendríamos que preocuparnos por entenderlo un poquito más.

Mini bio

Sebastián García es ingeniero en Sistemas de Información por la UTN Buenos Aires y doctor en Ciencias de la Computación por la Universidad Nacional del Centro, en Tandil. Dio clases en la UTN y en la Universidad FASTA de Mar del Plata y trabajó en el laboratorio de ciberseguridad de Citefa. Desde hace 13 años vive en Praga, donde es docente e investigador de la Universidad Técnica Checa. Allí fundó el Stratosphere Lab, que dirige junto con Verónica Valeros. Su equipo estudia programas maliciosos y desarrolla herramientas de inteligencia artificial para detectar ataques: infecta computadoras en entornos controlados para observar cómo actúan los atacantes.

Más Noticias

Barracas Central venció 1-0 a Defensa y Justicia en Florencio Varela

Barracas Central ganó 1-0 a Defensa y Justicia en Florencio Varela con gol de Norberto Briasco y avanzó a los cuartos de final del torneo Clausura.

La Fiscalía Penal Juvenil intervendrá de oficio por la difusión de imágenes íntimas en una escuela

El fiscal Guillermo Narváez tomará intervención en el caso de difusión de imágenes íntimas de una estudiante. La Justicia indicó que las escuelas y el Ministerio de Educación deben comunicar estos hechos de inmediato.

Dos motocicletas colisionaron en Andalgalá y una joven fue trasladada a la Capital

Dos motocicletas colisionaron en la intersección de San Martín y Dr. E. Colombres, en Andalgalá. Tres personas resultaron lesionadas y una joven de 18 años fue trasladada al Hospital San Juan Bautista.

Una mujer murió tras descompensarse durante un control de Gendarmería en Ruta Nacional 38

Una mujer oriunda de Salta falleció este sábado tras sufrir una descompensación en el puesto fronterizo de Río Huacra, sobre la Ruta Nacional 38, límite entre Tucumán y Catamarca.

Barracas Central venció 1-0 a Defensa y Justicia en Florencio Varela

Barracas Central ganó 1-0 a Defensa y Justicia en Florencio Varela con gol de Norberto Briasco y avanzó a los cuartos de final del torneo Clausura.

La Fiscalía Penal Juvenil intervendrá de oficio por la difusión de imágenes íntimas en una escuela

El fiscal Guillermo Narváez tomará intervención en el caso de difusión de imágenes íntimas de una estudiante. La Justicia indicó que las escuelas y el Ministerio de Educación deben comunicar estos hechos de inmediato.

Dos motocicletas colisionaron en Andalgalá y una joven fue trasladada a la Capital

Dos motocicletas colisionaron en la intersección de San Martín y Dr. E. Colombres, en Andalgalá. Tres personas resultaron lesionadas y una joven de 18 años fue trasladada al Hospital San Juan Bautista.