Maria Markstedter, experta en ciberseguridad, abrió una de las conferencias de seguridad informática más grandes del mundo. Críticas al avance de la IA.

“Los modelos de lenguaje de inteligencia artificial (IA) son como adolescentes problematizados”: con estas palabras se inauguró la edición 2023 de Black Hat, una de las conferencias de seguridad informática más grandes del mundo, en Las Vegas.

Con un auditorio repleto en el centro de convenciones del Mandalay Bay, Maria Markstedter, investigadora experta en ciberataques y vulnerabilidades, advirtió sobre los problemas del uso masivo de IA sin atender a la seguridad.

“Hay una carrera armamentista corporativa por la IA pero no impulsada por la seguridad: se sigue el lema ‘movete rápido y rompé cosas’, como sucedió con el primer modelo de iPhone”, siguió Markstedter. Su referencia es a un modelo de teléfono que fue “tan inseguro que estaba lleno de errores, vulnerabilidades”, recordó.

Markstedter es la fundadora de Azeria Labs, un centro de análisis de vulnerabilidades, actores de amenazas y ciberataques. Experta en lo que se conoce como “ingeniería inversa” y “desarrollo de exploits [vulnerabilidades], hizo hincapié en la cantidad de sistemas que se están creando sobre modelos de IA que no tienen desarrollos fuertes en ciberseguridad.

Según explicó, esto se puede comprobar en la cantidad de problemas que se generaron desde que se popularizó Chat GPT, incluso con filtraciones de datos personales de quienes se registraron en la herramienta de OpenAI. “Las compañías quieren controlar la información de los usuarios para integrarlos a sus productos y esto hace que funcionen dentro de su propia infraestructura”, advirtió.

"Los sistemas de IA y sus casos de uso y capacidades son cada vez más potentes: tenemos que tomarnos en serio la posibilidad de que los agentes autónomos de IA se conviertan en una realidad dentro de nuestra empresa”, sumó en su “keynote”, como se conocen a las charlas principales de este tipo de eventos.

"Hace tiempo que una tecnología no perturbaba tanto la seguridad online como ahora. Tenemos que aprender sobre la tecnología que está cambiando nuestros sistemas y nuestros modelos de amenazas para poder hacer frente a estos problemas que aparecen: los cambios tecnológicos son nuevos, pero para nosotros la tecnología siempre está evolucionando: eso, en seguridad informática, no es nuevo", cerró.

Qué es Black Hat

Black Hat es una de las convenciones de seguridad informática más grandes del mundo. Se trata de un evento que ocurre todos los años en distintas partes del mundo, pero el de la ciudad de Las Vegas es uno de los más populares y concurridos.

Este año, el eje de la convención estuvo puesto en los nuevos desafíos de la expansión de la inteligencia artificial a un público masivo, a partir del uso masivo de herramientas como ChatGPT y Mindjourney.

Por lo general coincide con Defcon, la convención de hackers más grande del mundo, que tiene lugar en el Caesars Forum del Caesars Palace. A ambos eventos se los conoce como el “summer hacker camp”, debido a la enorme cantidad de investigadores en ciberseguridad y hackers que se juntan para compartir sus investigaciones y avances en el campo.

“Black Hat es una conferencia con grandes sponsors, de carácter más corporativo y con presencia de las empresas líderes del sector. Por otro lado, Defcon es una conferencia autogestiva, sin sponsors y más enfocada en la comunidad. Sin embargo, ambas seleccionan charlas sumamente técnicas y novedosas”, explica Octavio Gianatiempo, hacker argentino que también conforma el equipo de Faraday.

La convención cuenta además con stands de vendedores de distintos productos del rubro de la seguridad informática: firewalls, aplicaciones de defensa, inteligencia, VPNs y más.

Fuente: Clarín