Equipo Rojo de Google: los hackers que mantienen segura la IA

Google ha compartido información por primera vez sobre su Equipo Rojo de inteligencia artificial (IA) que consiste en piratas informáticos que simulan una variedad de adversarios.

Que van desde estados nacionales y grupos conocidos de Amenazas Persistentes Avanzadas (APT), hasta hacktivistas, delincuentes individuales o incluso, malintencionados. Así es, llega el Equipo Rojo de Google: los hackers que mantienen segura la IA, veamos de qué se trata.

Un compromiso con la seguridad tecnológica

Como bien sabes, Google presentó Secure AI Framework (SAIF), un marco conceptual para sistemas de IA seguros que tiene como objetivo ayudar a mitigar los riesgos relacionados con la IA de manera responsable. Y ahora, se ha implementado Red Team o Equipo Rojo para respaldar al SAIF.

Entonces, el Red Team de IA está estrechamente alineado con los equipos rojos tradicionales, pero también tiene la experiencia necesaria en la materia de IA para llevar a cabo ataques técnicos complejos en los sistemas de IA. Y, para asegurarse de que estén simulando actividades realistas de los adversarios, el equipo de Google aprovecha los últimos conocimientos de los equipos de Google Threat Intelligence de clase mundial.

Hablamos de Mandiant y Threat Analysis Group (TAG), el equipo rojo de abuso de contenido en Trust & Safety e investiga los últimos ataques de Google DeepMind.

Ahora, una de las responsabilidades clave del Equipo Rojo de IA de Google, es tomar investigaciones relevantes y adaptarlas para que funcionen con productos y funciones reales que usan IA para conocer su impacto. De esta forma, los ejercicios pueden generar hallazgos en las disciplinas de seguridad, privacidad y abuso, según dónde y cómo se implemente la tecnología.

Más tácticas…

Por su parte, estas iniciativas ya han visto los primeros indicios de que las inversiones en experiencia y capacidades de IA en simulaciones adversarias son muy exitosas. Así es, ya que, los compromisos del equipo rojo han resaltado posibles vulnerabilidades y debilidades, lo que ayudó a anticipar algunos de los ataques que ahora ves en los sistemas de IA.

Sin embargo, es de considerar que abordar los hallazgos del Equipo Rojo puede ser un desafío, y es posible que algunos ataques no tengan soluciones simples. Es por ello, que Google hace un llamado a las organizaciones a incorporar los equipos rojos en sus fuentes de trabajo para ayudar a impulsar los esfuerzos de investigación y desarrollo de productos.

Por otro lado, desde su creación hace más de una década, el Equipo Rojo de Google se ha adaptado a un panorama de amenazas en constante evolución y ha sido un compañero de entrenamiento confiable para los equipos de defensa de Google.

Finalmente, todo indica que con la ayuda de este equipo se logre proteger los sistemas de IA. Y que sirva como un llamado a la acción para trabajar de la mano y así, avanzar en SAIF y elevar los estándares de seguridad para todos.

Como ves, estas estrategias pueden resultar muy convenientes para todos, algo que iremos viendo en el camino, te mantendremos al tanto sobre los avances, ¡no te los pierdas!