Medidas legislativas para garantizar la seguridad de la Inteligencia Artificial

A medida que la Inteligencia Artificial (IA) sigue evolucionando e impregnando cada vez más aspectos de nuestra vida cotidiana, la necesidad de garantizar su seguridad se vuelve crucial. En este contexto, un reciente proyecto de ley presentado en el Senado estadounidense pretende abordar este reto crucial.

La Ley de Seguridad de la Inteligencia Artificial, presentada por los senadores Mark Warner (D-VA) y Thom Tillis (R-NC), pretende crear una base de datos centralizada para rastrear y registrar todos los fallos de seguridad relacionados con los sistemas de IA. Este repositorio incluiría no sólo los ataques exitosos, sino también los casi fall idos.

Un centro de seguridad de la IA en la NSA

Una de las principales disposiciones del proyecto de ley es la creación de un Centro de Seguridad de la Inteligencia Artificial dentro de la Agencia de Seguridad Nacional (NSA). Este centro tendría la tarea de realizar investigaciones sobre técnicas de«contra IA«, es decir, métodos para manipular y contrarrestar los sistemas de IA.

Además, el centro desarrollaría directrices y mejores prácticas para prevenir y mitigar los ataques contra la IA, proporcionando así un marco esencial para los desarrolladores y usuarios de soluciones de IA.

Tipos de ataques a contrarrestar

La Ley de Inteligencia Artificial Segura clasifica los ataques a los sistemas de IA en cuatro categorías principales:

1. Envenenamiento de datos: Esta técnica consiste en insertar código malicioso en los datos recogidos y utilizados por los modelos de IA, corrompiendo así su rendimiento y funcionamiento.
2. Ataques deevasión: Estos ataques pretenden modificar los datos analizados por los modelos de IA para confundirlos y engañarlos.
3. Ataquesbasados en la privacidad: Se trata de ataques dirigidos a violar la privacidad de los usuarios explotando las vulnerabilidades de los sistemas de IA.
4. Ataquesbasados en el abuso: Esta categoría incluye los ataques dirigidos a hacer un uso indebido o malintencionado de las capacidades de los modelos de IA.

Hacer frente a estas amenazas es fundamental para garantizar la fiabilidad y la seguridad de las soluciones de IA, protegiendo al mismo tiempo la privacidad y los datos de los usuarios.

El papel del NIST y la CISA

Además de la creación del centro de seguridad en la NSA, el proyecto de ley exige que el Instituto Nacional de Normas y Tecnología (NIST) y la Agencia de Ciberseguridad y Seguridad de las Infraestructuras (CISA) trabajen juntos para desarrollar y mantener la base de datos de brechas de seguridad relacionadas con la IA.

Este recurso centralizado permitiría supervisar y analizar los incidentes de seguridad, facilitando así el desarrollo de contramedidas más eficaces y específicas.

Alineación con las iniciativas de la Administración Biden

LaLey de Inteligencia Artificial Segura está en consonancia con las iniciativas de la administración Biden para abordar los retos de seguridad de la IA. En concreto, la orden ejecutiva sobre IA emitida por el presidente exigía al NIST que estableciera directrices para el «red-teaming», el proceso de probar intencionadamente modelos de IA en busca de vulnerabilidades.

Además, la orden ejecutiva exigía a los desarrolladores de IA que presentaran informes de seguridad detallados, en línea con el enfoque proactivo promovido por la Ley de Inteligencia Artificial Segura.

La necesidad de pruebas de seguridad en profundidad

Para garantizar la seguridad de los modelos de IA más avanzados, es esencial que los desarrolladores los sometan a rigurosas pruebas de seguridad y a exhaustivas sesiones de red-teaming antes de ponerlos a disposición del público. Algunas empresas, como Microsoft, ya han desarrollado herramientas para simplificar la aplicación de medidas de seguridad en los proyectos de IA.

Sin embargo, es crucial que estas prácticas se conviertan en una norma de la industria, y la Ley de Inteligencia Artificial Segura podría ser un paso importante en esta dirección.

La vía legislativa

Antes de que pueda ser debatida y votada por el pleno del Senado, la Ley de Inteligencia Artificial Segura tendrá que pasar por las comisiones pertinentes. Este proceso podría dar lugar a cambios o enmiendas al texto original del proyecto de ley.

Sin embargo, el amplio apoyo bipartidista del que goza el proyecto de ley, patrocinado por un demócrata y un republicano, podría facilitar su vía legislativa.

Conclusión: Un paso adelante para una IA segura

La Ley de Inteligencia Artificial Segura representa un esfuerzo importante para abordar los retos de seguridad de la Inteligencia Artificial. A través de la creación de una base de datos centralizada de violaciones de la seguridad, el fomento de la investigación de técnicas contra la IA y el establecimiento de un centro de excelencia en la NSA, este proyecto de ley pretende crear un marco normativo más sólido para garantizar la seguridad de los sistemas de IA.

Aunque el camino legislativo puede presentar nuevos retos, laLey de Inteligencia Artificial Segura es un paso importante para promover la adopción responsable y segura de la IA, protegiendo al mismo tiempo la privacidad y los datos de los usuarios.

Fuente del artículo aquí.