Estados Unidos y China acuerdan trazar un marco para desarrollar la IA de manera responsable. Esto es lo que necesitas saber

Desarrollar la IA de manera responsable

Después de años de presión por parte de funcionarios y expertos, las dos principales potencias mundiales finalmente han acordado sentarse y abordar sus preocupaciones sobre la expansión del poder y el alcance de la inteligencia artificial (IA). Tanto Pekín como Washington han sido cautelosos al dar a su adversario una ventaja limitando sus propias investigaciones y capacidades en este campo. Sin embargo, los observadores han expresado una preocupación de larga data de que los riesgos existenciales de este enfoque son demasiado altos.

Aunque aún no hay una fecha establecida, se anticipa que Estados Unidos y China se reunirán en los próximos meses para colaborar en el establecimiento de un marco para el desarrollo responsable de la inteligencia artificial (IA). Ambas partes tienen sus propios intereses y objetivos. Es crucial comprender qué regulaciones existen actualmente y los riesgos que cada país podría enfrentar en este campo en constante evolución.

Las preocupaciones existentes

El avance de la inteligencia artificial ha suscitado una serie de inquietudes. Estas preocupaciones abarcan desde el temor de su posible uso para interferir en los procesos democráticos y promover el fraude, hasta el riesgo de provocar pérdidas masivas de empleo. Además, existen preocupaciones evidentes sobre sus aplicaciones militares.

La inteligencia artificial puede generar texto, imágenes y videos en segundos según las instrucciones. Hay preocupaciones crecientes sobre su posible uso para influir en las próximas elecciones, ya que más de la mitad del mundo se prepara para votar. De hecho, ya se está utilizando para interferir en la política e incluso para persuadir a ciertas personas.

En enero, se difundió entre los votantes de New Hampshire una llamada automática con audio falso del presidente de Estados Unidos instándolos a quedarse en casa durante las elecciones primarias. Para Samantha Hoffman, una experta en estrategia de seguridad nacional y tecnología emergente en China, el riesgo de emplear la inteligencia artificial para engañar al público es uno de los mayores desafíos que enfrentamos.

«Cosas como el interés en la IA generativa y la recopilación de cosas como el lenguaje, los datos, las imágenes, el sonido, cualquier cosa relacionada con la generación de imágenes y texto potencialmente falsos, etc.», dijo a ABC. «Si puedes influir en la forma en que la gente piensa y percibe la información, ayuda al gobierno a adelantarse a una crisis o conflicto.

Ruta de diálogo entre Estados Unidos y China

En un informe reciente del Instituto Brookings titulado «Una hoja de ruta para un diálogo de IA entre EE. UU. y China», los autores Ryan Hass y Graham Webster argumentaron que cualquier conversación sobre los marcos de IA debe enfocarse en tres áreas clave: «Usos militares de la IA, permitir una cooperación positiva y mantenerse enfocado en el ámbito de lo posible». En cuanto a las aplicaciones militares, indicaron que el desafío radica en establecer límites y expectativas comunes sobre los usos aceptables de la automatización en el ámbito militar, en lugar de simplemente comprometerse a no utilizar la IA en el campo de batalla.

La situación actual

El año pasado, un informe del Instituto Australiano de Política Estratégica reveló que China estaba superando a Estados Unidos en 37 de las 44 tecnologías clave que probablemente impulsarán la innovación, el crecimiento económico y el poder militar. Estas tecnologías incluyen inteligencia artificial, robótica, biotecnología, fabricación avanzada y tecnología cuántica. Estados Unidos lidera en solo siete áreas, como la computación cuántica y las vacunas, y está en segundo lugar después de China en la mayoría de las demás categorías.

La administración Biden ha tomado medidas decisivas para frenar el avance de China en inteligencia artificial. Se han aprobado leyes para limitar el acceso de China a tecnologías críticas, y se están destinando más de 200.000 millones de dólares para recuperar el liderazgo estadounidense en la fabricación de chips semiconductores. El Dr. Hoffman observó que esto podría ralentizar parte del progreso de China en este ámbito.

La normativa vigente

En la actualidad, se están desarrollando regulaciones y posibles medidas de control para la inteligencia artificial (IA). En noviembre, Estados Unidos y más de una docena de países, excepto China, presentaron un acuerdo no vinculante de 20 páginas con recomendaciones generales sobre IA. Este acuerdo trató temas como la supervisión de sistemas de IA para detectar abusos, la protección de datos contra manipulaciones y la investigación de proveedores de software. Sin embargo, no abordó cuestiones como los usos apropiados de la IA o la recopilación de datos que alimentan estos modelos.

En una cumbre mundial sobre seguridad de la IA celebrada en el Reino Unido en noviembre, Wu Zhaohui, viceministro de Ciencia y Tecnología de China, expresó la disposición de Pekín a aumentar la colaboración en materia de seguridad de la IA para contribuir a la construcción de un «mecanismo internacional, una amplia participación y un marco de gobernanza basado en un amplio consenso que beneficie a las personas».

Declaración de Bletchley

En la cumbre, más de 25 países, entre ellos Estados Unidos y China, se unieron para firmar la «Declaración de Bletchley». Esta declaración establece su compromiso de trabajar en colaboración y establecer un enfoque común en materia de supervisión en el campo de la inteligencia artificial.

El compromiso está por ver

A pesar de las posturas de ambos lados, muchos expertos en política y ética de inteligencia artificial (IA) señalan que aún no está claro si Pekín y Washington, junto con sus respectivos ejércitos, pueden demostrar un compromiso compartido con los intereses comunes o la seguridad global.

Estados Unidos tiene planes de establecer un instituto de seguridad de IA, donde los desarrolladores de sistemas de IA que representen riesgos para la seguridad nacional, la economía, la salud pública o la seguridad del país deberán compartir los resultados de las pruebas de seguridad con el gobierno.

Por otro lado, China ya ha puesto en lista negra ciertas fuentes de información para evitar que se utilicen en el entrenamiento de IA. Esta lista incluye contenido censurado en Internet en China, como «apología del terrorismo» o violencia, así como acciones destinadas a «derrocar el sistema socialista», «dañar la imagen del país» y «socavar la unidad nacional y la estabilidad social», según el Comité Nacional de Normalización de Seguridad de la Información de China. Además, Pekín requiere autorización previa para cualquier producto de IA destinado al mercado masivo antes de su lanzamiento.

La opinión de los expertos

A medida que las dos principales potencias compiten por el liderazgo en inteligencia artificial (IA), los expertos han destacado la necesidad de establecer puntos de acuerdo sobre la seguridad de la IA, dada la falta de conocimiento mutuo sobre los enfoques de cada país hacia esta tecnología.

Recientemente, se ha revelado que Pekín y Washington están preparándose para mantener conversaciones bilaterales «esta primavera» (otoño en Australia). Aunque los detalles finales de las conversaciones aún no se han anunciado, dada la amplia gama de aplicaciones de la IA, podrían abarcar «prácticamente todo», según el Dr. Hoffman. Básicamente, la IA tiene tantas aplicaciones potenciales que es difícil imaginar áreas que no se verán afectadas, desde armas de alta tecnología y drones utilizados en operaciones militares hasta las tareas más cotidianas.

China y Estados Unidos no tienen los mismos objetivos

Según el Dr. Hoffman en su conversación con ABC, está claro que China y Estados Unidos tienen diferentes objetivos con respecto a la inteligencia artificial (IA), ya que esta tecnología desempeña un papel importante en sus estrategias nacionales. Sin embargo, dado que es prácticamente imposible que China o Estados Unidos avancen tecnológicamente de manera independiente, el Dr. Hoffman cree que ambas partes estarán interesadas en discutir una cuestión en particular. «Se trata de encontrar formas más responsables de manejar el riesgo», comentó el Dr. Hoffman.

Dado que la IA requiere una gran cantidad de datos, establecer estándares para «el intercambio de datos revisados por ambos gobiernos podría ser muy poderoso», señalaron los autores del informe del Instituto Brookings. El informe también advierte que plantear otras preocupaciones, incluso aquellas aparentemente relacionadas, como los bloqueos de Estados Unidos al acceso de China a tecnologías críticas, podría llevar las conversaciones a un callejón sin salida.