Instagram está trabajando en etiquetas para contenido generado por IA

Instagram está aparentemente desarrollando una nueva característica que proporcionaría indicaciones sobre cuándo la inteligencia artificial ha desempeñado un rol en la producción de contenido dentro de su plataforma.

El experto en aplicaciones, Alessandro Paluzzi, quien con regularidad desvela nuevas funcionalidades de Instagram antes de que sean oficialmente anunciadas o lanzadas, ha compartido una captura de pantalla de una sección en la aplicación de Instagram.

Etiquetas de Instagram

Dicha sección informa que «el creador o Meta ha declarado que este contenido ha sido creado o editado con IA».

El aviso en cuestión especifica que se refiere a una imagen que ha sido «generada por la IA de Meta«, seguido de una breve explicación sobre lo que implica la inteligencia artificial generativa y cómo identificar las publicaciones que hacen uso de esta tecnología.

Desarrollo responsable de IA

Este hallazgo se produce poco después de que Meta, en colaboración con otros influyentes actores en el ámbito de la inteligencia artificial, como Google, Microsoft y OpenAI, se comprometiera con la Casa Blanca en relación con el desarrollo responsable de la IA.

Además de invertir en investigación en ciberseguridad y prevención de la discriminación, uno de los acuerdos consistió en la creación de un sistema de marca de agua con el propósito de notificar a los usuarios cuando se haya producido contenido mediante el uso de IA.

Aunque no está del todo claro en qué medida el etiquetado de contenido de Instagram será automatizado y en qué grado dependerá de la divulgación de los usuarios sobre el uso de IA en la creación o edición de una imagen, el hecho de que el aviso mencione «Meta dijo» sugiere que la empresa tecnológica podría implementar activamente este aviso en al menos algunos casos, en lugar de depender exclusivamente de la honestidad de los usuarios. Un portavoz de Meta declinó hacer comentarios a Engadget acerca de este aviso, y la compañía no respondió de manera inmediata a la solicitud de comentarios por parte de The Verge.

Aunque todavía en sus etapas tempranas, hemos visto ya cómo la desinformación generada por IA puede tener impacto, como en el caso de una imagen viral del Papa con una túnica inflada en las redes sociales a principios de este año. A pesar de que finalmente se desacreditó la imagen relativamente inocua, se consideró un recordatorio de que ahora existen herramientas sencillas para difundir información errónea y peligrosa, especialmente si se aplica a imágenes satelitales o fotografías políticas.

Meta recientemente ha presentado su modelo de lenguaje avanzado LLaMA 2, aunque todavía no ha lanzado ampliamente características de IA generativa orientadas al consumidor para productos como Instagram. No obstante, hemos obtenido indicios sobre el tipo de funcionalidades que la compañía está desarrollando. En una reunión en junio, el CEO Mark Zuckerberg mencionó que Meta estaba trabajando en características que permitirían la modificación de fotos para Instagram Stories mediante mensajes de texto, según informó Axios. Además, el investigador de aplicaciones Paluzzi ha identificado rastros de una posible función de «pincel de IA» para Instagram que podría «añadir o reemplazar partes específicas» de imágenes. Recientemente, el Financial Times reportó que Meta podría integrar una función de «personas» de chatbot de IA en sus productos, posiblemente tan pronto como el próximo mes.

Nueva herramienta de Google

Además de Meta, Google ya ha anunciado una nueva herramienta que debería facilitar a los usuarios determinar si una imagen ha sido generada por IA. Su función «Acerca de esta imagen» se lanzará este verano y está diseñada para resaltar el primer lugar donde la imagen fue indexada por el gigante de búsqueda, proporcionando pistas vitales sobre sus orígenes.