Serios problemas con Pinterest: Los algoritmos están ocasionando problemas con contenido infantil

Según declaraciones realizadas por el portal NBC News, los algoritmos de sugerencia de Pinterest están permitiendo que los pedófilos generen tableros con imágenes de menores de edad. Esto ocurre con la herramienta de búsqueda inicial, la cual, inesperadamente inicia a recomendar búsquedas relacionadas con contenido que puede ser usado de manera inescrupulosa. Dicho material suele estar acompañado de comentarios sexuales.

No obstante, NBC afirma que no evidencio material de abuso sexual infantil (CSAM) durante su indagación. A pesar de dichos resultados, si fue evidente observar que los usuarios que creaban los inescrupulosos tableros en ocasiones tenían colecciones con pornografía a pesar de las restricciones de ese tipo contenido por parte de Pinterest.

En todo caso la plataforma no ha comunicado de forma directa casos de intentos de sexualizar contenido con menores de edad. Obviamente, las políticas de Pinterest prohíben dicha práctica degradante.

Manos a la obra

Pinterest afirma prestarle la importancia suficiente a este tema tan delicado y reitera está tomando las acciones que puedan solucionar el inconveniente. Iniciará realizando replanteamientos y reforzando su moderación de IA, con el objetivo de identificar infractores de manera automáticamente y por supuesto sistemas de verificación de edad más efectivos.

Por supuesto, la presión política no se hizo esperar. Fue el mismo presidente de los EEUU Joe Biden quien solicito al congreso y a las grandes plataformas tecnológicas mejorar la seguridad en línea de los menores de edad. Tomando cartas en el asunto el Comité Judicial del Senado, efectuó una audiencia para tomar las medidas pertinentes.

Por el momento Pinterest no está en riesgo inmediato por algún tipo de represión regulatoria, sin embargo, tampoco se garantiza que se eviten investigaciones.

No todo es malo: Pinterest y su política de prohibir la desinformación

Pinterest se ha caracterizado por prohibir contenido que considera perjudicial antes que otras plataformas en línea.

Actualmente se caracteriza por hacer lo mismo con un enfoque a problemas del cambio climático. La plataforma está implementando una política que impide la desinformación climática, obviamente incluida la negación del cambio climático.

Dentro de los aspectos que se incluyen están; versiones falsas sobre soluciones al cambio climático, evasivas de datos científicos y dogmas falsos sobre desastres naturales y otros climas extremos.

Las restricciones también aplican para pautas publicitarias, Pinterest prohíbe cualquier material de marketing relacionado con información errónea sobre el cambio climático y todo tipo de teorías de conspiración. Obviamente las políticas se diseñaron con la ayuda de expertos de la Coalición de Desinformación Climática y la Red de Publicidad Consciente.

Pinterest afirma ser la primer plataforma de Internet con políticas claras y definidas, orientadas a la prohibición de todo tipo de afirmaciones fraudulentas sobre el cambio climático, tanto en contenido como en anuncios.

Si bien son afirmaciones positivas hechas por la misma compañía, al consultar otras plataformas podemos encontrar que, Facebook identifica la información falsa y reduce significativamente su difusión, por otro lado Twitter tiene una herramienta denominada «pre-criminar» la cual utilizó para identificar noticias falsas durante la COP26, sin embargo, no llegó a prohibirlas. En cuanto a YouTube, no permite la publicación de contenido relacionado a negaciones respecto al cambio climático.

De hecho, la posición de Pinterest, respecto al informe de la ONU, el cual indica que el mundo tiene 3 años para nivelar las emisiones de CO2 si desea impedir catástrofes ambientales, y que deberá reducir sus emisiones en una 1/4 parte para 2030. Pinterest asume una posición copartidaria a la opinión de una postura pública unificada, teniendo como pilar la difusión de información precisa.