Más de un año después de que Meta le pidiera a la Junta de Supervisión que opinara sobre sus reglas de verificación cruzada, el grupo finalmente publicó su aviso de política completo sobre el tema. La junta descubrió que el programa, que crea un proceso de moderación de contenido separado para ciertos usuarios de alto perfil, prioriza el negocio de la empresa sobre los derechos de sus usuarios.

“En nuestra revisión, encontramos varias deficiencias en el programa de verificación cruzada de Meta”, escribe la junta en su evaluación. “Si bien Meta le dijo a la Junta que la verificación cruzada tiene como objetivo promover los compromisos de derechos humanos de Meta, descubrimos que el programa parece estar estructurado de manera más directa para satisfacer las preocupaciones comerciales”. En particular, la crítica se hace eco de la denunciante Frances Haugen, quien reveló detalles explosivos sobre el control cruzado el año pasado, y que Meta “elige las ganancias sobre la seguridad”.

Cross-check, o xcheck, es un programa interno de Facebook e Instagram que protege a celebridades, políticos y otros usuarios de alto perfil de los sistemas automatizados de moderación de contenido de la empresa. Meta tiene como una «segunda capa de revisión» para evitar eliminar publicaciones por error. Pero realizado por Haugen mostró que el programa incluye millones de cuentas y ha permitido miles de millones de visitas en publicaciones que de otro modo habrían sido eliminadas. La propia Junta de Control tiene de no ser “totalmente comunicativo” sobre el programa, que fue un tema central en el manejo de la suspensión del expresidente Donald Trump por parte de la junta.

La opinión consultiva de política de la Junta de Supervisión, o PAO, sobre el programa es la más detallada que se ha analizado hasta la fecha en las reglas de verificación cruzada en evolución de Meta. La junta escribe extensamente sobre dos procesos separados de verificación cruzada: Revisión secundaria de respuesta temprana (ERSR), que está reservada para ciertos usuarios de alto perfil determinados por Meta, y Revisión secundaria general (GSR), un sistema más nuevo que usa un algoritmo para marca automáticamente algunos tipos de publicaciones de toda su plataforma para una revisión adicional. GSR, que puede aplicarse al contenido de cualquier usuario de Facebook o Instagram, comenzó en 2021 «en respuesta a las críticas» relacionadas con las divulgaciones de Haugen en el .

Pero según la Junta de Supervisión, ambos sistemas de verificación cruzada tienen serios problemas. Ambos operan con una «constante acumulación de casos», lo que prolonga la cantidad de tiempo que queda contenido que potencialmente infringe las reglas. “Meta le dijo a la Junta que, en promedio, puede llevar más de cinco días tomar una decisión sobre el contenido de los usuarios en sus listas de verificación cruzada”, señala el grupo. “Esto significa que, debido a la verificación cruzada, el contenido identificado como que infringe las reglas de Meta se deja en Facebook e Instagram cuando es más viral y podría causar daño”.

La junta arroja nueva luz sobre uno de esos casos, señalando un incidente de 2019 en el que la estrella del fútbol brasileño Neymar publicó un video que mostraba fotos desnudas de una mujer que lo había acusado de agresión sexual. Debido a la verificación cruzada, la publicación permaneció durante más de un día y recibió más de 100 millones de visitas antes de que finalmente se eliminara. En su opinión, la junta plantea preguntas sobre por qué el atleta no fue suspendido y señala deliberadamente que el incidente solo salió a la luz como resultado de las revelaciones de Haugen.

“La compañía finalmente reveló que la única consecuencia era la eliminación de contenido y que la sanción normal habría sido la desactivación de la cuenta… Más tarde, Meta anunció que firmó un acuerdo económico con Neymar para que él ‘transmitiera juegos exclusivamente en Facebook Gaming y compartiera contenido de video’. a sus más de 166 millones de seguidores en Instagram'».

La Junta de Supervisión es igualmente crítica con otros factores «comerciales» que juegan un papel en las reglas de verificación cruzada de Meta. Por ejemplo, dice que Meta se inclina hacia la aplicación insuficiente del contenido verificado debido a la «percepción de censura» y el efecto que podría tener en la empresa. “La Junta interpreta que esto significa que, por razones comerciales, abordar la ‘percepción de la censura’ puede tener prioridad sobre otras responsabilidades de derechos humanos relevantes para la moderación del contenido”, escribe el grupo.

Como era de esperar, la junta tuvo numerosas recomendaciones para Meta sobre cómo mejorar la verificación cruzada. La junta dice que Meta debe usar «equipos especializados independientes de la influencia política o económica, incluidos los equipos de políticas públicas de Meta», para determinar qué cuentas obtienen protecciones de verificación cruzada. También sugiere que debería haber un «sistema de huelga transparente» para revocar el estado de verificación cruzada de las cuentas que abusan de las reglas de la empresa.

La junta también recomienda que Meta informe todas las cuentas que forman parte de la verificación cruzada y “marque públicamente las páginas y cuentas de las entidades que reciben protección basada en listas en las siguientes categorías: todos los actores estatales y candidatos políticos, todos los socios comerciales, todos los medios actores y todas las demás figuras públicas incluidas debido al beneficio comercial para la empresa”. También quiere que Meta rastree e informe estadísticas clave sobre la precisión de la verificación cruzada y tome medidas para eliminar los retrasos en los casos.

En total, la Junta de Supervisión presentó 32 recomendaciones detalladas, a las que Meta ahora tendrá 90 días para responder. Al igual que con otras sugerencias de política de la junta, la empresa no está obligada a implementar ninguna de sus sugerencias, aunque se espera que responda a cada una.