Meta retiró dos videos generados mediante inteligencia artificial que mostraban de manera manipulada a una política británica y a una activista musulmana, después de que el Consejo de Supervisión determinara que ambos contenidos debían ser eliminados de Facebook.
El organismo, que revisa decisiones de moderación de Meta, cuestionó las medidas de la compañía frente a los deepfakes y consideró que sus políticas resultan insuficientes para enfrentar la creciente circulación de contenidos generados o alterados mediante inteligencia artificial.
Uno de los casos corresponde a una concejala del Partido Laborista en Escocia, cuya imagen y voz fueron utilizadas para hacerla aparecer realizando comentarios incendiarios sobre los refugiados.
El Consejo determinó que el video era una manipulación generada por IA. Entre los indicios mencionados se encuentra la falta de sincronización entre el audio y los movimientos de los labios de la política.
El organismo concluyó que el contenido infringía las normas de Meta sobre conductas que incitan al odio, debido a que atribuía a la concejala declaraciones que asociaban a los refugiados como grupo con delitos graves. Por ello, ordenó retirar el video.
Segundo deepfake ridiculizaba a una activista
El segundo caso involucró a una joven musulmana que participa en campañas relacionadas con la educación sobre salud menstrual.
El video manipuló su imagen para hacerla aparecer como si ofreciera consejos sobre alimentación y ejercicio mientras consumía comida ultraprocesada y realizaba ejercicios presentados de manera absurda.
El Consejo de Supervisión determinó que el contenido violaba las normas de acoso y hostigamiento de Meta y ordenó igualmente su eliminación. De acuerdo con el organismo, videos e imágenes manipulados de esta mujer habían acumulado decenas de millones de reproducciones en distintas plataformas.
Consejo pide modificar las reglas sobre inteligencia artificial
A partir de ambos casos, el Consejo de Supervisión sostuvo que las políticas de Meta para enfrentar los deepfakes son insuficientes y planteó modificaciones para hacer frente a este tipo de contenido.
Entre sus recomendaciones se encuentra ampliar los casos en los que se utilicen etiquetas de “IA de alto riesgo”, incorporar medidas que dificulten la difusión de contenidos engañosos y establecer sanciones mayores para las cuentas que compartan reiteradamente este tipo de material.
También planteó mejorar la transparencia sobre la aplicación de las etiquetas y ampliar las políticas relacionadas con imágenes manipuladas utilizadas para acosar a personas que no son figuras públicas.
La copresidenta del Consejo de Supervisión, Pamela San Martin, señaló que estos casos forman parte de un patrón en el que mujeres que participan públicamente en debates sociales son objeto de acoso y desinformación mediante contenidos manipulados.
Lee también: Rechaza Zuckerberg, de Meta, frenar el desarrollo de la inteligencia artificial
Meta debe cumplir las decisiones específicas de retiro emitidas por el Consejo, mientras que las recomendaciones generales sobre sus políticas no tienen carácter vinculante.
Con información de El Economista
