La plataforma Meta difunde campañas publicitarias de aplicaciones diseñadas para crear imágenes íntimas falsas de mujeres con cargos públicos, según una investigación de la revista Wired. Este caso, que se dio a conocer el pasado 18 de agosto, pone en evidencia los fallos severos de la automatización en la revisión publicitaria, ya que los algoritmos siguen aprobando mensajes que vulneran los derechos fundamentales de forma sistemática.
Los datos revelan que, antes de retirar estos anuncios machistas, ya se han producido miles de impactos en la audiencia objetivo de este tipo de campañas. Es decir, que los mecanismos de control que han puesto en marcha las grandes tecnológicas, que han confiado el control de la publicidad a la Inteligencia Artificial para recortar costes laborales, están fallando estrepitosamente. Por eso desde UGT Publicidad denunciamos que las plataformas necesitan equipos humanos suficientes y formados para detectar este tipo de riesgos.
A día de hoy, la revisión automatizada fracasa ante contenidos complejos. Los sistemas automatizados carecen del contexto necesario para evaluar el acoso o la violencia de género. Por ello, es necesario frenar los despidos masivos en los departamentos de moderación y recuperar el control manual de las inserciones comerciales.
La IA, en la actualidad, todavía es incapaz de sustituir el criterio humano cuando entran en juego la seguridad y la igualdad. Además, quienes supervisan estos entornos digitales están expuestos a riesgos psicosociales graves. Por este motivo, las empresas deben garantizar plantillas robustas y establecer protocolos estrictos de protección en los centros de revisión.
Contenido redactado con asistencia de inteligencia artificial y revisión humana
