- Meta despliega nuevos sistemas de inteligencia artificial para reforzar la moderación de contenido en Facebook e Instagram.
- La IA detecta mejor estafas, solicitudes sexuales y suplantaciones, con menos errores que los métodos tradicionales.
- Se incorpora un asistente de soporte 24/7 que ayuda con cuentas, fraudes y normas de la comunidad.
- La compañía mantiene la moderación humana para casos complejos, en un contexto de creciente presión regulatoria y demandas legales.
Meta ha puesto en marcha un nuevo paquete de herramientas de inteligencia artificial para reforzar la moderación de contenido en Instagram y Facebook, en un intento de controlar mejor lo que se publica y reducir la exposición de los usuarios a abusos, fraudes y material sensible. La compañía quiere apoyarse más en la tecnología propia y menos en servicios externos, y mejorar la transparencia de algoritmos, al tiempo que responde a la presión social y regulatoria sobre la seguridad en sus plataformas.
Este despliegue incluye tanto modelos avanzados de IA para vigilar publicaciones como un asistente automatizado de soporte disponible a cualquier hora, pensado para guiar a los usuarios cuando tienen problemas con sus cuentas o quieren denunciar comportamientos sospechosos. Aunque la apuesta por la automatización es fuerte, Meta insiste en que seguirá contando con equipos humanos para decisiones especialmente delicadas.
Una IA más agresiva para detectar abusos y fraudes
Meta lleva años usando algoritmos para frenar spam telefónico, acoso y publicaciones abusivas, pero ahora da un salto de nivel con sistemas basados en grandes modelos de lenguaje, entrenados para entender mejor el contexto de lo que se comparte. Estos modelos no solo analizan texto, sino también imágenes y, en muchos casos, el comportamiento de las cuentas que publican.
Según los datos internos que ha hecho públicos la compañía, los nuevos sistemas son capaces de detectar estafas, suplantaciones de identidad y solicitudes sexuales de adultos con más precisión que antes. Este tipo de contenido es especialmente sensible en redes sociales masivas, donde los intentos de fraude o los mensajes dirigidos a menores pueden pasar desapercibidos si no se cuenta con filtros muy finos.
En las pruebas iniciales, la IA de Meta habría logrado identificar el doble de contenido de solicitación sexual en comparación con los equipos de revisión humanos que trabajaban con las herramientas tradicionales. Además, la compañía asegura que la tasa de error en la detección de infracciones se ha reducido en más de un 60 %, lo que en teoría significa menos publicaciones eliminadas por error y menos infracciones que se les escapan.
La empresa también afirma que estos sistemas están bloqueando y previniendo más de 5.000 intentos de estafa al día, muchos de ellos dirigidos a robar credenciales de acceso o datos personales. Este punto es especialmente relevante para usuarios de España y del resto de Europa, donde los organismos reguladores han puesto el foco en la protección frente al fraude digital y el abuso de datos.
Meta explica que solo pondrá en producción definitiva estos modelos cuando su desempeño sea claramente superior al de los métodos actuales, un mensaje que busca transmitir cierta cautela tecnológica en un terreno muy sensible como es la moderación de contenido.
Asistente de soporte con IA disponible 24 horas
Junto a los sistemas de vigilancia de contenido, Meta ha lanzado un asistente de soporte basado en inteligencia artificial integrado en Facebook e Instagram, tanto en sus aplicaciones para iOS y Android como en la versión de escritorio a través del Centro de Ayuda. Esta herramienta se ha ido probando en los últimos meses y ahora comienza a extenderse a escala global.
Este asistente está pensado para ofrecer ayuda inmediata las 24 horas del día y puede responder en cuestión de segundos a consultas habituales. Entre las gestiones que puede facilitar se encuentran la recuperación y el restablecimiento de contraseñas, la revisión de accesos sospechosos, la gestión de perfiles y el acompañamiento en el proceso de denuncia de estafas o violaciones de las normas de la comunidad.
El objetivo de Meta es que los usuarios no tengan que esperar a que un agente humano revise su caso para cuestiones rutinarias, de modo que los equipos humanos puedan centrarse en incidencias más complejas o casos en los que la interpretación del contexto es clave. Aun así, la compañía deja claro que, siempre que se trate de decisiones delicadas, seguirán existiendo canales para que la revisión final la haga una persona.
En este contexto, la empresa matriz de Facebook e Instagram asegura que ha observado un incremento cercano al 30 % en la productividad de sus equipos técnicos desde que empezó a utilizar estos sistemas avanzados de IA para tareas internas, como la programación o el análisis de incidencias. Esa mejora operativa es uno de los motivos por los que la compañía refuerza su apuesta por la automatización.
Para los usuarios europeos, donde la legislación sobre servicios digitales exige procesos más claros y rápidos de reclamación y respuesta, la disponibilidad de un canal automatizado inmediato puede ayudar a cumplir con las exigencias legales, siempre que se mantenga la opción de escalar los casos a revisores humanos cuando sea necesario.
Menos dependencia de terceros y más control interno
Hasta ahora, una parte importante de la moderación de contenido en Meta recaía en contratistas externos y grandes equipos de moderadores humanos repartidos por todo el mundo, incluidos proveedores como Accenture y otras multinacionales especializadas. Esta estructura ha sido objeto de críticas por las condiciones laborales de los revisores y por la gestión del impacto psicológico del contenido que revisan.
Con la nueva estrategia, Meta pretende que la IA asuma buena parte de las tareas más repetitivas y duras, como el filtrado inicial de contenido gráfico, violento o sexualmente explícito, así como herramientas para ocultar fotos privadas. La compañía explica que, en aquellos ámbitos en los que los actores malintencionados cambian constantemente de tácticas, los modelos de IA pueden actualizarse y ajustar sus patrones de detección con más rapidez que los procesos tradicionales.
Aunque la empresa no detalla cifras específicas para cada región, el cambio afecta de lleno a la moderación de contenido visible en Europa, donde Facebook e Instagram ya estaban sometidos a auditorías y requisitos adicionales en virtud de leyes como la Ley de Servicios Digitales de la UE, y donde la demanda de privacidad en Europa ha aumentado. Una detección más rápida y precisa de contenidos ilegales o dañinos facilita el cumplimiento de estos marcos regulatorios.
Meta, sin embargo, insiste en que no se trata de sustituir completamente a las personas, sino de redistribuir el trabajo: la IA se encargaría de filtrar y clasificar, y los moderadores humanos intervendrían en los casos limítrofes, en contenidos con gran carga contextual o en situaciones de riesgo para la seguridad de menores, por ejemplo.
Esta combinación de automatización y supervisión humana también busca responder a las críticas de organizaciones de derechos digitales y grupos de usuarios, que advierten de los riesgos de delegar decisiones complejas de libertad de expresión y privacidad exclusivamente en máquinas.
Presión social, demandas y retos pendientes
El lanzamiento de estos sistemas de IA llega en un momento en el que Meta afronta múltiples demandas y un escrutinio creciente por el impacto de sus plataformas en menores y jóvenes. Diversos casos judiciales en Estados Unidos y Europa, incluida la aprobación judicial de la compra de Instagram y WhatsApp, cuestionan el papel de las redes sociales en problemas de salud mental, acoso y exposición a contenidos perjudiciales.
Al mismo tiempo, la compañía ha ido ajustando sus políticas de moderación, incluyendo cambios en sus programas de verificación de hechos y gestión del contenido político. En lugar de apoyarse tanto en verificadores externos, Meta está apostando por sistemas más personalizados y por ofrecer más información contextual al usuario, algo que también se beneficia de los nuevos modelos de IA y de alternativas descentralizadas como Mastodon.
Estos movimientos se producen en un entorno regulatorio europeo cada vez más exigente, donde instituciones y gobiernos piden a las grandes plataformas una mayor responsabilidad en la lucha contra la desinformación, la explotación infantil y los discursos de odio. La introducción de una IA más potente para moderar contenido puede interpretarse como una respuesta directa a estas demandas, aunque organizaciones civiles recuerdan que la transparencia en el funcionamiento de estos algoritmos será clave. Además, cuestiones legales sobre el acceso a los chats y a los datos por parte de autoridades están en el centro del debate.
Meta, por su parte, subraya que seguirá publicando informes de transparencia y que irá dando más detalles sobre el rendimiento de sus nuevos sistemas de moderación automatizada. La compañía reconoce que la tecnología no es infalible y que, pese a los avances, seguirán existiendo errores y casos de contenido que escapen al filtro.
En este escenario, la implantación de la IA en Instagram y Facebook para moderar contenido es tanto un movimiento tecnológico como político: busca mejorar la seguridad y, a la vez, mostrar a reguladores, usuarios y anunciantes que la empresa está reaccionando ante los problemas que se le atribuyen desde hace años.
Con la puesta en marcha de estos modelos de inteligencia artificial y del asistente de soporte 24/7, Meta redefine la manera en la que se vigila lo que sucede en sus redes sociales: más automatización, respuestas más rápidas y un papel algo distinto para los moderadores humanos, en un contexto donde la seguridad, la protección de menores y el cumplimiento de las normas europeas se han convertido en elementos centrales de la conversación sobre el futuro de Facebook e Instagram.
