Roblox ha comenzado a activar una nueva herramienta de inteligencia artificial que reescribe los mensajes del chat al vuelo para sustituir palabras vetadas por expresiones más respetuosas. Con este giro, la plataforma intenta dejar atrás los famosos muros de “####” que convertían muchas conversaciones en algo prácticamente imposible de seguir.
La idea es que, cuando alguien escriba algo que incumple las normas, el sistema modifique solo las partes problemáticas y mantenga el resto del texto legible, en lugar de taparlo todo. Este enfoque busca un equilibrio: preservar la intención general del mensaje, rebajar el tono cuando sea necesario y, al mismo tiempo, reforzar la seguridad en un entorno con fuerte presencia de menores y mejorar los controles parentales, tanto en España y Europa como en el resto del mundo.
Del bloqueo por «####» a una reescritura automática del chat
Hasta ahora, el filtro de texto de la plataforma se limitaba a sustituir las palabras o frases prohibidas por el símbolo «#». Aunque esa estrategia cumplía el objetivo de impedir la aparición de términos no permitidos, tenía un efecto secundario evidente: conversaciones llenas de cadenas de hashes, difíciles de entender incluso para quienes no intentaban saltarse las normas.
Con la nueva función, cuando un usuario introduce un mensaje que vulnera las políticas de contenido, la IA reescribe el texto en tiempo real para mantener el sentido general, pero eliminando lenguaje insultante, agresivo o inapropiado contra otros usuarios (ciberbullying). Así, en un caso ilustrativo como “¡Apúrate TF!”, que antes se convertía íntegramente en “####”, ahora pasaría a mostrarse simplemente como “¡Apúrate!”, sin el insulto adjunto.
Roblox explica que la reformulación no se hace a escondidas: el resto de participantes del chat recibe un aviso de que el mensaje ha sido modificado para mantener la conversación en términos aceptables. Esta transparencia añade una capa educativa, ya que el emisor entiende que su forma de expresarse ha cruzado una línea marcada por las normas de la comunidad.
Este modelo sigue una tendencia que se ve cada vez más en redes sociales y videojuegos: pasar de una moderación puramente punitiva, basada en bloquear o borrar, a una aproximación que “reencauza” el contenido. La prioridad es que el chat siga siendo útil para coordinar partidas, socializar y comentar, sin permitir que el tono suba de forma inadecuada.
Desde el punto de vista técnico, la decisión implica confiar en sistemas de IA capaces de interpretar contexto, variaciones de lenguaje y matices. El desafío está en lograr que la reescritura respete la intención no dañina del mensaje y, al mismo tiempo, no deje pasar expresiones que chocan con las políticas de convivencia, algo especialmente sensible en un entorno con tantos menores conectados desde Europa y otros mercados.
Menos fricción en el chat, mismos estándares de seguridad
Responsables de producto de la compañía han insistido en que el chat es una pieza central de la experiencia dentro de Roblox: ahí se coordinan partidas, se comentan jugadas y se generan muchas de las interacciones sociales que dan vida a la plataforma. Por eso, el movimiento se presenta como una mejora de usabilidad además de una medida de seguridad.
En su comunicación oficial, Roblox subraya que la reformulación de mensajes ayuda a que las conversaciones sigan su curso sin interrupciones bruscas, mientras se guía a los usuarios hacia un lenguaje considerado apropiado. La empresa sostiene que este enfoque reduce la fricción en el chat pero no rebaja el listón de lo que se considera conducta aceptable en su comunidad.
Al mismo tiempo, Roblox deja claro que esta capa de IA no sustituye a su sistema de seguridad más amplio. La reescritura está pensada para los casos en los que basta con suavizar un término o limpiar una frase, pero no anula otras medidas para comportamientos más graves, como acoso reiterado, amenazas o intercambio de contenido claramente prohibido.
Este equilibrio no es sencillo. Si la plataforma reescribe demasiado de forma automática, puede generar confusiones sobre lo que se dijo en realidad, algo especialmente delicado cuando hay conflictos entre usuarios. Si modifica muy poco, vuelven los problemas de mensajes transformados en “####” que hacen el chat ilegible. La notificación visible de que un texto ha sido reformulado pretende dar cierta trazabilidad a esa intervención.
Para usuarios en España y el resto de Europa, donde la regulación sobre protección de menores y datos personales es especialmente estricta, la compañía intenta mostrar que no solo endurece normas, sino que también mejora la experiencia práctica de comunicación. El reto está en combinar ambas exigencias sin que el resultado parezca una censura opaca o, en el extremo contrario, un filtro demasiado laxo.
Compatibilidad con varios idiomas y lucha contra el leetspeak
Roblox señala que la reformulación se apoya en las mismas tecnologías de traducción automática que ya utiliza en la plataforma, por lo que está preparada para funcionar en todos los idiomas que actualmente soporta. Esto es relevante en un ecosistema global, con usuarios en Europa que se conectan desde España, Francia, Alemania o Italia, entre otros países, y que se comunican en lenguas distintas.
Además de la reescritura, la empresa está reforzando su sistema clásico de filtrado de texto. Según datos internos difundidos por Roblox, el nuevo enfoque mejora sensiblemente la detección de formas creativas de escribir lenguaje prohibido, como el leetspeak (cambiar letras por números o símbolos) y otros trucos habituales para burlar filtros simples.
Uno de los puntos que más destaca la compañía es la reducción de falsos negativos, especialmente en situaciones en las que los usuarios comparten o piden información personal sensible. Roblox afirma que ha conseguido disminuir este tipo de fallos en un factor de 20, lo que, en teoría, reduce la probabilidad de que se escapen mensajes con datos que no deberían circular en el chat.
Para quienes usan la plataforma de forma cotidiana, esto se traduce en menos margen para “jugar” con el lenguaje y evadir normas mediante abreviaturas, símbolos o mezclas de idiomas. A la vez, se busca minimizar el impacto sobre conversaciones normales en las que se utilizan jerga de videojuegos, expresiones coloquiales o bromas internas que pueden variar bastante entre comunidades de diferentes países europeos.
El equilibrio entre proteger a los menores y no castigar lenguaje inocente sigue siendo uno de los grandes desafíos técnicos de este tipo de sistemas de moderación. Herramientas como la nueva IA de reformulación intentan afinar ese punto medio, pero su efectividad real dependerá de cómo reaccionen los usuarios y de las constantes actualizaciones que vaya recibiendo el modelo.
Presión por la seguridad infantil y nuevas medidas como la verificación facial
La llegada de esta función de IA se produce en un contexto de mayor presión legal y social sobre la seguridad infantil en plataformas digitales. Roblox ha sido objeto de críticas y demandas en varios estados de EE. UU., en las que se le acusa de no proteger lo suficiente a los menores frente a riesgos como el grooming o el acceso a contenido inadecuado.
En paralelo, la compañía ha introducido la verificación facial obligatoria para acceder a las funciones de chat, una medida que añade una barrera adicional para quienes quieran interactuar de forma más directa dentro del juego. Esta combinación de control de identidad y moderación reforzada apunta a reducir el margen para comportamientos dañinos.
Informes recientes y coberturas especializadas han señalado que el giro de Roblox hacia la reformulación con IA y el refuerzo de filtros se entiende como respuesta a las críticas externas y a la percepción de que su sistema anterior dejaba algunos huecos, sobre todo a la hora de detectar intentos de contactar con menores o de compartir datos personales.
En Europa, donde marcos como el Reglamento General de Protección de Datos (RGPD) y nuevas normas sobre servicios digitales ponen el foco en la protección de menores, movimientos de este tipo son seguidos con atención. La capacidad de la plataforma para documentar cómo actúa esta IA, qué datos procesa y con qué fines puede ser clave para encajar dentro de los requisitos regulatorios vigentes.
Más allá de lo legal, también hay un debate abierto sobre cómo se informa al usuario de la intervención de la IA y sobre hasta qué punto es aceptable que una plataforma reescriba lo que uno dice. Roblox ha optado por la transparencia dentro del chat, con avisos claros, y por una estrategia que prioriza mantener la conversación activa, pero sin renunciar a aplicar sanciones en los casos en los que la conducta se considere especialmente grave.
Con estas novedades, Roblox intenta avanzar hacia un modelo de chat en el que haya menos pantallas llenas de “####”, menor exposición a lenguaje tóxico y más herramientas para frenar comportamientos de riesgo, todo ello sin romper la sensación de comunicación fluida que los jugadores, también en España y en el resto de Europa, esperan cuando se conectan a la plataforma.
El resultado práctico de esta apuesta será decisivo para valorar si la IA de reformulación realmente consigue ese punto intermedio tan buscado: permitir que millones de usuarios sigan charlando, organizando partidas y socializando con naturalidad, mientras se refuerzan las barreras frente a insultos, intentos de burlar filtros y, sobre todo, frente a conductas que puedan poner en peligro a los más jóvenes.
