Por qué conectar a las personas sobrevivientes de agresión sexual con recursos es más difícil de lo que parece

Este es el cuarto artículo de nuestra serie Intencional por Diseño. Lea el primer artículo sobre la tecnología detrás de nuestra plataforma comunitaria, segundo artículo sobre la filosofía que guía cada decisión tecnológica que tomamos, tercer artículo sobre si las herramientas de IA son seguras para las personas sobrevivientes.

Conectar a las personas sobrevivientes de daño sexual con el apoyo adecuado

El campo de la violencia de género (GBV) y la agresión sexual ha construido una red significativa de infraestructura de apoyo durante las últimas décadas. Existen líneas de ayuda, centros de crisis, defensoras legales, grupos de apoyo y servicios de asesoramiento porque las defensoras lucharon mucho para crearlos.

Las plataformas en línea también se han convertido en parte de esta infraestructura, ofreciendo a las personas sobrevivientes una forma de compartir su historia, obtener apoyo o conectarse con recursos. Pero hay un problema que la mayoría de estas plataformas aún no ha resuelto.

La vinculación de recursos se refiere a conectar a cada persona sobreviviente con el apoyo que se adapta a su situación en el momento adecuado. Eso es más difícil de lo que parece, y la mayoría de las plataformas todavía no lo hace.

Our Wave ha estado conectando a las personas sobrevivientes con recursos desde nuestra fundación en 2019. Hemos realizado más de 268,000 derivaciones a recursos a una comunidad de más de 558,000 personas en 79 países. Este artículo explora nuestro sistema de derivación de recursos, cómo lo construimos y hacia dónde se dirige a continuación.

Cómo han funcionado las derivaciones de recursos en el pasado

Cuando lanzamos en 2019, nuestras derivaciones de recursos funcionaban de la misma manera en que la mayoría de las plataformas todavía funcionan hoy. Eran una lista curada de organizaciones bien conocidas, mostradas a cada persona, independientemente de quiénes eran o por lo que habían pasado.Piensa en listas con viñetas simples y organizadas, como:

• RAINN: Opera la Línea Nacional de Ayuda para Agresión Sexual y se asocia con proveedores locales de servicios para agresiones sexuales para mejorar las políticas públicas, capacitar a profesionales y apoyar a las personas sobrevivientes.

• 988 Suicide and Crisis Hotline: Conecta a personas en angustia emocional o crisis con consejeros capacitados, disponibles 24/7 por llamada, mensaje de texto o chat. 

• NSVRC: Apoya la investigación, la prevención y el trabajo de incidencia en torno a la violencia sexual y proporciona recursos y capacitación a las organizaciones.

Estos son recursos establecidos, evaluados y fiables. Importan para las personas a las que alcanzan. En 2024, según el informe de impacto de RAINN, la organización ayudó a más de 412,000 personas sobrevivientes a través de sus programas de atención a víctimas.

Pero una lista estática como esta tiene límites, y estos límites se vuelven más visibles cuanto más grande y global se vuelve una comunidad. Una persona sobreviviente en Kenia, por ejemplo, ve las mismas líneas directas que una persona sobreviviente en Iowa. Una persona sobreviviente queer, una persona sobreviviente masculina, una persona que navega las secuelas del abuso infantil o COCSA, o alguien que enfrenta abuso con imágenes íntimas se encuentra con la misma lista que todos los demás.

Y hay un mensaje implícito detrás de todo esto. Incluso si no es intencional, los recursos formateados de esta manera corren el riesgo de dar a las personas sobrevivientes la impresión de que no sabemos quiénes son realmente.

Cuando una persona sobreviviente da el paso de pedir ayuda, lo que encuentra al otro extremo de esa búsqueda moldea lo que hace después. Un recurso que no refleja su situación, o que no ofrece nada en su país, no les ayuda. También envía el mensaje de que su experiencia no encaja en las categorías estándar.

Vemos esto a lo largo de las 1,852 historias actualmente publicadas en nuestra plataforma. Nuestra comunidad incluye a personas sobrevivientes de abuso emocional y abuso financiero junto con daño físico. Incluye personas que fueron dañadas por miembros de la familia, figuras de autoridad y por desconocidos. Abarca 79 países y refleja una amplia gama de identidades, orientaciones y experiencias.

No todas las personas necesitan los mismos recursos, pero durante mucho tiempo les ofrecimos a todas las mismas.

Nuestro enfoque para una asignación de recursos más inteligente

Nuestro trabajo para conectar a las personas sobrevivientes con el apoyo adecuado ha avanzado en fases a lo largo de los años. Nuestra tecnología se ha adaptado constantemente para comprender mejor lo que una persona sobreviviente realmente necesita, desde el filtrado por ubicación, el emparejamiento semántico y la revisión humana.

Filtrado basado en la ubicación

En 2024, dimos el primer paso más allá de una lista estática de recursos. Comenzamos a etiquetar cada recurso de nuestra biblioteca con los países y regiones a los que sirve, y a filtrar lo que ve una persona sobreviviente según desde dónde lo envió. Una persona sobreviviente en Brasil ve recursos brasileños y una persona sobreviviente en el Reino Unido ve recursos del Reino Unido.

Esto fue una mejora importante, pero también reveló el siguiente problema. Nuestra plataforma ha expandido su infraestructura de recursos en 28 países, pero muchos países aún tienen una cobertura escasa o nula en nuestra biblioteca. Un filtro por ubicación no ayuda a una persona sobreviviente en un país donde aún no existen recursos evaluados.

E incluso donde la cobertura es fuerte, la ubicación solo nos dice dónde alguien está. No nos dice nada sobre lo que necesitan.

Emparejamiento semántico

Este año, pasamos a un enfoque más sustantivo para la asignación de recursos. En lugar de emparejar recursos basándonos solo en dónde está una persona sobreviviente, nuestro sistema ahora lee lo que escribió y encuentra recursos basados en el significado, no solo en la ubicación. Esto significa que la historia, el mensaje o la pregunta de alguien nos ayudará a encontrar los recursos adecuados para esa persona.

¿Qué es la generación aumentada por recuperación (RAG)? Es una canalización de IA que lee el significado de las palabras de una persona sobreviviente y las compara con una biblioteca de documentos de recursos, encontrando el resultado más relevante en función del contexto, no solo de palabras clave.

Básicamente, creamos documentos de contexto detallados para cada recurso en nuestra biblioteca. Luego, el sistema compara el significado de las palabras de una persona sobreviviente en nuestra plataforma con esos documentos de recursos.

Una historia sobre acudir a la policía se lee de forma diferente a una sobre una familia que no brinda apoyo. Un mensaje sobre trauma infantil se ve diferente a una pregunta sobre el abuso con imágenes íntimas. El sistema empieza a notar esas diferencias y muestra los recursos que corresponden.

Además, el filtrado por ubicación sigue aplicándose, por lo que una persona sobreviviente en un país específico solo ve recursos que la atienden. Por primera vez, no solo preguntamos “¿dónde está esta persona?”, sino “¿qué nos está diciendo?”

Revisión humana

Como hemos explicado a lo largo de esta serie, Our Wave no opera ningún caso de uso sensible de IA sin un humano en el ciclo que revise los resultados. Este es un principio que hemos detallado claramente en nuestra política de IA.

La vinculación de recursos no es una excepción. Cada recurso en nuestra biblioteca es evaluado por un humano antes de ingresar a la lista de emparejamiento. Luego, nuestro resultado de emparejamiento se monitorea de forma continua para detectar cualquier brecha o resultados de baja calidad.

Un estudio reciente sobre plataformas digitales para personas sobrevivientes de violencia doméstica encontramos que, si bien los participantes valoran las herramientas de IA por facilitar y hacer más eficiente el filtrado de información, expresaron preocupaciones constantes sobre las limitaciones de los chatbots en empatía, personalización y precisión.

Un sistema que lee contenido no estructurado de sobrevivientes puede mostrar coincidencias sólidas. También puede pasar por alto el contexto, ponderar señales equivocadas o aplicar un patrón de entrenamiento que no se ajusta a la situación de un sobreviviente en particular. La revisión humana es la forma en que detectamos eso antes de que llegue a la persona que buscó ayuda.

Limitaciones actuales en la asignación de recursos

Leer el significado de lo que escribe una sobreviviente es un avance significativo. Pero hay cosas que nuestro sistema actual todavía no puede resolver por sí solo. Aquí están las brechas y lo que estamos haciendo al respecto:

• Priorización de seguridad: Una sobreviviente en peligro inmediato necesita una línea de crisis antes que cualquier otra cosa, independientemente de la relevancia temática. Un sistema de recuperación que ordena los recursos por coincidencia semántica puede mostrar un resultado relevante sin mostrar el correcto. La siguiente fase de nuestro trabajo aborda esto. Si una solicitud menciona peligro inmediato, los recursos de crisis pasan al frente.

• Ajuste de identidad: Saber lo que escribió una sobreviviente no le dice automáticamente a nuestro sistema si un recurso realmente atiende su identidad. Estamos trabajando para evaluar explícitamente el ajuste de identidad como una parte separada en la canalización de emparejamiento. Por ejemplo, una sobreviviente de la comunidad LGBTQ+ se empareja con recursos que afirman su identidad, no solo con los que abordan el tipo de daño.

• Brechas de cobertura: El emparejamiento semántico ayuda donde existe una cobertura sólida. Estamos añadiendo activamente recursos evaluados a nuestra biblioteca donde la cobertura es escasa, ampliando nuestras asociaciones con organizaciones locales y regionales.

Asignación de recursos que funcione para cada sobreviviente

La asignación de recursos es una inversión a largo plazo. No es una única función que construimos y actualizamos de vez en cuando. En su lugar, significa entender qué busca cada sobreviviente y asegurarnos de que nuestra biblioteca de recursos sea lo suficientemente específica para encontrarlos allí. Requiere investigación clínica y cultural, aportes de sobrevivientes y defensores, y evaluación continua.

Nuestra canalización actual representa un cambio real respecto a donde empezamos. Hemos pasado de mostrar a todos la misma lista, a filtrar por ubicación, a leer lo que las sobrevivientes realmente escriben. Cada paso ha hecho que el sistema sea más receptivo. La asignación de recursos que encuentra a las sobrevivientes donde están, refleja quiénes son y antepone su seguridad vale cada paso cuidadoso e incremental que toma.

Si tu organización está trabajando en infraestructura digital alineada para sobrevivientes, nos encantaría ponernos en contacto. Para explorar los recursos a los que tiene acceso nuestra comunidad, visita nuestra plataforma. Para ver en detalle cómo gobernamos la IA en todas nuestras funciones, lee nuestra Política de IA.

Asignación de recursos para sobrevivientes: Preguntas frecuentes

¿Qué es la asignación de recursos y por qué es importante para las personas sobrevivientes?

La mayoría de las plataformas ofrece la misma lista seleccionada de recursos a cada sobreviviente de daño sexual, sin importar quiénes son o por lo que han pasado. La asignación de recursos es el trabajo de conectar a cada sobreviviente con el apoyo que realmente se ajusta a su situación, identidad y ubicación.

¿Cómo aborda Nuestra Ola la asignación de recursos de forma diferente?

Hemos ido desarrollando nuestro enfoque de forma incremental desde 2019. Empezamos con una lista estática, añadimos filtrado por ubicación e introdujimos coincidencia semántica. La revisión humana se aplica en cada etapa, y un enfoque multicomponente que incluye la priorización explícita de la seguridad es la siguiente fase de desarrollo.

¿Qué sucede si no tenemos recursos para el país de un sobreviviente?

Si no contamos con recursos evaluados para el país de un sobreviviente, verá lo que esté disponible. En Nuestra Ola reconocemos las brechas de cobertura con honestidad. Estamos ampliando activamente la cobertura en más países, con revisión cultural y clínica. El emparejamiento inteligente solo funciona si los recursos están disponibles en primer lugar.

Este es el cuarto artículo de la Intencional por Diseño serie, que explora la tecnología, la filosofía y la investigación que se está desarrollando en Nuestra Ola.