性的暴行の生存者を支援資源につなぐことが言うほど簡単ではない理由

これは『Intentional by Design』シリーズの第4回の記事です。以下をお読みください コミュニティプラットフォームの技術に関する最初の記事、 次に 私たちのすべての技術的判断を導く哲学に関する第2回の記事、 そして AIツールが生存者にとって安全かどうかに関する第3回の記事。

性的被害を受けた生存者を適切な支援につなげること

性別に基づく暴力（GBV）や性的暴行の分野は、ここ数十年で重要な支援インフラのネットワークを築いてきました。ホットライン、危機センター、法的支援者、サポートグループ、カウンセリングサービスは、擁護者たちがそれらをつくるために懸命に戦ってきた結果として存在しています。

オンラインプラットフォームもこのインフラの一部となり、生存者が自分の体験を共有したり、支援を受けたり、リソースに接続したりする手段を提供しています。しかし、これらのプラットフォームの多くがまだ解決していない問題があります。

リソースマッチングとは、各生存者を、その状況に合った支援へ適切なタイミングでつなぐことを指します。これは見た目より難しく、多くのプラットフォームはまだそれを実現できていません。

アワーウェーブは生存者を リソース 2019年の創設以来、私たちはリソースへの紹介を行ってきました。79か国にわたる55万8,000人以上のコミュニティに対して、26万8,000件以上のリソース紹介を行っています。この記事では、私たちのリソース紹介システム、その構築方法、そして今後の展望を探ります。

リソース紹介はこれまでどのように機能してきたか

2019年にローンチしたとき、私たちのリソース紹介はほとんどのプラットフォームが今日でも機能しているのと同じ方法でした。有名な組織をキュレーションしたリストで、誰であっても、彼らが何を経験したかに関係なくすべての人に表示されました。単純で整理された箇条書きのリストを思い浮かべてください。例えば：

• RAINN： 全国性的暴行ホットラインを運営し、地域の性的暴行サービス提供者と連携して公共政策の改善、専門家の訓練、そして生存者の支援を行っています。

• 988自殺・危機ホットライン： 感情的な苦痛や危機にある人々を訓練を受けたカウンセラーとつなぎ、電話、テキスト、チャットで24時間365日利用可能です。

• NSVRC： 性的暴力に関する研究、予防、擁護活動を支援し、組織向けのリソースとトレーニングを提供します。

これらは確立され、精査され、信頼できるリソースです。利用者にとって重要です。2024年、RAINNのインパクトレポートによると、同組織は次の件数を超える支援を行いました： 412,000人の生存者 被害者支援プログラムを通じて。

しかし、このような静的なリストには限界があり、コミュニティが大きく、よりグローバルになるほどその限界はより明確になります。たとえばケニアの生存者はアイオワの生存者と同じホットラインを見ます。クィアの生存者、男性の生存者、幼少期の虐待の余波に対処している人、または COCSA、 あるいは親密な画像の悪用に対処している人も、他の人と同じリストに出会います。

そしてその背後には暗黙のメッセージがあります。意図的でなくても、このような形でフォーマットされたリソースは、生存者に対して私たちが彼らが誰であるかを理解していないと示唆してしまう危険があります。

生存者が助けを求める一歩を踏み出すとき、その検索の先で見つけるものが次に取る行動を形作ります。彼らの状況を反映していないリソースや、彼らの国で何も提供していないリソースは助けになりません。それはまた、彼らの経験が標準的なカテゴリーに当てはまらないというメッセージを送ってしまいます。

これは、私たちのプラットフォームに現在掲載されている1,852件のストーリー全体で見られます。私たちのコミュニティには、身体的な被害に加えて、感情的虐待や経済的虐待の生存者も含まれています。家族や権威ある人物、見知らぬ人によって傷つけられた人々も含まれています。79か国にまたがり、幅広いアイデンティティ、指向、経験を反映しています。

彼ら全員が同じリソースを必要としているわけではありませんが、長い間私たちは全員に同じものを提供していました。

より賢いリソースマッチングへの私たちのアプローチ

生存者を適切な支援につなぐための私たちの取り組みは、これまで段階を経て進化してきました。私たちの技術は、位置情報の追跡、意味的マッチング、人間によるレビューなどを通じて、生存者が実際に何を必要としているかをよりよく理解するために一貫して適応してきました。

位置情報に基づくフィルタリング

2024年に、私たちは静的なリストを超える最初の一歩を踏み出しました。ライブラリ内のすべてのリソースに対象となる国や地域のタグを付け、投稿元の場所に基づいて生存者が見るものをフィルタリングし始めました。ブラジルの生存者はブラジルのリソースを、英国の生存者は英国のリソースを見ます。

これは重要な改善でしたが、次の問題も明らかにしました。私たちのプラットフォームは28か国にわたってリソースインフラを拡大しましたが、多くの国ではまだライブラリのカバレッジが薄いか存在しません。審査済みのリソースがまだ存在しない国にいる生存者には、位置情報フィルターは役に立ちません。

また、カバレッジが十分な場所でも、位置情報は私たちに どこに 誰がいるかを教えてくれます。しかし、 彼らが必要としていること。

意味的マッチング

今年、私たちはリソースマッチングにおいてより実質的なアプローチに移行しました。生存者の位置だけに基づいてリソースをマッチさせるのではなく、システムが彼らの書いたものを読み、場所だけでなく意味に基づいてリソースを見つけます。これは、誰かのストーリー、メッセージ、または質問が、彼らに適したリソースを見つける手助けになることを意味します。

retrieval-augmented generation（RAG）とは何か？ これは、生存者の言葉の意味を読み取り、それをリソース文書のライブラリと照合し、キーワードだけでなく文脈に基づいて最も関連性の高い結果を見つけるAIパイプラインです。

基本的に、私たちはライブラリ内の各リソースについて詳細なコンテキスト文書を作成しました。システムはプラットフォーム上の生存者の言葉の意味をそれらのリソース文書と比較します。

警察に行ったという話は、支えのない家族についての話とは異なる読み方をされます。幼少期のトラウマに関するメッセージは、親密な画像の悪用に関する質問とは異なって見えます。システムはそれらの違いを聞き分け始め、対応するリソースを表示します。

さらに、位置情報フィルタリングは引き続き適用されるため、特定の国にいる生存者は自分に対応するリソースのみを目にします。初めて、私たちは「この人はどこにいるのか？」だけでなく「彼らは私たちに何を伝えているのか？」と問うようになりました。

人間によるレビュー

このシリーズを通して説明してきたように、 アワーウェーブでは、結果を人間が確認するループなしに単一のセンシティブなAIユースケースを運用することはありません。 これは私たちが明確に定めている原則で、 AIポリシー。

リソースマッチングも例外ではありません。ライブラリ内のすべてのリソースはマッチングプールに入る前に人間によって精査されます。その後、ギャップや低品質な結果を検出するために、マッチングの出力は継続的に監視されます。

最近のある 家庭内暴力の生存者向けデジタルプラットフォームに関する研究 参加者は、アクセスしやすく効率的な情報フィルタリングのためのAIツールを評価する一方で、チャットボットの共感、パーソナライゼーション、正確性の限界について一貫した懸念を示しました。

非構造化された生存者の内容を読み取るシステムは、強いマッチを示すことがあります。しかし、文脈を見落としたり、誤ったシグナルに重みを置いたり、特定の生存者の状況に合わないトレーニングパターンを適用したりすることもあります。人間によるレビューは、助けを求めて来た人に届く前にそれを検出する方法です。

リソースマッチングの現在の制限

生存者が書く内容の意味を読み取ることは重要な前進です。しかし、現行のシステムだけでは解決できない事項がまだあります。ここではギャップがどこにあるか、そして私たちがそれに対して何をしているかを示します:

• 安全性の優先順位付け: 差し迫った危険にある生存者には、話題の関連性に関係なく、何よりもまず危機対応のホットラインが必要です。意味的マッチでリソースをランク付けする検索システムは、関連する結果を提示しても、正しいものを提示しない場合があります。次の段階の作業でこれに対処します。提出内容に差し迫った危険が言及されている場合、危機対応のリソースを最優先に移動させます。

• アイデンティティ適合性: 生存者が何を書いたかを知ることだけでは、そのリソースが実際に彼らのアイデンティティに対応しているかどうかをシステムが自動的に判断できるわけではありません。私たちは、マッチングパイプラインの別の部分として、明示的なアイデンティティ適合性の評価に取り組んでいます。例えば、クィアの生存者には、被害の種類に対応するだけのリソースではなく、彼らのアイデンティティを肯定するリソースがマッチングされます。

• カバレッジのギャップ: 意味的マッチングは、十分なカバレッジがある箇所で有効です。カバレッジが薄い地域には、審査済みのリソースをライブラリに積極的に追加し、地元および地域の団体とのパートナーシップを拡大しています。

すべての生存者に対応するリソースマッチング

リソースマッチングは長期的な投資です。それは一度作って時々更新する単一の機能ではありません。むしろ、各生存者が何を求めているかを理解し、リソースライブラリがそこに対応できるほど具体的であることを保証することを意味します。それには臨床的および文化的な調査、被害者および擁護者からの意見、継続的な評価が必要です。

私たちの現在のパイプラインは、出発点からの実質的な転換を示しています。全員に同じリストを表示するところから、位置によるフィルタリングを行い、生存者が実際に書いたことを読み取るところまで進んできました。各段階がシステムをより応答性の高いものにしました。生存者のいる場所で彼らを支え、彼らが誰であるかを反映し、安全を最優先するリソースマッチングは、慎重で段階的なあらゆる手間をかける価値があります。

もしあなたの組織が生存者のための整合したデジタルインフラに取り組んでいるなら、 ぜひご連絡を取りたいです. コミュニティが利用できるリソースを調べるには、 私たちのプラットフォームをご覧ください. 当社のすべての機能にわたってAIをどのように運用しているかを詳しく知るには、当社の AIポリシー.

生存者向けリソースマッチング: よくある質問

リソースマッチングとは何で、なぜ生存者にとって重要なのでしょうか？

ほとんどのプラットフォームは、誰であるかや経験したことに関係なく、性的被害のあったすべての生存者に同じキュレートされたリソースリストを提供します。リソースマッチングは、各生存者を彼らの状況、アイデンティティ、場所に実際に合った支援につなげる作業です。

アワー・ウェーブはリソースマッチングにどのように異なるアプローチを取っていますか？

私たちは2019年以降、段階的にアプローチを構築してきました。静的なリストから始め、位置によるフィルタリングを追加し、意味的マッチングを導入しました。各段階で人間によるレビューが適用され、明示的な安全性優先を含む多要素のアプローチが次の開発段階です。

生存者の国に対するリソースがない場合はどうなりますか？

もし私たちが生存者の国向けに審査済みのリソースを持っていない場合、利用可能なものが表示されます。アワー・ウェーブでは、カバレッジのギャップを正直に認めています。私たちは文化的および臨床的なレビューを通じて、より多くの国でのカバレッジ拡大に積極的に取り組んでいます。スマートマッチングは、まず第一にリソースが存在している場合にのみ機能します。

これは第4回目の インテンショナル・バイ・デザイン シリーズであり、アワー・ウェーブで構築されている技術、哲学、研究を探るものです。