Varje community
behöver en god vän.

Möt Bluey. En vänlig följeslagare med ett viktigt uppdrag: att hjälpa ert moderatorteam att uppmärksamma möjlig rekrytering till kriminalitet och ge den den uppmärksamhet som behövs.

Möt er nya vän Se hur Bluey hjälper

Lite extra stöd för dem som bryr sig.

Gott luktsinne.
Gott sällskap.
Er community
moderatorerPrivat kanal
BlueyAPP

Det här meddelandet kan behöva granskas.

allmäntnova · 14:02
Snabba pengar för en leverans ikväll. Behöver någon ung. Skriv privat.
  • Erbjudande om ersättning
  • Riktat till unga
  • Privat kontakt
SamModerator

Jag kollar sammanhanget. Tack, Bluey.

Illustrativ konversation i Discord.

Ett vanligt meddelande.
En anledning att titta närmare.

Erbjudandet. Påtryckningen. Önskan om privat kontakt. Se hur enskilda ledtrådar blir ett underlag som ert team kan granska.

Det börjar som en möjlighet. Detaljerna förändrar bilden.

Ett erbjudande om ersättning säger inte mycket i sig. När det kombineras med kontakt med unga och önskemål om privata samtal finns tydligare skäl att granska.

allmänt
nova
Snabba pengar för en enkel leverans. Behöver någon ung som kan köra ikväll. Skriv privat. Det här stannar mellan oss.

Läs hela meddelandet. Brådskan och önskan om tystnad är också viktiga i den mänskliga granskningen.

Blueys bedömning

En kombination värd att granska

Bluey lyfter fram ersättningen, inriktningen mot unga och den privata kontakten tillsammans. En moderator kan granska skälen och undersöka vad ”leveransen” gäller.

  • Ersättning
  • Riktat till unga
  • Privat kontakt

Flaggningen har en motivering. Ert team väljer att undersöka, be om mer sammanhang eller avfärda den.

Illustrativa exempel, inte en analys i realtid. En flaggning är skäl att granska, inte ett konstaterande om brott.

Ett vetenskapligt arbetssätt.
Skäl som går att granska.

Heuristiker är tydliga regler för att känna igen mönster. Bluey samlar ledtrådarna i en bedömning som ert team kan granska och ifrågasätta.

Ett samspel. En gemensam förståelse.

Bluey förmedlar innehåll från valda Discord-kanaler till Blue. Blue analyserar språket och ger signaler och sammanhang tillbaka. Bluey delar resultatet med moderatorerna, som granskar det och dokumenterar beslut och återkoppling tillsammans med det ursprungliga innehållet och bedömningen.

Er communityValda Discord-kanaler

Bluey

Er följeslagare

Blue

Analysmotorn

Moderatorer

Människor avgör

InnehållSignaler & sammanhangResultat att granskaBeslut & återkoppling
En gemensam historik

Ursprungligt innehåll, analys och mänsklig granskning. Samlat i samma historik.

Regler kan missa rekrytering eller flagga oskyldiga meddelanden. En signal inleder en granskning; den fastställer inte någons avsikt.

Bättre lärande börjar
med djupare kunskap.

De som arbetar nära rekryteringsproblematiken förstår vad en fras betyder, hur tillvägagångssätt förändras och när en varning kan likna ett hot.

Vi utvecklar en lärande modell med den kunskapen som grund: expertförfattade scenarier, oberoende granskning och utvärdering på exempel som modellen inte har sett.

Den lärande modellen är under utveckling. Vi välkomnar medverkande från myndigheter, forskning och andra verksamheter.

Bidra med er kunskap
Så vill vi utveckla modellen
  1. 1

    Yrkeskunskap

    Yrkesverksamma inom barnskydd, brottsförebyggande arbete och forskning bidrar med realistiska, egenförfattade scenarier.

  2. 2

    Oberoende granskning

    En annan sakkunnig granskar tolkningen. Osäkra exempel används inte i träningen.

  3. 3

    Lärande och utvärdering

    Modellkandidater tränas på godkända exempel och prövas sedan på nya fall, harmlösa meddelanden och maskerat språk.

  4. 4

    Ett genomtänkt införande

    Jämför missade signaler och felaktiga flaggningar. Granska underlaget innan en ny modellversion godkänns.

Mänskligt granskade exempel. Spårbara versioner. Lärande under ansvar.

”Den hittade något”
är bara halva testet.

En användbar modell måste också känna igen harmlösa meddelanden. Vår utvärderingsplan omfattar missad rekrytering, felaktiga flaggningar, maskerat språk och legitima trygghetssamtal. Tränings- och testexempel delas upp efter scenariofamilj för att jämförelsen ska bli mer meningsfull.

Forskningen bakom frågorna

Forskning om förändrad text motiverar tester som går utöver tydliga, förutsägbara formuleringar. NIST:s AI Risk Management Framework ger stöd för fokus på utvärdering, sakkunskap och mänsklig kontroll.

Några bra frågor.

Vem är Bluey till för?

Bluey är till för Discord-communityer och moderatorteam som vill ha hjälp att uppmärksamma möjlig rekrytering till kriminalitet. Kontakta oss för att prata om era behov och vad som finns tillgängligt.

Ersätter Bluey våra moderatorer?

Ni har fortsatt ansvaret. Bluey lyfter fram möjlig rekrytering och signalerna bakom bedömningen. Människor granskar sammanhanget och bestämmer vad som ska göras. Bluey kan missa innehåll eller flagga något harmlöst.

Kan Bluey läsa privata samtal?

Boten bedömer innehåll i de serverkanaler som valts och som den har åtkomst till. Den har inte passiv åtkomst till medlemmarnas privata direktmeddelanden.

Hur kommer vi igång?

Berätta om er community på hello@getbluey.app. Vi visar gärna Bluey och pratar om upplägg och tillgänglighet.

Er kunskap.
En tryggare community.

Arbetar ni med barnskydd, forskning, brottsförebyggande arbete eller moderering? Låt oss utforska vad Bluey kan lära av ert perspektiv.

Dela er kunskap