Varje community
behöver en god vän.

Möt Bluey. En vänlig följeslagare med ett viktigt uppdrag: att hjälpa ert moderatorteam att uppmärksamma möjlig rekrytering till kriminalitet och ge den den uppmärksamhet som behövs.

Möt er nya vän Se hur Bluey hjälper
Se filmen1 minut, svensk text

Bluey: Gott luktsinne. Gott sällskap.

Läs texten

Varje community behöver en god vän.

Möt Bluey: en vänlig följeslagare på Discord med ett viktigt uppdrag, att hjälpa era moderatorer att uppmärksamma möjlig rekrytering till kriminalitet.

Det ser sällan ut som brott. Det ser ut som en möjlighet.

Bluey läser de kanaler ni väljer och lägger märke till ledtrådarna.

Ett erbjudande om snabba pengar. En förfrågan efter någon ung. En uppmaning att ta det privat.

Även när orden är maskerade.

Sedan flaggar Bluey diskret meddelandet till ert team, med skälen bifogade.

Ert team fattar beslutet. En flaggning är ett skäl att titta närmare, aldrig en dom.

För direktmeddelanden finns Fråga Bluey, som just nu testas privat. Välj ett meddelande, och svaret är bara till dig.

Bluey. Gott luktsinne. Gott sällskap.

Möt er nya vän på getbluey.app

En illustrativ film med fiktiva meddelanden. Fråga Bluey testas internt och går ännu inte att installera.

Lite extra stöd för dem som bryr sig.

Gott luktsinne.
Gott sällskap.
Er community
moderatorerPrivat kanal
BlueyAPP

Det här meddelandet kan behöva granskas.

allmäntnova · 14:02
Snabba pengar för en leverans ikväll. Behöver någon ung. Skriv privat.
  • Erbjudande om ersättning
  • Riktat till unga
  • Privat kontakt
SamModerator

Jag kollar sammanhanget. Tack, Bluey.

Illustrativ konversation i Discord.

Ett vanligt meddelande.
En anledning att titta närmare.

Erbjudandet. Påtryckningen. Önskan om privat kontakt. Se hur enskilda ledtrådar blir ett underlag som ert team kan granska.

Det börjar som en möjlighet. Detaljerna förändrar bilden.

Ett erbjudande om ersättning säger inte mycket i sig. När det kombineras med kontakt med unga och önskemål om privata samtal finns tydligare skäl att granska.

allmänt
nova
Snabba pengar för en enkel leverans. Behöver någon ung som kan köra ikväll. Skriv privat. Det här stannar mellan oss.

Läs hela meddelandet. Brådskan och önskan om tystnad är också viktiga i den mänskliga granskningen.

Blueys bedömning

En kombination värd att granska

Bluey lyfter fram ersättningen, inriktningen mot unga och den privata kontakten tillsammans. En moderator kan granska skälen och undersöka vad ”leveransen” gäller.

  • Ersättning
  • Riktat till unga
  • Privat kontakt

Flaggningen har en motivering. Ert team väljer att undersöka, be om mer sammanhang eller avfärda den.

Illustrativa exempel, inte en analys i realtid. En flaggning är skäl att granska, inte ett konstaterande om brott.

Ett vetenskapligt arbetssätt.
Skäl som går att granska.

Heuristiker är tydliga regler för att känna igen mönster. Bluey samlar ledtrådarna i en bedömning som ert team kan granska och ifrågasätta.

Ett samspel. En gemensam förståelse.

Bluey förmedlar innehåll från valda Discord-kanaler till Blue. Blue analyserar språket och ger signaler och sammanhang tillbaka. Bluey delar resultatet med moderatorerna, som granskar det och dokumenterar beslut och återkoppling tillsammans med det ursprungliga innehållet och bedömningen.

Er communityValda Discord-kanaler

Bluey

Er följeslagare

Blue

Analysmotorn

Moderatorer

Människor avgör

InnehållSignaler & sammanhangResultat att granskaBeslut & återkoppling
En gemensam historik

Ursprungligt innehåll, analys och mänsklig granskning. Samlat i samma historik.

Regler kan missa rekrytering eller flagga oskyldiga meddelanden. En signal inleder en granskning; den fastställer inte någons avsikt.

Någon du alltid
kan fråga.

Ett moderatorteam ser bara det som når en kanal. Ibland är det som betyder mest något som kommer som ett direktmeddelande.

DM ligger utanför området som Bluey kan moderera och skydda, men du kan alltid: Fråga Bluey.

kaiden_ttv

Det här är början på din meddelandehistorik med @kaiden_ttv.

I går

kaiden_ttv

hej, såg dig i servern tidigare

du är väl på nästan varje kväll?

I dag

kaiden_ttv

Snabba pengar för en enkel leverans ikväll. Du verkar vara någon jag kan lita på. Säg inget till någon, okej?

Du använde Ask Bluey

BlueyAPP

Det här meddelandet ser väldigt mycket ut som när folk rekryterar till brott. Ta det på allvar.

Vad Bluey lade märke till:

  • Det erbjuder pengar för något oklart.
  • Det pressar dig att agera nu direkt.
  • Det smickrar dig innan den ber om något.
  • Det ber dig hålla det hemligt.

Vad du kan göra:

  • Gå inte med på något och gå inte någonstans för att träffa dem.
  • Ta en skärmdump av chatten innan du blockerar, så att du har den om det behövs.
  • Berätta för en vuxen du litar på idag. Vill du hellre prata med någon utanför familjen finns BRIS på 116 111.
  • Om någon är i fara just nu, ring 112.

Bluey såg bara det du valde, inget före eller efter.

Den här kollen var privat. Ingen annan fick veta, och Bluey sparade inte meddelandet.

Bara du kan se det här · Dölj meddelande

  1. Ögonblicket det känns fel.

    Kontakten kommer som ett direktmeddelande, sent, till en enda person. Det finns ingen kanal att rapportera i och ingen självklar att fråga.

  2. Ett högerklick, inget mer.

    Bluey sitter inte och väntar i samtalet. Den öppnas från meddelandet självt, en gång, av den som läser det.

  3. Ett meddelande, framlämnat.

    Under Appar får Ask Bluey exakt det meddelande som valdes. Inte samtalet, inte inkorgen, inte kontot.

  4. Ett svar som är till dem.

    Vad Bluey lade märke till, vad de kan göra härnäst och vad den inte kunde se. Ingen annan får veta och meddelandet sparas inte.

Fråga Bluey

En kompis som alltid är tillgänglig

Fristående från server-boten, Fråga Bluey är tänkt för individuellt bruk, den tillhandahåller möjligheten för dem att få hjälp från Bluey för att navigera svåra frågor och situationer.

  • Fråga om ett meddelandeFråga Bluey läser inget i bakgrunden, frågan initieras av användaren själv
  • Svaret går till demDet behöver vara psykologiskt säkert att fråga, inga rapporter skickas till moderatorer eller föräldrar
  • Inga meddelanden sparasMeddelandet de frågar om lagras inte, det är direkt support från Bluey, inte en uppföljningskedja

Fråga Bluey är i privat alpha, om du vill veta mer, hör av dig!

Jag vill veta mer

Illustrativt exempel med fiktivt innehåll, inte en kontroll i realtid. Bluey kan missa en kontakt eller uppmärksamma ett harmlöst meddelande.

Bättre lärande börjar
med djupare kunskap.

De som arbetar nära rekryteringsproblematiken förstår vad en fras betyder, hur tillvägagångssätt förändras och när en varning kan likna ett hot.

Vi utvecklar en lärande modell med den kunskapen som grund: expertförfattade scenarier, oberoende granskning och utvärdering på exempel som modellen inte har sett.

Den lärande modellen är under utveckling. Vi välkomnar medverkande från myndigheter, forskning och andra verksamheter.

Bidra med er kunskap
Så vill vi utveckla modellen
  1. 1

    Yrkeskunskap

    Yrkesverksamma inom barnskydd, brottsförebyggande arbete och forskning bidrar med realistiska, egenförfattade scenarier.

  2. 2

    Oberoende granskning

    En annan sakkunnig granskar tolkningen. Osäkra exempel används inte i träningen.

  3. 3

    Lärande och utvärdering

    Modellkandidater tränas på godkända exempel och prövas sedan på nya fall, harmlösa meddelanden och maskerat språk.

  4. 4

    Ett genomtänkt införande

    Jämför missade signaler och felaktiga flaggningar. Granska underlaget innan en ny modellversion godkänns.

Mänskligt granskade exempel. Spårbara versioner. Lärande under ansvar.

”Den hittade något”
är bara halva testet.

En användbar modell måste också känna igen harmlösa meddelanden. Vår utvärderingsplan omfattar missad rekrytering, felaktiga flaggningar, maskerat språk och legitima trygghetssamtal. Tränings- och testexempel delas upp efter scenariofamilj för att jämförelsen ska bli mer meningsfull.

Forskningen bakom frågorna

Forskning om förändrad text motiverar tester som går utöver tydliga, förutsägbara formuleringar. NIST:s AI Risk Management Framework ger stöd för fokus på utvärdering, sakkunskap och mänsklig kontroll.

Några bra frågor.

Vem är Bluey till för?

Bluey är till för Discord-communityer och moderatorteam som vill ha hjälp att uppmärksamma möjlig rekrytering till kriminalitet. Kontakta oss för att prata om era behov och vad som finns tillgängligt.

Ersätter Bluey våra moderatorer?

Ni har fortsatt ansvaret. Bluey lyfter fram möjlig rekrytering och signalerna bakom bedömningen. Människor granskar sammanhanget och bestämmer vad som ska göras. Bluey kan missa innehåll eller flagga något harmlöst.

Kan Bluey läsa privata samtal?

Boten bedömer innehåll i de serverkanaler som valts och som den har åtkomst till. Den har inte passiv åtkomst till medlemmarnas privata direktmeddelanden. Ask Bluey fungerar tvärtom: personen bestämmer själv vilket enskilt meddelande den får se.

Hur är det med meddelanden som ingen annan ser?

Det är vad Ask Bluey är till för. En person installerar den på sitt eget Discord-konto och visar ett meddelande i taget; svaret går till personen själv. Ingen övervakning, ingen föräldravy och inget sparas. Ask Bluey testas internt och går ännu inte att installera.

Hur kommer vi igång?

Berätta om er community på hello@getbluey.app. Vi visar gärna Bluey och pratar om upplägg och tillgänglighet.

Er kunskap.
En tryggare community.

Arbetar ni med barnskydd, forskning, brottsförebyggande arbete eller moderering? Låt oss utforska vad Bluey kan lära av ert perspektiv.

Dela er kunskap