AI-filtret som stoppar kränkande meddelanden

Mer än ett svordomsfilter

Tidiga chattfilter letade efter fula ord. TalkSafe läser hela meddelandet och förstår tonen. Vid sidan av öppna påhopp och hot känner det igen de tystare sätt ett meddelande kan såra på: sarkasm och ironi, förminskande kommentarer, skuldbeläggning, gaslighting, förtäckta hot och fientligt använda emojis.

Det är dessutom svårt att runda. Att formulera om ett påhopp, linda in det i artighet eller gömma det bakom ett skämt betyder oftast bara att den nya versionen också fastnar. Filtret fångar inte allt – inget filter gör det – men det fångar mycket.

Så funkar TalkSafe

Varje chattmeddelande går genom TalkSafe innan det skickas – i båda riktningarna. En mildare gliring flaggas för avsändaren med ett förslag på en lugnare formulering, som hen kan använda eller strunta i. Grövre meddelanden blockeras helt och når aldrig den andra föräldern.

Inget kan redigeras eller raderas i efterhand, och ni kan båda exportera chatten när ni vill – så det finns en gemensam bild av vad som faktiskt sades.

Ett strängare läge när det behövs

Standardläget passar de flesta familjer. Behöver du mer skydd kan du slå på ett strängare filter under Inställningar. Det ingriper tidigare och blockerar mer, och det gäller allt som skickas både till och från dig.

Därför spelar det roll

Hårda meddelanden dränerar ork som borde gå till barnen, och de gör samarbetet svårare för er båda. Ett filter kan inte laga en relation, men det kan ta udden av orden – och ge avsändaren en stund att välja bättre.

– Man måste vara ödmjuk inför att ett AI-verktyg inte kan stoppa alla former av kränkningar, men tack vare de snabba varningarna från AI:n tror vi att fler föräldrar blir mer medvetna om sitt eget agerande. Om det man skriver ständigt flaggas kan det vara en ögonöppnare, säger Erik Scholander, teknisk chef på Varannan Vecka.

TalkSafe är en del av chatten och kostar inget extra.

Sammanfattning

• TalkSafe läser hela meddelandet och förstår tonen – det fångar även sarkasm, förminskande kommentarer, gaslighting och förtäckta hot.
• Filtret är svårt att runda: omformulerade påhopp fastnar oftast också. Det fångar inte allt, men det fångar mycket.
• Varje meddelande i chatten går genom TalkSafe – i båda riktningarna. Mildare formuleringar flaggas med ett förslag på omskrivning, grövre meddelanden blockeras helt.
• Ett strängare filter kan slås på under Inställningar och gäller allt som skickas till och från dig.
• TalkSafe är en del av chatten och kostar inget extra.