Fler och fler digitala tjänster använder AI för att ge stöd kring mående, stress och psykisk hälsa. För en del är det första gången de sätter ord på hur de mår. Samtidigt väcker det rimliga frågor: vad kan AI faktiskt hjälpa till med, var går gränsen, och hur vet man att en tjänst hanterar det ansvarsfullt?
Den här artikeln går igenom det översiktligt, utan att varken överdriva vad AI kan göra eller avfärda att det kan vara till hjälp.
Vad AI kan vara ett stöd för
AI-baserade samtalsstöd är i grunden ett verktyg för reflektion, inte en form av vård. Inom de gränserna kan det ändå fylla en funktion:
- Sänka tröskeln att sätta ord på något. Det kan kännas lättare att skriva till en AI än att direkt prata med en person, särskilt första gången.
- Finnas tillgängligt när du behöver det. Till skillnad från en mottagningstid går det att skriva ner tankar mitt i natten eller mellan andra saker i vardagen.
- Hjälpa till att strukturera tankar. Genom frågor och sammanfattningar kan AI göra det lättare att se mönster i det du skriver, till exempel i en dagbok.
- Vara ett komplement mellan vårdkontakter. Det ersätter inte behandling, men kan vara ett stöd i väntan på eller mellan besök hos vården.
Var gränserna går
Det är minst lika viktigt att vara tydlig med vad AI inte kan göra:
- AI ställer inte diagnos. Den kan inte bedöma om symtom beror på en viss diagnos eller behöver medicinsk utredning.
- AI känner inte till hela din situation. Utan tillgång till journal, undersökningar eller en yrkesperson som följer dig över tid blir svaren generella, inte individuellt anpassade.
- Svaren kan bli fel eller ofullständiga. Som all språkteknologi kan AI missförstå eller formulera sig på ett sätt som inte stämmer för just din situation.
- AI hanterar inte akuta kriser på egen hand. Ett textbaserat samtal kan aldrig ersätta ett larm, en akutmottagning eller en människa som kan agera i stunden.
Det är skillnaden mellan ett stöd i vardagen och vård. En AI-tjänst som är tydlig med de gränserna är i regel mer pålitlig än en som låter påskina att den kan mer än så.
Så känner du igen ett tryggt AI-stöd
Det finns några saker som är rimliga att förvänta sig av en AI-tjänst inom psykisk hälsa:
- Ett tydligt säkerhetsnät för kris. Tecken på akut fara ska fångas upp och leda till information om till exempel 112 och 1177, inte bara ett vanligt AI-svar.
- Öppenhet om begränsningar. Tjänsten bör säga rakt ut att den inte ställer diagnos eller ersätter vård, inte bara i finstilt.
- Tydlig information om data. Det ska framgå vad som sparas, varför, och hur du kan radera eller exportera din data.
- Mänsklig ansvarig avsändare. Någon, inte bara AI-modellen, behöver stå bakom vilka ämnen tjänsten ger sig in på och hur den formulerar sig kring känsliga frågor.
Om en tjänst uppfyller det är det ett rimligt tecken på att AI används med eftertanke snarare än enbart som en teknisk nyhet.
Så tänker vi kring AI på MittPsyke
MittPsyke använder AI som ett samtalsstöd, byggt med ett säkerhetslager som körs innan AI:n svarar, och med tydliga gränser för vad tjänsten är till för. Hur det är uppbyggt i praktiken går vi igenom i Ansvarsfull AI. Tjänstens övriga avgränsningar finns samlade i ansvarsinformationen.
När du bör söka vård istället
Om du mår dåligt under längre tid, får ökade symtom eller behöver en professionell bedömning bör du kontakta vården, till exempel via 1177. Vid akut fara, ring 112.
Av MittPsyke-redaktionen