När vi bygger Treat inför de första piloterna definierar vi en tydlig roll för AI: den ställer följdfrågor och strukturerar uppgifterna du lämnar; en läkare fattar de kliniska besluten. Här beskriver jag arbetsflödet för symtomkartläggningen som vi utvecklar, var uppgifterna behandlas och en sak som ännu är på hälft.
Vad AI:n gör
När du beskriver dina symtom med egna ord ställer AI:n strukturerade följdfrågor: hur länge symtomet har pågått, om du har feber, vilka läkemedel du använder, om du har haft liknande tidigare. Det är samma frågor som läkaren ändå skulle ställa i början av ett besök.
Av dina svar sammanställer AI:n en förberedande sammanfattning. Du granskar, korrigerar och bekräftar uppgifterna innan de skickas till läkaren. Målet är enkelt: läkaren ser helheten genast, och du behöver inte upprepa samma saker. Samtalsloggen och sammanfattningen hör till patientregistret, alltså ansvarar den yrkesutbildade person som gör bedömningen för dem precis som för andra patientuppgifter.
Vad AI:n inte gör
- Den ställer ingen diagnos. Sammanfattningen är ett arbetsredskap för läkaren, inte en bedömning av vad du lider av.
- Den fattar inga vårdbeslut. Recept, sjukintyg och remisser är alltid en legitimerad läkares beslut.
- Den bedömer inte brådska. AI:n avgör inte vems ärende som är allvarligt och vems som inte är det.
- Den fattar inga automatiserade beslut i den mening som avses i artikel 22 i GDPR. Varje kliniskt beslut fattas av en legitimerad läkare.
Hundra procent av de kliniska besluten hos Treat fattas av en legitimerad läkare. AI:n är inte heller en nödtjänst: i en nödsituation ska du alltid ringa 112.
Var och hur behandlingen sker
Symtomkartläggningen använder Googles tjänst Vertex AI och modellen Gemini i EU, på adressen eu.rep.googleapis.com. Det handlar inte om Gemini-appen för konsumenter utan om en tjänst avsedd för företag, som anropas autentiserad med Treats tjänstekonto och under Google Clouds personuppgiftsbiträdesavtal.
Vi har stängt av cachningen av prompter så att innehållet i ditt samtal inte blir kvar i tjänsten i onödan. Resten av Treat-appen körs i Google Cloud i Finland i regionen europe-north1, och personuppgifterna stannar inom EES.
Var samtalet sparas
Utöver sammanfattningen sparas de ursprungliga frågorna och dina svar i patientregistret, så läkaren är inte beroende av enbart sammandraget. Patientregistrets uppgifter sparas enligt lag, vanligen 12 år efter patientens död eller 120 år efter födseln, och den yrkesutbildade person som gör bedömningen ansvarar för dem.
Ur Treats tjänsteloggar på applikationsnivå tas personbeteckningen och de kliniska fritextfälten bort redan innan de skrivs, och loggarna raderas som standard efter 90 dygn. Det gäller Treats egna tjänsteloggar; om Googles eventuella loggning för missbruksövervakning berättar jag separat nedan.
Dina uppgifter används inte för att träna modeller
Det här är absolut: dina samtal används aldrig för att träna AI-modeller, varken av Google eller av Treat. I Treats egen produktutveckling används bara anonymiserade uppgifter där ingen enskild person kan identifieras.
En ärlig anmärkning: loggning för missbruksövervakning
En sak är ännu på hälft, och jag vill säga det rakt ut. Google upprätthåller missbruksövervakning på sin AI-plattform, och till den kan höra loggning av anrop på Googles sida. Vi har ansökt om undantag från den här loggningen för Treats projekt. Tills undantaget har beviljats antar vi inte full nollagring för Gemini-anropen, och vi har markerat detta tydligt i våra interna loggar och i dataskyddsbeskrivningen.
I praktiken ändrar det inte var uppgifterna behandlas (EU) eller vad de används till (inte träning). Det betyder att vi inte påstår mer än vi kan visa. Dataskyddsbeskrivningen anger alltid det aktuella läget.
Varför vi byggde det så här
Det hade varit lätt att låta AI:n göra mer. Vi valde annorlunda, eftersom ansvaret inom hälso- och sjukvården ska ligga hos en människa som har utbildning och tillstånd för det. AI:ns uppgift är att ta bort väntan och upprepning så att läkaren förstår din situation från början. Allt annat är läkarens arbete.
Piloterna ger oss möjlighet att mäta hur väl arbetsflödet stöder patienter och läkare. I det här skedet är snabb tillgång till en läkarbedömning ett mål vi bygger mot.
Om du har frågor om hur AI:n behandlar dina uppgifter, fråga oss. Jag svarar gärna.