På Klinikken.ai kan I gøre jeres viden tilgængelig som sikre og bæredygtige AI-chatbots.
Dt der er bæredygtige indebærer blandt andet at I ikke bruger chatbots til opgaver som de ikke er velegnede til. Derfor har vi nogle enkle retningslinjer for, hvad chatbots der bygges på Klinikken.ai må – og ikke må – gøre.
Du må gerne bygge chatbots, der:
- Hjælper mennesker med at reflektere, finde ro eller ændre vaner.
- Yder psykoedukation og målrettet terapeutisk træning.
- Understøtter trivsel, selvforståelse og mentale processer
- Tilbyder øvelser, forløb eller samtaler, der inspirerer og guider
- Yder lettere terapi for f.eks søvnproblemer eller overtænkning
Du må ikke bygge chatbots der
- Optræder som kliniske psykologer og rådgiver i svære psykologiske situationer
- Giver råd om medicin eller spisning
- Retter sig direkte imod børn
- Retter sig imod egentlige psykiatriske diagnoser som f.eks. psykoser, skizofreni eller anorexi
Med andre ord: Chatbots på platformen må gerne støtte mennesker. De må også gerne træne og oplyse og for eksempel hjælpe med afgrænsede problemer – men de må ikke agere som læge, psykiater eller klinisk psykolog og engagere sig i håndtering af svære psykiske problemer.
Hos os indebærer det også at chatbotten skal have en (relativt) klar opgave og ikke bare skal tilbyde hjælp med alting. Meget brede “AI-terapeuter” er langt sværere at styre og dermed gøre forsvarlige.
Hvorfor denne begrænsning?
- Fordi det er dét, AI-chatbots er bedst til. De kan lytte, spejle, stille spørgsmål og hjælpe med struktur. De kan også hjælpe mennesker igennem udviklingsforløb og rådgive. Og de kan skabe refleksion igennem samtaler. Men de har ikke dømmekraft som et menneske. Og de mangler den forståelse og indlevelse som en rigtig terapeut har.
- Fordi loven kræver det. Ifølge EU’s AI-forordning (AI Act) må man ikke udvikle såkaldte højrisiko-AI uden særlige godkendelser. Højrisiko chatbots er f.eks. nogen der diagnosticerer eller foreslår behandling, kommer med anvisninger på adfærd – f.eks. i forbindelse med selvskade eller spisevægring eller hjælper med mere alvorlige psykiske problemer. Sådanne løsninger må I altså ikke bygge på Klinikken.ai.
Kort sagt
Klinikken.ai er til AI-løsninger med lav eller begrænset risiko – som samtalepartnere, ikke som sundhedsfaglige eksperter. Chatbots kan støtte pårørende, tage indledende forsamtaler, træne i målrettede forløb om f.eks. familieadfærd, søvn, motion eller vaner og hjælpe med personlig udvikling og lettere terapeutiske opgaver.
I sidste ende handler det om et skøn. Vi hjælper gerne, hvis I er i tvivl.