De ongewisse toekomst van de psycholoog

Voor- en nadelen van technologische innovaties
05/06/2020
Tessa Strijp
Geen reacties
shutterstock_762804607 handen brein toekomst
Volume 55, Issue 6

THE UNCERTAIN FUTURE FOR PSYCHOLOGISTS

T. STRIJP

Will therapists ever be replaced by robots? This article discusses this question by reviewing a series of studies from different perspectives. The use of e-mental health in therapy has increased over the past years, not only in addition to regular therapy but also as self-contained therapy. Several advantages and disadvantages of online therapy are known. Loss of non-verbal communication is named as one of the most important disadvantages of e-mental health therapy. Some researchers recognize this as the reason why therapy could be effective. However, others state that the online therapeutic relationship can still be rated as good. Furthermore, robots/chatbots are being used in trials for therapy use. Although these studies are still in their infancy, the results are promising.

2209 Weergaven
4 Downloads
    • Technologie in de (g)gz
    • De therapeutische relatie binnen e-mental health therapie
    • Conclusie
  • Literatuurlijst
  • Over de auteur
Lees verder
Hoe ziet de toekomst van de psycholoog in de geestelijke gezondheidszorg (ggz) eruit? Tessa Strijp zet uiteen hoe technologie het werk van de psycholoog beïnvloedt en wat dit kan betekenen voor de continuïteit van de psychologie als professie. Tevens tracht zij antwoord te geven op de vraag hoe ‘robot-proof’ de psycholoog is. ‘Er is voor de psycholoog geen reden tot zelfgenoegzaamheid.’

Technologische innovaties volgen elkaar in rap tempo op en hebben ook invloed op de banenmarkt. Afgelopen jaren zijn al veel banen geautomatiseerd. Hoe zit dat eigenlijk voor de psycholoog werkzaam binnen de ggz? Een snelle zoektocht op Google stelt ons gerust en beweert dat de psycholoog vrij weinig te vrezen heeft (JobPersonality, 2019). De kans dat de psycholoog vervangen wordt, wordt zelfs geschat op 0%. Maar hoe terecht is de aanname dat de psycholoog volledig ‘robot-proof ’ is? Er wordt tegenwoordig bij verschillende psychische stoornissen al flink geëxperimenteerd met de inzet van chatbots, een geautomatiseerde gesprekspartner. Over chatbot Tess wordt door NewHealth Collective (z.d.) het volgende gezegd: ‘Tess is 24 uur per dag, 7 dagen per week voor iedere cliënt beschikbaar via kanalen als sms, Facebook Messenger, webbrowsers en chat-apps, dus ook op plaatsen en tijdstippen waarop de professional van vlees en bloed er niet kan zijn. Tess is nooit moe, nooit afgeleid en altijd bereid om met je te praten. Ze is nooit verder dan een sms’je of appje van je verwijderd. Tess is er voor je. Altijd.’

De vraag die in dit artikel centraal staat is hoe de toekomst van psycholoog kan veranderen onder invloed van technologische innovaties. Allereerst wordt een beeld geschetst van de huidige stand van zaken rondom de toegepaste technologie binnen de ggz, vervolgens wordt een overzicht geboden van verschillende voor en nadelen en er wordt ingegaan op (mogelijke) toekomstige ontwikkelingen.

Al decennia lang beïnvloeden technologische innovaties de samenleving (Brynjolfsson & McAfee, 2014; De Looze & Jong, 2016; ing Economisch Bureau, 2015). Het gezaghebbende Rathenau Instituut onderscheidt acht verschillende technologie-gebieden: big data en algoritmen, kunstmatige intelligentie (ook wel artifical intelligence, ai), internet of things, robotica, persuasieve technologie, biometrie, platformtechnologie, virtual en augmented reality (Kool, Timmer, Royakkers & Van Est, 2017). Met het oog op de vraagstelling van dit artikel is ai een zeer relevant gebied. Volgens Capgemini (2018) kan ai het beste beschreven worden als ‘cognitieve mogelijkheden die gepaard gaan met andere menselijke mogelijkheden, zoals beelden videoherkenning, taalbegrip, spraakgeneratie, complexe tekstanalyses en gespreksmogelijkheden.’ Een andere definitie van AI is ‘intelligentie die door machines gedemonstreerd wordt buiten de menselijke geest’ (Subramanyam & Patagundi, 2018). Robots vormen één van de toepassingen van ai, overigens vaak in combinatie met big data en algoritmen en internet of things.

De snelle ontwikkelingen op het gebied van ai zorgen ervoor dat robots steeds beter kunnen waarnemen, nadenken, interpreteren en beslissingen nemen, de fysieke uitvoering op zich kunnen nemen en daarop ook nog eens kunnen reflecteren (de Looze & Jong, 2016). Deze technologische veranderingen zijn ook van invloed op de arbeidsmarkt. Frey en Osborne (2013) stellen dat 47% van de Amerikaanse beroepen de komende twintig jaar een hoog risico loopt op robotisering of computerisering. Aanvankelijk werden voornamelijk enkelvoudige en fysieke taken geautomatiseerd, maar tegenwoordig strekt de inzetbaarheid van robots veel verder (ING Economisch Bureau, 2015).

Er wordt tegenwoordig bij verschillende psychische stoornissen al flink geëxperimenteerd met de inzet van chatbots, geautomatiseerde online gesprekspartners

Went, Kremer en Knottnerus (2015) stellen dat sommige banen onder invloed van robotisering gaan verdwijnen. Andere vormen van menselijke arbeid krijgen juist aanvulling of versterking van de robot, de ‘mens-robot-complementariteit’. Volgens hen zal het helemaal niet zo’n vaart lopen met de robotisering. Beroepen die het minst kwetsbaar zijn, worden gekenmerkt door een hoge mate van creativiteit, originaliteit, initiatief, actief leren, kritisch en analytisch denken, onderhandelen, overtuigen of zorg (De Looze & Jong, 2016; Smulders 2016; World Economic Forum, 2018). Het belang van vaardigheden als herinneren, lezen, schrijven, actief luisteren, fysieke handigheid, uithoudingsvermogen en precisie zal afnemen (World Economic Forum, 2018).

Technologie in de (g)gz

Wat betreft de gezondheidszorg stelt het rapport De match tussen mens en machine van de Koninklijke Vereniging voor de Staathuishoudkunde (Ter Weel, 2015) dat veel banen moeilijk vervangbaar zijn door technologie. Vooral het interactieve aspect van de gezondheidszorg zou het onwaarschijnlijk maken dat meer innovatie zal leiden tot minder banen. Robotisering kan wel de kwaliteit van veel banen in de zorg en van de zorg zelf verbeteren.

Innovaties in de gezondheidszorg lijken elkaar in een hoog tempo op te volgen en de verwachtingen van bijvoorbeeld betere beeldvormende technieken en robotica zijn hooggespannen (Atos Consulting, 2010). Volgens Peeters en collega’s (2013) staat de gezondheidszorg aan de vooravond van een grote verandering door de opkomst van de toepassing van ict-informatiesystemen. Dit zou kunnen leiden tot grotere zelfredzaamheid van patiënten, minder inzet van zorgpersoneel, betere kwaliteit van zorg en besparing van kosten. Eén van die technologische toepassingen is e-health, een breed begrip zonder universele definitie (Oh, Rizo, Enkin & Jadad, 2005). De Raad voor Volksgezondheid en Zorg (Van Reijen, De Lint & Ottes, 2002) definieert e-health als: ‘Het gebruik van nieuwe informatieen communicatietechnologieën, en vooral internettechnologie, om gezondheid en gezondheidszorg te ondersteunen of te verbeteren.’

Binnen de ggz spreekt men van e-mental health of internettherapie. E-mental health richt zich specifiek op het gebruik van informatieen communicatietechnologieën om de geestelijke gezondheid te verbeteren (Riper et al., 2007). Het gaat hierbij zowel om technologieën in het primaire zorgproces alsook in de ondersteuning – bijvoorbeeld in de communicatie tussen hulpverlener en cliënt. Onderhavig artikel richt zich enkel op het eerste aspect, de online hulpverlening. Schalken et al. (2010) definiëren online hulpverlening als: ‘Hulp die instellingen bieden bij psychische, sociale of maatschappelijke problemen, waarbij gebruikgemaakt wordt van internettechnologie.’

De mate van ondersteuning door een therapeut bij online hulp kan variëren van geen betrokkenheid (zoals bij zelfhulp), via minimale betrokkenheid (via e-mail of telefoon), tot een betrokkenheid die net zo groot is als bij reguliere therapie (waarbij de therapeut tegelijkertijd met de cliënt online is; Ritterband et al., 2003). De online behandelinterventies zijn meestal gebaseerd op effectieve face-to-face interventies, zoals cognitieve gedragstherapeutische technieken, oplossingsgerichte therapie en motiverende gespreksvoering. Deze interventies zijn vaak gestructureerd en afgestemd op de behoeften van de gebruiker. Ook wordt gebruikgemaakt van interactieve elementen als animaties, audio, online dagboeken, chatboxen en feedback via e-mail (Ritterband et al., 2003; Schalken et al., 2010). Hoe effectief zijn deze toepassingen eigenlijk?

Effectiviteit e-mental health bij verschillende stoornissen

Uit meerdere (overzicht)studies komt naar voren dat e-mental health-interventies voor verschillende psychische stoornissen effectief zijn (Barak et al., 2008; Cuijpers, Van Straten & Andersson, 2007; Murray et al., , 2005; Postel, De Haan & de Jong, 2008; Wantland et al., 2004), waaronder posttraumatische stressstoornis (Knaevelsrud & Maerker, 2007), sociale fobie (Carlbring et al., 2009; Titov et al., 2009), angst en depressie (Andersson & Cuijpers, 2008; Andrews et al., 2010; Spek et al., 2007; Spek et al., 2008; Warmerdam, Van Straten & Cuijpers, 2009) en alcoholverslaving (Riper et al., 2008; Smit et al., 2008).

Er worden verschillende voor- en nadelen van e-mental health genoemd (van Rooijen, 2012; Schalken et al., 2010). Voordelen van e-mental health zijn onder andere flexibiliteit in plaats en tijd (Spek et al., 2007; Schalken et al., 2010), laagdrempeligheid (Bijl & Ravelli, 2000; Cuijpers, Van Straten & Andersson, 2008; Griffiths et al., 2006; Riper et al., 2007; Ybarra & Eaton, 2005), anonimiteit (De Haas et al., 2009; Peter, Valkenburg & Schouten, 2006) en kosten- en tijdsbesparing, waardoor wachtlijsten wellicht verkort kunnen worden (Cuijpers et al., 2008; Nikken, 2007; Palmqvist, Carlbring & Andersson, 2007).

Naast voordelen komen ook verschillende nadelen van e-mental health naar voren in de literatuur. Zo zou e-mental health niet voor iedereen geschikt zijn, is het risico op verminderde betrokkenheid en uitval groter, zijn de effecten moeilijker vast te stellen, kunnen technische storingen voorkomen en zijn er veiligheidsrisico’s (Van Rooijen, 2012; Schalken et al., 2010). Het belangrijkste nadeel zou de niet-waarneembaarheid zijn van non-verbale signalen zoals houding, motoriek, gezichtsuitdrukking, stem, intonatie en pauzes (Barak et al., 2008; Schalken et al., 2010; Ybarra & Eaton, 2005).

Barak et al. (2008) geven aan dat sommigen non-verbale communicatie beschouwen als een essentieel onderdeel van de therapeutische relatie. De therapeutische relatie wordt gedefinieerd als ‘de mate waarin een cliënt en therapeut gezamenlijk en doelgericht werken en emotioneel verbonden zijn’ (Horvath & Luborsky, 1993). Volgens de common factor theorie (Rosenzweig, 1936) is juist die therapeutische relatie één van de gemeenschappelijke factoren die de therapieeffecten kunnen verklaren, niet zozeer de specifieke interventie zelf. Voortbordurend op Rosenzweigs common factor-theorie gelooft Wampold (2012) dat die gemeenschappelijke factoren allemaal menselijke aspecten zijn die aan de basis liggen van iedere therapie, zoals zingeving, verbondenheid en verwachtingen. Psychotherapie is menselijk, stelt hij. In hoeverre kan de hedendaagse technologie aan die menselijke aspecten tegemoetkomen?

De mens als sociaal dier

Social media zijn een belangrijke uitingsvorm van die hedendaagse technologie. Door social media staat men makkelijker en sneller in contact met de ander. Uit literatuurstudies blijkt enerzijds dat door het gebruik van social media gevoelens van eenzaamheid afnemen (Phu & Gow, 2019; Shaw & Gant, 2002) en dat dit tot een significante verbetering leidt in het menselijk welzijn (Hunt et al., 2018). Toch zijn er ook studies die aantonen dat hardnekkig contact via beeldschermen juist samenhangt met een toename in psychische klachten (Allcott et al., 2019; Kross et al., 2013; Thomée et al., 2007; Twenge et al., 2018). Het is nog niet geheel duidelijk of, en zo ja, in welke richting er sprake is van een causaal verband (Heffer et al., 2018).

De therapeutische relatie binnen e-mental health therapie

Op basis van bovengenoemde onderzoeksresultaten kan gesteld worden dat niet iedereen zit te wachten op online hulpverlening. Men zou juist behoefte hebben aan het face-to-face contact, omdat dat in het dagelijks leven steeds meer naar de achtergrond lijkt te geraken. Studies naar de verschillen tussen online en offline relaties in het algemeen (Parks & Roberts, 1998; Walther & Burgoon, 1992) vonden weinig verschillen. Hoewel er al veel studies naar de effecten van e-mental health zijn gedaan, is het aantal studies naar de therapeutische relatie binnen e-mental health nog beperkt (Sucala et al., 2012). De beschikbare studies moeten dus met enige voorzichtigheid geïnterpreteerd worden.

Het belangrijkste nadeel van e-mental health is het ontbreken van non-verbale signalen zoals houding, motoriek, gezichtsuitdrukking, stem, intonatie en pauzes

Uit de overzichtsstudie van Sucala et al. (2012) kwam naar voren dat e-mental health op zijn minst gelijk is aan face-to-face therapie in termen van therapeutische relatie en dat er een verband bestaat tussen therapeutische relatie en de uitkomsten van e-mental health therapie. Ook Cook & Doyle (2002) onderzochten de therapeutische relatie bij online hulpverlening. Zij concluderen dat cliënten die online hulpverlening ontvingen de therapeutische relatie zelfs beter beoordeelden dan de cliënten die face-to-face behandeling kregen. In een studie waarin de kwaliteit van de therapeutische relatie werd onderzocht bij online therapie voor getraumatiseerde cliënten, kwam eveneens naar voren dat cliënten tevreden zijn over de therapeutische relatie (Knaevelsrud & Maercker, 2006; Knaevelsrud & Maercker, 2007).

De toekomst van e-mental health interventies is moeilijk te voorspellen

Eerder werd al opgemerkt dat Barak et al. (2008) stelden dat non-verbale communicatie volgens sommigen een essentieel onderdeel is van de therapeutische relatie. Er zijn echter ook studies die beweren dat dit niet klopt. Uit die studies blijkt dat het wel degelijk mogelijk is om een therapeutische relatie op te bouwen in een e-mental health therapie, waar de non-verbale communicatie ontbreekt (Cook & Doyle, 2002; Knaevelsrud & Maercker, 2006; Knaevelsrud & Maercker, 2007).

Kortom, er is geen sprake van eenduidigheid.

Toekomstige ontwikkelingen

Wat betreft trends binnen e-mental health stellen Barak en Grohol (2011) dat de toekomst van e-mental health-interventies moeilijk te voorspellen is. Als nu wordt gekeken naar voorspellingen uit het verleden, dan blijken deze vaak de impact van ontwikkelingen zoals social media te hebben onderschat. Toch wagen sommige auteurs zich, gebaseerd op de huidige stand van zaken omtrent e-mental health, aan een aantal voorspellingen. Zo voorspellen Barak en Grohol dat het gebruik van e-mental health zal toenemen, waarbij het gebruik van videogesprekken een groter aandeel zal innemen. Ook zullen steeds meer mensen gebruik maken van zelfhulp-interventies. Andere typen online interventies die volgens hen zullen toenemen in populariteit zijn virtual reality en therapie via games. Tot slot voorspellen zij dat het inzetten van e-mails en korte tekstberichten (sms, maar mogelijk ook WhatsApp), bijvoorbeeld voor reminders, feedback of beloning, een grotere rol gaat spelen.

De robot-psycholoog

Bovenstaande voorspellingen lijken grotendeels aanvullingen op reeds bestaande reguliere therapie. Er wordt echter nog niets genoemd over de vervanging van de psycholoog door een robot. Het onderzoek in de robotica heeft de afgelopen decennia grote stappen gemaakt en sinds de jaren zeventig van de vorige eeuw beginnen robots steeds meer op mensen te lijken. Deze zogeheten humanoïde robots worden gekenmerkt door hun gelijkenis met het menselijk lichaam (Hommel & de Kleijn, 2015). Waar deze er eerst nog vrij basaal uitzagen, zijn er de afgelopen jaren robots ontwikkeld die fysiek nauwelijks nog te onderscheiden zijn van mensen. Daarnaast worden robots steeds intelligenter en lijken zij in hun gedrag meer en meer op mensen.

Hommel en De Kleijn (2015) noemen eigenschappen als muziekstukken componeren, gesprekken voeren en humor. Ook noemen zij het vermogen van robots om op basis van algoritmen emoties te herkennen, iets wat van essentieel belang is voor een goede interactie met mensen. Het algoritme dat werd gebruikt in de studie van Lu en Tang (2014) scoorde zelfs beter op gezichtsherkenning dan mensen: het algoritme herkende 98,5% van de emoties correct, mensen 97,5%.

Uit onderzoek komt naar voren dat mensen robots zien als meer dan machines en dat het observeren van acties van robots zelfs tot activering leidt van de menselijke spiegelneuronen (Gazzola et al., 2007; Oberman et al., 2017). Dit zijn veelbelovende resultaten die impliceren dat robots wellicht een steeds grotere rol kunnen spelen binnen de (geestelijke) gezondheidszorg.

Er zijn echter nog niet veel empirische studies gedaan naar de inzet van robots in de zorg. In één studie werd een robot-hond ingezet in drie verzorgingstehuizen en vergeleken met de inzet van echte honden. Uit de resultaten kwam naar voren dat bewoners zich zowel hechtten aan de robothond als aan de echte honden. Beide typen honden zorgden voor een significante vermindering van eenzaamheidsklachten (Banks et al., 2008). Er wordt inmiddels ook op kleine schaal geëxperimenteerd met het inzetten van robots in (psycho)therapieën. Uit de meta-analyse van Costescu et al. (2014) komt een veelbelovend resultaat naar voren als het gaat om robots binnen psychotherapie.

Daarnaast wordt geëxperimenteerd met zogeheten chatbots, geautomatiseerde online gesprekspartners. Chatbots slaan ieder gesprek op, kunnen patronen herkennen en op basis van deze informatie reageren. De chatbots kunnen worden ingezet bij alle psychologische klachten waarvoor een cognitief gedragstherapeutische behandeling geïndiceerd is. Op dit moment loopt er een pilot bij een Nederlandse ggz-instelling met een chatbot als aanvulling op de reguliere therapie; de gerapporteerde ervaringen van cliënten zijn vooralsnog positief (Schram, 2017).

Naast effectiviteit zijn ook andere aspecten van het werken met robots relevant, zoals ethiek, de verschillende toepassingsgebieden binnen de ggz en de consequenties voor de professie van de psycholoog. Deze aspecten vallen buiten de reikwijdte van onderhavig artikel, maar verdienen zeker nader onderzoek.

Conclusie

Al met al kan geconcludeerd worden dat de vraag of de psycholoog in de toekomst vervangen zal worden door een robot, zich niet met een eenzijdig ‘ja’ of ‘nee’ laat beantwoorden. Veel online behandelingen blijken effectief. Het face-to-face contact beschouwen sommigen als essentieel voor de therapeutische relatie. Toch blijkt uit meerdere onderzoeken dat er wel degelijk sprake kan zijn van een goede therapeutische relatie bij online aangeboden therapie.

De tot op heden gedane onderzoeken richten zich voornamelijk op behandeling. Het is echter noodzakelijk dat er aan behandeling gedegen psychodiagnostiek voorafgaat. Hierover is nog maar weinig te vinden in de wetenschappelijke literatuur. Dit lijkt voorlopig dus nog volledig weggelegd voor de psycholoog zelf. Hoewel er ook steeds meer diagnostische instrumenten gedigitaliseerd worden, blijft het trekken van een integrale conclusie op basis van de onderzoeksresultaten voorlopig nog mensenwerk.

Toch doen zich ook op dit terrein al ontwikkelingen voor die in de toekomst mogelijk meer en meer in de richting van geautomatiseerde diagnostiek kunnen leiden. Zo zijn er inmiddels al meerdere studies gepubliceerd waarin de onderzoekers op basis van social media-kenmerken een depressie konden voorspellen (De Choudhury et al., 2013; Reece & Danforth, 2017). Ook wordt er tegenwoordig onderzoek verricht naar het voorspellen van depressie op basis van audioen videosignalen (Gupta et al., 2014; Williamson et al., 2016). Wellicht wordt het in de toekomst mogelijk gediagnosticeerd te worden terwijl je tegen een chatbot praat.

Of de kans dat de psycholoog in de toekomst zal worden vervangen door een robot daadwerkelijk nul is, is dus nog maar de vraag. Er is voor de psycholoog geen reden tot zelfgenoegzaamheid. Uit het verleden weten we dat de toekomst zich maar moeilijk laat voorspellen (Barak & Grohol, 2011); bovendien zijn er genoeg voorbeelden die aantonen dat wat ooit onwaarschijnlijk leek een aantal jaren later toch het geval kan blijken te zijn.

Frans Bromets filmpje over mobiel bellen, uit 1998 (zie Bromet, 2016), laat goed zien hoe binnen twintig jaar ideeën over nieuwe technologische ontwikkelingen compleet kunnen veranderen: waar men in 1998 de toegevoegde waarde van de mobiele telefoon maar moeilijk kon begrijpen, zijn er op dit moment nog maar weinig mensen die geen mobiele telefoon hebben. Wie zegt dat dit niet voor de robot binnen een psychotherapie zal gelden?

De beroepsgroep doet er dan ook goed aan zich te bezinnen op haar toekomst. Met gedegen reflectie en debatten, experimenten en onderzoek. Onderzoek kan zich richten op de vraag onder welke condities competenties zoals creativiteit, originaliteit, initiatief, actief leren, kritisch en analytisch denken, onderhandelen, overtuigen of zorg effectief kunnen zijn voor een psycholoog die in toenemende mate met technologische innovaties te maken krijgt.

N.B. Zie in verband met het thema van dit essay ook de korte film die de sectie ggz van het nip hierover maakte: www.psynip.nl/actueel/ nieuws/2020/e-health-koude-techniek-voor-warme-zorg/

 

Beeld: PopTika / Shutterstock.com

Literatuurlijst

  1. Allcott, H., Braghieri, L., Eichmeyer, S. & Gentzkow, M. (2019). The welfare effects of social media. doi:10.2139/ssrn.3308640
  2. Andersson, G. & Cuijpers, P. (2008). Pros and cons of online cognitive– behavioural therapy. The British Journal of Psychiatry, 193(4), 270-271.
  3. Andrews, G., Cuijpers, P., Craske, M.G., McEvoy, P. & Titov, N. (2010). Computer therapy for the anxiety and depressive disorders is effective, acceptable and practical health care: a meta-analysis.
  4. PloS one, 5(10), e13196. doi:10.1371/journal.pone.0013196
  5. Atos Consulting (2010). De zorgmarkt in 2020. Geraadpleegd van https://www.consultancy.nl/media/De%20Zorgmarkt%20in%202020-809.pdf
  6. Barak, A. & Grohol, J.M. (2011). Current and future trends in internet-supported mental health interventions. Journal of Technology in Human Services, 29(3), 155-196.
  7. Barak, A., Hen, L., Boniel-Nissim, M. & Shapira, N. A. (2008). A comprehensive review and a meta-analysis of the effectiveness of internet-based psychotherapeutic interventions. Journal of Technology in Human Services, 26(2-4), 109-160.
  8. Bijl, R.V. & Ravelli, A. (2000). Psychiatric morbidity, service use, and need for care in the general population: results of The Netherlands Mental Health Survey and Incidence Study. American Journal of Public Health, 90(4), 602.
  9. Bromet, F. (2016, 15 april). Mobiel bellen in 1998 door Frans Bromet [YouTube]. Geraadpleegd van https://www.youtube.com/watch?v=TNwhIHqM60g
  10. Brynjolfsson, E. & McAfee, A. (2014). The second machine age: Work, progress, and prosperity in a time of brilliant technologies. WW Norton & Company.
  11. Capgemini. (2018). TechVision. Parijs: Capgemini Group.
  12. Carlbring, P., Nordgren, L. B., Furmark, T. & Andersson, G. (2009). Longterm outcome of internet-delivered cognitive–behavioural therapy for social phobia: A 30-month follow-up. Behaviour Research and Therapy, 47(10), 848-850.
  13. Cook, J.E. & Doyle, C. (2002). Working alliance in online therapy as compared to face-to-face therapy: Preliminary results. CyberPsychology & Behavior, 5(2), 95-105.
  14. Costescu, C.A., Vanderborght, B. & David, D.O. (2014). The effects of robot-enhanced psychotherapy: A meta-analysis. Review of General Psychology, 18(2), 127-136.
  15. Cuijpers, P., Donker, T., Van Straten, A., Li, J. & Andersson, G. (2010). Is guided self-help as effective as face-to-face psychotherapy for depression and anxiety disorders? A systematic review and meta-analysis of comparative outcome studies. Psychological Medicine, 40(12), 1943-1957.
  16. Cuijpers, P., Reijnders, M. & Huibers, M.J. (2019). The role of common factors in psychotherapy outcomes. Annual Review of Clinical Psychology, 15, 207-231.
  17. Cuijpers, P., Van Straten, A. & Andersson, G. (2008). Internet-administered cognitive behavior therapy for health problems: a systematic review. Journal of Behavioral Medicine, 31(2), 169-177.
  18. De Choudhury, M., Gamon, M., Counts, S. & Horvitz, E. (2013). Predicting depression via social media. Proceedings of the Seventh International AAAI Conference on Weblogs and Social Media, 128-137.
  19. De Haas, S., Höing, M., Schrieken, B., Tsagana, A., Wijnker, C., Michels, C. & Lange, A. (2009). Behandeling via het internet voor jeugdige slachtoffers van seksueel geweld: Een pilotstudie. Maandblad Geestelijke Volksgezondheid, 64(11), 981-997.
  20. De Looze, M.P. & Jong, T.D. (2016). Razende robots: Robotisering en arbeidsbelasting. Arbo, 1/2, 92, 8-11.
  21. Frank, J.D. & Frank, J.B. (1993). Persuasion and healing: A comparative study of psychotherapy. JHU Press.
  22. Frey, C.B. & Osborne, M.A. (2017). The future of employment: How susceptible are jobs to computerisation? Technological Forecasting and Social Change, 114, 254-280.
  23. Gazzola, V., Rizzolatti, G., Wicker, B.,& Keysers, C. (2007). The anthropomorphic brain: the mirror neuron system responds to human and robotic actions. Neuroimage, 35(4), 1674-1684.
  24. Gelso, C. (2014). A tripartite model of the therapeutic relationship: Theory, research, and practice. Psychotherapy Research, 24(2), 117-131.
  25. Griffiths, F., Lindenmeyer, A., Powell, J., Lowe, P. & Thorogood, M. (2006). Why are health care interventions delivered over the internet? A systematic review of the published literature. Journal of Medical Internet Research, 8(2), e10.
  26. Gupta, R., Malandrakis, N., Xiao, B., Guha, T., Van Segbroeck, M., Black, M. … & Narayanan, S. (2014). Multimodal prediction of a ective dimensions and depression in human-computer interactions. Proceedings of the 4th International Workshop on Audio/Visual Emotion Challenge, 33-40.
  27. Heffer, T., Good, M., Daly, O., MacDonell, E. & Willoughby, T. (2019). The longitudinal association between social-media use and depressive symptoms among adolescents and young adults: An empirical reply to Twenge et al. (2018). Clinical Psychological Science, 7(3), 462-470.
  28. Hommel, B. & De Kleijn, R. (2015). Verliefd op een robot. De Psycholoog, 50(11), 48-56.
  29. Horvath, A.O. & Luborsky, L. (1993). The role of the therapeutic alliance in psychotherapy. Journal of Consulting and Clinical Psychology, 61(4), 561.
  30. Hunt, M.G., Marx, R., Lipson, C. & Young, J. (2018). No more FOMO: Limiting social media decreases loneliness and depression. Journal of Social and Clinical Psychology, 37(10), 751-768.
  31. ING Economisch Bureau. (2015). Hightech meets business. Geraadpleegd van https://www.ing.nl/media/ING_EBZ_Hightech-meets-business_tcm162-86486.pdf
  32. JobPersonality. (2019, 24 januari). Robotisering van beroepen. Geraadpleegd van https://www.jobpersonality.com/robotisering-van-beroepen
  33. Knaevelsrud, C. & Maercker, A. (2006). Does the quality of the working alliance predict treatment outcome in online psychotherapy for traumatized patients? Journal of Medical Internet Research, 8(4), e31.
  34. Knaevelsrud, C. & Maercker, A. (2007). Internet-based treatment for PTSD reduces distress and facilitates the development of a strong therapeutic alliance: a randomized controlled clinical trial. BMC Psychiatry, 7(1), 13.
  35. Kool, L., Timmer, J., Royakkers, L. & Van Est, R. (2017). Opwaarderen – Borgen van publieke waarden in de digitale samenleving. Den Haag: Rathenau Instituut.
  36. Kross, E., Verduyn, P., Demiralp, E., Park, J., Lee, D. S., Lin, N. … & Ybarra, O. (2013). Facebook use predicts declines in subjective well-being in young adults.
  37. PloS one, 8(8), e69841. doi:10.1371/journal.pone.0069841
  38. Lu, C. & Tang, X. (2015). Surpassing human-level face verification performance on LFW with GaussianFace. Twenty-ninth AAAI conference on Artificial Intelligence.
  39. Murray, E., Burns, J., Tai, S. S., Lai, R. & Nazareth, I. (2004). Interactive health communication applications for people with chronic disease. Cochrane Database of Systematic Reviews, (4).
  40. Nikken, P. (2007). Online hulp verdient nog veel aandacht: Een verkenning naar het hulpaanbod voor jeugdigen in Nederland. Utrecht: Nederlands Jeugdinstituut.
  41. Oberman, L. M., McCleery, J. P., Ramachandran, V. S. & Pineda, J. A. (2007). EEG evidence for mirror neuron activity during the observation of human and robot actions: Toward an analysis of the human qualities of interactive robots. Neurocomputing, 70(13-15), 2194-2203.
  42. Oh, H., Rizo, C., Enkin, M. & Jadad, A. (2005). What is eHealth (3): a systematic review of published definitions. Journal of Medical Internet Research, 7(1), e1.
  43. Palmqvist, B., Carlbring, P. & Andersson, G. (2007). Internet-delivered treatments with or without therapist input: Does the therapist factor have implications for e cacy and cost?. Expert Review of Pharmacoeconomics & Outcomes Research, 7(3), 291-297.
  44. Parks, M.R. & Roberts, L.D. (1998). Making MOOsic’: The development of personal relationships online and a comparison to their o -line counterparts. Journal of Social and Personal Relationships, 15(4), 517-537.
  45. Peeters, J., Wiegers, T., De Bie, J. & Friele, R. (2013). Technologie in de zorg thuis. Utrecht: NIVEL.
  46. Peter, J., Valkenburg, P.M. & Schouten, A.P. (2006). Characteristics and motives of adolescents talking with strangers on the Internet. CyberPsychology & Behavior, 9(5), 526-530.
  47. Phu, B. & Gow, A.J. (2019). Facebook use and its association with subjective happiness and loneliness. Computers in Human Behavior, 92, 151-159.
  48. Postel, M.G., De Haan, H.A. & De Jong, C.A. (2008). E-therapy for mental health problems: A systematic review. Telemedicine and e-Health, 14(7), 707-714.
  49. Reece, A.G. & Danforth, C.M. (2017). Instagram photos reveal predictive markers of depression. EPJ Data Science, 6(1), 15.
  50. Riper, H., Smit, F., Van Der Zanden, R., Conijn, B., Kramer, J. & Mutsaers, K. (2007). E-mental health: High tech, high touch, high trust. Programmeringsstudie e-mental health in opdracht van het ministerie van VWS. Utrecht: Trimbos-instituut.
  51. Riper, H., Kramer, J., Smit, E., Conijn, B., Schippers, G. & Cuijpers, P. (2008). Web-based self-help for problem drinkers: A pragmatic randomized trial. Addiction, 103(2). 218-227.
  52. Ritterband, L.M., Gonder-Frederick, L.A., Cox, D. J., Clifton, A.D., West, R.W. & Borowitz, S.M. (2003). Internet interventions: In review, in use, and into the future. Professional Psychology: Research and Practice, 34(5), 527.
  53. Rosenzweig, S. (1936). Some implicit common factors in diverse methods of psychotherapy. American Journal of Orthopsychiatry, 6(3), 412-415.
  54. Schalken, F., Schalken, F., Wolters, W., Tilanus, W., Van Gemert, M., Van Hoogenhuyze, C. … & Wolters, W.H.G. (2012). Handboek Online Hulpverlening. Bohn Stafleu van Loghum. Schram, E. (2017). In therapie bij een chatbot. Psychologie Magazine. Geraadpleegd van https://www.psychologiemagazine.nl/artikel/intherapie-bij-een-chatbot/
  55. Shaw, L.H. & Gant, L.M. (2004). In defense of the internet: The relationship between internet communication and depression, loneliness, self-esteem, and perceived social support. Internet Research, 28(3).
  56. Riper, H., Kramer, J., Smit, F., Conijn, B., Schippers, G. & Cuijpers, P. (2008). Web-based self-help for problem drinkers: A pragmatic randomized trial. Addiction, 103(2), 218-227.
  57. Smulders, P.G.W. (2016). Discussie over robotisering en arbeidsmarkt behoeft onderzoeksdata. Tijdschrift voor Arbeidsvraagstukken, 32, 1.
  58. Spek, V., Cuijpers, P., Nyklíček, I., Riper, H., Keyzer, J. & Pop, V. (2007). Internet-based cognitive behaviour therapy for symptoms of depression and anxiety: A meta-analysis. Psychological Medicine, 37(3), 319-328.
  59. Spek, V., Cuijpers, P., Nyklíček, I., Smits, N., Riper, H., Keyzer, J. & Pop, V. (2008). One-year follow-up results of a randomized controlled clinical trial on internet-based cognitive behavioural therapy for subthreshold depression in people over 50 years. Psychological Medicine, 38(5), 635-639.
  60. Subramanyam, N. & Patagundi, B. (2018). Automation and artificial intelligence –boon or bane: A humanistic perspective. Science quarterly “organisation and management”, 152-158.
  61. Sucala, M., Schnur, J.B., Sucala, M., Constantino, M.J., Miller, S.J. … & Montgomery, G.H. (2012). The therapeutic relationship in e-therapy for mental health: A systematic review. Journal of Medical Internet Research, 14(4), e110.
  62. Ter Weel, B. (2015). De match tussen mens en machine. Koninklijke Vereniging voor de Staathuishoudkunde. Tess, de virtuele begeleider. (z.d.). Geraadpleegd van: https://www.newhealthcollective.nl/tess
  63. Thomée, S., Eklöf, M., Gustafsson, E., Nilsson, R. & Hagberg, M. (2007). Prevalence of perceived stress, symptoms of depression and sleep disturbances in relation to information and communication technology (ICT) use among young adults–an explorative prospective study. Computers in Human Behavior, 23(3), 1300-1321.
  64. Titov, N., Andrews, G., Johnston, L., Schwencke, G. & Choi, I. (2009). Shyness programme: Longer term benefits, cost-effectiveness, and acceptability. Australian & New Zealand Journal of Psychiatry, 43(1), 36-44.
  65. Twenge, J.M., Spitzberg, B.H. & Campbell, W.K. (2019). Less in-person social interaction with peers among US adolescents in the 21st century and links to loneliness. Journal of Social and Personal Relationships, 36(6), 1892-1913.
  66. Van Reijen, A.J.G., De Lint, M.W. & Ottes, L. (2002). Inzicht in e-health. Zoetermeer: Raad voor de Volksgezondheid en Zorg.
  67. Van Rooijen, K.(2012). Wat werkt bij online hulpverlening? Utrecht: Nederlands Jeugdinstituut.
  68. Walther, J. H. & Burgoon, J. K. (1992). Relational communication in computer-mediated interaction. Human Communication Research, 19(1). 50-88.
  69. Wampold, B.E. & Imel, Z.E. (2015). The great psychotherapy debate: The evidence for what makes psychotherapy work. Routledge.
  70. Wampold, B.E. (2012). Humanism as a common factor in psychotherapy. Psychotherapy, 49(4), 445.
  71. Wantland, D.J., Portillo, C.J., Holzemer, W.L., Slaughter, R. & McGhee, E.M. (2004). The effectiveness of web-based vs. non-web-based interventions: A meta-analysis of behavioral change outcomes. Journal of Medical Internet Research, 6(4), e40.
  72. Warmerdam, L., Van Straten, A. & Cuijpers, P. (2009). Internettherapie bij depressieve klachten: Een gerandomiseerde studie. Psychologie en Gezondheid, 37(4), 202-212.
  73. Waterloo, S.F., Wennekers, A.M. & Wiegman, P.R. (2019). Media:Tijd 2018. Amsterdam/Den Haag: NOM, NLO, SKO, PMA en SCP.
  74. Williamson, J.R., Godoy, E., Cha, M., Schwarzentruber, A., Khorrami, P., Gwon, Y. … & Quatieri, T.F. (2016). Detecting depression using vocal, facial and semantic communication cues. Proceedings of the 6th International Workshop on Audio/Visual Emotion Challenge, 11-18.
  75. Went, R., Kremer, M. & Knottnerus, A. (2015). De robot de baas. De toekomst van werk in het tweede machinetijdsperk. Amsterdam: Amsterdam University Press.
  76. World Economic Forum. (2018). The Future of Jobs Report 2018. Geneva: World Economic Forum.
  77. Ybarra, M.L. & Eaton, W.W. (2005). Internet-based mental health interventions. Mental Health Services Research, 7(2), 75-87.