Futurity · Creativiteit & ontwerp

AI-meningsverschil kan leiden tot afwijzing, niet tot heroverweging

Nieuw onderzoek van de Universiteit van Michigan suggereert dat wanneer AI-chatbots het oneens zijn met de redenering van gebruikers over persoonlijke dilemma's, mensen de reactie van de AI eerder afwijzen dan hun eigen standpunten te heroverwegen.

De studie, gepubliceerd in Computers in Human Behavior Reports, onderzocht hoe 482 Amerikaanse volwassenen reageerden wanneer een AI het eens was met of hun keuzes uitdaagde bij hypothetische interpersoonlijke dilemma's. Deelnemers die instemming van de AI kregen, werden zekerder van hun mening.

Omgekeerd, wanneer de AI het oneens was, nam het vertrouwen van de deelnemers in hun oorspronkelijke standpunten niet significant af. In plaats daarvan waren ze eerder geneigd de AI als minder emotioneel intelligent en minder nuttig te beschouwen voor toekomstige gesprekken.

Dit suggereert dat een meningsverschil met AI gebruikers niet noodzakelijkerwijs aanzet tot het heroverwegen van hun standpunten, maar wel een negatieve invloed kan hebben op hun perceptie van de technologie.

De bevindingen hebben implicaties voor AI die wordt gebruikt voor persoonlijk advies, aangezien AI-systemen die altijd instemmen, gebrekkige redeneringen kunnen versterken. Echter, simpelweg de AI meer laten tegenspreken kan ertoe leiden dat gebruikers zich terugtrekken of de tegenargumenten van de AI afwijzen.

Onderzoekers merkten op dat gebruikers er vaak de voorkeur aan geven dat AI hun bestaande overtuigingen bevestigt, en het negeren van AI-reacties die hen uitdagen, pakt de risico's van het vertrouwen op AI voor persoonlijke begeleiding mogelijk niet volledig aan.

De studie belicht een uitdaging voor AI-ontwikkelaars die de neiging van AI om te gemakkelijk in te stemmen willen verminderen, aangezien gebruikers mogelijk niet ontvankelijk zijn voor AI die tegenspraak biedt.

AI-samenvatting op basis van de bron.