Varför AI-samtal känns falska (och hur man åtgärdar det)

Galen Low: Hej, jag heter Galen och är den agentiska, AI-drivna virtuella podcastvärden och avataren för Digital Project Manager. Bara skojar. Men hur mycket skulle du vilja slå vad om att din upplevelse av den här podden skulle vara annorlunda om du trodde att jag bara var en AI? Det är ämnet vi ska fördjupa oss i idag: principerna bakom vad som gör en samtalsinteraktion med AI bra, jämfört med de ohjälpsamma, frustrerande och kusliga exempel som dyker upp som memer i vårt Instagramflöde.

Faktum är att många av oss ombeds skapa agenter och AI-kollegor som våra kollegor och intressenter ska interagera med – och inte bara textbaserade verktyg, utan även röstbaserade. Men om det vi bygger skapar för mycket friktion i upplevelsen kan verktygen snabbt bli stående och samla damm på hyllan över misslyckade AI-experiment.

För att hjälpa oss börja utforma bättre interaktioner med AI har jag tagit in en expert som arbetar i framkant av samtalsdesign. Tillsammans ska vi reda ut avkastningen på att skapa mänskliga, friktionsfria röstinteraktioner med AI, utforska var designarbetet börjar ge avtagande avkastning och visa hur några små justeringar kan hjälpa dig bort från den överdrivet hjälpsamma och inställsamma LLM-röst som människor börjar avsky.

Hoppas att du uppskattar avsnittet.

Välkommen till podden The Digital Project Manager – programmet som hjälper leveransansvariga att arbeta smartare, leverera smidigare och leda sina team med självförtroende i AI-eran. Jag heter Galen, och varje vecka går vi igenom strategier från verkligheten, nya trender, beprövade ramverk och ibland en krigshistoria från projektets frontlinjer. Oavsett om du leder omfattande transformationsprojekt, hanterar AI-arbetsflöden eller bara försöker hålla kaoset under kontroll har du kommit rätt. Då sätter vi igång.

Okej, idag ska vi fördjupa oss i vilken roll samtalsdesign spelar för hur vi bygger förtroende för AI. Vi ska gå igenom de största misstagen team gör när de utformar AI-upplevelser som bygger på samtal, och hur man åtgärdar dem. Vi ska nörda ner oss i varför språk och AI är något komplicerade kombinationer, och vi ska göra några förutsägelser om hur AI kommer att prata med annan AI i framtiden.

Med mig idag har jag Oliver Shoulson, ansvarig för agentdesign och utveckling på PolyAI. Oliver är lingvist och en ledande tänkare inom samtalsbaserad AI, vars arbete befinner sig precis i skärningspunkten mellan språk, produktdesign och AI. Under sin tid vid Yale fokuserade han på syntaktisk variation och studerade hur talare konstruerar och ordnar meningar på olika sätt inom språkets i övrigt strukturerade regler. Och det har blivit högaktuellt idag, eftersom Oliver använder sin roll på PolyAI för att hjälpa team att gå bortom klumpiga manus och kusliga dalar, mot röstinteraktioner med AI som faktiskt känns naturliga och användbara.

Oliver, tack för att du ville vara med mig idag.

Oliver Shoulson: Tack så mycket för att du bjöd in mig. Det är verkligen roligt att vara här.

Galen Low: Det här är ett väldigt intressant ämne för mig. Jag tyckte mycket om våra samtal inför detta, eftersom jag fick nörda ner mig lite. Jag läste faktiskt lite engelsk grammatik och lingvistik på universitetet.

Det var något som alltid fångade min uppmärksamhet. Jag valde en annan väg och började studera film. Men när vi har följt den här vägen med AI och chattbotar, med alla dessa mer flytande interaktioner som inte bygger på rigid syntax, har jag verkligen hittat tillbaka till det. Så när ditt namn kom upp tänkte jag: ”Oj, jag måste prata med den här personen.”

Så jag uppskattar det. Jag hoppas verkligen att vi kan ta oss över hela kartan. Det finns gott om kaninhål att dyka ner i, men jag är projektledare, så för säkerhets skull har jag planerat en färdplan för oss idag. Till att börja med ville jag sätta scenen genom att ställa en stor och svår fråga som mina lyssnare vill höra ditt perspektiv på.

Men sedan tänkte jag att vi kanske skulle zooma ut och prata om tre saker. För det första vill jag prata om varför röstinteraktioner med AI spelar roll och hur de redan idag skapar konkret påverkan för företag och användare. Därefter vill jag gå igenom vad som gör en samtalsinteraktion bra och hur team som bygger en AI-agent eller en AI-kollega kan undvika den kusliga dal som får användare att rysa. Och slutligen vill jag höra dina tankar om framtiden för interaktionsdesign och om visuella uttryck kanske börjar få spela andrafiol jämfört med samtalsspråk. Hur låter det?

Oliver Shoulson: Det låter bra.

Galen Low: Toppen. Då sätter vi igång. Jag tänkte börja med att ställa en stor och svår fråga, men jag ska bygga upp den lite, eftersom mitt nätverk och de kretsar jag rör mig i består av människor som arbetar professionellt inom det digitala – personer som bygger webbplatser, digitala marknadsföringskampanjer och strategier för digital transformation.

Och vi har spetsat öronen när rubrikerna har sagt att webbplatser som vi känner dem är på väg att förändras för alltid, åtminstone delvis tack vare hur AI har byggts in i webbläsarupplevelsen genom saker som AI-översikter, AI-webbläsare och AI-copiloter.

Så jag tänkte fråga: Hur långt är vi från ett internet där samtal ersätter navigering, och vad kan hindra oss från att ta oss dit?

Oliver Shoulson: Ja. Jag tror absolut att det kommer att finnas sätt att utforma webbsidor och internet som helhet så att de blir lättare för AI-agenter att navigera.

Jag tror att det är oundvikligt, och det är förmodligen något bra. I slutändan kommer det att öka effektiviteten med vilken våra agenter och assistenter kan utföra uppgifter åt oss. Med det sagt vet jag inte om jag eller någon jag känner vill ha ett internet som man bara pratar med och aldrig ser.

Jag skulle säga att designerns, gränssnittsdesignerns och interaktionsdesignerns uppgift mer generellt – oavsett om man talar om samtalsgränssnitt eller visuella gränssnitt – är att använda vår förståelse för människans kognitiva fördomar och kognitiva arkitektur när vi interagerar med den verkliga världen, och sedan skapa intuitiva gränssnitt för interaktion med den digitala eller virtuella världen.

Under lång tid har vi haft mycket skickliga designers av grafiska användargränssnitt som hittat sätt att i princip tilltala och simulera interaktioner från den fysiska världen på en webbsida, på ett sätt som gjorde navigeringen intuitiv. Reglage, omkopplare och knappar är saker vi är vana vid att interagera med fysiskt, och vi har redan en kognitiv arkitektur som lär oss hur vi navigerar i världen på det sättet. Därför kan vi tillämpa samma förståelse på det digitala gränssnittet, och då blir det väldigt intuitivt.

Vi behöver inte lära oss en massa nya saker om hur vi ska interagera med det. Och jag tror att det är samma sak med samtalsgränssnittens möjligheter. Vi tilltalar bara en annan del av den kognitiva arkitekturen, nämligen våra språkliga förmågor, som vi fram till helt nyligen inte hade något sätt att simulera realistiskt.

Det stora genombrottet med stora språkmodeller är att de, även om de är enorma probabilistiska motorer, med tillräckligt mycket data, träning och övervakning för första gången kan producera något som känns som naturligt mänskligt språk. Det ger oss ytterligare ett sätt att interagera med något, men jag tror inte att samtal i sig är bättre än grafiska gränssnitt.

De tilltalar helt enkelt olika delar av den mänskliga upplevelsen.

Galen Low: Jag tycker verkligen om kopplingen till saker i den verkliga världen. Jag är en digital person, så jag tänker: ”Ja, knappar, radioknappar, kryssrutor och reglage.” Jag hade inte ens gjort den kopplingen på länge, men självklart finns de också i verkligheten – fysiska saker som omkopplare och sådant vi interagerar med på det sättet.

Och jag håller med. Det är helt logiskt att säga: ”Okej, vi har redan den här språkliga förmågan och kan använda den som en del av upplevelsen för att interagera med något.” Men det behöver inte vara bättre, och det behöver inte nödvändigtvis ersätta något. Vi har bara de här verktygen tillgängliga för oss.

Oliver Shoulson: Ja. Jag ser mig själv som en väldigt visuell person. I mitt andra liv utanför arbetet är jag något av en bildkonstnär.

Galen Low: Jaså.

Oliver Shoulson: Därför skulle jag faktiskt bli väldigt ledsen om webbdesignens och grafisk designs värld började spela andrafiol jämfört med samtal. Det är definitivt inte mitt mål som samtalsdesigner, och jag hoppas att det inte är någon annans mål heller.

Jag tycker att båda är vackra områden som kräver unika och intressanta färdigheter, och jag hoppas att båda fortsätter att blomstra.

Galen Low: Det jag tänker på är vår oro: att människor kanske inte längre besöker webbplatser. En del av ekonomin kring en webbplats bygger på att människor klickar, besöker själva webbplatsen och ser gränssnittet.

Det talas nu om att AI-översikter eller någon annan mekanism fungerar som en sorts mellanliggande webbplats som inte kontrolleras av webbplatsägarna och som kan ha en annan interaktionsdesign än den verksamheten avsåg. Den kan även involvera samtal, eftersom man kanske riktar en fråga till Gemini eller den LLM man föredrar.

Jag tänkte gå in lite på det här, spontant. Du är en visuell person och uppskattar visuell design. Du är lingvist och uppskattar samtalsdesign. Sedan finns avsikten hos någon som har skapat en upplevelse, och därefter kan det finnas en mellanhand som abstraherar den till något annat.

Är det okej? Är det en kompromiss? Kan det vara något bra?

Oliver Shoulson: Ja, jag vet inte. Jag har faktiskt inte tänkt så mycket på det här, så det här blir också helt spontant från min sida. Jag hoppas att det mellanliggande lagret blir en standarddel av företags varumärkes- och webbutvecklingsarbete, så att de även får möjlighet att utöva viss kontroll över det.

En av de saker företag verkligen uppskattar med att utforma ett samtalsgränssnitt, precis som de alltid har gjort med visuella gränssnitt, är möjligheten att utveckla och presentera en enhetlig varumärkesidentitet. Jag förstår verkligen oron för att varumärkesidentiteten på något sätt försvinner, abstraheras eller förvanskas i det här mellanliggande lagret, och att den sedan antingen försvinner eller förändras till något man inte vill ha. Det kan jag se som en verklig risk.

Jag föreställer mig att byråer som bygger webbplatser eller digital närvaro åt företag undersöker sätt att fortsätta utöva kontroll över det AI-sammanfattande eller AI-riktade mellanlager du beskriver.

Galen Low: Jag älskar det.

Det är som att varumärkesrösten är en del av upplevelsen. Vi ber bokstavligen en assistent eller mellanhand: ”Kan du läsa upp webbplatsen för mig? Sammanfatta den bara och berätta vilka knappar som finns.” Vi får inte den faktiska upplevelse som utformades.

Vi får information som kan vara snabb och bekväm, men definitivt inte något som är lika avsiktligt som företagets egen upplevelse. Det kanske faktiskt är en bra övergång, även om den var oavsiktlig. Jag undrar om vi kan zooma ut lite, eftersom ditt arbete på PolyAI kretsar kring röstdrivna AI-användarupplevelser. I vissa fall ersätter det att någon faktiskt finns där och svarar i telefonen, till exempel på en restaurang, bank eller vårdcentral.

Vad ser du på PolyAI när det gäller var röst-AI skapar konkret värde för företag och kunder idag, och hur skiljer sig den upplevelsen i grunden från de chattbotupplevelser vi har sett under det senaste decenniet eller så?

Oliver Shoulson: Du kan fråga vilken kontaktcenterchef, kontaktcenteransvarig eller kundupplevelseansvarig som helst inom en mängd olika branscher, så kommer de att säga att människor fortfarande lyfter luren.

Det kanske inte känns så. Du kanske känner många som hatar att ringa telefonsamtal. Det gör jag också. Men telefonen är fortfarande en av de viktigaste kanalerna för kundsupport. Som du antydde är en av de stora värdeskapande delarna med den här typen av röstlösning att företag kan hantera kraftiga säsongsvariationer, förändrade volymer och den allmänna personalomsättningen i kontaktcenterarbete.

En av våra kunder sedan längst tid är till exempel en stor detaljhandelskedja. Deras högsäsong är förstås julperioden, särskilt Black Friday när alla köper julklappar. Sedan de började samarbeta med oss kunde de för första gången ge sina callcenteranställda ledigt på Black Friday utöver Thanksgiving.

Galen Low: Oj!

Oliver Shoulson: Sådant skapar värde inte bara för kunden och konsumenten utan också för kontaktcenterpersonalen. Jag ser mitt arbete på Poly som ett komplement till mänskliga kontaktcenter, inte som en ersättning för dem. Det kommer alltid att finnas problem eller behov som kräver mänsklig kontakt.

Jag tror därför att de flesta av våra kunder vill ha – och att vi vill erbjuda – ett sätt att automatisera och reservera kontaktcenterresurser för de verkligt viktiga och komplexa användarbehoven som kräver mänsklig kontakt, även om det är en stor andel av det människor faktiskt ringer om.

De flesta ringer om samma 20 procent av problemen. Om du kan automatisera de 20 procenten är det en enorm fördel för kontaktcentren. En annan sak är att röst, mer än text, ger möjlighet att utveckla en varumärkesupplevelse där man inte plötsligt underordnar den persona, attityd och identitet som varumärket har ägnat lång tid åt att bygga upp under den generiska, extremt passiva och smaklösa dialog man kan förvänta sig från en generiskt paketerad LLM i en chattbot.

Ett exempel är en av våra kunder, Fogo de Chão, den brasilianska steakhousekedjan. De var mycket intresserade av att klona rösten hos Selma, som är en av deras långvariga ledare inom kundupplevelse.

Hon har arbetat på företaget i årtionden. Det vi kunde göra var att återskapa Selma som AI-agent och låta henne svara i telefon när människor ringer för att boka, ändra eller avboka reservationer, ställa frågor om belöningar och liknande. På så sätt kunde de skapa en förlängning av sin varumärkesidentitet som annars inte hade varit möjlig.

De kunde i princip ge Selma, denna fantastiska kvinna, en miljon fler röster än hon hade kunnat ha samtidigt och möjlighet att interagera med en miljon fler människor än hon hade kunnat möta samtidigt. Det är något kunder verkligen uppskattar, och det kan man inte få från text på en skärm.