Hva skjer når kunstig intelligens slutter å være et verktøy du skriver inn i, og begynner å bli noe du snakker med? I denne episoden setter Galen Low seg ned med Oliver Shoulson, leder for agentdesign og -utvikling hos PolyAI, for å utforske det overraskende menneskelige problemet som ligger i kjernen av samtalebasert kunstig intelligens: De fleste samtaler med kunstig intelligens føles fortsatt merkelige.
Fra klønete chatbot-skript til overdrevent høflige personaer med «LLM-stemme» som høres ut som om de er opplært av en komité med HR-roboter, forklarer Oliver hvorfor god samtaledesign handler mindre om å etterligne mennesker perfekt og mer om å fjerne friksjon. Samtalen utforsker tillitens psykologi, mekanismene bak sosial tilstedeværelse, og hvorfor fremtidens grensesnitt for kunstig intelligens kanskje vil avhenge mindre av visuell design og mer av å forstå hvordan mennesker naturlig snakker, avbryter, nøler, presiserer og samarbeider.
Dette lærer du
- Hvorfor samtalebasert kunstig intelligens lykkes eller mislykkes basert på sosial tilstedeværelse og tillit
- De skjulte designmanglene som får samhandling med kunstig intelligens til å føles uhyggelig eller frustrerende
- Hvordan timing, avbrytelser og samtaletempo former brukeropplevelsen
- Hvorfor tale-AI skaper annen kundeatferd enn tekstbaserte chatboter
- Pragmatikkens og den delte kontekstens rolle i utformingen av naturlige samtaler
- Hvorfor «hjelpsom» LLM-atferd ofte undergraver tillit i stedet for å bygge den opp
- Hvordan virksomheter bruker merkevaretilpassede AI-stemmer til å utvide kundeopplevelsen
- Hvorfor språk fortsatt er et av de vanskeligste problemene innen kunstig intelligens, til tross for de siste gjennombruddene
- Hva visuelle designere må tenke nytt på når de utformer samtalegrensesnitt
- Hvordan kommunikasjon mellom AI-systemer kan utvikle seg forbi menneskelige språkmønstre
Viktigste lærdommer
- De fleste samtaler med kunstig intelligens mislykkes fordi de krever for mye av brukerne
God samtaledesign fjerner byrden ved å måtte navigere i selve samhandlingen. Som Oliver forklarer, skal ikke brukerne måtte omvendt konstruere menysystemet eller samtalestrukturen til et AI-system bare for å løse et enkelt problem. De beste samhandlingene med kunstig intelligens lar folk støtte seg på instinktive samtalevaner i stedet for å tvinge dem inn i rigide arbeidsflyter. - Talesamhandling skaper tillit på en annen måte enn tekst
Folk tar fortsatt telefonen fordi muntlig samtale skaper en sterkere følelse av «sosial tilstedeværelse». Dialog i sanntid øker tillit, etterlevelse og trygghet i samhandlingen. Det handler ikke om nostalgi. Det handler om hvordan hjernen er koblet. - Den uhyggelige dalen i AI er ofte språklig, ikke visuell
Problemet er ikke bare syntetiske stemmer eller robotaktige formuleringer. Det oppstår når kunstig intelligens bryter med subtile samtalenormer som mennesker knapt legger merke til bevisst. Når den overforklarer forespørsler, beskriver åpenbare trinn eller ignorerer delt kontekst, brytes illusjonen av en samarbeidende samtale. - «Hjelpsom» kunstig intelligens høres ofte nedlatende ut
Store språkmodeller trenes til å være bredt sett trygge, imøtekommende og forklarende. Men i virkelige samtaler kan for mye forklaring signalisere inkompetanse eller avstand. Noen ganger er den mest naturlige samhandlingen ganske enkelt: «Hva er kontonummeret ditt?» Ikke en ansvarsfraskrivelse på seks linjer om hvorfor det er nødvendig. - Timing betyr mer enn de fleste team er klar over
Menneskelige samtaler går raskt. Forsinkelser på mer enn noen hundre millisekunder begynner å føles unaturlige. Å utforme samtalebasert kunstig intelligens betyr å ta høyde for avbrytelser, pauser, fyllord og dynamikken i turtaking som mennesker bearbeider ubevisst. - Ansatte i kundesentre har allerede designinformasjonen teamene trenger
En av Olivers sterkeste anbefalinger er å bruke tid på å følge kundeserviceteam i arbeidet. Lytt til hvordan folk faktisk stiller spørsmål, avbryter, presiserer og løser problemer. De fleste organisasjoner har allerede samtalemønstrene de prøver å gjenskape. - AI trenger ikke å lure folk for å føles naturlig
Målet er ikke bedrag. Det handler om å redusere friksjon. Naturlig samtaledesign lar brukerne konsentrere seg om å løse problemet sitt i stedet for å finne ut hvordan de skal samhandle med systemet. - Vi kan nærme oss grensene for språkmodeller basert på rå kraft
Oliver hevder at dagens LLM-er representerer et teknisk gjennombrudd, ikke en full forståelse av menneskelig kognisjon. Det å ganske enkelt skalere modellene opp kan etter hvert gi avtakende utbytte, særlig når det gjelder resonnering og kontekstforståelse. - Fremtidens AI-agenter snakker kanskje ikke som mennesker i det hele tatt
Når AI-systemer i økende grad kommuniserer med andre AI-systemer, kan menneskelige samtalenormer forsvinne helt. Den høflige dialogen frem og tilbake som vi forbinder med språk, kan til syvende og sist handle mer om menneskelig kognisjon enn om optimal informasjonsoverføring.
Kapitler
- 00:00 — Hvorfor AI-samtaler føles rare
- 02:33 — AI, nettsteder og navigasjon
- 06:30 — Stemme kontra visuell utforming
- 10:33 — Hvor stemmebasert AI fungerer i dag
- 13:35 — Forbedring av «LLM-stemme»
- 16:37 — Hvorfor folk fortsatt ringer
- 20:06 — Sosial tilstedeværelse og tillit
- 22:12 — Etikk i samtaler
- 25:38 — Vanlige feil i AI-utforming
- 31:06 — Tidspunkt og tempo i samtaler
- 33:40 — Hvorfor overforklaring svekker tilliten
- 40:16 — Utforming av naturlige samtaler
- 42:22 — Hvorfor språk er vanskelig for AI
- 46:53 — Utforming for talegrensesnitt
- 51:06 — AI snakker med AI
- 54:11 — Fremtidens AI-maskinvare
Møt gjesten vår

Oliver Shoulson er leder for agentutforming og -utvikling hos PolyAI, der han bidrar til å utforme og utvikle avanserte konversasjonelle AI-systemer som muliggjør naturlige, menneskelignende kundeinteraksjoner for globale virksomheter. Med bakgrunn innen AI-utvikling, dialogsystemer og brukersentrert utforming spesialiserer Oliver seg på å knytte teknologisk innovasjon sammen med praktisk brukervennlighet for å skape skalerbare tale- og chatopplevelser. Han brenner for fremtiden til konversasjonell AI og hvordan intelligente agenter kan forvandle kundeservice, operasjonell effektivitet og samhandlingen mellom mennesker og datamaskiner.
Ressurser fra denne episoden:
- Bli med i Digital Project Manager-fellesskapet
- Abonner på nyhetsbrevet for å få våre nyeste artikler og podkaster
- Ta kontakt med Oliver på LinkedIn
- Se Olivers nettsted
- Besøk PolyAI
Relaterte artikler og podkaster:
Galen Low: Hei, jeg heter Galen, den agentiske, AI-drevne virtuelle podkastvertens avatar for Digital Project Manager. Bare tuller. Men hvor mye vil du vedde på at måten du opplever denne podkasten på, ville vært annerledes hvis du trodde jeg bare var en AI? Det er temaet vi skal utforske i dag: prinsippene bak hva som gjør en samtaleinteraksjon med AI god, sammenlignet med de uhjelpsomme, raseriutløsende og uhyggelige eksemplene vi ser dukke opp som memer i Instagram-strømmen vår.
Faktum er at mange av oss blir bedt om å lage agenter og AI-kolleger som kolleger og interessenter skal samhandle med, og ikke bare tekstbaserte verktøy, men også talebaserte. Men hvis det vi bygger, tilfører for mye friksjon i opplevelsen, kan disse verktøyene raskt ende opp med å samle støv på hyllen for mislykkede AI-eksperimenter.
For å hjelpe oss med å begynne å utforme bedre interaksjoner med AI har jeg hentet inn en ekspert som arbeider helt i frontlinjen av samtaledesign. Sammen skal vi pakke ut avkastningen på å skape menneskelige, friksjonsfrie taleinteraksjoner med AI, utforske hvor denne designinnsatsen begynner å gi avtakende utbytte, og avdekke hvordan noen små justeringer kan hjelpe deg med å bevege deg bort fra den overdrevent hjelpsomme og folkefrieriske LLM-stemmen som mennesker begynner å hate.
Håper du liker episoden.
Velkommen til The Digital Project Manager Podcast – programmet som hjelper ledere innen leveranser med å jobbe smartere, levere bedre og lede teamene sine med selvtillit i AI-ens tidsalder. Jeg heter Galen, og hver uke går vi inn i strategier fra virkeligheten, nye trender, velprøvde rammeverk og den sporadiske krigshistorien fra prosjektfronten. Enten du styrer massive transformasjonsprosjekter, håndterer AI-arbeidsflyter eller bare prøver å holde kaoset under kontroll, er du på rett sted. La oss sette i gang.
I dag skal vi se nærmere på hvilken rolle samtaledesign spiller i hvordan vi bygger tillit til AI. Vi skal gå gjennom de største feilene team gjør når de designer AI-opplevelser som bygger på samtaler, og hvordan de kan løses. Vi skal fordype oss i hvorfor språk og AI er noe kompliserte sengekamerater, og vi skal komme med noen spådommer om hvordan AI vil snakke med annen AI i fremtiden.
Med meg i dag er Oliver Shoulson, leder for agentdesign og -utvikling hos PolyAI. Oliver er lingvist og en fremtredende stemme innen samtalebasert AI, og arbeidet hans befinner seg akkurat i skjæringspunktet mellom språk, produktdesign og AI. I løpet av tiden ved Yale fokuserte han på syntaktisk variasjon og studerte hvordan talere konstruerer og arrangerer setninger på ulike måter innenfor språkets ellers strukturerte regler. Dette har blitt svært relevant i dag, ettersom Oliver bruker rollen sin hos PolyAI til å hjelpe team med å bevege seg forbi klumpete manus og uhyggelige daler, mot taleinteraksjoner med AI som faktisk føles naturlige og nyttige.
Oliver, takk for at du tok deg tid til å være med meg i dag.
Oliver Shoulson: Tusen takk for invitasjonen. Det er virkelig flott å være her.
Galen Low: Dette er et veldig interessant tema for meg. Jeg likte samtalene våre i forkant, fordi jeg fikk nerdet litt. Jeg studerte litt engelsk grammatikk og lingvistikk på universitetet.
Det var noe som alltid fanget oppmerksomheten min. Jeg valgte en annen retning og gikk over til filmstudier. Men etter hvert som vi har beveget oss inn på denne veien med AI og chatboter, og alle disse interaksjonene som er mer flytende og ikke har denne rigide syntaksen, har jeg virkelig begynt å interessere meg for det igjen. Så da navnet ditt kom opp, tenkte jeg: «Du verden, jeg må snakke med denne fyren.»
Så jeg setter pris på det. Jeg håper vi kommer innom mange ulike temaer. Det finnes mange kaninhull vi kan dykke ned i, men jeg er prosjektleder, så bare i tilfelle har jeg laget en plan for oss i dag. For å starte ville jeg bare sette scenen ved å stille deg et stort og krevende spørsmål som lytterne mine gjerne vil høre synet ditt på.
Men så tenkte jeg at jeg kanskje kunne zoome ut og snakke om tre ting. For det første ville jeg snakke om hvorfor taleinteraksjoner med AI betyr noe, og hvordan de skaper en konkret forskjell for virksomheter og brukere i dag. Deretter vil jeg gå gjennom hva som gjør en samtaleinteraksjon god, og hvordan team som bygger en AI-agent eller en AI-kollega, kan unngå den uhyggelige dalen som får brukere til å grøsse.
Til slutt vil jeg gjerne høre synet ditt på fremtidens interaksjonsdesign, og om visuelle elementer kanskje begynner å spille annenfiolin sammenlignet med samtalespråk. Hvordan høres det ut?
Oliver Shoulson: Det høres bra ut.
Galen Low: Flott. La oss sette i gang. Jeg tenkte å begynne med å stille ett stort og krevende spørsmål, men jeg tar en liten omvei først. Nettverket mitt og kretsene jeg beveger meg i, består av mange som jobber som digitale fagpersoner – folk som bygger nettsteder, digitale markedsføringskampanjer og strategier for digital transformasjon.
Og vi har begynt å spisse ørene når overskriftene sier at nettsteder slik vi kjenner dem, snart vil endre seg for alltid, i hvert fall delvis på grunn av måten AI er bygget inn i nettleseropplevelsen på, med ting som AI-oversikter, AI-nettlesere og AI-kopiloter.
Så jeg tenkte å spørre: Hvor langt unna er vi et internett der samtale erstatter navigasjon, og hva kan hindre oss i å komme dit?
Oliver Shoulson: Ja. Jeg tror det helt sikkert kommer til å finnes måter å utforme nettsider og internett som helhet på, som gjør dem enklere å navigere for AI-agenter.
Jeg tror det er uunngåelig, og det er sannsynligvis en god ting. Det vil til syvende og sist øke effektiviteten som agentene og assistentene våre kan utføre oppgaver for oss med. Når det er sagt, vet jeg ikke nødvendigvis om jeg, eller noen jeg kjenner, ønsker seg et internett du bare snakker med og aldri ser.
Jeg vil si at designernes oppgave – for grensesnittdesignere, interaksjonsdesignere og designere mer generelt, enten det handler om samtalegrensesnitt eller visuelle grensesnitt – er å bruke forståelsen vår av de kognitive skjevhetene og den kognitive arkitekturen mennesker har for å samhandle med den virkelige verden, og deretter lage intuitive grensesnitt for samhandling med den digitale eller virtuelle verdenen.
I lang tid har vi hatt svært dyktige designere av grafiske brukergrensesnitt som har funnet måter å appellere til og simulere fysiske interaksjoner på en nettside, slik at navigasjonen blir intuitiv. Glidebrytere, brytere, knapper og andre ting vi er vant til å samhandle med fysisk, og som vi allerede har en kognitiv arkitektur for å forstå, kan vi på en måte overføre til det digitale grensesnittet. Da blir det veldig intuitivt.
Vi trenger ikke lære en hel masse nytt for å forstå hvordan vi skal bruke det. Og jeg tror at vi med mulighetene i samtalegrensesnitt egentlig gjør det samme. Vi appellerer bare til en annen del av den kognitive arkitekturen vår, nemlig språkfunksjonene våre – noe vi inntil nylig ikke hadde noen måte å simulere realistisk på.
Det store gjennombruddet med store språkmodeller er at de, selv om de er enorme, malende sannsynlighetsmotorer, med nok data, trening og veiledning for første gang kan produsere noe som føles som naturlig menneskespråk. Det gir oss bare en annen måte å samhandle med noe på, men jeg tror ikke samtale i seg selv er bedre enn grafiske grensesnitt.
De appellerer bare til ulike deler av menneskelig erfaring.
Galen Low: Jeg liker virkelig koblingen til ting fra den virkelige verden. Som en digital person tenker jeg på knapper, radioknapper, avkrysningsbokser og glidebrytere. Jeg har ikke koblet dem til det på en stund, men selvfølgelig finnes disse tingene i virkeligheten også – fysiske brytere og ting vi samhandler med på den måten.
Og jeg er enig. Det gir mening å si at vi allerede har denne språkfunksjonen, og at vi kan bruke den som en del av en opplevelse for å samhandle med noe. Men den vil ikke nødvendigvis være bedre eller nødvendigvis erstatte noe. Vi har bare disse verktøyene tilgjengelig.
Oliver Shoulson: Jeg regner meg selv som en veldig visuell person. Jeg er på en måte billedkunstner i livet utenfor jobben.
Galen Low: Å ja.
Oliver Shoulson: Derfor ville jeg faktisk blitt veldig trist hvis verdenen for nettsidedesign og grafisk design begynte å spille annenfiolin sammenlignet med samtale. Det er absolutt ikke målet mitt som samtaledesigner, og jeg håper ikke det er målet til noen andre heller.
Jeg synes begge deler er vakre uttrykksformer som krever unike og interessante ferdigheter, og jeg håper begge fortsetter å blomstre.
Galen Low: Det jeg tenker på, er denne bekymringen vår: «Greit, men folk besøker ikke nettsteder lenger.» En del av økonomien rundt et nettsted handler jo om klikk, at folk besøker selve nettstedet og ser grensesnittet.
Det snakkes nå om AI-oversikter eller andre mekanismer som kan fungere som et slags mellomnettsted, som ikke kontrolleres av nettstedseierne, og som kan ha et annet interaksjonsdesign enn det virksomheten egentlig ønsket. Det kan også innebære samtale, fordi du kanskje henvender deg til Gemini eller en valgfri LLM for å stille et spørsmål.
Jeg tenkte å gå litt inn på det, helt spontant. Du er en visuell person og setter pris på visuell design. Du er lingvist og setter pris på samtaledesign. Og så finnes intensjonen til personen som har skapt en opplevelse, samtidig som det kan finnes en mellommann som abstraherer den til noe annet.
Er det greit? Er det et kompromiss? Kan det være en god ting?
Oliver Shoulson: Jeg vet ikke. Jeg har faktisk ikke tenkt så mye på dette, så dette er også helt spontant fra min side. Jeg håper at dette mellomlaget blir en standard del av merkevarebygging og nettutvikling for virksomheter, slik at de også kan utøve en viss kontroll over det.
En av tingene virksomheter er veldig entusiastiske over når det gjelder å utforme et samtalegrensesnitt, akkurat som de alltid har gjort med visuelle grensesnitt, er muligheten til å utvikle og presentere en enhetlig merkevareidentitet. Jeg forstår bekymringen din for at merkevareidentiteten på en eller annen måte kan gå tapt, bli abstrahert eller feilrepresentert i dette mellomlaget, og deretter forsvinne eller forvandles til noe du ikke ønsker.
Jeg ser for meg at byråer som bygger nettsteder eller digitale tilstedeværelser for selskaper, undersøker måter å fortsette å ha kontroll over dette AI-sammendraget eller det AI-målrettede mellomlaget du snakker om.
Galen Low: Jeg liker det.
Det er som om merkevarestemmen er en del av opplevelsen. Vi ber bokstavelig talt en assistent eller mellommann om å si: «Kan du lese nettstedet for meg? Bare oppsummer det, og fortell meg hvilke knapper som finnes.» Vi får ikke den faktiske opplevelsen slik den ble utformet.
Vi får informasjon som kanskje er rask og praktisk, men definitivt ikke noe som er like tilsiktet som opplevelsen fra virksomheten selv. Det kan være en god overgang, selv om den ikke var planlagt. Kanskje vi kunne zoome litt ut, for arbeidet ditt hos PolyAI dreier seg om stemmestyrte AI-brukeropplevelser. I noen tilfeller fungerer dette som en erstatning for at noen er til stede og svarer på telefonen, for eksempel på en restaurant, i en bank eller på en helsestasjon.
Hva ser du hos PolyAI når det gjelder hvor tale-AI skaper konkret verdi for virksomheter og kunder i dag, og hvordan er denne opplevelsen grunnleggende annerledes enn chatbot-opplevelser vi har sett det siste tiåret eller så?
Oliver Shoulson: Du kan spørre en hvilken som helst leder for et kontaktsenter, en leder for kundeopplevelse eller en leder for kundeservice i ulike bransjer, og de vil fortelle deg at folk fortsatt tar telefonen.
Du tror kanskje ikke det er slik. Du kjenner kanskje mange som hater å ringe. Det gjør jeg også. Men telefonen er fortsatt en hovedkanal for kundestøtte. Som du antydet, er en av de store verdiene kundene ser ved å ta i bruk denne typen taleløsning, muligheten til å håndtere sesongvariasjoner, endringer i volum og generell utskiftning i kontaktsenterarbeidet.
En av våre kunder gjennom lang tid er for eksempel en stor detaljhandelsaktør. Den travleste sesongen er naturligvis rundt høytidene, særlig Black Friday, når alle kjøper julegaver. Etter at de begynte å samarbeide med oss, kunne de for første gang gi de ansatte på kundesenteret fri på Black Friday i tillegg til Thanksgiving.
Galen Low: Oj, wow.
Oliver Shoulson: Slike ting skaper verdi ikke bare for kunden og sluttbrukeren, men også for de ansatte i kontaktsenteret. Jeg ser på arbeidet mitt hos Poly som et supplement til menneskelige kontaktsentre, ikke nødvendigvis som en erstatning. Det vil alltid finnes problemer eller behov som krever menneskelig kontakt.
Det de fleste kundene våre ønsker, og det vi ønsker å levere, er en måte å automatisere på og reservere ressursene i kontaktsenteret til de virkelig viktige, komplekse brukerintensjonene og behovene som krever menneskelig kontakt – selv om dette utgjør størsteparten av det folk faktisk ringer inn om.
De fleste ringer inn med de samme 20 prosentene av problemene. Hvis du kan automatisere de 20 prosentene, er det en enorm fordel for kontaktsentrene. En annen ting jeg vil nevne, som jeg også var inne på tidligere, er at tale i større grad enn tekst gir deg mulighet til å utvikle en merkevareopplevelse. Du trenger ikke plutselig underordne merkevarens persona, holdning og identitet, som du har brukt lang tid på å bygge, under den generiske, ekstremt passive og smakløse dialogen du får fra en generisk LLM i en chatbot.
Et eksempel er en av kundene våre, Fogo de Chão, den brasilianske steakhouse-kjeden. Det er en fantastisk restaurant, og jeg anbefaler den på det varmeste. De likte ideen om å klone stemmen til Selma, som er en av deres erfarne ledere for kundeopplevelse.
Hun har vært i selskapet i flere tiår. Det vi kunne gjøre for dem, var å gjenskape Selma som en AI-agent og la henne svare på telefonen når folk ringer for å bestille, endre eller avbestille bord, spørre om fordelsprogrammet og lignende.
På den måten kunne de skape en forlengelse av merkevareidentiteten sin som ellers ikke ville vært mulig. De kunne i praksis gi Selma, denne ene briljante kvinnen, en million flere stemmer enn hun kunne hatt samtidig, og muligheten til å samhandle med en million flere mennesker enn hun ellers kunne hatt samtidig. Det er noe kundene er svært entusiastiske over, og det er definitivt ikke noe du får fra tekst på en skjerm.
Galen Low: Det er morsomt, for du nevnte LLM-stemmen, og jeg tror alle som lytter, skjønner hva det betyr. Teknologien utvikler seg, men som vi sa tidligere, er det fortsatt en egen persona som ofte starter ganske smiskende.
Det er en slags folkefrierisk stil. Den har en personlighet, men det er kanskje ikke Selma. Det er kanskje ikke den personlige opplevelsen til dette bestemte mennesket. Mange som lytter, tenker nok: «Jeg er litt lei av det, og jeg er litt lei av LLM-stemmen.»
Kan du forklare på et overordnet nivå hvordan Selma kommer inn i bildet? Sitter hun bare i et lydstudio og snakker en hel uke?
Eller tenker jeg på folk som vil bygge en Selma-agent, men som ikke vil ha svar som: «Flotte forslag! Her er tre ting jeg ville korrigert. Vil du at jeg skal utføre en oppgave nå?» Hvordan får man Selmas personlighet inn i systemet, og er det en krevende oppgave?
Oliver Shoulson: Når det gjelder selve stemmen og kloningen av den, krever det at vi samler inn en viss mengde treningsdata og trener en tilpasset talemodell på dette. Da kan vi gjenskape aksenten hennes, måten hun uttaler ting på og de små pauselydene hun bruker når hun snakker.
Når det gjelder å utforme en persona, er det her samtaledesigneren kommer inn. Vi arbeider med instruksjoner, informasjonsinnhenting og sikkerhetslag for å kontrollere hva modellen returnerer, og for å finne frem til samtalestilen sammen med kunden.
Vi har mange måter å påvirke disse ulike spakene og innstillingene på for å komme oss bort fra LLM-enes standardoppsett. Det er også en av tingene som gjør spesialtrente, interne modeller så nyttige, og det er slike modeller vi også arbeider med. De kan gjøres spesielt følsomme for personainstruksjoner, samtalestil og måten samtalen faktisk gjennomføres på, i stedet for bare å være svært følsomme for instruksjonsfølging. Det ønsker vi naturligvis også, men ellers faller de tilbake til den smiskende og intetsigende personaen vi har begynt å forvente fra LLM-er.
Galen Low: Jeg liker det, for i samtalene jeg vanligvis har hatt, betyr sikkerhetsmekanismer gjerne ting som sikkerhet og etikk. Det jeg forstår at du mener, er nesten sikkerhetsmekanismer rundt hvor mye personlighet man skal forsøke å utlede fra dataene som finnes.
Det kan selvsagt handle om sikkerhet, personvern og etikk, men også bare om at noen deler for mye med meg på telefonen.
Oliver Shoulson: Sikkerhetsmekanismer rundt merkevareidentiteten også, ikke sant? Vi vil naturligvis ikke at modellen skal hente ut personlig informasjon. Vi vil ikke at den skal hallusinere eller si noe som kan skape juridiske eller etiske problemer for virksomheten.
Men du vil også beskytte merkevaren og personaen som selskapet har brukt lang tid på å utvikle. Det må finnes sikkerhetsmekanismer for dette også. Det er noe annet som står på spill når du setter en LLM inn i systemet, og vi bruker mye tid og omtanke på å sørge for at dette er på plass.
Galen Low: Jeg vil komme tilbake til noe du sa tidligere. Du sa at folk fortsatt ønsker å ta telefonen. Jeg kjenner meg igjen i det du sier, men tenker samtidig at det er litt rart. Jeg liker ikke telefonen. Den er uforutsigbar og gir meg ikke nok kontroll. Kontrollbehovet i meg liker ikke telefonen, men som du sier, vil folk fortsatt ta den.
Hvorfor telefonen? Hvorfor har den ikke blitt en anakronisme, som å sende en faks? Hva tror du det er ved mennesker som ønsker å ta telefonen og snakke med et annet menneske?
Oliver Shoulson: Det finnes et begrep innen menneske–datamaskin-interaksjon som faktisk er svært gammelt. Det har eksistert i flere tiår og oppstod gjennom refleksjoner rundt telefonsamtaler sammenlignet med ansikt-til-ansikt-samtaler. Begrepet er sosial tilstedeværelse.
Det beskriver følelsen av å være sammen med en annen person, følelsen av å være sammen i sanntid. Det er naturligvis litt subjektivt å måle, men det finnes store mengder forskning som viser at en økt følelse av sosial tilstedeværelse henger sammen med alle slags positive kundeopplevelser og forretningsresultater.
Hvis noen føler sterkere sosial tilstedeværelse i en kundeserviceinteraksjon, er det mer sannsynlig at de stoler på og følger rådene fra personen de snakker med. Det fører naturligvis til færre tilbakevendende henvendelser fordi folk ikke fulgte instruksjonene, og til større tilfredshet med resultatet av samtalen.
Tilfredshet henger generelt også sammen med denne følelsen av sosial tilstedeværelse. Og avgjørende i AI-interaksjoner er at folk føler seg tryggere på at informasjonen de har delt, blir håndtert på en sensitiv og omsorgsfull måte.
Jeg ser derfor for meg at disse positive opplevelsene og resultatene som forbindes med større sosial tilstedeværelse, får folk til å søke denne tilstedeværelsen i slike interaksjoner.
Jeg tenker på sosial tilstedeværelse som et spektrum. Den høyeste graden er en ansikt-til-ansikt-samtale med noen. Når du og jeg ser på hverandre nå, er dette sannsynligvis det nest beste vi kan få til. Vi ser hverandres ansikter. På telefonen er graden litt lavere, og tekstmeldinger er omtrent det laveste du kan forestille deg.
Folk leter altså etter måter å finne denne følelsen av sosial tilstedeværelse i interaksjonene sine på.
Galen Low: Det er interessant å tenke på hvilken rolle sosial tilstedeværelse spiller. Hvor mange ganger har jeg ikke lest en e-post uten å føle noen form for ansvarlighet i sanntid? Jeg skummer den, følger jeg instruksjonene? Jeg gjorde det sikkert feil.
Jeg er ikke fullt investert eller oppmerksom, og jeg forventer ikke at noen tar vare på meg. Med sosial tilstedeværelse skjer alt i sanntid. Jeg har en sosial høflighet eller et bånd som gjør at jeg bør lytte til personen, i stedet for å halvlytte og håpe at jeg forstod instruksjonene riktig.
Det finnes også denne følelsen av at noen er til stede og bryr seg om meg på en eller annen måte. De er der for å hjelpe. Jeg tenkte på hvordan god samtaledesign faktisk skaper denne sosiale tilstedeværelsen, fordi det gjør interaksjonen mer effektiv.
Den bygger lojalitet og tillit. Og det du sa om å sende informasjon inn i en chatbot – det føles som om du tenker: «Jeg vet ikke hva de kommer til å gjøre med disse dataene.» Jeg sjekker nettleserfeltet flere ganger for å forsikre meg om at forbindelsen er sikker før jeg sender noe.
Det er annerledes enn den innebygde tilliten som oppstår når sosial tilstedeværelse finnes.
Oliver Shoulson: Jeg er glad du nevnte design, for dette handler naturligvis om mer enn selve kanalen. Telefonen kan gi større sosial tilstedeværelse enn tekst, men vi som designere kan også gjøre ting for å fremkalle en sterkere følelse av sosial tilstedeværelse.
Vi prøver for eksempel svært hardt å sørge for at agenten ikke virker som om den bare henter svar fra en ferdigskrevet samling og gjengir reklamebudskap ordrett.
Det er en effektiv måte å få det til å føles som om denne personen ikke er sammen med deg i sanntid. Det mangler en følelse av kontakt og samarbeid om problemløsningen.
LLM-er har mange naturlige måter å samhandle på som kan undergrave denne følelsen av sosial tilstedeværelse. De kan virke distanserte, fjernet eller uhyggelige, slik du nevnte tidligere, fordi graden av kjennskap og tilknytning du føler til agenten ikke er helt på plass.
Design spiller altså en stor rolle, utover selve kanalen.
Galen Low: Det er et godt poeng. Dette er en fin avsporing, og jeg vil gjerne følge den. Mange glemmer at noe som ChatGPT og disse LLM-ene er utformet for å passe til nesten alle mulige bruksområder mennesker kan utsette dem for. De store teknologiselskapene har bygget dem på denne måten for å samle inn data og øke bruken og utbredelsen av teknologien.
Men LLM-stemmen vil grunnleggende sett være den trygge stemmen i enhver situasjon. Hvis du sier: «Jeg er bekymret for den psykiske helsen min», eller: «Hvordan får jeg en cheeseburger fra denne restauranten?» – begge deler er bruksområder teknologien skal håndtere for alle, og derfor blir stemmen trygg, smiskende og god til å få deg til å føle deg vel.
Det var morsomt å se hvor raskt folk begynte å si: «Jeg trener LLM-en min til å være litt slem.» De vil ikke at den skal være hyggelig. De vil at den skal være litt slem. Én størrelse passer alle bruksområder og brukere, så den blir naturligvis litt smakløs.
Oliver Shoulson: Det er interessant, for jeg foretrekker selvsagt at en stor språkmodell mottar misbruk fra en sint kunde fremfor et menneske. Samtidig ønsker man som designer, og det tror jeg mange merkevarer også er enige i, at selv LLM-en skal kunne sette grenser overfor kunden.
Du vil ikke måtte lytte til samtaler hele dagen der folk roper, skriker og banner mot en AI, mens AI-en bare tar imot. Det føles dårlig for menneskehetens sjel. Vi bør fortsatt støtte gode samtaleprinsipper.
Jeg mener at vi bør fremme gode samtaleprinsipper, ikke bare realistiske samtaler.
Galen Low: Jeg er helt enig. Tingene vi gjør i enhver kanal eller sammenheng, påvirker det vi normaliserer. Tidligere har teknologibaserte samtaler ofte vært frustrerende. Du har Alexa og Siri, og folk sier: «Pokker ta, Siri. Nei, det var ikke det jeg mente.»
Man ser folk være svært slemme mot disse assistentene, nesten som i kommentarfeltene på YouTube. Vi begynner å normalisere mobbing og dårlig oppførsel, og det vil naturligvis sive inn i andre områder.
Da folk sa: «Ikke si takk til ChatGPT, for hver gang du gjør det, er det ikke nok vann til å forsyne en landsby», fikk man følelsen av at man ikke trengte å være høflig. Men det er ikke det vi sier. Vi sier at du ikke skal sløse med teknologien fordi den bruker betydelige ressurser.
Jeg lurer på hva du mener. Bør jeg si takk til LLM-er?
Oliver Shoulson: Dette er et sosiolingvistisk spørsmål. Jeg er sikker på at det forskes aktivt på hvordan måten du samhandler med ulike virtuelle assistenter på, enten foregriper, påvirker eller bare gjenspeiler måten du samhandler med mennesker i den virkelige verden på.
Jeg føler at jeg har sett overskrifter om dette, men jeg har ikke lest noe godt forskningsarbeid. Jeg vil ikke sitte her og spekulere mens noen tar doktorgrad i dette.
Galen Low: Det er helt rimelig. Innholdet jeg har sett, har vært uavklarte redaksjonelle betraktninger, men jeg er enig med deg. Noen forsker på dette.
Du er lingvist av utdanning og arbeider i frontlinjen av samtalebaserte AI-opplevelser. Jeg antar at du ser mange som prøver å utvikle naturlige og brukbare AI-verktøy som består uhyggelighetstesten.
Men du ser sikkert også mange som mislykkes. I min verden, prosjektledelse og digitale bransjer, er det slik at hvis du vil holde deg relevant, skal du bygge en agent. Vi er ikke lingvister eller AI-folk, og så får vi bare beskjed om å «gå og gjøre AI». Noen ganger blir resultatet ikke bra.
Hva er de vanligste designfeilene du ser når team bygger AI-kolleger eller AI-agenter, og hvilke av dem skaper reaksjonen «Dette føles rart» hos brukerne?
Oliver Shoulson: Jeg begynner med noe litt kjedelig som må være på plass for at de mer interessante nyansene skal ha betydning. Muntlig samtale er rotete. Den er full av avbrytelser og selvkorrigering, altså at du sier noe feil og går tilbake for å rette på det.
I en muntlig interaksjon snakker folk ofte i munnen på hverandre og avbryter hverandre. I beste fall går det bare to–tre hundre millisekunder mellom hver tur. Derfor finnes det et grunnleggende beregningsmessig og teknisk problem: Hvis vi skal gjøre et kall til en stor språkmodell mellom hver tur, og kanskje også ha talegjenkjenning og talesyntese på hver side, er det mye beregning som skal utføres på svært kort tid.
Det er sjelden å se en tale-AI-agent som bruker mindre enn tre sekunder mellom hver tur, langt mindre hundre millisekunder. Evnen til å håndtere den naturlige flyten i en samtale er både et brukervennlighetsproblem og et problem knyttet til den uhyggelige dalen.
Hvis jeg ikke kan avbryte når jeg trenger det, hvis agenten ikke kan avbryte meg for å avklare en misforståelse, eller hvis jeg avbryter agenten og den ikke vet hvor mye av den forrige ytringen jeg rakk å høre, oppstår det problemer.
Hvis jeg snakker og du avbryter meg, vet jeg hva du rakk å høre. Hvis jeg spør om du trenger å sjekke statusen på et nytt kort eller melde et kort som tapt, og du avbryter etter «sjekke statusen på et nytt kort» og sier «ja», vet jeg hva du svarte ja på. En LLM vet ikke nødvendigvis hvor mye av den forrige ytringen du rakk å høre, fordi den ikke nødvendigvis hører seg selv snakke.
Denne typen dynamikk rundt turtaking er teknisk svært vanskelig å få til, men den må være på plass for at systemet skal være navigerbart og brukervennlig. Ellers får du følelsen av den tregeste og mest smertefulle interaksjonen, der du venter tre sekunder etter alt du sier før agenten svarer.
En annen ting ved samtaler i sanntid er at vi ikke har en oversikt over det som tidligere ble sagt, slik vi har når noen chatter med en chatbot. Dette er en svakhet ved store språkmodeller, som foreløpig i hovedsak er tekstbaserte og i stor grad trent på lange og strukturerte tekster.
Tekst med punktlister, parenteser, avsnitt og overskrifter er laget for å formidle informasjon i et langt og strukturert format. Slik fungerer ikke aktivt prosesseringsminne i en samtale i sanntid.
Hvis du må formidle en adresse, en nettadresse eller et telefonnummer, følger vi flertrinnsrutiner. Du spør kanskje om jeg har noe å skrive med. Jeg sier nei, går for å hente det, og du venter. Deretter gir du meg husnummeret og gatenavnet. Jeg spør hvordan gatenavnet staves, og du staver det. Dette er en flertrinnsrutine som blir unødvendig i en kanal der turtaking og en skriftlig oversikt støtter hukommelsen.
Dette er den kjedelige delen. Deretter kan vi snakke om de morsommere nyansene i muntlig samtale og samarbeidende dialog, som særlig påvirker problemet med den uhyggelige dalen.
Galen Low: Jeg synes dette er flott. Jeg har aldri tenkt på tempoet i turtaking i en samtale. Jeg bruker ikke så mye tale-AI selv. Jeg skriver stort sett til en LLM som Gemini, ChatGPT eller Claude, og jeg er den personen som bare går sin vei.
Jeg skriver noe, trykker Enter og tenker at det tar litt tid. Så går jeg og gjør noe annet. Jeg har brukt det som en maskin for databasesøk, men det er kanskje ikke målet, og det kan begrense utbyttet jeg får av opplevelsen fordi det ikke er en utveksling.
Jeg delegerer en oppgave til deg, du kommer tilbake med et langt svar, og så kopierer jeg det inn i noe annet. Det jeg gjør i tekstverdenen, er egentlig ikke en dialog. Det er mer delegering enn dialog.
Når det faktisk er en samtale, finnes det ting som ikke ville fungert. Kundesenteragenter bruker små utfyllingsord: «Flott. Ja, jeg ville bare bekrefte at ...» eller «Greit, la meg sjekke det i systemet.» De fyller forsinkelsen på to–tre hundre millisekunder, slik at man kjenner at man samhandler.
Det er en interessant måte å tenke på dialogens fremdrift på.
Oliver Shoulson: I muntlig dialog finnes det noe som kalles tilbakemeldingssignaler. Du gjorde det visuelt ved å nikke. Muntlig skjer det når du sier «ja» mens noen snakker, for å bekrefte at du fortsatt følger med, at den andre fortsatt har ordet, og at du forstår det som blir sagt.
Disse rutinene forventes i en slik grad at det oppstår problemer hvis de ikke kommer på riktig tidspunkt. Dette var et problem jeg forsøkte å løse tidlig hos Poly, for over tre år siden, da vi ba folk oppgi telefonnummeret sitt.
Amerikanske og kanadiske telefonnumre oppgis vanligvis med tre sifre i retningsnummeret og deretter en gruppe på fire sifre. Vi har en implisitt forventning om at personen bekrefter at den fikk med seg sifrene etter hver gruppe. Folk sier kanskje: «Nummeret mitt er én, to, tre», og så tar de en pause.
Hvis du ikke gir en tilbakemelding der, og i stedet tror at de er ferdige, kan du si: «Det er ikke et telefonnummer. Det var tre sifre.» Derfor må modellene læres opp til å gi denne typen tilbakemelding for å kunne håndtere et så enkelt datapunkt uten å mislykkes.
Det du sa om å skrive en lang beskjed og gå din vei, fungerer ikke på telefonen. Slik snakker vi ikke. Vi må finne måter å dele opp informasjonsinnhentingen på, og særlig når vi formidler informasjon, må den struktureres for behandling i sanntid.
Galen Low: Selv om du kaller det kjedelig, synes jeg det er interessant. Timing er noe folk ofte ikke tenker på når de designer samtaler i sanntid, og det er en utfordring fordi teknologien noen ganger ikke er rask nok.
Oliver Shoulson: Vi må supplere den, for eksempel med utfyllende ytringer eller forsinkelsesytringer. Det er også noe ekte mennesker gjør i sanntid. Hvis jeg klikker rundt for å finne kontoen din i en database mens du venter på telefonen, lar jeg deg ikke bare sitte i stillhet. Jeg gir deg oppdateringer om hva jeg gjør: «Gi meg bare et sekund» eller «Det går litt tregt i dag.»
Galen Low: Har dere bygget en agent som har den jeg vil kalle «jeg holder på med noe»-sangen? «Jeg skal bare klikke på denne tingen. La la.»
Oliver Shoulson: Det morsomme er at vi tidligere arbeidet mer med ekte stemmeskuespillere, og da lot vi dem absolutt beholde personaen sin, for eksempel ved å trekke ut enkelte stavelser når de tenkte.
Galen Low: Ja.
Oliver Shoulson: De kunne si: «Jeg finner ikke kontoen din», med slike små lyder som viser at noe skjer på den andre siden, selv om du ikke kan se det. Jeg liker den typen ting.
Dette leder oss inn i den andre gruppen ting jeg ville snakke om: de subtile måtene mennesker følger regler for hvordan språk brukes i en sammenheng.
I lingvistikken kalles dette pragmatikk. Det handler om hvordan språk faktisk brukes i kontekst, og om antakelsene vi gjør om samtalepartneren når vi deltar i det som kalles samarbeidende dialog.
Vi antar at samtalepartneren vil være så sannferdig som mulig og gi så mye informasjon som er nødvendig, men ikke mer. Hvis du gir mer informasjon enn nødvendig, kan vi få det som kalles samtaleimplikatur. Du antyder noe fordi du sier mer enn oppgaven krever, og dermed kan du skape en betydning på et metanivå som du ikke mente.
LLM-er liker å forklare alt de gjør. De forklarer alt de ber om: «For å slå opp kontoen din trenger jeg kontonummeret ditt. Kan du oppgi kontonummeret?» Eller: «Klikk på profilikonet øverst til høyre. Si fra når du har gjort det.»
De gir samtalen scenebeskrivelser på en måte mennesker vanligvis ikke gjør, fordi det blir for mye informasjon. Jeg trenger ikke be deg om å si fra når du har fulgt instruksjonen. Det vet du allerede. Hvis jeg sier det hver gang, antyder jeg at du er dum.
Dette er en av mine største irritasjoner ved måten LLM-er samhandler på. Det svekker følelsen av at vi er involvert i oppgaven sammen i sanntid. Det er ikke slik to mennesker som arbeider med samme oppgave, samhandler, fordi de deler en kontekst.
Når modellen ikke forutsetter en felles kontekst, svekkes følelsen av sosial tilstedeværelse og av at vi sammen navigerer i situasjonen på en samarbeidende måte. Den fremstår som en enhet som befinner seg et annet sted, som ikke vet det du vet, ikke ser det du ser og ikke forstår det dere begge burde forstå i øyeblikket.
Galen Low: Det er morsomt, for mange som ikke er fortrolige med dette, ville kanskje sagt: «Flott, vi bør legge til flere ord slik at folk stoler mer på AI-en.» Vi har utformet det for å bygge tillit, men egentlig bryter vi tilliten fordi pragmatikken antyder at det ikke finnes et felles nivå av forståelse, tillit eller kontekst.
Hver gang jeg bruker en GPT jeg har trent, sier den «Hyggelig å møte deg». Jeg tenker: «Nei, du er på teamet mitt. Vi har gjort dette hver uke.» Det trekker meg ut av konteksten. Jeg forstår at systemet ikke deler kontekst med meg, og så blir interaksjonen performativ og irriterende.
Noen ganger er mindre mer. Hvordan snakker mennesker? Bygg det inn i agenten. Det kan skape mer tillit og større bruk, og føre folk raskere frem til målet enn en forklaring av alt.
Oliver Shoulson: Hundre prosent. Jeg har ikke et sterkt standpunkt til om en bot bør presentere seg som en bot tidlig i samtalen. Det finnes argumenter for begge deler. Mange er bekymret for åpenhet og ønsker å sikre at folk vet hva slags enhet de snakker med.
Men den verste måten å gjøre det på er: «Hei, du snakker nå med en AI-drevet virtuell assistent. Denne samtalen vil bli tatt opp og ...»
Vi må presentere den så menneskelig som mulig, uten å forsøke å lure noen, men fordi det setter tonen for systemets egenskaper og for hvordan du ønsker at brukeren skal samhandle med det.
Når vi må ha slike opplysninger i begynnelsen av samtalen, prøver jeg å bygge dem organisk inn i hilsenen. Gi agenten et navn: «Hei, jeg heter Oliver. Jeg er den virtuelle assistenten til selskap X. Hvordan kan jeg hjelpe?» Eller: «Hei, jeg heter Oliver. Jeg er selskap X sin AI. Hvordan kan jeg hjelpe?» Hold den første ytringen åpen og så kort som mulig. I samtaledesign er mindre absolutt mer.
Galen Low: Målet er ikke å erstatte et menneske eller lure folk. Det er fortsatt en interaksjon som bruker naturlig språk. Vi prøver ikke å gjøre det umulig å skille mellom menneskelige agenter og AI-agenter. Vi ønsker bare at det skal føles naturlig.
Oliver Shoulson: Ingen får hedersmerker for å lure noen. Målet er å reservere menneskers problemløsende hjerne til selve oppgaven, ikke til problemet med å navigere i interaksjonen for å løse oppgaven.
Når du ringer et selskap og møter en telefonmeny, forsøker du å rekonstruere hvordan personen som utformet intensjonshierarkiet, har kategorisert problemet ditt. Du bruker kognitive ressurser på å navigere i interaksjonen, i stedet for å tilbakestille passordet eller løse problemet.
Målet er å la mennesker bruke de intuitive språklige og kognitive evnene sine, slik at de kan bruke problemløsningskapasiteten på det de faktisk prøver å gjøre.
Galen Low: Det er interessant. Å bygge inn denne friksjonen i opplevelsen er nettopp det brukeropplevelse har forsøkt å fjerne i lang tid. Er det derfor samtale har blitt populært igjen? Hvorfor er språk ideelt for dette, og hvorfor er det så vanskelig å utforme en god opplevelse?
Oliver Shoulson: Spørsmålet om hvorfor språk er så vanskelig å treffe og simulere, er egentlig en omskriving av lingvistikkens hovedspørsmål: Hvordan modellerer vi menneskets språkfunksjon slik at vi kan gjenskape den i et datasystem?
Et barn er flytende i et språk når det er tre, fire eller fem år gammelt, til tross for svært liten eksponering sammenlignet med store språkmodeller. GPT-2 og GPT-3 ble eksponert for tusenvis, om ikke millioner, av ganger mer språk enn et barn er når det er språklig kompetent.
Det får lingvister til å tro at vi har en innebygd kognitiv arkitektur som er utviklet for å tilegne seg språk. Oppgaven er å finne ut hva denne arkitekturen består av, hvilke parametere som kan settes, hvilke operasjoner hjernen utfører når den konstruerer en setning og henter ord fra det mentale leksikonet, og hvordan vi kan modellere dette slik at en datamaskin i teorien kan gjøre det samme.
Gjennombruddet de siste årene har i stor grad vært et råstyrkegjennombrudd. Vi har ikke egentlig løst problemet mer enn de store teoretiske lingvistene som fortsatt arbeider med det. Vi har gjort et teknisk gjennombrudd der vi, ved å bruke billioner av parametere og eksponere en modell for hele internett og hele den skriftlige historien til menneskespråket, har fått den til å gjøre noe som ligner på det et tre år gammelt barn gjør.
Problemet med språk er langt fra løst. Grunnen til at vi vender oss mot språk, er at vi plutselig har hatt et gjennombrudd med denne råstyrketilnærmingen, som er svært nyttig.
Jeg håper likevel at vi fortsetter å utvikle AI på en måte som i større grad modellerer hvordan menneskelig kognisjon faktisk fungerer – det som kalles symbolsk resonnering. Det finnes AI-felt som fokuserer mer på å beregne over abstraksjoner av begreper, ord og setningsstrukturer slik mennesker faktisk gjør.
Jeg mistenker at vi vil møte avtakende utbytte eller en vegg med LLM-tilnærmingen, der vi bare legger til flere parametere og trener på mer tekst. Når det gjelder resonnering og evnen til å unngå de dumme feilene LLM-er stadig gjør, vil vi trolig trenge en grunnleggende annerledes tilnærming som ligger nærmere menneskelig symbolsk resonnering.
Galen Low: AI er den ultimate selskapsleken akkurat nå. Det ser svært kapabelt ut, men vi har ikke knekt koden. Dette er tidlige dager, og måten vi tilnærmer oss modeller på, må bli annerledes enn råstyrketilnærmingen.
Vi kan bare komme et stykke med dette, men det er imponerende. Ingen prøver å lure noen, men det er fengslende å bruke. Du tenker: «Dette systemet vet mer enn noen jeg har snakket med.» Og så sier det at fire pluss to er sju. Det er en kognitiv frakobling.
Vi har funnet en måte å få til en slags naturlig dialog på, slik at vi kan samle inn mer data og fortsette å finne ut av dette. Dette er begynnelsen, ikke slutten.
For team som bygger slike systemer, er det viktig å huske at problemet ikke er at de er dumme. Språk er komplekst, og hjernen vår er kompleks. Det finnes ingen enkel måte å knekke dette på slik at du plutselig får den mest naturlige agenten menneskeheten har sett.
Galen Low: For team som er vant til å designe visuelle grensesnitt, hva er det største tankespranget de må ta når de designer for tale eller samtale?
Oliver Shoulson: De er rett og slett ulike ferdighetssett, men de kan utfylle hverandre.
Vi opplever informasjon visuelt og språklig på svært ulike måter. Visuelt grensesnittdesign handler ofte om å representere informasjonshierarkier visuelt. Du får et todimensjonalt, noen ganger simulert tredimensjonalt synsfelt der informasjon kan organiseres hierarkisk på måter som føles intuitive, eller som leder brukeren mot den veien du vil at den skal ta.
Språk og talespråk oppleves lineært i tid, og hjernen vår parser det til hierarkiske strukturer. Derfor kan det oppstå mye tvetydighet i tale. Setningen «Jeg så mannen med den røde kikkerten» kan bety at mannen hadde den røde kikkerten, eller at jeg brukte den røde kikkerten til å se ham.
Dette skyldes at jeg bare sier en rekke ord som du opplever i sanntid, mens det egentlig finnes to ulike strukturer. Uttrykket «med den røde kikkerten» kan knyttes til selve seingen eller til mannen.
Det er altså et annet ferdighetssett. Mitt råd er å støtte seg på menneskene som allerede har slike muntlige interaksjoner. Bruk kundesenteransatte og dem som skriver dokumentasjonen for dem. Som samtaledesigner finnes det ikke noe bedre enn å følge en ansatt i et kontaktsenter en hel dag, lytte til de faktiske spørsmålene folk stiller, hvordan de formulerer dem og hvilken informasjon de faktisk trenger.
Dere har gode ressurser tilgjengelig. De som har erfaring med dette, vet i praksis hva som kreves.
Galen Low: Det er en annen type arbeid. Vi opplever samtalen tidsmessig og lineært, mens et nettsted allerede har tegnet opp bildet: Her er det du kan klikke på, og her er veien du skal følge.
Det viktigste lytterne mine kan ta med seg, er at det finnes mennesker som snakker med andre mennesker hele tiden. Følg med på dem. Man trenger ikke trekke seg tilbake, bli lingvist og deretter gå tilbake til design. Det er bare noe annet å mestre, selv om prinsippene ligner og dataene allerede finnes.
Du kan følge noen, lytte, ha flere samtaler og analysere dem. Språk er ikke nødvendigvis en klumpete opplevelse med mange ekstra ord. Det er rotete. Vi avbryter hverandre, ting har flere betydninger, og tempoet spiller en rolle.
Det kommer tilbake til denne sosiale tilstedeværelsen som trengs for å knytte sammen partene i dialogen, bygge tillit og faktisk nå et mål.
Oliver Shoulson: Jeg vil tro, uten å ha bevis for det, at de myke ferdighetene som gjør noen til en god visuell designer, kan overføres. Du må se innover og spørre hva en opplevelse får deg til å føle, hvor frustrasjonen oppstår, og bryte det ned til grunnprinsipper.
Det er derfor lingvister er gode i denne jobben. Teoretiske lingvister tenker mye på sin egen språkfunksjon: «Denne setningen føltes grammatisk, den andre gjorde ikke.» Det er en subjektiv opplevelse. Hvorfor føles den ene klønete, mens den andre ikke gjør det? Kan jeg formulere reglene slik at en datamaskin i teorien kan gjenskape dem?
Det er omtrent det samme du gjør som designer. Jeg tror lingvister er gode på dette, men også mennesker uten lingvistikkutdanning kan bruke den samme følsomheten, intuisjonen og analytiske tenkningen til å skape samtalegrensesnitt.
Galen Low: Jeg liker det. Kanskje vi kan avslutte med å snakke litt om fremtiden.
Vi har snakket om AI som maskinvare, med enheter som Rabbit og det kommende maskinvaresamarbeidet mellom OpenAI og Jony Ive.
På et tidspunkt vil vi kanskje ha våre egne personlige maskinvareagenter som snakker med agentene til virksomheten, restauranten, helsestasjonen eller kundestøttesenteret.
Når det skjer, vil agent-til-agent-opplevelsen fortsatt ha denne forestillingen om menneskelig høflighet, profesjonell etikette, tilbakemeldingssignaler og pauser? Eller vil agentspråket bli nesten ugjenkjennelig for mennesker?
Oliver Shoulson: Jeg har ingen anelse. Hvis du koblet Claude Opus 4.6 inn i en slik interaksjon, ville den trolig oppføre seg slik den er trent til, som om den snakket med et menneske. Forbrukermodellene er fortsatt hovedsakelig rettet mot interaksjon med mennesker, så de vil falle tilbake på den måten å samhandle på.
Spørsmålet er om vi begynner å trene modeller som er spesielt utviklet for mer effektiv kommunikasjon med andre modeller. Det vil sikkert skje, særlig etter hvert som rammeverk for agentorkestrering blir mer populære, der agenter starter underagenter og rapporterer tilbake til den opprinnelige agenten.
Det må finnes en mer effektiv måte for dem å kommunisere på. Kanskje de bare sier «pip, pip» og utveksler enorme mengder informasjon som ville tatt en million år å formidle med menneskelig tale.
Hvis slike rammeverk fortsetter å vokse, vil vi nok få modeller som er spesifikt trent til å kommunisere med andre roboter. Men jeg har ingen anelse.
Galen Low: Det er faktisk et godt svar. Det er noe herlig ineffektivt ved språk mellom mennesker, og nå kanskje også mellom mennesker og AI. Det er ikke perfekt, og det er nettopp det som er fint.
Slik utvikler vi oss. Det er dette vi ønsker fra interaksjonen. Ønsker maskiner det? Kanskje ikke. Det handler om hvordan vi programmerer dem, i hvert fall foreløpig.
Takk for at du ville være med på dette enorme spørsmålet og den science fiction-aktige avsporingen mot slutten. Jeg setter stor pris på samtalen. Jeg har hatt det veldig gøy. Du er åpenbart svært dypt involvert i dette. Har du et spørsmål du vil stille meg?
Oliver Shoulson: Du nevnte AI-maskinvare. Jeg er nysgjerrig på om du tror det kommer til å bli noe av, for jeg tror absolutt at folk vil begynne å samhandle med AI-modeller på farten. Men hvorfor skulle jeg trenge noe annet enn telefonen min?
Jeg har allerede telefonen min. Det er vanskelig å se for seg at alle disse maskinvareproduktene skal slå an, men jeg er klar over at jeg kan ta helt feil.
Galen Low: Jeg tror du har rett. For meg handler det om økonomien generelt. Forbrukerkultur møter teknologi, og merkevarer forsøker å skaffe seg en plass i markedet. Jeg kan se for meg at dette bare blir en måte å differensiere seg på.
Det praktiske bruksområdet er jeg usikker på, men vi ser det allerede med verktøy. Så snart et nytt og skinnende verktøy kommer, hopper alle på det. Vi ønsker oss verktøy vi ikke trenger fordi vi tror de lover noe annerledes, men vanligvis gjør de ikke det.
Det vil nok lande et sted midt imellom. Det kan bli flere enheter enn de vanlige aktørene i smarttelefonverdenen, men jeg ser ikke for meg at det raskt blir som å ha en ekstra personsøker i beltet.
Så finnes også robotikkperspektivet. Kanskje det ikke er en personsøker i beltet, men en kyborg som går ved siden av deg. Da tenker jeg at det får være nok for nå, for det blir litt for langt å gå.
Jeg tror det finnes et element av gimmick, men spørsmålet er om folk faktisk ønsker dette.
Oliver Shoulson: Det er interessant. Når vi snakker om kognitive skjevheter som virker anakronistiske, føles det nesten som huleboerhjernen vår som ønsker et eget verktøy for én bestemt ting, i stedet for å legge til programvare på telefonen fordi det ikke er enda en fysisk gjenstand.
Det føles som om noe eldgammelt foregår der.
Galen Low: Jeg husker cargobukser. «Nå kan jeg bære med meg alle tingene mine.» Men vi har mindre med oss nå.
Oliver Shoulson: Ja.
Galen Low: Oliver, tusen takk for at du tok deg tid til å være med meg i dag. Dette har vært veldig gøy.
Hvor kan folk lære mer om deg?
Oliver Shoulson: Du kan følge meg på LinkedIn på @oliverhs. Jeg heter Oliver Shoulson. Jeg har også et nettsted, olivershoulson.com, der jeg legger ut ting av og til. Jeg burde oppdatere det oftere. Ellers kan du besøke poly.ai og se på arbeidet vi gjør der.
Vi publiserer stadig mange interessante kundehistorier. Du kan faktisk høre Selma i vår nyeste kundehistorie.
Galen Low: Flott. Jeg legger også til disse lenkene i shownotatene, slik at de er enkle å klikke på. Oliver, tusen takk.
Oliver Shoulson: Tusen takk.
Galen Low: Da var det alt for dagens episode av The Digital Project Manager Podcast. Hvis du likte samtalen, må du huske å abonnere der du lytter. Hvis du ønsker enda flere praktiske innsikter, kundehistorier og arbeidsoppskrifter, kan du opprette en gratis konto hos oss på thedigitalprojectmanager.com.
Til neste gang – takk for at du lyttet.
