Hvorfor AI-samtaler føles falske (og hvordan du løser det)

Galen Low: Hej, jeg hedder Galen, og jeg er den agentiske AI-drevne virtuelle podcastvært-avatar for Digital Project Manager. Bare for sjov. Men hvor meget vil du vædde på, at din oplevelse af denne podcast ville være anderledes, hvis du troede, at jeg bare var en AI? Det er det, vi dykker ned i i dag: principperne for, hvad der gør en samtale med AI god, kontra de uhensigtsmæssige, frustrerende og uhyggelige eksempler, som vi ser dukke op som memes i vores Instagram-feed.

Faktum er, at mange af os bliver bedt om at skabe agenter og AI-teammedlemmer, som vores kolleger og interessenter skal interagere med – og ikke kun tekstbaserede værktøjer, men også stemmebaserede. Men hvis det, vi bygger, tilfører for meget friktion til oplevelsen, kan disse værktøjer hurtigt ende med at samle støv på hylden over mislykkede AI-eksperimenter.

For at hjælpe os med at begynde at designe bedre interaktioner med AI har jeg inviteret en ekspert, der arbejder helt i frontlinjen inden for samtaledesign. Sammen vil vi udforske afkastet ved at skabe menneskelige, friktionsfri stemmeinteraktioner med AI, undersøge hvor designindsatsen begynder at give mindre udbytte, og vise hvordan nogle få små justeringer kan hjælpe dig med at bevæge dig væk fra den overdrevent hjælpsomme og behagesyge LLM-stemme, som mennesker begynder at hade.

Jeg håber, du vil nyde episoden.

Velkommen til The Digital Project Manager Podcast – programmet, der hjælper ledere inden for leverancer med at arbejde smartere, levere mere gnidningsfrit og lede deres teams med selvtillid i AI-alderen. Jeg hedder Galen, og hver uge dykker vi ned i strategier fra den virkelige verden, nye tendenser, gennemprøvede modeller og lejlighedsvise krigshistorier fra projektfrontlinjen. Uanset om du styrer massive transformationsprojekter, håndterer AI-arbejdsgange eller bare forsøger at holde kaos under kontrol, er du kommet til det rette sted. Lad os komme i gang.

I dag ser vi på den rolle, som samtaledesign spiller i, hvordan vi opbygger tillid til AI. Vi gennemgår de største fejl, teams begår, når de designer AI-oplevelser, der er centreret omkring samtaler, og hvordan de kan løses. Vi nørder med, hvorfor sprog og AI er noget komplicerede samarbejdspartnere, og vi kommer med nogle forudsigelser om, hvordan AI vil tale med anden AI i fremtiden.

Med mig i dag har jeg Oliver Shoulson, leder for agentdesign og -udvikling hos PolyAI. Oliver er lingvist og en førende tænker inden for samtalebaseret AI, og hans arbejde befinder sig lige i krydsfeltet mellem sprog, produktdesign og AI. Under sin tid på Yale fokuserede han på syntaktisk variation og undersøgte, hvordan talere konstruerer og arrangerer sætninger forskelligt inden for sprogets ellers strukturerede regler. Det er blevet yderst relevant i dag, hvor Oliver i sin rolle hos PolyAI hjælper teams med at bevæge sig væk fra kluntede scripts og uhyggelige dale og hen imod stemmeinteraktioner med AI, der faktisk føles naturlige og nyttige.

Oliver, tak fordi du vil være med i dag.

Oliver Shoulson: Tusind tak, fordi du inviterede mig. Det er virkelig dejligt at være her.

Galen Low: Det her er et virkelig interessant emne for mig. Jeg nød vores samtaler op til dette, fordi jeg fik lov til at nørde lidt. Jeg studerede en smule engelsk grammatik og lingvistik på universitetet.

Det var noget, der altid fangede min opmærksomhed. Jeg gik en anden vej og kastede mig over filmstudier. Men efterhånden som vi har bevæget os ind på denne vej med AI og chatbots, er alle disse interaktioner blevet mere flydende, og de følger ikke længere en fast syntaks. Jeg er virkelig begyndt at interessere mig for det igen. Så da dit navn kom op, tænkte jeg: "Hold da op, jeg er nødt til at tale med den her fyr."

Så tak for det. Jeg håber virkelig, at vi kommer vidt omkring. Der er masser af kaninhuller, vi kan dykke ned i, men jeg er projektleder, så for en sikkerheds skyld har jeg lavet en køreplan for os i dag. Til at begynde med ville jeg stille dig et stort og vanskeligt spørgsmål, som mine lyttere gerne vil høre dit syn på.

Men derefter tænkte jeg, at vi måske kunne zoome ud og tale om tre ting. For det første ville jeg tale om, hvorfor stemmeinteraktioner med AI er vigtige, og hvordan de allerede i dag skaber en konkret effekt for virksomheder og brugere. Derefter vil jeg gennemgå, hvad der gør en samtale god, og hvordan teams, der bygger en AI-agent eller et AI-teammedlem, kan undgå den uhyggelige dal, der får brugerne til at krympe sig. Til sidst vil jeg gerne høre dit syn på fremtidens interaktionsdesign, og om visuelle elementer måske begynder at spille andenviolin i forhold til samtalesprog. Hvad siger du til det?

Oliver Shoulson: Det lyder rigtig godt.

Galen Low: Fantastisk. Lad os komme i gang. Jeg tænkte, at jeg ville begynde med et stort og vanskeligt spørgsmål, men jeg vil tage tilløb til det, fordi mit netværk og de kredse, jeg færdes i, består af mange mennesker, der arbejder professionelt med digitale løsninger – folk, der bygger websites, digitale marketingkampagner og strategier for digital transformation.

Derfor spidsede vi ører, da overskrifterne begyndte at sige, at websites, som vi kender dem, snart vil ændre sig for altid, i hvert fald delvist takket være den måde, AI er blevet integreret i webbrowseroplevelsen på med ting som AI-oversigter, AI-browsere og AI-copiloter.

Så jeg tænkte, at jeg ville spørge: Hvor langt er vi fra et internet, hvor samtale erstatter navigation, og hvad kan holde os tilbage fra at nå dertil?

Oliver Shoulson: Ja. Jeg tror helt sikkert, at vi kommer til at se måder, hvorpå den måde, vi designer websider og internettet som helhed på, bliver tilpasset, så AI-agenter kan navigere i det.

Jeg tror, det er uundgåeligt, og det er sandsynligvis en god ting. Det vil i sidste ende øge den effektivitet, hvormed vores agenter og assistenter kan udføre opgaver for os. Når det er sagt, ved jeg ikke nødvendigvis, om jeg – eller nogen, jeg kender – ønsker et internet, som man kun taler med og aldrig ser.

Jeg vil sige, at designeres, interaktionsdesigneres og interface-designeres opgave mere generelt, uanset om man arbejder med samtaleinterfaces eller visuelle interfaces, er at bruge vores forståelse af de kognitive bias og den kognitive arkitektur, som mennesker anvender til at interagere med den virkelige verden, til derefter at skabe intuitive interfaces til interaktion med den digitale eller virtuelle verden.

I lang tid har vi haft virkelig dygtige designere af grafiske brugerinterfaces, som har fundet måder grundlæggende at appellere til og simulere interaktioner fra den fysiske verden på en webside, så navigationen blev intuitiv. Skydeknapper, kontakter og knapper er ting, vi er vant til at interagere med fysisk, og som vores kognitive arkitektur allerede har lært os at bruge til at navigere i verden. Derfor kan vi bare overføre dem til det digitale interface, og så bliver det intuitivt.

Vi behøver ikke lære en hel masse nyt om, hvordan vi interagerer med det. Og jeg tror, at vi med samtaleinterfacenes muligheder grundlæggende gør det samme. Vi appellerer bare til en anden del af den kognitive arkitektur, nemlig vores sproglige evner, som vi indtil for nylig ikke rigtig havde nogen måde at simulere realistisk på.

Det store gennembrud med store sprogmodeller er, at de – selv om de er massive, probabilistiske maskiner – med tilstrækkeligt meget data, træning og overvågning for første gang kan producere noget, der føles som naturligt menneskesprog. Det giver os endnu en måde at interagere med noget på, men jeg tror ikke, at samtale i sig selv er bedre end grafiske interfaces.

De appellerer bare til forskellige dele af den menneskelige oplevelse.

Galen Low: Jeg kan virkelig godt lide den kobling til ting fra den virkelige verden. Jeg er en digital type, så jeg tænker: "Ja, knapper, radioknapper, afkrydsningsfelter og skydeknapper." Jeg havde ikke engang koblet dem sammen før, men selvfølgelig har vi også de ting i det virkelige liv – fysiske kontakter og ting, vi interagerer med på den måde.

Og jeg er enig. Det giver rigtig god mening at sige: "Okay, vi har allerede denne sproglige evne, og vi kan bruge den som en del af en oplevelse til at interagere med noget." Men det bliver ikke nødvendigvis bedre, og det kommer heller ikke nødvendigvis til at erstatte noget. Vi har bare disse værktøjer til rådighed.

Oliver Shoulson: Ja. Jeg betragter mig selv som et meget visuelt menneske. Jeg er også billedkunstner i mit liv uden for arbejdet.

Galen Low: Nå ja.

Oliver Shoulson: Så jeg ville faktisk blive virkelig ked af det, hvis webdesign og grafisk design begyndte at spille andenviolin i forhold til samtale. Det er bestemt ikke mit mål som samtaledesigner, og jeg håber ikke, at det er andres mål heller.

Jeg synes, at begge dele er smukke områder, der kræver unikke og interessante færdigheder, og jeg håber, at de begge fortsat vil trives.

Galen Low: Det, jeg tænker på, er vores bekymring: Websites – folk besøger dem ikke længere. En del af økonomien omkring et website handler jo om klik, om at folk besøger selve websitet og ser interfacet.

Der tales lige nu om, at AI-oversigter eller en anden mekanisme kan fungere som en slags mellemliggende website, der ikke er under websiteejernes kontrol, og som måske har et andet interaktionsdesign end det, virksomheden oprindeligt havde til hensigt. Det kan blandt andet involvere samtale, fordi man måske henvender sig til Gemini eller sin foretrukne sprogmodel for at stille et spørgsmål.

Jeg tænkte, at jeg måske ville gå lidt ind i det spontant, men du er et visuelt menneske og sætter pris på visuelt design. Du er lingvist og sætter pris på samtaledesign. Og så er der intentionen hos den person, der har skabt en oplevelse, hvorefter der måske kommer en mellemmand, som abstraherer den til noget andet.

Er det okay? Er det et kompromis? Kunne det være en god ting?

Oliver Shoulson: Ja, det ved jeg ikke. Jeg har faktisk ikke tænkt så meget over det, så det her er også helt spontant for mig. Jeg håber, at dette mellemlag bliver en standarddel af branding og webudvikling for virksomheder, så de også får mulighed for at udøve en vis kontrol over det.

En af de ting, virksomheder virkelig begejstres over ved at designe et samtaleinterface – ligesom de altid har gjort med deres visuelle interfaces – er muligheden for at udvikle og præsentere en samlet brandidentitet. Og jeg forstår fuldstændig bekymringen for, at ens brandidentitet på en eller anden måde går tabt, bliver abstraheret eller fejlrepræsenteret i det mellemlag, og at den derefter enten forsvinder eller muterer til noget, man ikke ønsker.

Jeg forestiller mig, at bureauer, der bygger websites eller digitale tilstedeværelser for virksomheder, undersøger måder, hvorpå de fortsat kan udøve kontrol over det AI-opsummerings- eller AI-målrettede mellemlag, du taler om.

Galen Low: Det elsker jeg.

Brandets stemme er en del af det. Den er en del af oplevelsen. Vi beder bogstaveligt talt en assistent eller mellemmand om at sige: "Kan du læse websitet op for mig? Bare opsummer det. Fortæl mig, hvilke knapper der er." Vi får ikke den faktiske oplevelse, sådan som den blev designet.

Vi får information, som måske er hurtig og bekvem, men bestemt ikke nødvendigvis så tilsigtet som oplevelsen fra virksomheden. Det er måske en god overgang, selv om den ikke var planlagt. Jeg spekulerer på, om vi kunne zoome lidt ud, for dit arbejde hos PolyAI handler om stemmestyrede AI-brugeroplevelser, og i nogle tilfælde træder det i stedet for, at der er et menneske til stede for eksempelvis at tage telefonen på en restaurant, i en bank eller på en klinik.

Hvad ser du hos PolyAI, når det gælder de områder, hvor stemme-AI i dag skaber reel, konkret værdi for virksomheder og kunder? Og hvordan adskiller oplevelsen sig grundlæggende fra de chatbotoplevelser, vi har set gennem det seneste årti eller deromkring?

Oliver Shoulson: Du kan spørge enhver kontaktcenterchef, kontaktcenterleder eller leder af kundeoplevelser i en række forskellige brancher, og de vil fortælle dig, at folk stadig tager telefonen.

Du tror måske ikke, at det er tilfældet. Du kender måske mange mennesker, der hader at foretage telefonopkald. Det gør jeg bestemt. Men telefonen er stadig helt klart en af de primære kanaler til kundesupport. Som du antydede, er en af de store værdiskabende faktorer, som kunder naturligvis oplever ved at implementere denne type stemmeløsning, muligheden for at håndtere sæsonudsving, ændringer i volumen og den generelle udskiftning i kontaktcenterarbejde.

En af vores længstvarende kunder er for eksempel en stor detailhandelsvirksomhed, og deres travleste sæson ligger naturligvis omkring højtiderne, især Black Friday, hvor alle køber julegaver. Efter at være begyndt at samarbejde med os kunne de for første gang give deres callcentermedarbejdere fri på Black Friday ud over Thanksgiving.

Galen Low: Hold da op.

Oliver Shoulson: Den slags skaber værdi ikke kun for kunden og forbrugeren, men også for medarbejderne i kontaktcentret. Jeg ser mit arbejde hos Poly som et supplement til menneskelige kontaktcentre, ikke nødvendigvis som en erstatning for dem. Der vil altid være problemer eller behov hos kunder, som kræver menneskelig kontakt.

Jeg tror derfor, at de fleste af vores kunder ønsker – og at vi ønsker at levere – en måde at automatisere på og reservere kontaktcenterressourcer til de virkelig afgørende, komplekse brugerbehov, der kræver menneskelig kontakt, også selv om det måske kun er en mindre del af de faktiske henvendelser.

De fleste ringer ind med de samme 20 procent af problemerne. Hvis du kan automatisere de 20 procent, er det en enorm fordel for kontaktcentrene. En anden ting, jeg vil nævne, er, at stemme i højere grad end tekst giver mulighed for at udvikle en brandet oplevelse, hvor du ikke pludselig underordner den persona, holdning og identitet, som du har brugt så lang tid på at udvikle som brand, til den generiske, ekstremt passive og lidt smagsløse dialog, man kan forvente fra en generisk indpakket LLM i en chatbot.

Et eksempel er Fogo de Chão, den brasilianske steakhousekæde. De var meget optagede af ideen om faktisk at klone stemmen til Selma, som er en af deres mangeårige ledere inden for kundeoplevelser. Hun har været i virksomheden i årtier. Det, vi kunne gøre for dem, var at genskabe Selma som en AI-agent og lade hende være den, der tager telefonen, når folk ringer for at lave, ændre eller aflyse reservationer, spørge om loyalitetsprogrammer og den slags.

På den måde kunne de skabe en forlængelse af deres brandidentitet, som ellers ikke ville være mulig. De kunne give Selma, denne ene fremragende kvinde, en million flere stemmer, end hun kunne have haft på én gang, og mulighed for at interagere med en million flere mennesker, end hun kunne have haft på én gang. Det er noget, kunderne virkelig begejstres over, og det kan man ikke få fra tekst på en skærm.

Galen Low: Det er sjovt, for du nævnte LLM-stemmen, og jeg tror, at alle, der lytter med, tænker: "Ja, vi ved godt, hvad det betyder." Teknologien udvikler sig, men som vi talte om tidligere, er det stadig sin egen persona, som ofte begynder meget behagesygt.

Det er sådan lidt menneskepleaser-agtigt. Den har en personlighed, men det er måske ikke Selma. Det er måske ikke denne persons personlige oplevelse. Mange lyttere tænker sikkert: "Jeg er lidt træt af det. Jeg er træt af den LLM-stemme." Kan du forklare på et overordnet niveau, hvordan Selma kommer ind i systemet? Skal hun bare sidde i et studie og tale i en uge?

Oliver Shoulson: Når det gælder selve stemmen, altså stemmekloningen, kræver det en vis mængde træningsdata, hvorefter man træner en tilpasset stemmemodel på materialet, så man kan gengive hendes accent, hendes måde at udtale ting på og de små tøvelyde, hun bruger, når hun taler.

Når det gælder selve udformningen af en persona, er det her, samtaledesigneren kommer ind i billedet. Designeren arbejder med prompt-, genfindings- og sikkerhedsrammerne for faktisk at kontrollere, hvad modellen returnerer, og sammen med kunden finde frem til dens samtalestil. Vi har mange måder at justere de forskellige håndtag og indstillinger på for at bevæge os væk fra LLM'ernes standardadfærd. Det er også en af de ting, der gør specialtrænede interne modeller så nyttige, fordi vi kan gøre dem særligt følsomme over for personaprompter, samtalestil og måder at føre samtalen på – i stedet for kun at være meget følsomme over for instruktionsfølgning og ellers falde tilbage på den behagesyge, kedelige persona, vi er kommet til at forvente fra LLM'er.

Galen Low: Jeg kan godt lide det, fordi jeg normalt oplever, at vi med ordet sikkerhedsrammer mener sikkerhed, etik og den slags. Det, jeg forstår dig sige, er næsten, at der også skal være sikkerhedsrammer omkring, hvor meget personlighed man forsøger at udlede af de tilgængelige data.

For det kan naturligvis handle om sikkerhed, privatliv og etik, men også om noget så simpelt som: "Det var mærkeligt. En person delte pludselig alt for meget med mig i telefonen."

Oliver Shoulson: Ja, også sikkerhedsrammer omkring brandidentiteten. Vi ønsker naturligvis ikke, at modellen skal udlede personlige oplysninger, hallucinere eller sige noget, der kan få virksomheden i juridiske eller etiske problemer.

Men man ønsker også at beskytte det brand og den persona, som virksomheden har brugt så lang tid på at udvikle. Der skal også være sikkerhedsrammer for det. Det er også noget, der er på spil, når man sætter en LLM ind i systemet. Det tager vi meget alvorligt og bruger meget tid på at sikre er på plads.

Galen Low: Jeg vil gerne vende tilbage til noget, du sagde tidligere: at folk stadig gerne vil tage telefonen. Jeg kan godt forstå din pointe, men jeg tænker samtidig, at det er lidt mærkeligt. Jeg bryder mig ikke om telefonen. Af en eller anden grund er jeg modvillig over for den. Den er uforudsigelig, og jeg føler ikke, at jeg har nok kontrol. Kontrolfreaken i mig bryder sig ikke om telefonen. Men som du siger, vil folk gerne tage telefonen.

Hvorfor telefonen? Hvorfor er den ikke blevet en anakronisme som at sende en fax? Hvad tror du, der gør, at folk gerne vil tage telefonen og tale med et menneske?

Oliver Shoulson: Der findes et begreb inden for menneske-computer-interaktion. Det er faktisk et meget gammelt begreb, årtier gammelt, og det opstod omkring overvejelser om telefonsamtaler kontra samtaler ansigt til ansigt. Det kaldes social tilstedeværelse.

Det er betegnelsen for følelsen af at være sammen med en anden person, en følelse af at være sammen i realtid. Det er naturligvis noget subjektivt at måle, men der findes enorme mængder forskning, som viser, at en øget følelse af social tilstedeværelse hænger sammen med alle mulige positive kundeoplevelser og forretningsresultater.

Hvis nogen oplever en større grad af social tilstedeværelse i en kundeservicesamtale, er de mere tilbøjelige til at have tillid til og følge rådene fra den person, de taler med. Det fører naturligvis til færre gentagne henvendelser, fordi folk ikke fulgte instruktionerne, og til større tilfredshed med resultatet af samtalen.

Tilfredshed hænger generelt også sammen med denne følelse af social tilstedeværelse. Og afgørende i forbindelse med AI-interaktioner er, at folk føler sig mere sikre på, at de oplysninger, de har delt, bliver håndteret følsomt og omhyggeligt. Jeg forestiller mig derfor, at selv mennesker, der ikke elsker telefonsamtaler, kan forstå, at alle disse positive oplevelser og resultater, der forbindes med en større grad af social tilstedeværelse, får folk til at søge denne tilstedeværelse i deres interaktioner.

Jeg tænker på social tilstedeværelse som et spektrum. Den højeste grad er en samtale ansigt til ansigt. Du og jeg ser for eksempel på hinanden lige nu. Det er nok det næstbedste, vi kan få. Over telefonen er graden lidt lavere, og når man skriver sammen, er den nok lavest.

Folk leder altså efter måder at finde denne følelse af social tilstedeværelse i deres interaktioner.

Galen Low: Det er virkelig interessant at tænke på den sociale tilstedeværelses rolle. Mens du sagde det, tænkte jeg: "Hvor mange gange har jeg læst en e-mail uden at føle nogen form for ansvarlighed i realtid?"

Jeg skimmer den. Fulgte jeg instruktionerne? Jeg gjorde det sikkert forkert. Jeg er ikke fuldt engageret eller opmærksom, og jeg forventer eller føler ikke, at nogen på en måde tager sig af mig. Med social tilstedeværelse er det realtid. Jeg har en form for social høflighed eller forbindelse, der gør, at jeg bør lytte til personen og ikke bare halvt lytte og håbe, at jeg forstod instruktionerne rigtigt.

Der er også denne følelse af, at nogen er til stede og på en eller anden måde tager sig af mig. Noget mellem omsorg og service. De er der for at hjælpe. Jeg tænkte på, at det er en god grund til, at godt samtaledesign faktisk skaber social tilstedeværelse, fordi det gør interaktionen mere effektiv og mere virkningsfuld.

Det opbygger loyalitet, og det indlejrer tillid. Når man bare smider information ind i en chatbot, føles det som: "Jeg ved ikke, hvad de gør med de her data." Jeg tjekker browserlinjen fem gange for at sikre mig, at forbindelsen er sikker, før jeg sender noget.

Det er anderledes end den indbyggede tillid, der opstår, når der er social tilstedeværelse.

Oliver Shoulson: Jeg er glad for, at du nævnte design, for det strækker sig naturligvis ud over selve kanalen. Telefonen har måske større social tilstedeværelse end tekst, men der er også ting, vi som designere kan gøre for at fremkalde en større følelse af social tilstedeværelse.

Vi forsøger meget hårdt at sikre, at det altid føles, som om agenten ikke bare henter et standardsvar fra en dåse og gengiver reklamecopy ordret. Det er en fremragende måde at få det til at føles, som om personen ikke er sammen med dig i realtid. Der er ingen fornemmelse af kontakt, samarbejde eller fælles problemløsning, hvilket er det, vi gerne vil fremme.

LLM'er har mange naturlige standardmåder at interagere på, som kan underminere følelsen af social tilstedeværelse og få dem til at virke fjerne, distancerede eller uhyggelige. Den fortrolighed og sympati, man føler for agenten, er ikke helt på plads.

Design spiller derfor en enorm rolle ud over selve kanalen.

Galen Low: Det er en god pointe. Mange glemmer, at noget som ChatGPT og disse LLM'er er designet til næsten alle tænkelige anvendelser, mennesker kan udsætte dem for. De store teknologivirksomheder har bygget dem sådan for at indsamle data og øge brugen og udbredelsen af teknologien.

Men grundlæggende vil LLM-stemmen være den sikre stemme i enhver situation. Hvis du siger: "Jeg er bekymret for mit mentale helbred," eller: "Hvordan får jeg en cheeseburger fra den her restaurant?" – det er begge anvendelser, som teknologien skal kunne håndtere for alle. Selvfølgelig bliver stemmen sikker, behagesyg og lidt vaniljeagtig.

Det var sjovt at se, hvor hurtigt folk begyndte at sige: "Jeg træner min LLM til at være lidt ond." De ønsker faktisk ikke, at den skal være sød. De vil have den til at være en smule barsk. Det er, fordi den samme størrelse skal passe til alle anvendelser og alle brugere, så den bliver naturligvis lidt neutral.

Oliver Shoulson: Det er interessant, for jeg foretrækker naturligvis, at en stor sprogmodel modtager misbrug fra en vred kunde frem for et menneske. Men som designer – og jeg tror, mange brands ville være enige – ønsker man også, at selv LLM'en kan sætte grænser over for kunden.

Man ønsker ikke at lytte til opkald dag ud og dag ind, hvor folk råber, skriger og bander ad en AI, mens AI'en bare tager imod. Det føles dårligt for menneskehedens sjæl. Jeg synes stadig, vi bør støtte gode principper, og det er nok så tæt, jeg kommer på en normativ etisk holdning i denne samtale.

Vi bør fortsat fremme gode samtaleprincipper og ikke kun realistisk samtale.

Galen Low: Det er jeg helt enig i, for det, vi gør i enhver kanal eller kontekst, påvirker det, vi normaliserer. Tidligere har samtalebaserede interaktioner med teknologi ofte været frustrerende. Man har sine Alexaer og Siri'er og siger: "For pokker, Siri. Det var ikke det, jeg mente." Man ser folk være virkelig onde over for disse assistenter, næsten som i YouTube-kommentarer, og vi begynder at normalisere mobning og dårlig opførsel.

Det kommer til at sive ind i andre ting. Så da alle sagde: "Lad være med at sige tak til ChatGPT, for hver gang du gør det, er der ikke vand nok til at forsyne en landsby eller sådan noget," tænkte man: "Okay, så behøver vi vel ikke være høflige." Men det var ikke det, der blev sagt. Pointen var ikke at være ødsel med teknologien, fordi den bruger betydelige ressourcer. Men jeg er faktisk nysgerrig efter at høre din mening. Bør jeg sige tak til LLM'er?

Oliver Shoulson: Det er et sociolingvistisk spørgsmål. Jeg er sikker på, at der allerede forskes aktivt i netop spørgsmålet om, hvordan den måde, man interagerer med forskellige typer virtuelle assistenter på, enten foregriber, påvirker eller måske blot afspejler den måde, man interagerer med mennesker i den virkelige verden på.

Jeg føler, at jeg har set overskrifter om det, men jeg har ikke læst nogen egentlig god forskning. Jeg er sikker på, at den bliver lavet, så jeg vil ikke bare sidde her og spekulere, mens nogen skriver en ph.d.-afhandling om det på dit universitet.

Galen Low: Det er helt fair. Det indhold, jeg har set, har mest været uafklarede redaktionelle tankeeksperimenter, men jeg er enig med dig.

Der er sikkert nogen, der forsker specifikt i det. Det er måske også en god overgang, for du er uddannet lingvist og arbejder i frontlinjen med samtalebaserede AI-oplevelser. Jeg forestiller mig, at du ser mange mennesker – eller i det mindste er opmærksom på mennesker – der forsøger at udvikle naturlige og brugbare AI-værktøjer, som består den ubehagelige test.

Men du ser sikkert også mange, der snubler lidt. I min verden, projektledelse og digitale brancher, er beskeden ofte: "Hvis du vil være relevant, så byg en agent." Vi er ikke lingvister eller AI-eksperter, men vi får at vide, at vi skal bygge AI. Nogle gange bliver resultatet ikke godt.

Hvilke designfejl ser du oftest, når teams bygger AI-teammedlemmer eller AI-agenter, og hvilke af dem skaber den reaktion hos brugerne, hvor de tænker: "Det her føles mærkeligt"?

Oliver Shoulson: Jeg vil begynde med nogle mere kedelige ting, som skal være på plads, før de mere interessante og nuancerede ting kan gøre en forskel. Som du og jeg har demonstreret hele tiden, er talt samtale rodet. Den er fuld af afbrydelser og selvrettelser, hvor man siger noget forkert og går tilbage for at rette sig selv.

I en talt interaktion taler folk typisk i munden på hinanden, afbryder hinanden, eller der går højst to til tre hundrede millisekunder mellem hver taletur. Derfor er der et grundlæggende beregningsmæssigt og teknisk problem: Hvis vi skal kalde en stor sprogmodel mellem hver taletur, og der måske også er talegenkendelse og talesyntese i hver ende, er det meget beregning på meget kort tid.

Det er sjældent at se en stemme-AI-agent i verden, der har mindre end tre sekunder mellem hver taletur, og slet ikke hundrede millisekunder. Evnen til at håndtere samtalens naturlige flow er både et brugbarhedsproblem og et problem med den uhyggelige dal. Hvis jeg ikke kan afbryde, når jeg har brug for det, eller hvis agenten ikke kan afbryde mig for at afklare en misforståelse, eller hvis jeg afbryder agenten, og den ikke ved, hvor meget af sin tidligere ytring den nåede at sige, er det en teknisk udfordring.

Hvis jeg taler, og du afbryder mig, ved jeg, hvad du hørte, og jeg kan fortsætte, hvor jeg slap. Hvis jeg stiller et enten-eller-spørgsmål, og du kun hørte den første mulighed, før du afbrød og sagde ja, ved jeg, hvad du mente. En LLM ved ikke nødvendigvis, hvor meget af sin tidligere ytring du hørte, hvis den bliver afbrudt.

Hvis den siger: "Har du brug for at tjekke status på et nyt kort eller anmelde et mistet kort?" og du afbryder efter "tjekke status på et nyt kort" og siger: "Ja", ved den ikke, hvad du sagde ja til.

Galen Low: Hvad du sagde ja til, og hvad dit ja refererede til.

Oliver Shoulson: Netop, fordi den ikke nødvendigvis hører sig selv tale. Den slags dynamikker ved turtagning i samtaler er teknisk meget svære at få til at fungere. De skal være på plads, for at systemet kan navigeres i og bruges, men også for at undgå følelsen af en langsom og smertefuld interaktion, hvor man venter tre sekunder efter alt, hvad man siger, før agenten svarer.

En anden ting ved samtalens realtidsdynamik er, at vi ikke har en skriftlig registrering af, hvad der tidligere blev sagt, sådan som vi har, når nogen chatter med en chatbot. Det er en stor svaghed for store sprogmodeller, som grundlæggende stadig er tekstbaserede og i høj grad trænet på lange og strukturerede tekster.

Tekst med punktopstillinger, parenteser, afsnit og overskrifter er velegnet til at give information i et langt, struktureret format. Men sådan fungerer aktiv hukommelse ikke i en samtale i realtid. Hvis du skal give mig en tæt pakket information, eksempelvis en adresse, en URL eller et telefonnummer, følger vi flerskiftede rutiner for at formidle informationen og sikre, at modtageren har fået den.

Hvis du spørger efter en adresse over chat, kan jeg sende den, og du kan klikke på den og åbne Google Maps. I telefonen spørger jeg måske: "Har du noget at skrive den ned med?" Du siger: "Nej, lad mig lige hente noget." Jeg siger: "Selvfølgelig, jeg venter." Du kommer tilbage og spørger, hvad adressen er. Jeg giver dig husnummer og vejnavn. Du spørger, hvordan vejnavnet staves, og jeg staver det for dig. Det er en hel flerskiftet rutine, som bliver overflødiggjort af en kanal, hvor turtagning og den skriftlige registrering understøtter hukommelsen.

Det er den kedelige del. Derefter kan vi tale om de sjovere ting for mig som lingvist: nuancerne i talt samtale og samarbejdende dialog, som især påvirker problemet med den uhyggelige dal.

Galen Low: Jeg synes, det er fantastisk. Jeg havde aldrig tænkt på tempoet i turtagningen i en samtale. Jeg bruger ikke selv meget stemme-AI. Jeg skriver mest til en LLM som Gemini, ChatGPT eller Claude, og jeg er den person, der bare går væk. Jeg skriver noget, trykker enter og tænker: "Det tager nok lidt tid. Jeg går lige noget andet og vender tilbage."

Jeg har brugt det som en database, der henter information, men det er måske ikke målet, og det begrænser måske udbyttet af oplevelsen, fordi det ikke er en udveksling. Jeg delegerer bare en opgave, får et langt svar tilbage og kopierer det ind i noget andet. Det, jeg gør ved at skrive i tekstverdenen, er egentlig mere delegering end dialog.

Når det er en samtale, er der ting, der ikke ville fungere. Callcentermedarbejdere bruger små fyldord: "Fint. Ja. Jeg ville bare lige bekræfte..." eller: "Okay, lad mig lige slå det op i systemet." Så bliver de to- eller trehundrede millisekunder fyldt ud, så man mærker, at man interagerer.

Det er en interessant måde at tænke på dialogens momentum på.

Oliver Shoulson: I talt dialog har vi noget, der kaldes backchanneling. Det er, når du lytter til nogen og giver små verbale signaler for at bekræfte, at du stadig følger med, at den anden stadig har ordet, og at du forstår, hvad personen vil.

Der er situationer, hvor disse signaler forventes så meget, at der opstår problemer, hvis de ikke kommer på det forventede tidspunkt. Det var noget, jeg tidligt i min tid hos Poly forsøgte at løse. Vi bad folk om deres telefonnummer. Amerikanske og canadiske telefonnumre gives typisk som et områdenummer på tre cifre efterfulgt af en blok på fire cifre.

Der er en implicit forventning om, at den anden person bekræfter, at vedkommende har fået hver blok. Folk siger måske: "Mit nummer er et, to, tre," og holder så en pause. Hvis du ikke giver et backchannel-signal dér, og du tror, at personen er færdig, siger du måske: "Det er ikke et telefonnummer. Det var kun tre cifre." Modellerne skal derfor lære at give den slags feedback for at kunne håndtere et dataindsamlingspunkt uden at fejle.

Det, du sagde om at skrive en lang prompt og gå væk, fungerer heller ikke over telefonen. Sådan taler vi ikke. Vi er nødt til at finde måder at opdele informationsindsamlingen på og især formidle information på en måde, der er struktureret til behandling i realtid. Over tekst kan jeg gå ud og spise frokost og læse afsnittet bagefter, men sådan fungerer det ikke i en samtale.

Galen Low: Selvom du kalder det kedeligt, synes jeg, det er virkelig interessant. Timing er noget, folk ikke altid tænker på, når de designer samtaler i realtid. Det er en udfordring, fordi teknologien nogle gange ikke er hurtig nok.

Oliver Shoulson: Derfor må vi supplere den med fyldytringer eller forsinkelsesytringer. Det svarer til, hvad rigtige mennesker gør i realtid. Hvis jeg klikker rundt for at finde din konto i databasen, mens du er i telefonen, lader jeg dig ikke bare hænge. Jeg giver dig opdateringer om, hvad jeg gør: "Giv mig lige et øjeblik" eller "Det går lidt langsomt i dag."

Galen Low: Har du bygget en agent, der har den sang, jeg vil kalde "jeg er lige i gang med noget"? "Jeg klikker bare på den her ting. La la."

Oliver Shoulson: Det sjove er, at vi tidligere arbejdede mere med rigtige stemmeskuespillere, og vi bad dem helt sikkert om at bevare deres standardpersona, blandt andet ved at forlænge bestemte stavelser, når de tænkte. Det signalerer, at der foregår noget på den anden side, selv om du ikke kan se det.

Det bringer os ind på den anden gruppe af ting, jeg gerne ville tale om: de subtile måder, hvorpå mennesker følger regler for, hvordan sprog bruges i en kontekst.

I lingvistik kaldes dette underområde pragmatik. Det handler om, hvordan sprog faktisk bruges i en kontekst, og om de antagelser, vi gør os om vores samtalepartner, når vi deltager i det, vi kalder samarbejdende dialog.

Vi antager, at vores samtalepartner vil være så sandfærdig som muligt og give så meget information, som er nødvendigt, men ikke mere. Hvis man giver ekstra information, når den ikke er nødvendig, får man det, vi kalder samtaleimplikatur. Man ender med at antyde noget, fordi man giver mere information, end opgaven kræver.

Det er noget, LLM'er elsker at gøre, og de er trænet til det: at forklare alt, hvad de gør. De siger måske: "For at slå din konto op skal jeg bruge dit kontonummer. Kan du fortælle mig dit kontonummer?" Eller hvis de guider dig gennem en webside: "Klik på profilikonet øverst til højre. Sig til, når du har gjort det."

Det er scenebemærkninger til samtalen på en måde, som mennesker normalt ikke bruger, fordi det er overinformerende. Jeg behøver ikke fortælle dig, at du skal sige til, når du har fulgt en instruktion. Det ved du allerede. Hvis jeg fortæller dig det hver gang, antyder jeg, at du er dum.

Det samme gælder: "For at slå din konto op skal jeg bruge dit kontonummer. Kan du fortælle mig dit kontonummer?" Det er alt for meget forklaring. Bare spørg efter kontonummeret. Personen ved godt, hvorfor du spørger.

Det er en af mine store irritationer ved den måde, LLM'er interagerer på. Det betyder noget fra et brugeroplevelsesperspektiv, men det underminerer også følelsen af at være involveret i opgaven i realtid. Det er ikke sådan, to personer, der arbejder på den samme opgave, interagerer, fordi de deler en kontekst.

Når den fælles kontekst ikke antages, undermineres følelsen af social tilstedeværelse – følelsen af, at du og jeg er sammen i realtid og navigerer samarbejdende gennem opgaven. I stedet virker jeg som en enhed, der befinder sig et andet sted, som ikke er opmærksom på det, du er opmærksom på, og ikke ved det, vi begge burde vide i øjeblikket.

Det er den slags, jeg virkelig godt kan lide at nørde med, fordi det er så subtilt, men det betyder virkelig noget.

Galen Low: Det er sjovt, for mange, der ikke er så fortrolige med området, ville måske sige: "Det er godt. Vi bør tilføje flere ord, så folk får mere tillid til AI'en." Vi har designet det for at opbygge tillid, men faktisk svigter vi tilliden, fordi pragmatikken antyder, at der ikke findes et fælles niveau af forståelse, tillid eller kontekst.

Jeg har en model, som jeg har trænet ret dårligt, fordi jeg siger: "Vi bliver venner. Vi gør det her hver uge." Og hver gang jeg skriver til den, siger den: "Hej, det er dejligt at møde dig." Jeg tænker: "Nej, du er på mit team. Vi har gjort det her hver uge." Det trækker mig ud af konteksten og får mig til at tænke, at min samtalepartner ikke forstår den fælles kontekst. Så antager jeg også, at den intet ved, og interaktionen bliver performativ og irriterende.

Nogle gange er mindre mere. Byg den måde, du taler på, ind i agenten. Det kan faktisk skabe mere tillid og større udbredelse og få folk hurtigere frem til deres mål, end hvis du forklarede alt.

Den bør måske være forklarbar, hvis jeg spørger: "Hvorfor skal du bruge mit kontonummer?" Men det behøver ikke være standardinteraktionen at sige: "Hej, jeg er her for at hjælpe dig. Jeg skal bruge dit kontonummer. Bare rolig, jeg passer godt på det, forbindelsen er sikker..."

Oliver Shoulson: Helt sikkert. Jeg har ikke nødvendigvis en stærk holdning til, om en bot skal præsentere sig som en bot tidligt i samtalen. Der er argumenter for begge dele. Nogle bekymrer sig forståeligt nok om, at folk vil nægte at interagere med den, hvis den præsenteres som en AI-agent.

Andre bekymrer sig om gennemsigtighed og ønsker at sikre, at folk ved, hvilken type enhed de taler med. Det har jeg fuld forståelse for. Men den værste måde at gøre det på er: "Hej, du taler i øjeblikket med en AI-aktiveret virtuel assistent. Denne samtale bliver optaget..."

Vi skal stadig præsentere den så menneskeligt som muligt, ikke for at narre nogen, men fordi det sætter tonen for systemets muligheder og for den måde, man ønsker, at brugeren skal interagere med det på. Vil du have, at brugeren opbygger en relation til agenten, eller vil du have, at de behandler den som et gammelt IVR-system og råber nøgleord ad den?

Når vi har oplysninger i begyndelsen af en interaktion, forsøger jeg at integrere dem organisk i velkomstytringen. Giv agenten et navn. Sig: "Hej, jeg hedder Oliver. Jeg er den virtuelle assistent for virksomheden. Hvordan kan jeg hjælpe?" Eller: "Hej, jeg hedder Oliver. Jeg er virksomhedens AI. Hvordan kan jeg hjælpe?" Hold den første tur åben og så kort som muligt. Som du siger: Mindre er helt sikkert mere i samtaledesign.

Galen Low: Det er en virkelig god pointe. Målet er ikke at erstatte et menneske eller narre folk. Det er stadig en interaktion, der bruger naturligt sprog. Vi forsøger ikke at gøre forskellen umulig at opdage mellem menneskelige agenter og AI-agenter.

Vi ønsker bare, at det føles naturligt.

Oliver Shoulson: Præcis. Ingen får guldstjerner for at narre nogen. Det er ikke det, vi ønsker. Vi vil reservere menneskers problemløsende hjerne til den faktiske opgave og ikke til problemet med at navigere i interaktionen for at løse opgaven.

Når man ringer til en virksomhed og møder en telefonmenu, forsøger man at reverse-engineere, hvordan den person, der designede menuens formålskategorier, ville have placeret ens problem. Pludselig bruger man alle sine kognitive ressourcer på at navigere i interaktionen i stedet for faktisk at nulstille sin adgangskode eller løse problemet.

Målet er at lade folk bruge deres intuitive sproglige evner og deres intuitive kognitive evner til at håndtere interaktionen, så deres problemløsende hjerne kan fokusere på det, de faktisk forsøger at gøre.

Galen Low: Det er interessant, og jeg er enig. At bygge friktion ind i oplevelsen, når man bruger sin problemløsende hjerne på at reverse-engineere, hvordan oplevelsen er designet, er netop det, UX længe har handlet om at fjerne.

Hvorfor er samtale egentlig mere ideel til dette? Og hvorfor er den så svær at ramme rigtigt, når man designer oplevelsen?

Oliver Shoulson: Spørgsmålet om, hvorfor sprog er så svært at ramme og simulere, er en omskrivning af lingvistikkens grundspørgsmål: Hvordan modellerer vi den menneskelige sprogevne, måske på en måde, hvor vi derefter programmatisk kan gengive den i et computersystem?

Det fantastiske ved menneskets sprogevne er, at et barn i tre-, fire- eller femårsalderen er flydende i et sprog med forbavsende lidt eksponering sammenlignet med store sprogmodeller. Selv GPT-2 eller GPT-3 blev eksponeret for tusindvis og millioner af gange mere sprog, end et barn har været, når det er sprogligt kompetent.

Det får lingvister til at tro, at vi har en indbygget kognitiv arkitektur, som er udviklet til at tilegne sig sprog. Lingvistens opgave er grundlæggende at spørge: Hvad består denne arkitektur af? Hvilke håndtag og parametre kan indstilles? Hvilke operationer udfører hjernen, når den konstruerer en sætning og henter ord fra det mentale leksikon? Og hvordan kan vi modellere det, så en computer i teorien kan gøre det samme?

Gennembruddet i de seneste år er i sidste ende et gennembrud gennem rå kraft. Vi har ikke løst problemet mere end de store teoretiske lingvister, der stadig arbejder med det. Vi har opnået et ingeniørmæssigt gennembrud, hvor vi ved at bruge billioner af parametre og eksponere en model for hele internettet og hele den skrevne menneskelige teksthistorie kan få den til nogenlunde at gøre det samme, som et treårigt barn gør.

Problemet med sprog er altså langt fra løst. Grunden til, at vi bevæger os mod sprog, er, at vi pludselig har fået et gennembrud med denne tilgang gennem rå kraft, og det er meget nyttigt. Men jeg håber stadig, at vi vil fortsætte med at udvikle AI på en måde, der i højere grad modellerer, hvordan menneskelig kognition faktisk fungerer – det, som kaldes symbolsk ræsonnering.

Jeg tror, vi vil støde på aftagende udbytte eller en mur med LLM-tilgangen, hvor vi bare tilføjer flere parametre og træner på mere tekst. Når det gælder ræsonnering og evnen til at undgå de dumme fejl, som LLM'er konstant begår, vil der grundlæggende kræves en helt anden tilgang, som er tættere på den symbolske ræsonnering, mennesker bruger.

Galen Low: Det er vigtigt, fordi AI i dag er det ultimative partytrick. Det ser så kompetent ud, men vi har faktisk ikke knækket koden endnu.

Det er stadig de tidlige dage, og vores tilgang til modeller bliver nødt til at ændre sig. Vi kan kun komme et stykke med rå kraft, men det er meget imponerende. Ingen forsøger at narre nogen, men teknologien er fascinerende at bruge. Man tænker: "Den ved så meget, og jeg kan tale med den uden begrænsninger." Og så opdager man, at den tror, at fire plus to er syv. Det er en kognitiv afkobling.

Vi har fundet en måde at skabe en slags naturlig dialog på ved hjælp af rå kraft, så vi kan indsamle mere data og fortsætte med at forstå det. Det her er begyndelsen, ikke slutningen. Det er en god påmindelse for dem, der bygger disse systemer: Det handler ikke om, at du er dum. Sprog er komplekst, vores hjerner er komplekse, og der findes ikke én enkel måde at knække koden på, så man pludselig kan skabe den mest naturlige agent, menneskeheden har set.

Vi har talt om, at vi er vant til visuelt interaktionsdesign, som er modelleret efter vores interaktioner i den virkelige verden. Nu bevæger mange sig ind på et område, hvor de også skal tænke på samtale- og stemmeinteraktion. For teams, der er vant til at designe visuelle interfaces, hvad er så det største skift i tankegang, når de designer til stemme eller samtale?

Oliver Shoulson: Jeg tror faktisk bare, at det er forskellige færdigheder, som bestemt kan supplere hinanden.

Vi oplever information visuelt og sprogligt på meget forskellige måder. Hvis man taler med en visuel interaktionsdesigner, handler meget af arbejdet om at finde måder at repræsentere informationshierarkier visuelt på. Man får et todimensionelt, nogle gange simuleret tredimensionelt synsfelt, hvor man kan organisere og arrangere information hierarkisk på måder, der er intuitive for mennesker, eller som leder dem hen ad den vej, man ønsker, de skal følge.

Sprog og talesprog opleves lineært over tid, hvorefter hjernen analyserer det i hierarkiske strukturer. Det skaber meget tvetydighed i tale. Man kan sige: "Jeg så manden med den røde kikkert," og det kan betyde to ting. Enten havde manden den røde kikkert, eller også brugte jeg den røde kikkert til at se ham.

Det skyldes, at jeg kun siger en række ord, som du oplever i realtid, men der er to forskellige strukturer, som ordene kan repræsentere. Udtrykket "med den røde kikkert" kan knyttes til det at se eller til manden.

Det er altså bare en anden færdighed. Mit råd er at støtte sig til de mennesker, der allerede arbejder med talt sprog, for at identificere mønstre, randtilfælde og mulige friktions- eller forvirringspunkter. Brug jeres callcentermedarbejdere og dem, der skriver dokumentationen til dem.

Som samtaledesigner er der ikke noget bedre for mig end at følge en kontaktcentermedarbejder en hel dag, lytte til de faktiske samtaler, høre de faktiske spørgsmål og den måde, folk formulerer dem på, og høre, hvilke oplysninger de faktisk leder efter – ikke bare hvad virksomheden antager, at de leder efter.

Galen Low: Jeg kan godt lide det. Det er en anderledes opgave. Vi er nødt til at omsætte det til et visuelt kort i hovedet, fordi vi oplever det tidsmæssigt og lineært, hvor et website allerede viser os, hvad vi kan klikke på, og hvilken vej vi skal følge.

Det stærkeste, mine lyttere kan tage med, er måske: Der er mennesker, som hele tiden taler med andre mennesker. Læg mærke til dem. Interaktionsdesignere behøver ikke træde tilbage, blive lingvister og derefter vende tilbage til design. Det er bare en anden ting at mestre, mens principperne ligner hinanden, og dataene allerede findes.

Man kan følge medarbejdere, lytte, føre flere samtaler og analysere dem. Sprog er ikke nødvendigvis en oplevelse, hvor man bare tilføjer flere ord. Nogle gange er sproget rodet, vi afbryder hinanden, der er flere betydninger, og tempoet betyder noget.

Det kommer tilbage til den sociale tilstedeværelse, der er nødvendig for at forbinde parterne i dialogen, opbygge tillid og faktisk nå et mål.

Oliver Shoulson: Jeg vil forestille mig, at de bløde færdigheder, der gør nogen til en god visuel designer, kan overføres. Man spørger sig selv, hvad en oplevelse får én til at føle, hvor frustrationspunkterne er, og bryder det derefter ned til de første principper.

Det er derfor, lingvister er gode til dette arbejde. Mange teoretiske lingvister tænker over deres egen sproglige evne og siger: "Den sætning lød grammatisk for mig, mens den anden ikke gjorde." Det er en subjektiv oplevelse, hvor én ting føles akavet og en anden ikke gør. Hvorfor er det sådan, og kan jeg skrive reglerne på en måde, hvor en computer i teorien kan gengive dem?

Det er grundlæggende det, man gør som designer. Man behøver ikke en lingvistisk uddannelse for at anvende den samme følsomhed, intuition og analytiske tænkning på skabelsen af samtaleinterfaces.

Galen Low: Jeg kan virkelig godt lide det. Måske kunne vi afslutte med at tale lidt om fremtiden.

Vi har talt om AI, der manifesterer sig som hardware. Der findes enheder som Rabbit, og snart kommer der et hardware-samarbejde mellem OpenAI og Jony Ive.

Vi har talt om, at folk stadig gerne vil tage telefonen og have den sociale tilstedeværelse i deres oplevelse. Men på et tidspunkt får vi måske vores egne personlige hardwareagenter, der taler med agenterne hos virksomheden, restauranten, klinikken eller kundeservicecentret.

Når det sker, vil agent-til-agent-oplevelsen så fortsætte med den menneskelige høflighed, professionelle etikette, backchannels og pauser, vi har talt om? Eller bliver agenternes sprog næsten uigenkendeligt for os mennesker?

Oliver Shoulson: Det har jeg ingen anelse om. Hvis man satte Claude Opus 4.6 ind i en af disse interaktioner, ville den sandsynligvis opføre sig, som den er trænet til, altså som om den interagerede med et menneske. Forbruger-modellerne er stadig primært målrettet interaktion med mennesker, så de vil som udgangspunkt interagere sådan.

Spørgsmålet er, om vi begynder at træne modeller, der er udviklet specifikt til mere effektiv kommunikation med andre modeller. Det kommer sikkert til at ske, især når rammer for agentorkestrering bliver mere udbredte, hvor agenter starter underagenter og rapporterer tilbage til den oprindelige agent. Der må være en mere effektiv måde, de kan kommunikere på.

Måske siger de bare: "bip bop, bip bop" og udveksler en terabyte information, som det ville tage en million år at formidle med menneskelig tale. Hvis agentorkestrering og systemer med flere agenter fortsat vokser, får vi sikkert modeller, der er specifikt trænet til at kommunikere med andre bots. Men jeg ved det ikke.

Galen Low: Det er faktisk et godt svar. Der er noget vidunderligt ineffektivt ved sprog mellem mennesker og nu også mellem mennesker og AI. Det er ikke perfekt, og det er netop det, der er godt ved det. Sådan udvikler vi os.

Vil maskiner have det? Måske ikke. Grundlæggende programmerer vi dem sådan, i hvert fald indtil videre. Det er en interessant tanke: Er det, fordi mennesket er menneske? Ikke fordi sprog er perfekt, men fordi det er det, vi mennesker er gode til.

Tak, fordi du ville underholde det massive spørgsmål og den næsten science fiction-agtige tangent til sidst. Jeg har virkelig nydt samtalen. Jeg elsker at nørde med det her. Du er tydeligvis dybt involveret i området. Har du for sjov et spørgsmål, du gerne vil stille mig?

Oliver Shoulson: Du nævnte hardware-AI, og jeg er nysgerrig efter, om du tror, det fører nogen steder hen. Jeg tror helt sikkert, at folk vil begynde at interagere mere med AI-modeller på farten. Men hvorfor skulle jeg have brug for noget andet end min telefon?

Jeg har allerede min telefon. Det er svært for mig at forestille mig, at alle disse hardwareenheder virkelig slår igennem, men jeg er klar til at tage helt fejl.

Galen Low: Jeg tror, du har ret. For mig er der to ting. Den ene er økonomien generelt: Forbrugerisme møder teknologi, og brands forsøger at skabe sig en plads på markedet. Jeg kan godt se, at det kan skabe differentiering.

Det praktiske anvendelsesområde er jeg ikke sikker på. Vi ser allerede det samme med værktøjer, især inden for projektledelse. Så snart et skinnende nyt værktøj kommer ud, springer alle på det. Vi vil have værktøjer, vi ikke har brug for, fordi vi tror, de lover noget anderledes, men som regel gør de ikke.

Jeg tror, det lander et sted midt imellem. Der kan komme flere enheder end de sædvanlige aktører på smartphone-markedet, men jeg ser ikke hurtigt en ekstra pager på bæltet som noget oplagt. På et tidspunkt kommer robotteknologien også ind i billedet. Måske er det ikke en pager på bæltet, men en cyborg, der går ved siden af dig.

Så tænker jeg: "Okay, nu stopper jeg med at tænke på det for i dag," fordi det er for langt ude. Jeg tror, der både er et element af gimmick og et reelt spørgsmål om, hvorvidt folk vil have det.

Oliver Shoulson: Det er interessant. Når vi taler om kognitive bias, der næsten virker anakronistiske, føles det næsten som en hulemands-hjerne, der ønsker et dedikeret værktøj til én bestemt ting i stedet for bare at tilføje software til telefonen. Det føles, som om der foregår noget gammelt der.

Galen Low: Jeg kan huske cargo-bukser. Ideen var: "Nu kan jeg bære alle mine ting." Men vi har jo mindre og mindre brug for at bære ting.

Oliver Shoulson: Ja.

Galen Low: Oliver, tusind tak, fordi du brugte tid sammen med mig i dag. Det har været virkelig sjovt.

Hvor kan folk lære mere om dig?

Oliver Shoulson: Du kan følge mig på LinkedIn på @oliverhs. Oliver Shoulson er mit navn. Jeg har også en hjemmeside, olivershoulson.com, hvor jeg af og til lægger noget op. Jeg burde opdatere den oftere. Ellers kan du besøge poly.ai og se det arbejde, vi laver der.

Vi udgiver hele tiden interessante kundecases. Du kan faktisk høre Selma i vores seneste case.

Galen Low: Fantastisk. Jeg tilføjer også linkene til shownoterne, så de er nemme at klikke på. Oliver, tusind tak.

Oliver Shoulson: Tusind tak.

Galen Low: Så er det slut for dagens episode af Digital Project Manager Podcast. Hvis du nød samtalen, så husk at abonnere dér, hvor du lytter. Hvis du vil have endnu flere taktiske indsigter, kundecases og værktøjskasser, kan du oprette en gratis konto hos thedigitalprojectmanager.com.

Indtil næste gang – tak, fordi du lyttede.