De fire søylene for pålitelig kunstig intelligens – og hvem som eier dem

Tillit til AI er ikke en følelse – det er noe du kan utforme med vilje (eller bryte ned ved et uhell). I denne episoden setter Galen seg ned med Cal Al-Dhubaib for å utforske «tillitsutvikling»: et felles verktøysett som hjelper tverrfunksjonelle team (utvikling, brukeropplevelse, styring, risiko og virksomhet) med å snakke om de samme tillitsrisikoene på det samme språket. De ser nærmere på hvorfor «kjedelig AI er trygg AI», hvordan sikkerhetsnett og overlevering til mennesker faktisk bevarer tillit, og hvorfor de største feilene ofte ikke skyldes modellen – men systemene (og insentivene) rundt den.

Du får også høre eksempler fra virkeligheten på hvordan tillit kan komme på avveie – fra skjeve resultater og hallusinerte «virkelighetsforvrengninger» til AI-assisterte leveranser som skaper nøyaktighetsproblemer – og hva prosjektledere kan gjøre for å forhindre at man begynner å skylde på hverandre når det skjer.

Listen and earn PDUs!

Our podcast is eligible for self-reported PDUs for maintaining your certification(s) from The Project Management Institute.

1 hour = 1 PDU under the category of Online or Digital Media in CCRS.

Find us under “The Digital Project Manager” (Provider ID: 5891)

Play Video

Dette lærer du

• Hva «tillitsutvikling» er – og hvorfor det egentlig er et felles rammeverk for kommunikasjon, ikke bare en teknisk sjekkliste
• Hvorfor «mindre AI» (strategisk minimering av AI) kan være den mest ansvarlige og effektive tilnærmingen
• Hvordan du utformer AI-opplevelser med forventningsstyring, beslutningsutforming, styring og tillitsinfrastruktur
• Hvorfor tydelig eierskap er viktig: Delt ansvar trenger fortsatt en ansvarlig eier
• Praktiske måter å måle tillit på gjennom forebygging av hendelser, observerbarhet og signaler fra brukeratferd
• Hvordan tillit varierer på tvers av kulturer og kontekster – og hvorfor det ikke finnes én universell definisjon som kan «kodes inn»

Viktigste poenger

• Tillit svikter som standard når ingen eier den. Cals poeng er direkte: Når tillit er «alles ansvar», blir den «ingen sitt ansvar». Team trenger en navngitt eier som sørger for at de riktige spørsmålene blir stilt – særlig når ting blir kompliserte og skyldfordelingen begynner.
• «Kjedelig AI» er ikke en nedgradering – det er risikostyring. Den tryggeste AI-en er ofte den minst prangende: snevert avgrenset, forankret i kontrollerte data og utformet med utveier. Hvis AI-opplevelsen din prøver å være ubegrenset og åpen, kan du overvelde brukerne og øke risikoen.
• Bruk «strategisk minimering av AI» for å beskytte resultatene. I prosjektet for behandling av transkripsjonseksempler var ikke 90 % nøyaktighet gevinsten – det var å vite hvilke 10 % som feilet. De sendte inndata med høyere risiko (som enkelte internasjonale eller ikke-standardiserte transkripsjoner) til en menneskekø i stedet for å gamble på automatisering.
• Sikkerhetsnett handler ikke bare om teknikk – de er også utforming av brukeropplevelsen. Eksempelet med Behr Paints «Chat Hue» viser hvordan tillit bygges med bevisste grenser: Løsningen kan anbefale farger, men overlater veiledning med høyere konsekvenser (som blanding eller påføring) til mennesker og unngår utrygge resultater eller resultater som ikke passer merkevaren.
• Styring handler om tre spørsmål, ikke et dokument på 200 sider. Cals praktiske rammeverk:
  1. Hva gjorde du på forhånd for å redusere skade?
  2. Hvordan vil du vite at den gjør feil i produksjon (observerbarhet)?
  3. Hva gjør du når den svikter – og har du stresstestet den planen?
• Tillitsmåling kan være overraskende velkjent. Utover «å unngå hendelser» kommer tillit til uttrykk gjennom hvorvidt brukerne kan nå målene sine, om de kommer tilbake, og hvor de faller fra. Hvis verktøyet ikke er nyttig, vil folk ikke «stole på» å bruke tid på det.
• Noen ganger handler tillitsproblemet om menneskelige insentiver, ikke om AI-en. Når folks bonuser eller prestasjoner står i fare, kan de være motivert til å avvise (eller sabotere) AI-anbefalinger. Tillitsutvikling må omfatte organisasjonsutforming, ikke bare modellutforming.
• Det finnes ingen enkeltstående moralsk «sannhet» som kan kodes inn. Eksempelet med etikken rundt selvkjørende biler tydeliggjør hovedpoenget: Tillit og etikk varierer etter kulturell kontekst. AI kan ikke på magisk vis «løse» tillit bedre enn mennesker hvis mennesker ikke er enige om hva tillit skal bety i utgangspunktet.

Kapitler

• 00:00 – Hva er tillitsstyring?
• 03:58 – Hvem eier tillit?
• 05:27 – AI-hendelsesdatabase
• 08:41 – Risiko i regulerte bransjer
• 10:34 – Strategisk minimering av AI
• 12:11 – Tillitsstyring definert
• 15:29 – Definering av rettferdighet
• 17:10 – Tillitens fire pilarer
• 18:03 – Behr Paint-saken
• 23:15 – Feil i tale-AI
• 25:53 – Styring i praksis
• 31:31 – Unngå å peke ut syndebukker
• 35:31 – Måling av tillit
• 37:46 – AI, etikk og kultur
• 42:13 – Hvorfor tillit er et rammeverk

Møt gjesten vår

Cal er en globalt anerkjent dataforsker, entreprenør og innovatør innen ansvarlig kunstig intelligens for strengt regulerte miljøer, blant annet helsevesen, energi og finansielle tjenester. Han leder arbeidet med AI og datavitenskap hos Further, en partner for digital transformasjon som hjelper noen av verdens mest anerkjente merkevarer med å skape smartere og mer personlige kundereiser ved hjelp av data og AI.

Før han begynte i Further, grunnla og skalerte Cal Pandata, et AI-design- og utviklingsfirma som samarbeidet med organisasjoner som Cleveland Clinic, Progressive Insurance og FirstEnergy, og som ble kjøpt opp av Further i 2024. Han er en ettertraktet hovedtaler om AI-innovasjon, styring og kompetanse, og når ut til tusenvis av ledere på store bransjearrangementer, blant annet MAICON, ODSC, AI Summit, TDWI og DataCamp.

Ressurser fra denne episoden:

• Bli med i Digital Project Manager-fellesskapet
• Abonner på nyhetsbrevet for å få våre nyeste artikler og podkaster
• Ta kontakt med Cal på LinkedIn
• Ta en titt på Further
• AI-hendelsesdatabase

Relaterte artikler og podkaster:

• Om podkasten