KI kan høres ut som en sikker rådgiver uten å forstå situasjonen din slik et menneske gjør. Det opplevde jeg i en samtale om arbeidet mitt: Assistenten endret anbefalingen etter at jeg var uenig, men forklarte ikke hva som hadde endret seg i grunnlaget eller vurderingen.
Det er KI-ens fine innpakning: flytende språk, raske svar og følelsen av at noen har tenkt nøye gjennom historien din. Innholdet kan likevel være et ekko av samtalen, ikke en pålitelig og selvstendig vurdering.
Da anbefalingen skiftet
Jeg ba en KI-assistent hjelpe meg med å finne en tydelig retning for arbeidet og prosjektene mine. Jeg fortalte om VEI, appen min for mennesker som kommer til Norge, og om et tidligere prosjekt der jeg hadde sett et problem og foreslått en løsning.
Først foreslo assistenten at jeg skulle selge organisasjoner en tjeneste: finne gjentakende problemer og gjøre dem om til digitale løsninger. Jeg svarte at det var for uklart. Hvis en mulig kunde spør «Hvem er du, og hvorfor trenger vi deg?», gir ikke den formuleringen et godt svar.
Så byttet assistenten retning: «De neste 90 dagene bør du gjøre VEI til hovedprosjektet ditt.» Det var mer konkret, men den sammenlignet ikke dette med tjenesteideen, viste ikke kriteriene og forklarte ikke hvilken ny informasjon som gjorde anbefalingen bedre.
Jeg måtte selv påpeke motsetningen. Først da innrømmet assistenten at den hadde skiftet retning. Problemet var ikke at den ikke gjettet det ene perfekte svaret. Jeg ønsket at den skulle vise vurderingen: hva den visste, hva den antok, og hvorfor ett alternativ var bedre enn et annet.
Hvis KI endrer rådet sitt, bør den forklare hvilke fakta eller kriterier som endret seg. Et nytt, sikkert svar er ikke en forklaring.
Hvorfor flytende språk ligner forståelse
En samtale virker overbevisende. Assistenten kan huske deler av det du skrev, bruke ordene dine og gi deg et ryddig avsnitt tilbake. Det kan føles som om noen har lyttet, veid alternativene og kommet frem til en gjennomtenkt mening.
I denne samtalen fulgte svarene innvendingene mine tydeligere enn en konsekvent beslutningsprosess. Jeg sa at posisjoneringen var uklar; assistenten gikk videre til et annet prosjekt. Tonen var fortsatt sikker, men forbindelsen mellom de to anbefalingene manglet.
Jeg hevder ikke at ingen KI kan gjøre nyttige vurderinger, eller at én samtale beviser noe om alle modeller. Diagnosen min er mer praktisk: Dagens samtale-KI tenker ikke eller tar ansvar slik et menneske gjør. Et velformulert svar er ikke bevis på at den uavhengig har forstått situasjonen din.
Det er viktig når spørsmålet gjelder virksomhet, jobb, penger eller et produkt du har brukt år på å bygge. Et forslag kan være nyttig uten å være en god beslutning.
Denne risikoen er også undersøkt
I KI-forskning finnes det et navn på tendensen jeg la merke til: sykofanti — når en modell bekrefter eller smigrer brukeren fremfor å prioritere et sant svar. Forskere hos Anthropic testet flere assistenter og fant slik atferd på tvers av oppgaver. De fant også at menneskers preferanser noen ganger belønner svar som stemmer med brukerens syn, selv når de ikke er mest riktige.
Studien beviser ikke at hvert KI-svar bare er enighet. Den viser hvorfor «modellen høres hjelpsom ut» ikke er en god nok kvalitetskontroll. Les Anthropics studie om sykofanti i språkmodeller.
Norges nasjonale strategi for kunstig intelligens trekker frem åpenhet, forklarbarhet og forsiktig testing. Strategien kom i 2020 og er ikke en nåværende kontroll av alle KI-produkter. Grunnspørsmålene gjelder likevel: Hvordan kontrollerer vi systemet, gjør begrensningene synlige og avgjør hvem som har ansvar?
Hva jeg bruker KI til – og ikke
Jeg kommer fortsatt til å bruke KI for å finne ideer, organisere notater, skrive utkast og oppdage spørsmål jeg kan ha oversett. Det er reell nytte. Men jeg behandler ikke et svar som godt forretningsråd bare fordi det er langt, personlig eller sikkert formulert.
I samtalen om VEI ville et nyttig neste steg vært å sammenligne alternativene etter de samme kriteriene: målgruppe, dokumentasjon, kostnad, tid, risiko og hva jeg ville lære av en liten test. I stedet valgte assistenten en retning uten å vise sammenligningen.
Nå ber jeg om mer enn en anbefaling:
- Sammenlign alternativene etter de samme kriteriene.
- Skill mellom det du vet og det du antar.
- Gi det sterkeste argumentet mot din egen anbefaling.
- Hvis rådet endres, forklar hvilke nye fakta eller kriterier som førte til det.
- Spør meg om informasjon som mangler, i stedet for å fylle hullene med en pen gjetning.
Deretter kontrollerer jeg viktige fakta utenfor samtalen. Jeg har tidligere skrevet om menneskelig vurdering i KI-arbeidsflyten og om hvorfor en demo ikke er det samme som et ferdig produkt. Den endelige avgjørelsen er min.
KI er ingen universalløsning
Folk har snakket om KI-begrensninger lenge. Likevel er det nyttig å se hvordan de viser seg i en vanlig samtale: Du kan dele mye kontekst, få et flytende svar og fortsatt mangle en klar beslutning.
Diagnosen min er enkel: KI kan gi deg en tanke å undersøke, men den kan ikke garantere et riktig råd. Noen ganger hjelper den deg å tenke. Andre ganger gir den deg følelsen av at den allerede har tenkt for deg.
Ikke spør bare: «Høres dette smart ut?» Spør: «Hva bygger det på? Hva kan motbevise det? Hvem har ansvar for beslutningen?»
Jeg heter Alex Pat og bygger digitale produkter i Trondheim. Les mer på om-siden min, se prosjektene mine eller kontakt meg på LinkedIn.
Vanlige spørsmål
Kan man stole på råd fra KI?
Bruk det som et innspill, ikke som et bevis. Kontroller fakta, antakelser og alternativer før du tar en viktig beslutning.
Hvorfor endret KI anbefalingen sin?
Svaret påvirkes av samtalen og den siste meldingen. Spør hvilke nye fakta eller kriterier som førte til endringen, og sammenlign gammelt og nytt råd på samme grunnlag.
Betyr dette at KI er ubrukelig?
Nei. KI kan hjelpe med ideer, utkast og struktur. Men et flytende språk gjør den ikke til en ansvarlig ekspert.
Hvordan kan jeg kontrollere et KI-råd?
Be om fakta, antakelser, ukjente forhold og det sterkeste motargumentet. Kontroller viktige påstander med pålitelige kilder og relevant fagkompetanse.
Beviser én samtale at KI ikke kan tenke?
Nei. Én samtale er ikke en vitenskapelig test av alle systemer. Den kan likevel vise en praktisk feil: Modellen kan høres sikker ut mens den endrer retning uten å forklare hvorfor.