Human Resources: Den beste ungdommen

En gang var jeg referanse for en tidligere kollega som søkte seg ny jobb. Jeg var godt forberedt før HR-konsulenten ringte, jeg ville hjelpe eks-kollegaen å få den nye jobben, han fortjente å komme seg videre.

Formuleringen «han er i alle fall den beste prosjektlederen jeg noen gang har sett i offentlig sektor» hadde jeg planlagt å avlevere tilforlatelig mot slutten av samtalen, i en akkurat passe avspent state of mind.

HR-konsulenten ringte, men anliggendet hennes var ikke å lytte etter underteksten i rosen jeg ga eks-kollegaen. Hun hadde bare ti punkter hvor hun ba meg rangere ham fra en til seks, og så sa hun takk og la på. Han fikk jobben.

Hun må ha vært det siste trinnet på den menneskelige HR-konsulent-utviklingsstigen, tenkte jeg senere.

*

IBM ville nok mene at de nye, KI-baserte HR-verktøyene kunne gjort dette bedre, og det er vanskelig å være helt uenig.

Tidlig vår 2024, mens EU-parlamentet er i innspurten med å vedta sin AI Act, går jeg tur i skogbrynet mens jeg lytter til en podcastsamtale Hans-Petter Dalen fra IBM har med KI-forsker Inga Strümke. Jeg er blitt så voksen at en gåtur er trim, en times podcast passe.

Vi i IBM holder oss konsekvent til begrepet Augmented Intelligence, ikke Artificial Intelligence, forteller Dalen i det som tilsynelatende er en bisetning, samtidig tar jeg stikkveien opp bak det hvite grendehuset. Det er her turen min alltid begynner.

Og jeg kan høre det: At det er her fortellingen til Dalen om hva KI er, alltid begynner. Fortellingen hans begynner på en stikkvei, en tilforlatelig bisetning om at det ikke er så presist å snakke om noen kunstig intelligens. Om noen annen intelligens. Maskinene som tenker for oss, er forlengelser eller utvidelser av oss selv.

Dypest sett er det menneskelige ressurser. Ingen steder er det vel lettere å se nytten av KI enn innen HR.

*

Jeg har vært i berøring med smarte HR-systemer noen ganger.

I forbindelse med et jobbintervju en gang måtte jeg, i tillegg til en grundig personlighetstest, utføre en interessant stresstest.

Testen gikk ut på å håndtere en stor mengde innkommende henvendelser i en illudert innboks, på begrenset tid, etter et relativt komplekst sett med kriterier som innebar å bestemme hvilken prioritet henvendelsene hadde.

Det var mulig å øve på forhånd i en testbase. Ved å bryte ned oppgaven oppdaget jeg at kriteriene fordret at man slavisk fulgte et system og ikke rokket ved prioriteringsrekkefølgen. Lavt prioriterte henvendelser måtte bli liggende igjen helt til slutt, selv om de var enklest å behandle raskt.

Dette var en kontraintuitiv arbeidsmåte som utløste en følelse av press, men samtidig var det den eneste måten å komme i mål med oppgaven på.

Jeg knekte altså koden på forhånd, og tegnet meg et fargekodet flytdiagram som jeg hadde liggende ved siden av PC-en. Under testen koblet jeg intuisjonen og «følelsen av å få ting unna» helt ut, jeg fulgte flytskjemasystemet mitt slavisk. Resultatet ble at jeg fullførte hundre prosent av oppgavene innenfor testens tidsfrist, uten feil. Det gikk akkurat på sekundet.

Dette, at noen oppnådde full score, hadde HR-konsulenten aldri tidligere opplevd noe i nærheten av, fortalte hun i jobbintervjuet jeg ble invitert til uken etter. Hun så forfjamset ut på den andre siden av møtebordet.

Samtidig kunne rekrutteringsverktøyet fortelle henne at arbeidstempoet mitt ikke var det raskeste. Hun smilte forsonlig da hun sa det, signaliserte at det ikke var verdens undergang.

Det hun ikke visste, fordi hun ikke forstod den primitive algoritmen rekrutteringsverktøyet baserte vurderingene på, var at dette trekket – mitt tilsynelatende ikke raske arbeidstempo – var en nødvendig følge av den eneste fremgangsmåten som kunne føre til full score.

Blindt lot hun systemet fortelle seg noe uriktig om meg. Jeg kikket på henne da hun kom med kommentaren, jeg la sikkert hodet litt på skakke, tenkte: Hun må få tro det hun tror.

Begynner jeg å kverulere autistisk på en filleting, da feiler jeg på det som er den egentlige testen, selv om HR-konsulenten som tror på det smarte systemet, ikke vet det: å vise meg som et samarbeidsvillig og romslig menneske.

Det var jo litt morsomt: Jeg måtte unngå å oppføre meg usosialt da hun feilbedømte meg på grunnlag av systemets påstand om mine menneskelige egenskaper, som jeg hadde fremvist ved å arbeide som en robot.

*

Ordene om datamaskiner med menneskelignende egenskaper plasserer seg i landskapet jeg befinner meg i, min egen store og menneskelige og subjektivt uoversettelige kontekst: livet mitt som jeg er kommet over halvveis i, småveiene i skogkanten, grusen som ligger igjen etter vinteren i undergangen ved fylkesveien.

Dalen og Strümke, to eksperter på generativ kunstig intelligens. En samtale for alle oss som lurer: hva er det, egentlig? Podcastverten fra Forbrukerrådet spør, de bytter på å svare, det kan høres ut som et samarbeid i opplysningens tjeneste.

Lyden av fottrinnene mine er ikke hørbar gjennom de støykansellerende øreproppene, verden omkring meg blir en kulisse til samtalen i ørene, gjør også ordene i samtalen til kulisser.

Jeg ser argumenter holdt opp som plakater, for å høste bifall, for å vise vei, for å overbevise, berolige, avsløre, i en dirrende tilslørt kamp, en kamp der det ikke er lov til å rope eller slå, vår tids kamp.

Når Dalen snakker, tar jeg meg i å hytte med neven, roper skjellsord ut i lufta foran meg.

Bryter ut i spontan applaus ved det sammenraste skuret i svingen etter en velplassert advarende tirade fra KI-forsker Strümke. Dump lyd av hanskekledte hender som klapper under åpen, gråkald himmel, lyd som ikke når fram.

Hører hvordan den ene av dem forstår hva som er i ferd med å skje, den andre ikke forstår det. Eller ser de ikke det samme? Er det som om de står med ryggen mot hverandre og ser ut over hvert sitt terreng, mens de diskuterer hvordan kartet skal tegnes. Den ene av dem ser ut over menneskenes verden.

*

Agenter for KI, spesielt de som snakker om helseteknologi og HR, bruker myke og menneskelige ord.

Hans-Petter Dalen snakker et utstudert menneskespråk. Vi i IBM, sier Hans-Petter. Bransjen som bygger robotene er mennesker av kjøtt og blod, med varme hjerter vil de gjøre verden bedre.

Han bruker ikke ord som rekrutteringsverktøy.

Ungdom, sier Hans-Petter. I en perfekt timet oneliner, et tilforlatelig vedheng han slenger på i forbifarten. Han snakker til deg som driver AS Hjørnestein, du som ønsker å bruke en robot til å ansette den beste ungdommen.

Tankene går til Ylvis-låta What’s The Meaning of Stonehenge, der et gospelkor plutselig bryter ut i en tekstlinje om Honda Civic, a car you can trust.

Det høres så fint ut sånn. Maskinen du kan stole på, som finner den beste ungdommen.

Jeg ser ungdommen samle seg foran meg og ta form. Han har livet foran seg. Kanskje han kan finne en fremtid i nettopp din bedrift.

*

Algoritmene tenkende HR-systemer bruker nå, kan ikke sammenlignes med det primitive rekrutteringsverktøyet jeg møtte for fem-ti år siden. Nå kan systemene faktisk – eller visstnok – gjenkjenne emosjoner basert på stemmeleie, for å nevne noe.

Faktisk, eller visstnok? Hvordan vet vi om maskinen har rett eller tar feil?

I bakkant et sted måtte det i så fall finnes en fasit, en emosjonsmanual, den fastlagte følelsesreferansen å plassere det enkelte menneskes følelser i forhold til.

Hvor ofte har jeg ikke undret meg over nettopp dette: Hvordan føles det å føle som en annen?

Uansett hvor avansert systemet er, dreier det seg om å kode gitte kriterier i algoritmen, og overlate vurderingen – og hvordan denne vurderingen omtolkes og formidles gjennom et formatert menneskespråk til HR-konsulenten – til maskinen. Før eller senere må mennesket overlate vurderingen til maskinen, stole på at dens konklusjoner er valide. At det den måler, er hva vi tror at den måler.

Når maskinen gir sin vurdering til HR-konsulenten, er det ikke snakk om en forlengelse av konsulentens sosiale og emosjonelle intelligens. Det vil per definisjon dreie seg om en avløsning av menneskets dømmekraft.

På et eller annet punkt slutter mennesket å tenke, hun overlater et strekk i tenkningen til maskinen. Hva skjer i den mørklagte strekningen?

I den mørklagte strekningen ligger et avgjørende brudd, et bunnløst juv, fordi maskinens tenkning bygger på bruddets logikk.

*

I disse dager, sommeren 2024, trer reguleringene i EUs AI Act i kraft.

Dalen representerer de gamle datafirmaene, IBMs tradisjon for ekspertsystemer med lukket kildekode. Det er ingen overraskelse at han har klokkertro på reguleringer. Hans variant av databransjen minner om eiendomsbransjen: Vi eier, vi forvalter.

Social scoring, racial bias, slikt som KI-styrte HR-systemer viser seg ofte å henfalle til, er jo ikke bra. Men null stress, med AI Act avverger vi kinesiske tilstander.

Sånt synes vi ikke er så fett i Europa, sier Dalen inn i øret mitt.

Nok en oneliner avlevert i en avspent state of mind, designet for å få hårene til å legge seg. Dette går bra, folkens, vi regulerer det. Vi skriver inn i EU-reglene at maskinene som måler, sorterer og bedømmer oss, ikke skal diskriminere oss.

Så underlig alt sammen blir idet Dalen avleverer onelineren sin på nytt noen sekunder senere. Noen snakket i munnen på ham den første gangen.

Han har kodet dette talepunktet med høy prioritering.

Han har visualisert podcastsamtalen som et fargekodet flytdiagram.

Han tar ikke sjansen på at budskapet skal unnslippe lytteren.

Sånt synes vi ikke er så fett i Europa, sier Dalen.

En identisk kopi på perfekt menneskespråk.

A déjà-vu is usually a glitch in the Matrix.

Jeg kjenner pelsen min stå.

*

I de siste, grusete bakkene ned mot fjorden må jeg bremse for ikke å miste fotfestet.

Vi er på vei ned i den uhyggelige dalen.

The uncanny valley er et begrep for grafen over menneskers emosjonelle respons på kunstige mennesker, som animasjoner eller roboter. Så lenge figurene er forskjellige nok fra oss selv, finner vi dem sympatiske nok. Men når de ligner oss for mye, men likevel ikke helt, våkner avskyen. Sympatikurven faller bratt.

Roboten som ligner mennesket, men ikke helt, akkurat for lite, akkurat for mye: Det er tvilen som er grobunn for uhyggen. Er du bestemor, eller er du en ulv? Er du mamma, eller er du en heks? Er du en selger av datasystemer eller er det datasystemet som selger deg?

Mennesket som ligner roboten. Hvem er du, og hva har du gjort med Hans-Petter?

Hvordan vet vi hva roboten vet, og hvordan vet vi at det den snakker om, er det vi har bedt den om å snakke om? Hvis den ikke kan forstå oss, hva betyr dens egne forsikringer om at den er til å stole på?

Uansett hvor mye de eksterne intelligensene vil oppleves som en forlengelse av menneskelig sanseapparat og tankekraft, ligger bruddet i kjernen. Det eneste maskinen kan forstå og forutsi, er det som lar seg bygge opp fra det binære enten-eller.

Den beste ungdommen finnes jo ikke, Hans-Petter? Maskinens øyne kan finne ham, ja, men likevel finnes han ikke her i menneskenes verden.

Hva skjer når en ungdom begynner å se seg selv med maskinens øyne?

*

Ved de gulmalte velhusene nede på Fjellstrand brygge var det bryggedans med trekkspill i bygdas velmaktsdager. Bakken de står på, hevet seg opp over vannflaten etter at isen trakk seg tilbake for ti tusen år siden; den har fortsatt å stige, langsomt, langsomt, helt siden isens tyngde sluttet å presse landet ned.

Jeg står ved vannkanten, tenker på jordbeskrivelse, geografi. På hva det vil si å rette blikket mot menneskenes verden, tegne kartet over den.

Vi står på en graf mens den løfter seg fra bunnen.

Den uhyggelige dalen er grunnere i 2024 enn noen gang tidligere. Vi blir mer og mer like hverandre, maskinene og vi. Det finnes en terskelverdi et sted, der hvor uhyggen ikke lenger gjør seg gjeldende.

Til slutt når solstrålene frem til den siste skyggelagte kurven, og alt ligger i strålende lys, uhyggen er fordrevet.

Hvor fordrives uhyggen til? Synker den ned i bakken, som et glemt minne fra en forbigått kultur? Et uleselig sedimentært lag, de som en dag graver den frem, vil ikke gjenkjenne hva det er.

Når bruddets logikk er gjennomført, kan skillet mellom oss og det aldri mer forklares.

Ingenting kan gjøre oss like, men forskjellen har gjort seg usynlig.

*

Stranda er tom, jeg har gått bort til stupetårnet. Dalen fra IBM ønsker å avslutte med å si at han virkelig er optimist på vegne av AI. Han høres ut som et menneske som tror at han mener det han sier.

Er det virkelig mulig at noen tror på dette her? At de generative modellene – maskinene som lærer seg selv å tenke, som kontinuerlig vil tildele seg selv forbedrede algoritmer og bestemme sin atferd ut fra mål vi mennesker om kort tid ikke lenger er i stand til å kjenne eller forstå – vil følge EU-direktiver?

Reguleringer av en slik selvgående dynamikk, det må være som å temme branner i Amazonas med stearinlysslukker. Et bilde på at det er mulig å håpe på det beste? Kanskje er det bra at mennesker fortsetter å håpe på det beste?

Jeg ser mot åslinjene som tegner seg på den andre siden av fjorden, Kolsåstoppen knekker slik den har gjort i hundrevis av millioner av år. Om det virkelig er sant at noen tror på dette her, da er mennesket ennå ungt.

Selv kjenner jeg meg gammel, for gammel, for pessimistisk, til å snakke om hva jeg tror om menneskeepoken som er på vei. Jeg snur meg og går, drar ut proppene og lar lydbølger fra omgivelsene fylle øregangen, treffe trommehinnen, sende fysiske signaler til nervesystemet, berøre tankebanene mine.

I de bratte bakkene hjem kjenner jeg varmen strømme fra musklene i beina. Tenker på en håpefull ungdom med livet foran seg. Ingen, ikke jeg heller, skal fortelle ungdommen hvordan fremtiden kommer til å bli.