AI går fra pilotprosjekt til drift

For mange virksomheter har de siste årene handlet om å komme i gang med AI. Fokuset har vært på lisenser og pilotprosjekter. Etter hvert som AI har blitt en integrert del av arbeidshverdagen, oppstår et nytt spørsmål. Hvor bør AI egentlig fungere?

AI brukes stadig mer til møteoppsummeringer, dokumentanalyse, research og automatisering. Hver forespørsel krever kapasitet. Derfor må virksomheter vurdere hvor AI-arbeidslastene kjøres, og hvordan det påvirker kostnader, ytelse og kontroll.

AI får sitt eget forbruksmønster

De fleste selskaper har allerede erfaring med å administrere skybruk. Ressurser kan skaleres opp og ned etter behov, men bruken må fortsatt overvåkes og administreres.

Noe lignende begynner å skje med AI.

Hver gang en ansatt stiller et spørsmål til en språkmodell, oppretter en agent eller automatiserer en prosess, brukes ressurser. En enkelt forespørsel utgjør sjelden en stor forskjell. Men når AI blir en del av hverdagen i alle deler av virksomheten, blir det samlede forbruket betydelig.

– Mange selskaper fokuserer på hvordan de skal bruke AI. Den neste diskusjonen vil handle om hvordan man skal håndtere og optimalisere bruken av AI på tvers av virksomheten, sier Kenneth Bojsen, VP Digital Workplace i Atea.

– Dette betyr ikke nødvendigvis at AI vil bli dyrt. Men det betyr at selskaper bør begynne å tenke mer strategisk på hvor de ulike AI-oppgavene utføres, fortsetter han.

Det handler ikke bare om lokal AI eller sky

Debatten om AI blir ofte innrammet som et valg mellom lokal prosessering på enheter eller skybaserte modeller. I praksis er virkeligheten mye mer nyansert. 

Noen AI-oppgaver egner seg godt for lokal behandling på den ansattes enhet. Det gjelder spesielt oppgaver som utføres ofte, behandler sensitiv informasjon eller krever rask respons.

Andre oppgaver krever tilgang til virksomhetens data, tett integrasjon med forretningssystemer eller mulighet til å kjøre egne AI-modeller. Da er eget datasenter eller privat sky ofte det naturlige valget.

For de mest krevende oppgavene vil det fortsatt være behov for de store skybaserte modellene. Det gjelder avanserte analyser, komplekse spørsmål og situasjoner der kapasitet og skalerbarhet er avgjørende.

– Det interessante spørsmålet er ikke om AI skal kjøres lokalt eller i skyen, men hvilke arbeidsbelastninger som bør ligge hvor. Fremtidens AI handler om fordelingen mellom enhet, datasenter og sky slik at det blir riktig balanse mellom ytelse, kontroll, datasuverenitet og kostnader, sier Bojsen.

Copilot+ PC er mer enn en maskinvareoppdatering

Når Copilot+ PC nevnes, dreier samtalen seg ofte om ny maskinvare. I et større perspektiv introduserer maskinen et lokalt AI-beregningslag direkte på den ansattes enhet.

Det betyr at utvalgte AI-oppgaver kan kjøres lokalt i stedet for å bli sendt til skyen. Dette kan bidra til raskere responstider, mindre avhengighet av nettverkstilkoblinger og nye muligheter til å jobbe med data nærmere brukeren.

Men lokal AI er ikke automatisk billigere, raskere eller tryggere.

– En NPU skaper ikke verdi i seg selv. Verdien oppstår bare når selskaper har identifisert de konkrete bruksområdene der lokal AI gir mening. Derfor bør ikke Copilot+ PC betraktes som et tradisjonelt maskinvareprosjekt, men som en del av selskapets overordnede AI-strategi, sier Bojsen.

Fra AI-strategi til AI-arkitektur

For mange virksomheter handler neste fase av AI mindre om nye verktøy og mer om arkitekturen som støtter dem. AI FinOps, plassering av arbeidslaster og beredskap blir viktige temaer når virksomheter skal balansere verdi, kostnader og kontroll.

Vi hjelper virksomheter med å oversette AI-ambisjoner til konkrete beslutninger. Målet er ikke nødvendigvis å flytte mer AI til enheter eller skyen. Målet er å sikre at hver arbeidsmengde håndteres på riktig sted.