Hvordan bygger man AI-løsninger som både er effektive, trygge og ansvarlige?

Ansvarlig AI

AI endrer programvareutvikling i rekordfart. Nye verktøy gjør det mulig å utvikle raskere, automatisere mer og teste ideer tidligere enn før. Samtidig vokser også behovet for kontroll, sikkerhet og ansvarlighet.

For hva skjer når AI blir en del av HR-prosesser, medlemsdialog, kvalitetsstyring og andre virksomhetskritiske arbeidsflyter?

Hvordan vet man at løsningene er trygge? Hvem har kontroll på dataene? Og hvordan kvalitetssikres egentlig AI-generert kode?

I Compendia erfarer vi at fremtidens programvare ikke bare må være intelligent. Den må også være ansvarlig.

– I Compendia ser vi AI som en mulighet til å utvikle smartere, jobbe raskere og skape mer verdi for kundene våre. Samtidig kan det aldri gå på bekostning av tillit, sikkerhet eller kvalitet. Den balansen er svært viktig for meg, sier Fergel Purcell, CISO og leder for utvikling og AI i Compendia.

Han mener mange virksomheter nå står i et spenn mellom innovasjon og kontroll.

– Kundene våre har allerede høy tillit til Compendia og til måten vi håndterer viktige prosesser og data på. Etter hvert som AI blir en større del av programvare, er vårt ansvar å bygge videre på den tilliten.

For Compendia handler ikke dette bare om å ta i bruk ny teknologi. Det handler om hvordan teknologien utvikles, styres og kvalitetssikres.

Approved by Compendia

Dette betyr at AI-funksjonalitet og AI-assistert utvikling vurderes opp mot tydelige krav til sikkerhet, personvern, kvalitet og ansvarlig utvikling. Det gjelder både løsningene kundene møter, og hvordan Compendia selv jobber internt med utvikling.

– AI-generert kode kan være kraftfullt, men den må følge de samme forventningene som resten av kodebasen vår. Arkitektur, sikkerhet, kvalitet, designprinsipper og menneskelig gjennomgang gjelder fortsatt, sier Purcell.

Han er tydelig på at AI skal styrke fagmiljøene, ikke erstatte dem.

– AI bistår. Den erstatter ikke profesjonell dømmekraft.

Dette blir også stadig viktigere i takt med at EU AI Act nærmer seg, og Norge jobber med sin implementering av regelverket. Fremover vil virksomheter få langt større behov for transparens, dokumentasjon og kontroll rundt hvordan AI brukes.

Da holder det ikke å bare tilby AI-funksjonalitet.

Virksomheter vil vite hvordan data håndteres, hvilke modeller som brukes, og hvordan løsningene er bygget og kvalitetssikret.

Her mener Compendia at fleksibilitet blir viktig.

Plattformen deres er utviklet for å være uavhengig av AI-leverandør. Det betyr at kundene kan velge språkmodeller og AI-løsninger basert på egne behov og regulatoriske krav, inkludert europeiske alternativer der det er nødvendig.

– Kundene skal ikke låses til én AI-leverandør. De skal ha kontroll og valgfrihet, sier Purcell.

Samtidig mener han at mye av AI-debatten fortsatt handler for mye om hastighet og for lite om faktisk verdi.

– AI kan gjøre utvikling raskere. Men det gjør ikke nødvendigvis kundenes komplekse prosesser enklere. Det er der Compendia skal skape verdi. Ved å kombinere teknologi, domeneforståelse og tillit i løsninger som gjør krevende arbeidsflyter mer forståelige, kontrollerbare og trygge.

Dette ser man allerede i flere av løsningene Compendia utvikler og leverer i dag. Blant annet gjennom ai-assistentene HR Henry  og Medlems-Morten og løsninger for AI-støttet samsvarsvurdering.

Fellesnevneren er ikke bare AI i seg selv, men hvordan teknologien brukes på en måte som er trygg, forståelig og nyttig for virksomhetene som skal leve med den i praksis.

Dokumentere kontroll, kvalitet og avsvarlighet

– Målet er ikke bare å kode raskere. Det er å bygge bedre SaaS-produkter med mer samarbeid, tidligere kundeinvolvering og den samme påliteligheten kundene våre er avhengige av, understreker Purcell. 

Purcell tror fremtidens programvareutvikling vil bli stadig mer AI-assistert. Men han mener forskjellen mellom gode og dårlige løsninger etter hvert vil handle mindre om hvem som har flest funksjoner, og mer om hvem som faktisk kan dokumentere kontroll, kvalitet og ansvarlighet.

– Vår oppgave er å sørge for at AI også brukes på en ansvarlig måte. Altså at det er godkjent og Approved by Compendia.