AI skal gjøre utvikling smartere. Ikke mer risikabel. Det er kjernen i det vi kaller Approved by Compendia.
Ansvarlig AI
AI endrer programvareutvikling i rekordfart. Nye verktøy gjør det mulig å utvikle raskere, automatisere mer og teste ideer tidligere enn før. Samtidig vokser også behovet for kontroll, sikkerhet og ansvarlighet.
For hva skjer når AI blir en del av HR-prosesser, medlemsdialog, kvalitetsstyring og andre virksomhetskritiske arbeidsflyter?
Hvordan vet man at løsningene er trygge? Hvem har kontroll på dataene? Og hvordan kvalitetssikres egentlig AI-generert kode?
I Compendia erfarer vi at fremtidens programvare ikke bare må være intelligent. Den må også være ansvarlig.
– I Compendia ser vi AI som en mulighet til å utvikle smartere, jobbe raskere og skape mer verdi for kundene våre. Samtidig kan det aldri gå på bekostning av tillit, sikkerhet eller kvalitet. Den balansen er svært viktig for meg, sier Fergal Purcell, CISO og leder for utvikling og AI i Compendia.
Han mener mange virksomheter nå står i et spenn mellom innovasjon og kontroll.
– Kundene våre har allerede høy tillit til Compendia og til måten vi håndterer viktige prosesser og data på. Etter hvert som AI blir en større del av programvare, er vårt ansvar å bygge videre på den tilliten.
For Compendia handler ikke dette bare om å ta i bruk ny teknologi. Det handler om hvordan teknologien utvikles, styres og kvalitetssikres.
Approved by Compendia
Dette betyr at AI-funksjonalitet og AI-assistert utvikling vurderes opp mot tydelige krav til sikkerhet, personvern, kvalitet og ansvarlig utvikling. Det gjelder både løsningene kundene møter, og hvordan Compendia selv jobber internt med utvikling.
– AI-generert kode kan være kraftfullt, men den må følge de samme forventningene som resten av kodebasen vår. Arkitektur, sikkerhet, kvalitet, designprinsipper og menneskelig gjennomgang gjelder fortsatt, sier Purcell.
Han er tydelig på at AI skal styrke fagmiljøene, ikke erstatte dem.
– AI bistår. Den erstatter ikke profesjonell dømmekraft.
Dette blir også stadig viktigere i takt med at EU AI Act nærmer seg, og Norge jobber med sin implementering av regelverket. Fremover vil virksomheter få langt større behov for transparens, dokumentasjon og kontroll rundt hvordan AI brukes.
Da holder det ikke å bare tilby AI-funksjonalitet.
Virksomheter vil vite hvordan data håndteres, hvilke modeller som brukes, og hvordan løsningene er bygget og kvalitetssikret.
Her mener Compendia at fleksibilitet blir viktig.
Plattformen deres er utviklet for å være uavhengig av AI-leverandør. Det betyr at kundene kan velge språkmodeller og AI-løsninger basert på egne behov og regulatoriske krav, inkludert europeiske alternativer der det er nødvendig.
– Kundene skal ikke låses til én AI-leverandør. De skal ha kontroll og valgfrihet, sier Purcell.
Samtidig mener han at mye av AI-debatten fortsatt handler for mye om hastighet og for lite om faktisk verdi.
– AI kan gjøre utvikling raskere. Men det gjør ikke nødvendigvis kundenes komplekse prosesser enklere. Det er der Compendia skal skape verdi. Ved å kombinere teknologi, domeneforståelse og tillit i løsninger som gjør krevende arbeidsflyter mer forståelige, kontrollerbare og trygge.
Dette ser man allerede i flere av løsningene Compendia utvikler og leverer i dag. Blant annet gjennom ai-assistentene HR Henry og Medlems-Morten og løsninger for AI-støttet samsvarsvurdering.
Fellesnevneren er ikke bare AI i seg selv, men hvordan teknologien brukes på en måte som er trygg, forståelig og nyttig for virksomhetene som skal leve med den i praksis.
Dokumentere kontroll, kvalitet og avsvarlighet
– Målet er ikke bare å kode raskere. Det er å bygge bedre SaaS-produkter med mer samarbeid, tidligere kundeinvolvering og den samme påliteligheten kundene våre er avhengige av, understreker Purcell.
Purcell tror fremtidens programvareutvikling vil bli stadig mer AI-assistert. Men han mener forskjellen mellom gode og dårlige løsninger etter hvert vil handle mindre om hvem som har flest funksjoner, og mer om hvem som faktisk kan dokumentere kontroll, kvalitet og ansvarlighet.
– Vår oppgave er å sørge for at AI også brukes på en ansvarlig måte. Altså at det er godkjent og Approved by Compendia.
Ofte stilte spørsmål
Ansvarlig bruk av AI handler om å utvikle og bruke AI-løsninger på en måte som ivaretar sikkerhet, personvern, kvalitet og menneskelig kontroll. Det innebærer blant annet å kvalitetssikre AI-generert kode, dokumentere hvordan AI brukes og sikre at teknologi ikke går på bekostning av tillit eller regulatoriske krav.
Virksomheter kan bruke AI trygt ved å ha tydelige krav til datasikkerhet, tilgangskontroll, kvalitetssikring og menneskelig gjennomgang. Det er også viktig å ha kontroll på hvilke språkmodeller som brukes, hvordan data behandles og hvordan AI-løsningene er utviklet.
AI-assistert utvikling betyr at utviklere bruker kunstig intelligens som støtte til kode, testing, dokumentasjon og automatisering. I riktig miljø, og med tydelige retningslinjer, kan AI skrive kode av høy kvalitet.
AI-generert kode må følge samme krav som resten av kodebasen: arkitektur, sikkerhet, kvalitet, eksisterende kodestil, UX- og designprinsipper og menneskelig gjennomgang. Den skal være bærekraftig, vedlikeholdbar og ikke skille seg ut som “AI-kode”.
AI bistår utviklingen, men ansvar og faglige vurderinger ligger fortsatt hos mennesker.
AI-generert kode må gjennom samme kvalitetssikring som annen programvarekode. Det inkluderer sikkerhetstesting, arkitekturvurderinger, designprinsipper og manuell kontroll fra erfarne utviklere. I tillegg bruker vi AI som en første kodegjennomgang for utvikleren, før koden sendes videre til ordinær review hos en annen utvikler.
EU AI Act er EUs nye regelverk for kunstig intelligens. Regelverket stiller strengere krav til transparens, dokumentasjon, risikovurdering og ansvarlighet ved bruk av AI, spesielt i virksomhetskritiske løsninger og systemer som behandler sensitive data.
AI-løsninger kan behandle store mengder virksomhetskritisk og sensitiv informasjon. Derfor er det avgjørende å ha kontroll på hvor data lagres, hvilke modeller som brukes og hvem som har tilgang til informasjonen.
AI kan effektivisere arbeidsprosesser og bistå med utvikling, men erstatter ikke profesjonell dømmekraft, domeneforståelse eller erfaring. De beste AI-løsningene kombinerer teknologi med menneskelig kompetanse og kontroll.
“Approved by Compendia” betyr at innhold, funksjonalitet eller løsninger som helt eller delvis er laget med AI, er vurdert og godkjent av fagpersoner i Compendia.
Det kan gjelde alt fra HMS-retningslinjer og juridisk innhold til apper og løsninger fra Compendia. Merket viser at Compendia står bak resultatet, og at det er kvalitetssikret opp mot våre krav til faglig presisjon, sikkerhet, personvern, kvalitet og ansvarlig bruk av AI.
Virksomheter bør velge AI-løsninger basert på sikkerhet, regulatoriske krav, fleksibilitet, integrasjonsmuligheter og kontroll over egne data. Det blir stadig viktigere å kunne dokumentere hvordan AI brukes, styres og kvalitetssikres.
Samtidig må virksomheten kunne holde tempoet oppe. Det krever ledere som forstår både mulighetene og risikoene ved AI, og som kan sette en tydelig, trygg og fremtidsrettet strategi for hvordan teknologien skal brukes.
Rask AI-utvikling handler om tempo og effektivitet. Ansvarlig AI-utvikling handler om tillit.
Både kundene og virksomheten selv må kunne stole på kvaliteten, nøyaktigheten og sikkerheten i det som utvikles med AI. Det krever tydelige krav, dokumentasjon, menneskelig vurdering og kvalitetssikring fra fagpersoner.
Over tid vil virksomheter ikke bare etterspørre nye AI-funksjoner, men trygghet for at løsningene er utviklet, kontrollert og godkjent på en ansvarlig måte.
Relaterte løsninger
AI-assistenten Henry
AI-assistenten Henry er utviklet for å avlaste HR-avdelingen.
Han gir ansatte raske og presise svar på spørsmål om ferie, interne rutiner, HMS og andre rutinespørsmål – helt uten ventetid
