Etterspurte anvendelser

Etterspurte anvendelser

Det siste året har NorwAI blitt kontaktet av flere offentlige virksomheter og private foretak som ønsker et alternativ til de internasjonale modellene. 

De har i hovedsak hatt to ankepunkter mot de eksisterende, kommersielle modellene: 

  1. håndtering av sensitive og opphavsrettslig beskyttede data, 
  2. manglende kvalitet på norsk.

Henvendelsene tyder på at norske språkmodeller bør tilgjengeliggjøres på flere måter:

  • Generell, sentralisert norsk språkmodell som forvaltes som del av en nasjonal infrastruktur.

Noen ønsker en sikker norsk modell som kan gi bedre og mer pålitelige tekster på norsk. Modellene må gjøres tilgjengelige over API-er og i henhold til strenge norske standarder. Flere offentlige virksomheter har vært opptatt av dette.

  • Oppgave- eller domeneoptimaliserte modeller (fine-tuning).

Noen spør om NorwAI kan tilpasse modeller til bestemte formål eller oppgaver (f.eks. helsesektoren og byggenæringen), mens andre ønsker å gjøre tilpasningene selv og kjøre modellene lokalt uten deling av egne data. Både konsulentselskaper og faktiske brukere ønsker å gjøre tilpasninger av medium-store norske språkmodeller.

  • Modeller som brukes i kombinasjon med egne data.

Et eksempel på det er en teknikk som kalles RAG (Retrieval Augmented Generation), som gjør det mulig å hente ut relevante data fra et eget lokalt system og kombinere dette med språkmodellen for å skape gode svar. De lokale dataene er ofte sensitive, brukes ikke til å trene modellene og er normalt mer oppdaterte og spissede enn de som ligger i treningssettene.

Portrettbilde av Karl Aksel Festø
Karl Aksel Festø, engineering manager i DNB, sier at for bankens kunder at bankens evne til å fintune modeller og håndtere dem i Niorge er essensielt  når sensitive data skal håndteres.  
DNB er en av NorwAIs partnere og følger nøyte med på utviklingen av språkmodeller nasjonalt og internasjonalt.