Prompt engineering

Promptengineering betyr enkelt sagt å stille gode spørsmål til AI. En prompt er innputen din med ditt spørsmål eller forespørsel.

Prompt engineering innebærer at vi tenker ut målrettede spørsmål og anvisninger for å hjelpe AI-modeller med å gi riktige svar under samtaler. Med bedre prompts får du bedre resultater.

Sammen med spesifikasjonene til den valgte modellen, avgjør dette kvaliteten på svaret.

Elementer av en prompt (spørsmål)

For å få bedre resultater bør du tenke på følgende punkter:

• Mål: hva vil du nøyaktig ha fra språkmodellen?
• Rolle: hvilken rolle har språkmodellen? (f.eks. 'Markedsanalytt', 'Juridisk rådgiver', 'Prosjektleder')
• Kontext: bakgrunnsinformasjon om forespørselen (f.eks. forretningsmål, prosjektdetaljer, markedsinformasjon)
• Stil: hvilken stil vil du bruke? (f.eks. formell, overbevisende, kortfattet)
• Output: hvilket format vil du ha? (f.eks. en rapport, e-post, presentasjonsutkast, kodebiter)

Målet

Å presist beskrive målet med spørsmålet er essensielt og kan ikke utelates.

Hva vil du vite?

• Faktaspørsmål kan være relevante, men vær oppmerksom på begrensningene (for eksempel oppdatert kunnskap mangler)
• Akkurat som i Google får du ikke nøyaktig samme svar hver gang du stiller spørsmålet
• Fordelen er chat-funksjonen slik at du kan stille oppfølgende spørsmål

Eksempel prompt med klart mål:

Prompt med bare mål

Gi en beskrivelse av hovedutfordringene ved implementering av en ny AI-plattform i et mellomstort selskap.

Å implementere en ny AI-plattform i et mellomstort selskap medfører ulike utfordringer. Noen viktige utfordringer er:

1. Motstand mot endring: Ansatte er vant til eksisterende prosesser og systemer. En ny AI-plattform krever tilpasning og kan møte motstand, spesielt hvis påvirkningen på arbeidsflyt ikke er tydelig.
2. Datakvalitet og -tilgjengelighet: AI-plattformer er sterkt avhengige av data. Innsamling, rensking og strukturering av data for den nye plattformen kan være kompleks og tidkrevende.
3. Integrasjon med eksisterende systemer: AI-plattformen må ofte integreres med andre forretningsapplikasjoner (ERP, datakilder, BI-verktøy). Dette kan gi tekniske utfordringer.
4. Kostnader: Utover lisenskostnader til plattformen kommer kostnader for implementering, opplæring, datainfrastruktur og muligens spesialisert personale.
5. Opplæring og adopsjon: Ansatte må få opplæring i bruk av den nye plattformen og i å tolke output. Uten god opplæring og kontinuerlig støtte kan adopsjonen være lav.
6. Valg av riktig plattform og brukstilfeller (use cases): Det finnes mange AI-plattformer og -teknologier. Å velge riktig plattform og definere relevante brukstilfeller som passer bedriftens behov og strategiske mål er avgjørende.
7. Etiske vurderinger og etterlevelse: Avhengig av bruken av AI-plattformen kan det være etiske spørsmål og compliance-krav (f.eks. GDPR) som må håndteres nøye.
8. Prosjektledelse: En vellykket implementering krever solid prosjektledelse, klare mål og involvering av interessenter fra ulike avdelinger.

Rolle og kontekst tillegges

Å legge til en rolle og kontekst gir bedre og mer spesifikke svar.

Eksempel på samme spørsmål men med rolle og kontekst:

Prompt med mål, rolle og kontekst

Som prosjektleder ansvarlig for implementeringen av en ny AI-plattform for dataanalyse og prosessoptimalisering hos en B2B-tjenesteleverandør med 150 ansatte, gi en beskrivelse av hovedutfordringene og mulige mitigationsstrategier.

Som prosjektleder for implementeringen av en ny AI-plattform for dataanalyse og prosessoptimalisering hos en B2B-tjenesteleverandør med 150 ansatte, ser jeg følgende viktige utfordringer og mulige mitigationsstrategier:

1. Motstand mot endring & Brukeradopsjon:
   • Utfordring: Ansatte, spesielt de hvis oppgaver direkte påvirkes, kan være motvillige til å forlate sine velkjente arbeidsmåter og omfavne AI-drevne innsikter.
   • Mitigasjon: Involver nøkkelbrukere tidlig. Kommuniser tydelig fordelene (effektivisering, bedre beslutninger, nye innsikter). Sørg for omfattende, rollebasert opplæring og kontinuerlig støtte. Utpek AI-kamper internt i avdelinger.
2. Datakvalitet, -styring og -migrasjon:
   • Utfordring: Effektiviteten til AI-plattformen avhenger av høy kvalitet, godt styrte data. Data fra eksisterende systemer er ofte inkonsistente, ufullstendige eller feilaktige.
   • Mitigasjon: Start med en grundig data-revisjon, definer et data-styringsrammeverk og gjennomfør dataopprensing før integrasjon/migrasjon. Definer klare datamodeller og flyt. Gjennomfør tester og valider data nøye.
3. Integrasjon med eksisterende IT-infrastruktur:
   • Utfordring: Koblinger til eksisterende datakilder, ERP, CRM og andre forretningssystemer må fungere sømløst og trygt.
   • Mitigasjon: Identifiser alle nødvendige integrasjoner tidlig. Velg en AI-plattform med robuste API-muligheter eller standardkoblinger. Test integrasjoner grundig.
4. Omfangskontroll & budsjettoverskridelse:
   • Utfordring: Under prosjektet kan nye ønskede AI-bruksområder oppstå som utvider omfanget og øker kostnadene.
   • Mitigasjon: Definer en tydelig avgrenset omfang med klare brukstilfeller (MVP - Minimum Viable Product) for første fase. Bruk en streng endringsstyringsprosess. Hold en realistisk prosjektplan og budsjett, inkludert buffer.
5. Valg av riktig teknologi og implementeringspartner:
   • Utfordring: AI-markedet er komplekst. Feil teknologivalg eller en erfaren partner kan føre prosjektet til mislykkes.
   • Mitigasjon: Gjør grundig research av passende AI-teknologier for definerte brukstilfeller. Velg en partner med dokumentert erfaring i din bransje og med valgte teknologier. Be om referanser.
6. Mangel på AI-kunnskap og -ferdigheter internt:
   • Utfordring: Det kan være utilstrekkelig intern ekspertise til å bruke, vedlikeholde eller videreutvikle AI-plattformen.
   • Mitigasjon: Invester i opplæring og kompetanseutvikling. Vurder å leie inn spesialisert personale eller samarbeid tett med implementeringspartneren for kunnskapsdeling. Skap en kultur for kontinuerlig læring.
7. Etiske vurderinger og forklarbarhet (Explainable AI):
   • Utfordring: Beslutninger tatt eller støttet av AI må være transparente og forklarbare, spesielt når de påvirker kunder eller ansatte. Data-bias kan føre til uriktige utfall.
   • Mitigasjon: Utarbeid etiske retningslinjer for bruk av AI. Velg der det lar seg gjøre modeller som er tolkbart. Implementer prosesser for å oppdage og mitigere bias. Sørg for menneskelig tilsyn ved kritiske AI-beslutninger.

Ved å ta disse utfordringene proaktivt, øker vi sjansen for en vellykket implementering av AI-plattformen som faktisk bidrar til forretningsmålene.

Teknikker

Nedenfor beskriver vi noen teknikker du kan bruke for mer avanserte prompts.

Teknik 1 - gi eksempler

For å sikre at språkmodellen følger samme stil som du ønsker, gi ett eller to eksempler.

Metoden kalles “one & few-shot prompting”

Teknik 1 - gi eksempler

Skriv en konsept-e-post til kunder om en forestående planlagt systemoppdatering. Bruk vår interne policy for kundekommunikasjon (legg relevante punkter fra policy inn). Bruk som stilguide denne nylige nyhetsbrevet, men ta ikke innholdsmessig informasjon om: (legg inn nyhetsbrevtekst)

Den fullstendige prompten er som følger:

Interne policy for kundekommunikasjon:

• Vær alltid profesjonell og høflig.
• Gi oppdateringer i tide om viktige endringer eller avvik.
• Tilby klar og kortfattet informasjon.
• Sørg for en løsning eller kompensasjon hvis aktuelt.

Bruk for stilen denne nyhetsbrevet, men bruk ikke informasjon fra dette nyhetsbrevet. Kjære kunde,

Vi vil gjerne informere deg om en kommende systemoppdatering som kan påvirke våre tjenester.

Dato og tid for oppdateringen: [dato og tid] Forventet varighet av avbruddet: [varighet] Berørte tjenester: [tjenester]

Under denne perioden kan vår tjeneste være midlertidig utilgjengelig. Vi gjør vårt beste for å begrense uletten og gjenopprette tjenestene så raskt som mulig.

Teknik 1 - svaret

Nedenfor er svaret språkmodellen gir på den utvidede prompten med eksempler

Kjære kunde,

Vi vil gjerne informere deg om en forestående systemoppdatering som kan påvirke vår tjeneste.

Dato og tid for oppdateringen: [dato og tid] Forventet varighet av avbruddet: [varighet] Berørte tjenester: [tjenester]

Under denne perioden kan vår tjeneste være midlertidig utilgjengelig. Vi gjør vårt beste for å begrense uletten og gjenopprette tjenestene så raskt som mulig.

Hvis du har spørsmål, blir du gjerne kontaktet oss.

Med vennlig hilsen, [Ditt navn] [Din stilling] [Bedriftsnavn] [Kontaktinformasjon]

Teknik 2 - gi mal

For å sikre at språkmodellen bruker et bestemt format, gi en mal og et eksempel. Dette får modellen til å forme/strukturere svaret på en bestemt måte. Du kan bruke svært forskjellige formater som kan være nyttige i situasjoner som:

• csv-output for import i Excel eller dataanalyseverktøy
• json-output for API-integrasjoner eller konfigurasjonsfiler
• Kalenderoppsett for et prosjektmøte

Eksempel prompt: Generer en liste med tre potensielle markedsføringskanaler for et nytt SaaS-produkt rettet mot SMBer. Formater svaret slik: Kanaal: Målgruppeomfang: Potensiell ROI: Nødvendige ressurser:

For eksempel: Kanaal: LinkedIn Advertising Målgruppeomfang: Spesifikke stillingstitler, industrier, bedriftsstørrelse Potensiell ROI: Høy, forutsatt målretting Nødvendige ressurser: Annonsebudsjett, innholdsproduksjon, kampanjestyring

Metoden kalles “output templates”

Teknik 2 - gi mal

Nedenfor er svaret språkmodellen gir på prompten med en output-template

Kanaal: Content Marketing (Blogg & SEO) Målgruppeomfang: Bedrifter som aktivt søker løsninger på problemene sine, organisk trafikk Potensiell ROI: Høy på lang sikt, bygger autoritet Nødvendige ressurser: Innholdsskrivere, SEO-spesialist, tid for nøkkelordforskning og innholdsutøvelse

Kanaal: Google Ads (Søk) Målgruppeomfang: Bedrifter som aktivt søker etter spesifikke nøkkelord relatert til SaaS-produktet Potensiell ROI: Moderat til høy, avhengig av konkurranse og CPC Nødvendige ressurser: Annonsebudsjett, nøkkelordforskning, landingssidesoptimalisering, kampanjestyring

Kanaal: E-postmarkedsføring (Lead Nurturing) Målgruppeomfang: Leads samlet inn via nettside, webinarer eller andre kanaler Potensiell ROI: Høy, effektiv for konvertering av leads til kunder Nødvendige ressurser: E-postmarkedsføringsplattform, innhold for e-postserier, segmenteringsferdigheter

Teknik 3 - hint gi

For å sikre at språkmodellen begynner og skriver på en bestemt måte, gi et hint. Her skriver vi hintet på slutten av prompten.

Eksempel prompt: Kan du oppsummere denne markedsundersøkelsesrapporten for meg? (lim inn relevante seksjoner av rapporten). Begynn svaret med: De viktigste funnene fra denne markedsundersøkelsen er:

• LIM INN TEKSTEN FRA RAPPORTEN

Metoden kalles “ cues og hints” Dette eksempelet bruker en fiktiv rapport.

Teknik 3 - hint gi

Nedenfor er svaret språkmodellen ga på prompten med et hint

De viktigste funnene fra denne markedsundersøkelsen er:

• Etterspørselen etter skytjenester for prosjektstyring i SMB-segmentet har økt med 35% de siste to årene.
• Viktigste beslutningsfaktorer for SMB-bedrifter er brukervennlighet, integrasjonsmuligheter med eksisterende verktøy, og pris.
• Konkurrent A har en markedsandel på 25%, etterfulgt av Konkurrent B med 18%. Det er rom for nye aktører som retter seg mot spesifikke nisjer eller gir en overlegen brukeropplevelse.
• De største utfordringene for SMB-bedrifter ved adopsjon av ny programvare er den første investeringen og tiden som kreves for opplæring av ansatte.
• Det forventes at markedet vil fortsette å vokse årlig med 15% de neste fem årene.

Teknik 4 - innhold splittes fra instruksjoner

Noen ganger er prompten lang på grunn av ekstra innhold og modellen kan ikke tolke nøyaktig hva du vil. Splitt derfor innholdet med tre sitattegn i begynnelsen og slutten av teksten som utgjør resten av promptens innhold.

Eksempel prompt: Kan du oppsummere denne artikkelen for meg? “”” (plasser artikkelteksten her). “”” Begynn svaret med: De viktigste punktene i denne artikkelen er:

Metoden kalles “content splitsing” Dette eksempelet bruker igjen en artikkel fra nettet: https://www.leraar24.nl/2619420/onderwijs-op-afstand-wat-hebben-we-geleerd/

Teknik 4 - content splitsen

Nedenfor er svaret språkmodellen ga på prompten med splittet innhold. Vi bruker tre anførselstegn eller tre stjerner for å skille konteksten i spørsmålet.

De viktigste punktene i denne artikkelen er:

• Under covid-krisen måtte lærerne tenke ut strategier og teknikker for å gjøre fjernundervisning så effektiv som mulig, mens foreldre tok en større rolle i å støtte barna.
• Viktige faktorer for vellykket fjernundervisning var å organisere en strukturert dagsplan, opprettholde åpen kommunikasjon mellom lærer og elev, og gjøre veloverveide valg om hvilke deler av undervisningen som kunne være online eller på papir.
• Utfordringer omhandler å finne måter å støtte sårbare elever og det ekstra presset som pålegges foreldre, spesielt de som også jobber hjemme.
• Det var en rask økning i digitalisering i skoler, med tilførsel av nye digitale verktøy og metoder. Artikkelen nevner eksemplet læreren Mandy de Vries, som til tross for kort erfaring i undervisning kunne hjelpe sine kolleger med sine digitale ferdigheter.
• Artikkelen fremhever også viktigheten av kontinuerlig kontakt og oppmerksomhet for elever, spesielt de i spesialundervisning, og gir praktiske tips for dette, både for lærere og foreldre.
• Til slutt håper artikkelen at foreldrenes engasjement i elevenes fjernundervisning også etter pandemien vil fortsette.

Teknik 5 - spør først om tilleggsinformasjon

Du kan gi instruksjoner om å stille tilleggsspørsmål før svaret genereres. Det hjelper språkmodellen med å finjustere og gjøre forespørselen mer spesifikk.

Eksempel prompt: “Jeg vil utarbeide et prosjektforslag for utviklingen av en ny mobilapp for intern kommunikasjon. Appen skal inneholde funksjoner for nyhetsoppdateringer, et smilordbok og direktemeldinger. Før du skriver prosjektforslaget, kan du stille meg noen tilleggsspørsmål for å forbedre forslaget?”

Metoden kalles “ask before answer prompting”

Teknik 5 - spør først om tilleggsinformasjon

Nedenfor er svaret språkmodellen ga på prompten med forespørsel om tilleggsinformasjon

Selvfølgelig! Her er noen spørsmål jeg kan stille for å forbedre prosjektforslaget:

• Hva er hovedmålet med den interne kommunikasjonsappen? (f.eks. økt engasjement, bedre informasjonsdeling, samarbeid)
• Hvem er den spesifikke målgruppen internt i selskapet? (f.eks. alle ansatte, spesifikke avdelinger, feltarbeidere)
• Finnes det eksisterende systemer eller plattformer som appen må integrere med? (f.eks. intranett, HR-system, Active Directory)
• Hva er budsjettet og ønsket tidsramme for utvikling og implementering?
• Er det spesifikke sikkerhets- eller compliance-krav appen må oppfylle? (f.eks. GDPR, dataretensjon)
• Hvilke nøkkelindikatorer (KPI) vil brukes for å måle suksess?
• Har du tanker om design eller merkevarebygging for appen? Skal den samsvare med bedriftsidentiteten?
• Er det en preferanse for utviklingsplattform (iOS, Android, cross-platform)?

Med disse tilleggsopplysningene får vi et bedre bilde av omfang og krav, og kan utarbeide et sterkere prosjektforslag.

Teknik 6 - emosjonell prompt

Du kan gi instruksjoner om å tilpasse tonen i teksten til følelsene som ligger til grunn, eller å fremkalle en spesiell følelsesmessig respons. Dette er nyttig for kundeservice, intern kommunikasjon eller markedsføring.

Eksempel prompt: “Jeg må skrive en e-post til en kunde som er misfornøyd med en nylig serviceavbrudd. Kunden har skrevet følgende: “”” … ””” (lim inn kundens tekst) Jeg vil at e-posten skal være empatisk, anerkjenne kundens frustrasjon, og tilby en konstruktiv løsning.”

Metoden kalles “emotional prompting” Dette eksempelet bruker en fiktiv klage.

Den komplette prompten lyder da:

Jeg må skrive en e-post til en kunde som er misfornøyd med en nylig serviceavbrudd. Kunden har skrevet følgende: """Kjære herr/fru,

Jeg er svært skuffet over den uventede serviceavbruddet i går ettermiddag. Dette har alvorlig forstyrret vår drift og ført til tidsrekvisjon. Vi stoler på deres tjenester og slike hendelser er uakseptable. Jeg forventer en tydelig forklaring og passende kompensasjon."""

Jeg vil at e-posten skal være empatisk, anerkjenne kundens frustrasjon, og tilby en konstruktiv løsning.

Teknik 6 - emosjonell prompt

Nedenfor er svaret vi fikk fra språkmodellen

Kjære [Kundens navn],

Takk for din henvendelse, og våre oppriktige unnskyldninger for serviceavbruddet du opplevde i går ettermiddag. Jeg forstår fullt ut din frustrasjon og den påvirkningen dette har hatt på din virksomhet. Vi beklager på det sterkeste at vi ikke møtte dine forventninger og våre servicestandarder.

Avbruddet ble forårsaket av [kort, tydelig forklaring på årsak, f.eks. en uforutsett teknisk feil i vårt datasenter]. Vi har iverksatt umiddelbare tiltak, og våre teknikere har jobbet hardt for å gjenopprette tjenesten så raskt som mulig. Tjenesten har vært helt oppe igjen siden [tidspunkt].

Vi tar denne hendelsen svært alvorlig og jobber allerede med å evaluere årsaken for å hindre gjentakelse i fremtiden.

For å dempe uletten noe, tilbyr vi deg gjerne [konkret forslag, f.eks. en rabatt på neste faktura / en gratis oppgradering i en måned / en tjenestekredit]. En av våre kontoadministratorer vil kontakte deg innen 24 timer for å diskutere dette personlig og besvare eventuelle ytterligere spørsmål.

Igjen våre unnskyldninger for uletten. Vi verdsetter din kundeforhold og streber etter å gi deg pålitelig service i fremtiden som du kan forvente.

Med vennlig hilsen,

[Ditt navn/Firmanavn]

Teknik 7 - flere versjoner

Du kan be om flere versjoner av et svar, slik at du har flere alternativer å velge mellom. For eksempel kan du få hjelp til å generere ulike markedsførings-slogans for et nytt produkt. Det finnes mange forskjellige vinkler, så det er nyttig å få flere alternativer. Dette kan kombineres effektivt med å sette modellen i en bestemt rolle og en systemprompt for å styre modellen videre.

Du kan lese mer om roller i den relevante artikkelen. Dette eksempelet med flere versjoner står helt nederst i artikkelen. Det blir ikke gjentatt her.

Teknik 8 - Kombinasjon med en systemprompt

Med en syste mprompt kan du gi kommandoer til AI-modellen. Det er en instruksjon du kan gi modellen for å forme oppgaven eller atferden til modellen spesifikt. Den kan angi hvilken type output du forventer fra AI-modellen. Dette er en måte å styre modellen på og hindre irrelevante eller uønskede svar.

Noen eksempler på enkle og generelle syste mprompter:

"Jeg vil at du skal være en vennlig og hjelpsom assistent."

"Hold alltid en profesjonell og respektfull tone i språket ditt."

"Fokuser på å gi konkrete, direkte svar uten unødvendige detaljer."

Syste mprompten setter faktisk tonen og forventningene for den spesifikke samtalen eller oppgaven du vil utføre med AI-modellen.

Du kan også tenke ut mer avanserte syste mprompter for spesifikke oppgaver, som å oppsummere en tekst: "Analyser den gitte teksten nøye og gi en kort, men informativ oppsummering av hovedpoengene. Identifiser kjernebudskapet og viktigste detaljer."

Syste mprompter har ikke like stor effekt i alle AI-modeller. Hos chatGPT fungerer det veldig bra, hos Claude også, hos andre modeller kaneffekten være mindre stor. Det er derfor interessant å prøve og se hvilken modell som fungerer best for ditt input.

Du kan sette en generell syste mprompt i preferanser, men det beste er å tenke ut disse syste mprompterne per oppgave du vil automatisere. Vi kaller dette roller.

Du kan lese mer om roller i den relevante artikkelen.