Prompt engineering

Prompt engineering er processen med at strukturere natursproglige input, kendt som prompter, med henblik på at få en generativ AI-model til at levere bestemte output. Kontekst-engineering er et beslægtet område inden for softwareudvikling, som fokuserer på styringen af den promptbaserede og øvrige kontekst, der leveres til den generative AI-model, såsom systeminstruktioner, metadata, API-værktøjer og tokens.

Prompt engineering kan også defineres som arbejdet med at udforme og forbedre de instruktioner, der gives som input til en generativ AI-model, så den producerer mere præcise, relevante eller brugbare output. Effektiv prompt engineering kræver en forståelse af, hvordan modellen fortolker sprog, og kan omfatte teknikker såsom few-shot-prompting, chain-of-thought-prompting og tildeling af roller.

Under AI-boomet i 2020'erne blev prompt engineering betragtet som en forretningskompetence på tværs af virksomheder og brancher. Medarbejdere med stillingsbetegnelsen prompt engineer blev ansat til at udarbejde prompter, som kunne øge produktiviteten og effektiviteten. Stillingsbetegnelsen er siden blevet mindre almindelig, i takt med at AI-modeller er blevet bedre end mennesker til at generere prompter, og virksomheder er begyndt at uddanne deres øvrige medarbejdere i prompting.

Almindelige promptingteknikker omfatter multi-shot-, chain-of-thought- og tree-of-thought-prompting samt tildeling af roller til modellen. Automatiserede metoder til generering af prompter, såsom retrieval-augmented generation (RAG), kan give større nøjagtighed og udvide de funktioner, som prompt engineers kan arbejde med. Prompt injection er en type cyberangreb, der angriber maskinlæringsmodeller gennem skadelige prompter.

Terminologi

Oxford English Dictionary definerer prompt engineering som "handlingen eller processen med at formulere og forbedre prompter til et program, en algoritme eller lignende baseret på kunstig intelligens med henblik på at optimere dets output eller opnå et ønsket resultat; samt den disciplin eller profession, der beskæftiger sig med dette". I 2023 blev ordet prompt, defineret som "en instruktion, der gives til et program, en algoritme eller lignende baseret på kunstig intelligens, og som bestemmer eller påvirker det indhold, systemet genererer", nummer to i kåringen af Oxfords årets ord.

Prompt

En prompt er en tekst på naturligt sprog, som beskriver og foreskriver den opgave, en kunstig intelligens skal udføre. En prompt til en tekst-til-tekst-sprogmodel kan være et spørgsmål, en kommando eller en længere formulering, der henviser til kontekst, instruktioner og samtalehistorik. Prompt engineering kan omfatte udformning af tydelige spørgsmål, forbedring af formuleringer, tilføjelse af relevant kontekst, angivelse af outputtets stil og tildeling af en rolle eller karakter, som modellen skal efterligne. Formålet er at lede modellen mod mere præcise, nyttige og ensartede svar.

Ved kommunikation med en tekst-til-billede-model eller en tekst-til-lyd-model indeholder en typisk prompt en beskrivelse af det ønskede output, eksempelvis "et fotografi af høj kvalitet af en astronaut, der rider på en hest" eller "lo-fi-elektronisk chillmusik med langsomt tempo og organiske samples". Prompt engineering kan anvendes på tekst-til-billede-modeller for at opnå det ønskede motiv, den ønskede stil, komposition, belysning og æstetik.

Teknikker

Almindelige betegnelser for specifikke teknikker inden for prompt engineering omfatter chain-of-thought, tree-of-thought og retrieval-augmented generation (RAG). En kortlægning af området fra 2024 identificerede mere end 50 forskellige tekstbaserede promptingteknikker, 40 multimodale varianter og et ordforråd på 33 betegnelser, som anvendes inden for forskningen i prompting. Dette fremhævede den daværende mangel på standardiseret terminologi inden for prompt engineering.

Vibe coding er en metode til AI-assisteret softwareudvikling, hvor en bruger beskriver det ønskede resultat i en prompt til en stor sprogmodel og lader modellen generere eller redigere koden. I 2025 blev "vibe coding" kåret til årets ord af Collins English Dictionary.

Kontekst-engineering

Kontekst-engineering er en beslægtet proces, som fokuserer på de kontekstelementer, der ledsager brugerens prompter. Disse omfatter systeminstruktioner, indhentet viden, værktøjsdefinitioner, sammenfatninger af samtaler og metadata om opgaven. Kontekst-engineering anvendes til at forbedre pålidelighed, sporbarhed og effektiv udnyttelse af tokens i produktionssystemer baseret på store sprogmodeller. Begrebet lægger vægt på operationelle metoder såsom budgettering af tokens, mærkning af kilder og oprindelse, versionsstyring af kontekstelementer, observerbarhed gennem logning af den leverede kontekst og regressionstest af konteksten. Testene skal sikre, at ændringer i den leverede kontekst ikke ubemærket ændrer systemets adfærd.