KB ONDERZOEKSKRONIEK       Ted van der Togt

SNUFFELEN AAN
PROMPT ENGINEERING

In alle media wemelt het van de artikelen over AI en large language models, en hoe die de toekomst van de mensheid gaan veranderen. Steeds meer ‘samenwerken’ met generatieve AI lijkt onvermijdelijk, maar zijn de tools nu al goed genoeg? Het is tijd om ze te gaan uitproberen.

In de rubriek
‘KB Onderzoekskroniek’ beschrijven medewerkers
van de afdeling Onderzoek van de KB, de nationale bibliotheek
hun resultaten, trends
en vondsten.

‘Als het een nicheonderwerp betreft, merk je dat je er niet veel meer uit terugkrijgt dan wat je erin hebt gestopt’

‘Mijn eerste prompt patterns leveren nog weinig tijdwinst op, maar de potentie ervan wordt me wel steeds duidelijker’

Deadlines naderen, en er moet nog iemand het volgende artikel voor de KB Onderzoekskroniek schrijven. Interessante onderwerpen genoeg, maar ja, dat schrijven hè. Het ene onderwerp mag nog niet omdat er eerst een wetenschappelijke publicatie aan vooraf moet gaan. Andere onderwerpen zijn nog te pril om er nu al over te publiceren. Ondergetekende steekt zijn hand op: ‘Zal ik me wagen aan het schrijven van een artikel met ChatGPT?’

In alle media wemelt het van de artikelen over AI en large language models (LLM’s), en hoe die de toekomst van de mensheid gaan veranderen. In het land der blinden is eenoog koning, en in het tempo waarin de ontwikkelingen nu gaan, weet je al snel iets wat een ander nog niet weet. Hoe het kaf van het koren te scheiden? Dat we in de nabije toekomst steeds meer gaan ‘samenwerken’ met generatieve AI lijkt onvermijdelijk, maar zijn die GPT-tools nu al goed genoeg? Het is tijd om ze te gaan uitproberen.

LLM TRAINEN MET EIGEN ARTIKELEN
Na wat snuffelen besluit ik een online cursus Prompt Engineering te gaan volgen bij de Vanderbilt University. Het werken met LLM’s heb ik nooit geleerd, en het kan mijns inziens geen kwaad om daar eerst maar wat mee te gaan oefenen. Prompts zijn instructies die aan een LLM worden gegeven om uitvoer te genereren. Al snel begin ik wat te leren over hoe je zo’n LLM kunt bijtrainen met eigen recente artikelen. Als het een nicheonderwerp betreft, merk je dat je er niet veel meer uit terugkrijgt dan wat je erin hebt gestopt, maar je voorkomt wel dat ChatGPT zelf wat gaat verzinnen. Het herschrijven van teksten voor verschillende soorten publiek blijkt wel aardig te werken, net als het herstructureren, samenvatten en aandragen van alternatieve titels.

PROMPT PATTERNS BOUWEN
Net als je losse instructies in software kunt combineren tot programmamodules, kun je prompt patterns bouwen die je (met wat aanpassing) steeds kunt hergebruiken. Een voorbeeld van een prompt pattern is de ‘samengestelde instructie’: Van nu af aan acteer je als mijn schrijfhulp die me helpt bij het schrijven van een artikel op een eenvoudig taalniveau. In eerste instantie blijf je vragen stellen over het onderwerp tot je voldoende informatie hebt om een artikel van duizend woorden te schrijven. Dan genereer je een outline die we samen punt voor punt uitwerken. In A Prompt Pattern Catalog to Enhance Prompt Engineering with ChatGPT (gepubliceerd door de docent die de cursus geeft) zijn nog veel meer voorbeelden te vinden, en ook elders zien we prompt repositories verschijnen.

GPT STORE GEOPEND
Mijn eerste prompt patterns leveren nog weinig tijdwinst op, maar de potentie ervan wordt me wel steeds duidelijker. Het zelf bouwen blijkt een leerzaam experiment, maar uiteraard hebben commerciële bedrijven dit kunstje ook door en kun je al tools kopen die op een vergelijkbare manier zijn gemaakt. Nu OpenAI begin dit jaar de GPT Store heeft geïntroduceerd, een online shop voor het aanbieden van aangepaste chatbots, wordt het vinden van tools nog makkelijker. Waar andere partijen zoals Google mee gaan komen, dat zullen we moeten zien, maar 2024 wordt sowieso een spannend jaar voor AI. 

Hoe snel we zelf dit soort tools intensief gaan gebruiken in ons dagelijkse werk is voor mij nog steeds een vraag, maar experimenteren en ervaringen delen gaan we zeker doen. Wie weet laten we eind dit jaar het artikel voor deze rubriek wel helemaal schrijven door een bot.

Benieuwd naar andere afleveringen van de KB-onderzoeksrubriek? Je vindt ze in het online archief op informatieprofessional.nl. <

IP | vakblad voor informatieprofessionals | 01 / 2024

Ted van der Togt
Onderzoeker bij de KB, 
de nationale bibliotheek

KB ONDERZOEKSKRONIEK       

SNUFFELEN AAN
PROMPT ENGINEERING

In de rubriek
‘KB Onderzoekskroniek’ beschrijven medewerkers
van de afdeling Onderzoek van de KB, de nationale bibliotheek
hun resultaten, trends
en vondsten.

Deadlines naderen, en er moet nog iemand het volgende artikel voor de KB Onderzoekskroniek schrijven. Interessante onderwerpen genoeg, maar ja, dat schrijven hè. Het ene onderwerp mag nog niet omdat er eerst een wetenschappelijke publicatie aan vooraf moet gaan. Andere onderwerpen zijn nog te pril om er nu al over te publiceren. Ondergetekende steekt zijn hand op: ‘Zal ik me wagen aan het schrijven van een artikel met ChatGPT?’

In alle media wemelt het van de artikelen over AI en large language models (LLM’s), en hoe die de toekomst van de mensheid gaan veranderen. In het land der blinden is eenoog koning, en in het tempo waarin de ontwikkelingen nu gaan, weet je al snel iets wat een ander nog niet weet. Hoe het kaf van het koren te scheiden? Dat we in de nabije toekomst steeds meer gaan ‘samenwerken’ met generatieve AI lijkt onvermijdelijk, maar zijn die GPT-tools nu al goed genoeg? Het is tijd om ze te gaan uitproberen.

LLM TRAINEN MET EIGEN ARTIKELEN
Na wat snuffelen besluit ik een online cursus Prompt Engineering te gaan volgen bij de Vanderbilt University. Het werken met LLM’s heb ik nooit geleerd, en het kan mijns inziens geen kwaad om daar eerst maar wat mee te gaan oefenen. Prompts zijn instructies die aan een LLM worden gegeven om uitvoer te genereren. Al snel begin ik wat te leren over hoe je zo’n LLM kunt bijtrainen met eigen recente artikelen. Als het een nicheonderwerp betreft, merk je dat je er niet veel meer uit terugkrijgt dan wat je erin hebt gestopt, maar je voorkomt wel dat ChatGPT zelf wat gaat verzinnen. Het herschrijven van teksten voor verschillende soorten publiek blijkt wel aardig te werken, net als het herstructureren, samenvatten en aandragen van alternatieve titels.

PROMPT PATTERNS BOUWEN
Net als je losse instructies in software kunt combineren tot programmamodules, kun je prompt patterns bouwen die je (met wat aanpassing) steeds kunt hergebruiken. Een voorbeeld van een prompt pattern is de ‘samengestelde instructie’: Van nu af aan acteer je als mijn schrijfhulp die me helpt bij het schrijven van een artikel op een eenvoudig taalniveau. In eerste instantie blijf je vragen stellen over het onderwerp tot je voldoende informatie hebt om een artikel van duizend woorden te schrijven. Dan genereer je een outline die we samen punt voor punt uitwerken. In A Prompt Pattern Catalog to Enhance Prompt Engineering with ChatGPT (gepubliceerd door de docent die de cursus geeft) zijn nog veel meer voorbeelden te vinden, en ook elders zien we prompt repositories verschijnen.

GPT STORE GEOPEND
Mijn eerste prompt patterns leveren nog weinig tijdwinst op, maar de potentie ervan wordt me wel steeds duidelijker. Het zelf bouwen blijkt een leerzaam experiment, maar uiteraard hebben commerciële bedrijven dit kunstje ook door en kun je al tools kopen die op een vergelijkbare manier zijn gemaakt. Nu OpenAI begin dit jaar de GPT Store heeft geïntroduceerd, een online shop voor het aanbieden van aangepaste chatbots, wordt het vinden van tools nog makkelijker. Waar andere partijen zoals Google mee gaan komen, dat zullen we moeten zien, maar 2024 wordt sowieso een spannend jaar voor AI. 

Hoe snel we zelf dit soort tools intensief gaan gebruiken in ons dagelijkse werk is voor mij nog steeds een vraag, maar experimenteren en ervaringen delen gaan we zeker doen. Wie weet laten we eind dit jaar het artikel voor deze rubriek wel helemaal schrijven door een bot.

In alle media wemelt het van de artikelen over AI en large language models, en hoe die de toekomst van de mensheid gaan veranderen. Steeds meer ‘samenwerken’ met generatieve AI lijkt onvermijdelijk, maar zijn de tools nu al goed genoeg? Het is tijd om ze te gaan uitproberen.

Benieuwd naar andere afleveringen van de KB-onderzoeksrubriek? Je vindt ze in het online archief op informatieprofessional.nl.  <

IP | vakblad voor informatieprofessionals | 01 / 2024