Over NPO
Omroep:
NPO
Thema:
Artificiële Intelligentie
Status:
Verkenning
NPO | Artificiële Intelligentie

Strategiebot

NPO Strategie & Innovatie ontwikkelt, ism Xebia, een strategiechatbot op basis van een eigen documentenset en een RAG (Retrieval Augmented Generation) gebaseerde architectuur.
Generatieve AI is hot. ChatGPT en andere LLMs (Large Language Models) en conversational interfaces en agents worden steeds meer gebruikt om informatie te ontsluiten. Echter tot nu toe was dat informatie die al bij de training van het model/de modellen was meegenomen. Via andere indexeringsmethoden en ontsluitingstechnieken (uit de information retrievel), zoals RAG (retrieval augmented generation), in combinatie met de taalvaardigheid en tekstbehandelingsmanieren van de LLMs, kan echter ook gewerkt worden met lokale documenten. Gedurende het gebruik kun je die dan verder finetunen/updaten. Een eis aan het werken met strategische en/of privacygevoelige informatie/documenten is dat deze informatie en documenten niet ter beschikking worden gesteld aan een LLM van een derde partij voor training van hun modellen en de vragen en antwoorden van de chatbot dus ook niet. NPO Strategie&Innovatie wil verkennen of we een RAG-based chatbot (conversational interface), werkend op lokale documenten, kunnen inzetten voor strategie- en beleidsontwikkeling. En hoe de gebruikers hier tegenover staan.

Er is een aantal partijen gevraagd om hiervoor met een voorstel te komen. We houden rekening met wat eerder geleerd is: KRO-NCRV heeft een verkenning gedaan naar de inzet van LLMs voor informatie-ontsluiting uit een archief van documenten (en video's). En naar aanleiding daarvan is een validatieproject gestart. Dit project wijkt af in de zin dat andere soorten documenten gebruikt worden en ook andere frameworks (RAG) en LLM en voor een andere use-case.

Tijdens het project zullen we ook verkennen welke andere (professionele, organisatorische) toepassingen dit kan hebben, zoals bijvoorbeeld het helpen voorbereiden van antwoorden op Tweede kamer vragen, of het voorbereiden van bezwaarschiften obv de geldende bindende regelingen, wettelijke regelingen en overige schriftelijk vastgelegde afspraken die in het systeem ingevoerd zijn. Of, op basis van een andere documentenset, andere bedrijfsprocessen, zoals bijv HR (intranet), klantenservice of ICT ondersteund kunnen worden.

Projectoverzicht

Filter op:

Thema's