Binnen het onderwijs is het gebruik van Generatieve AI (GenAI) eigenlijk onontkoombaar geworden. Maar hoe zorg je als onderwijsinstelling dat je de regie houdt over privacy, kosten en onderwijskwaliteit terwijl de innovaties je om de oren vliegen? Tijdens ons recente webinar deelde Jan-Pieter Zuiderveen (Onderwijsconsultant DLO bij Hogeschool van Amsterdam) enkele belangrijke inzichten.

In deze blog leggen we uit hoe de Hogeschool van Amsterdam ondanks de verschillende stakeholders en belangen toch vooruitgang kan blijven boeken met de implementatie van GenAI, terwijl ze ook grip houden op veiligheid, privacy en kosten. Ook lichten we toe wat het ‘Bring Your Own LLM’ concept is, wat daar een belangrijke rol in speelt.

Het spanningsveld: Innovatie versus Compliance

Onderwijsinstellingen bevinden zich in een lastige spagaat. EdTech leveranciers voegen aan de lopende band nieuwe AI-functionaliteiten toe aan hun producten. Voordat een toepassing veilig in gebruik genomen kan worden binnen de instelling, moet worden onderzocht hoe en waar (privacy)gevoelige data worden verwerkt en opgeslagen. Vaak vertraagt een dergelijke controle het proces aanzienlijk, waardoor de adoptie van goedgekeurde GenAI toepassingen veel trager gaat dan de innovatie in de buitenwereld.

De bijwerking van zulke trage besluitvorming, is dat er een wildgroei aan ‘schaduw-IT’ ontstaat. De roep van docenten en studenten om AI te kunnen gebruiken blijft even luid en velen van hen gebruiken AI dan ook al op eigen houtje om de werkdruk te verlagen of het leren te ondersteunen.

Om als onderwijsinstelling studenten en docenten toch adequaat te kunnen faciliteren met veilige en verantwoorde GenAI toepassingen, is het dus van essentieel belang om het besluitvormingsproces te versnellen. Jan-Willem Zuiderveen (HvA) lichtte in onze recente webinar drie manieren toe waarop dit mogelijk is.

1. Doorbreek besluiteloosheid met een Toetsingskader AI

Om niet te blijven hangen in eindeloze beslisfases, heeft de HvA een toetsingskader AI opgesteld. Dit kader is bedoeld om het gesprek binnen de organisatie te structureren en willekeur bij de beoordeling van tools te voorkomen.

Het kader bestaat uit een uitgebreide checklist met de volgende onderdelen:

  • Juridische kaders: Voldoet de beoogde toepassing aan de AVG en de Europese AI-act?
  • Onderwijs- en toetsbeleid: Past de tool bij de onderwijsvisie van de instelling?
  • Docentautonomie: Aan de hand van het model van Horvers & Molenaar wordt getoetst of de autonomie van de docent op een (on)toelaatbare manier wordt aangetast.
  • Risicoclassificatie: Met kleurcodes (groen, geel, oranje, rood) wordt bepaald of een tool (on)toelaatbare risico’s met zich mee brengt, en daardoor direct geïmplementeerd kan worden of dat er escalatie naar een hoger besluitvormingsniveau nodig is.
  • Transparantie: Voor elke AI-toepassing wordt een ‘Data Nutrition Label’ ingevuld. Zodat gebruikers en medewerkers in één oogopslag kunnen zien hoe de functionaliteit werkt en hoe gebruikersdata wordt verwerkt.

Jan-Pieter: “Dankzij het Toetsingskader AI krijgen we meer transparantie, minder willekeur en een duidelijke businesscase. Dit biedt ruimte om aan de hand van pilots ook daadwerkelijk te kunnen experimenteren en toetsen in de praktijk.”

2. Zoek naar een ‘eigen’ LLM dat voldoet aan de kaders en eisen van jouw instelling

Een Large Language Model (LLM) is de techniek achter toepassingen zoals ChatGPT. Je kunt het zien als de “motor” van de AI, waarbij data de brandstof is. Wanneer we spreken over een ‘eigen’ LLM, bedoelen we niet per se een model dat de instelling volledig zelf heeft geprogrammeerd (wat vaak kostbaar en tijdrovend is).

Het gaat om een model waarover de instelling de volledige controle heeft en dat voldoet aan de vooraf gedefinieerde eisen en kaders. Dit kan een eigen instance zijn van een commercieel model, of een gezamenlijk initiatief zoals het EduGenAI-model van Npuls en SURF.

De voordelen van zo’n eigen LLM zijn cruciaal:

  • Controle: Je hebt de regie over hoe informatie wordt verwerkt en of data wordt gebruikt voor training.
  • Inzicht & Kosten: Je krijgt beter inzicht in het werkelijke gebruik en daarmee meer grip op de kosten.
  • Snelheid: Omdat de motor (het LLM) al één keer volledig is getoetst op IB&P en DPIA, hoef je dit proces niet bij elke nieuwe applicatie volledig te herhalen.

Jan-Pieter benadrukt het voordeel hiervan voor AI-innovatie: “Als je als instelling beschikt over zo’n voorkeurs-LLM, hoef je alle veiligheidsanalyses maar een keer uit te voeren en gaan toekomstige innovaties (die zijn gebaseerd op datzelfde LLM) sneller door de besliscyclus.”

3. Breng het concept “Bring Your Own LLM” in de praktijk

Het concept Bring Your Own LLM houdt in dat een onderwijsinstelling haar eigen, goedgekeurde LLM koppelt aan de software van externe leveranciers.

Hoe werkt BYOLLM?

In de standaard situatie gaat data van de instelling naar de leverancier, en vervolgens naar de (vaak onbekende) derde partij die de AI levert. Bij BYOLLM stuurt de leverancier (zoals Portflow) enkel de data en een specifieke AI-prompt naar het LLM van de instelling. De output wordt vervolgens veilig teruggestuurd naar de applicatie. Daarmee behoudt de instelling datasoevereiniteit en grip op de kosten.

BYOLLM in Portflow

De HvA past dit momenteel toe binnen Portflow in een pilot gericht op de analyse en samenvatting van kwalitatieve feedback. Hierdoor kunnen studenten en docenten profiteren van krachtige AI-samenvattingen, terwijl de instelling de garantie heeft dat de dataverwerking volledig binnen de eigen, veilige kaders van hun LLM plaatsvindt.

Jan-Pieter’s advies aan andere instellingen is helder: “Bespreek ook met andere softwareleveranciers om dit concept ‘Bring Your Own LLM’ breder toepasbaar te maken. Daar profiteert uiteindelijk elke onderwijsinstelling van.”

Bekijk het volledige webinar

Wil je precies weten hoe de HvA de koppeling met Portflow heeft ingericht? Wil je meer informatie over het Toetsingskader AI dat de HvA gebruikt? Of ben je benieuwd naar de vragen van andere aanwezigen? Vul dan onderstaand formulier in en ontvang direct de link naar het volledige webinar.