Metlivi-blog

Een voorkeursversie van een AI-model blijven gebruiken: gehoste snapshots versus lokale modellen

Als je een model wilt blijven gebruiken omdat je de antwoorden prettig vindt, bepaal dan eerst wat ‘blijven gebruiken’ betekent: steeds dezelfde gehoste model-ID aanroepen of bestanden bewaren die je op je eigen computer kunt uitvoeren. Een vastgezette gehoste ID kan een vaste snapshot aanduiden zolang de aanbieder die blijft aanbieden; toegang is daarmee niet voor altijd gegarandeerd. Met een downloadbaar lokaal model heb je meer controle over de bestanden, maar je hebt ook de juiste runtime, configuratie en hardware nodig. Noteer voor een praktische keuze welk model en welke configuratie je voorkeur hebben en controleer vervolgens welke onderdelen je daadwerkelijk kunt bewaren.

30 september 20266 min leestijdDoor Metlivi Editorial Team
Sectie 1

Wat bewaart een modelversie-ID?

Een model-ID is een naam waarmee je in een dienst een model selecteert. Sommige ID's verwijzen expliciet naar snapshots; andere zijn aliassen die naar een veranderend doel kunnen verwijzen. Zoek uit welk type je hebt voordat je een ID als blijvend gegeven beschouwt. Anthropic documenteert bijvoorbeeld dat sommige eerdere Claude API-aliassen, zoals claude-sonnet-4-5, verwijzen naar de nieuwste gedateerde snapshot van die modellijn. Het beschrijft ook de nieuwere indeling claude-sonnet-4-6 als de canonieke ID voor een vaste snapshot. Zelfs een vaste ID heeft een eigen uitfaseringsschema. Anthropic: Model-ID's en versiebeheer

Een vastgezette ID is handig als je wilt voorkomen dat een workflow ongemerkt overschakelt naar een nieuwer model. Het is geen back-up van de gewichten en biedt geen garantie dat de aanbieder verzoeken blijft accepteren. Zo vermeldt OpenAI's overzicht van API-uitfaseringen modellen die worden verwijderd en voorgestelde vervangers. Ook Anthropic documenteert modelstatussen en uitfaseringen. Dit zijn actuele servicebeleidsregels. Controleer daarom de eigen pagina's van de aanbieder voor het model dat je gebruikt, in plaats van aan te nemen dat een snapshot beschikbaar blijft. OpenAI: Uitfaseringen, Anthropic: Modeluitfaseringen

Sectie 2

Wanneer is een gehoste snapshot een goede keuze?

Kies voor gehoste toegang als je vooral een bepaald model van een aanbieder wilt blijven gebruiken en die aanbieder de ID nog aanbiedt. Je hoeft dan geen grote bestanden met modelgewichten te downloaden en geen inferentiesoftware of lokale rekenkracht te beheren. Bewaar de exacte model-ID in je notities of applicatieconfiguratie. Vertrouw niet op een veranderlijke alias als consistente modelversieselectie belangrijk is.

Bewaar ook de instellingen van verzoeken die van invloed zijn op antwoorden: systeeminstructies, tools of functiedefinities, samplingparameters, invoeropmaak en de applicatiecode die prompts voorbereidt. Een model-ID alleen legt die onderdelen van de interactie niet vast. Zelfs bij een vaste ID kan de dienst rondom het model van belang zijn. Anthropic merkt op dat onderdelen van de dienstverlening, zoals routering, veiligheidsclassificaties en samplinglogica, kunnen veranderen en kleine waarneembare verschillen kunnen veroorzaken terwijl de modelgewichten en ID gelijk blijven. Daarom is een vastgezette identificatie handig voor continuïteit, maar geen belofte dat resultaten in elke byte identiek zijn. Anthropic: Model-ID's en versiebeheer

Beschouw de uitfaseringsberichten van een aanbieder als een deadline om opnieuw te beoordelen wat je nodig hebt, niet als bewijs dat een alternatief zich identiek gedraagt. Zowel OpenAI als Anthropic vermeldt uitfaseringen en vervangers, maar een vervanger is een andere modelversie. Als het oude model belangrijk is voor een terugkerende taak, sla dan representatieve prompts en antwoorden op zolang de dienst beschikbaar is. Later kun je een mogelijke vervanger met dezelfde taak vergelijken. OpenAI: Uitfaseringen, Anthropic: Modeluitfaseringen

Sectie 3

Wat kun je met een lokaal model bewaren?

Als modelgewichten beschikbaar zijn om te downloaden, kun je de modelbestanden mogelijk opslaan en met compatibele software op je eigen hardware uitvoeren. Alleen een repositorynaam of downloadlink is geen opgeslagen kopie: bestanden kunnen tussen revisies veranderen. In de downloaddocumentatie van Hugging Face staat dat je een repository kunt downloaden op een geselecteerde revisie, inclusief een commit-hash, en dat snapshot_download() een snapshot van een repository kan ophalen. Noteer voor een betrouwbaarder archief de repository en de volledige commit-hash, bewaar de gedownloade bestanden op een plek die je beheert en maak een aparte back-up. Hugging Face: Bestanden downloaden van de Hub

De gewichten zijn maar één onderdeel van een werkende configuratie. Bewaar ook de tokenizer en configuratiebestanden van het model, de runtime en de versie daarvan, en alle prompttemplates of systeemtekst die je gebruikt. Zo kan een Modelfile van Ollama een bronmodel, template, systeembericht en uitvoeringsparameters specificeren. Als je dat bestand samen met het gekozen model bewaart, helpt het te beschrijven hoe je het hebt uitgevoerd; het vervangt niet de modelbestanden waarnaar het verwijst. Ollama: Referentie voor Modelfile

Lokale inferentie maakt je keuze ook afhankelijk van de beschikbare hardware en softwareondersteuning. Het llama.cpp-project beschrijft als doel taalmodellen op verschillende soorten hardware uit te voeren en ondersteunt gequantiseerde indelingen die het geheugengebruik moeten verlagen. Een gequantiseerd bestand kan het praktischer maken om een model uit te voeren, maar het is een specifieke representatie van het model en geen perfecte vervanging voor elk ander bestand of elke andere runtime. Noteer de exacte bestandsnaam of checksum, indeling en kwantisering, contextinstellingen, runtimeversie en hardware als je je configuratie later wilt kunnen reconstrueren. llama.cpp: README

Sectie 4

Hoe reproduceerbaar zijn de antwoorden?

Er zijn verschillende niveaus van bewaren. Als je prompts en antwoorden opslaat, bewaar je een verslag van wat er is gebeurd. Als je een gehoste model-ID en verzoekinstellingen opslaat, leg je vast hoe je hebt geprobeerd het resultaat te reproduceren, afhankelijk van de vraag of de aanbieder het model blijft aanbieden. Door lokale modelgewichten, runtimeversies en configuratie op te slaan, heb je meer controle over het opnieuw uitvoeren ervan. Geen van deze opties garandeert op zichzelf identieke antwoorden bij elke toekomstige uitvoering: inferentie-instellingen, de implementatie van de runtime, hardware, templates en onderdelen aan de kant van de dienst kunnen de resultaten beïnvloeden.

Maak voor een gewone persoonlijke workflow een korte ‘modelhandleiding’ terwijl de configuratie nog werkt. Noteer waarvoor je het model gebruikt, de exacte ID of repositoryrevisie, de runtime en versie, de belangrijkste verzoekinstellingen en enkele representatieve prompts met hun antwoorden. Als je model lokaal draait, noteer dan welke bestanden je hebt gedownload en controleer of ze in je back-up staan. Als het model gehost is, bewaar dan de model-ID en controleer af en toe de pagina over uitfaseringen. Met dit korte verslag kun je makkelijker bepalen of je blijvende toegang nodig hebt, een gearchiveerde lokale kopie of alleen een opgeslagen verzameling antwoorden.

Sectie 5

Een praktische keuze: vastzetten, downloaden of voorbeelden bewaren

Gebruik een gehoste snapshot als je waarde hecht aan precies dat model van de aanbieder en accepteert dat de beschikbaarheid afhangt van de aanbieder. Gebruik een lokaal model als je de uitvoerbare bestanden wilt bewaren en bereid bent opslag, compatibiliteit van de runtime en hardwarebeperkingen te beheren. Bewaar voorbeeldgesprekken als het je vooral gaat om het onthouden van specifieke antwoorden of de stijl van een eerdere interactie; met voorbeelden kun je niet verder chatten met hetzelfde model.

Een handige volgorde voor je keuze is: controleer eerst of de ID naar een vaste snapshot verwijst of een veranderlijke alias is; controleer daarna de huidige uitfaseringsstatus; kijk vervolgens of de modelbestanden daadwerkelijk te downloaden zijn; test daarna of je computer de gewenste versie en indeling kan uitvoeren; en bewaar ten slotte de instellingen en voorbeeldprompts die de ervaring herkenbaar maken. Zo wordt ‘ik wil deze AI bewaren’ een concrete keuze over wat je wilt behouden: toegang, bestanden, configuratie of een verslag van de antwoorden.

Een voorkeursversie van een AI-model behouden betekent dus dat je verschillende onderdelen bewaart. Een gehoste snapshot kan versiebeheer bieden zolang de dienst die ondersteunt. Een lokale kopie kan uitvoerbare gewichten bewaren als die beschikbaar zijn, maar vereist compatibele software en hardware. Met een zorgvuldig verslag van de model-ID, bestanden, runtime, configuratie en voorbeeldprompts krijg je het duidelijkste beeld van wat je later opnieuw kunt gebruiken.

Gerelateerde artikelen

Blijf dit onderwerp verkennen