Een keuzehulp voor vertrouwelijk inference, wanneer wel en wanneer niet
Op 13 oktober 2026 stelde Pavol Lupták een nieuwe manier voor om met een AI-model te praten zonder dat de partij daartussen uw vraag kan lezen. Het heet Routstr, in zijn vertrouwelijke modus. Deze notitie legt uit wat dat oplost, en vooral wanneer het voor u niet uitmaakt.
Het probleem in gewone taal
Als u een vraag stelt aan een AI-model, gaat die vraag ergens naartoe. Vaak via een tussenpartij die u toegang geeft, met een sleutel die u betaalt. Die tussenpartij kan in principe meelezen, en kan ook stiekem een goedkoper model nemen en toch de volle prijs aanrekenen.
De gebruikelijke oplossing is speciale beveiligde hardware, een kluis in de computer van de provider. Het probleem daarmee: u moet de fabrikant vertrouwen, en na elke update opnieuw controleren of alles nog klopt. Dat is werk dat bijna niemand doet.
Wat Routstr doet
Drie dingen, en die zijn in gewone taal uit te leggen.
- De envelop gaat dicht. Uw programma maakt zelf een versleutelde verbinding met de partij die het model draait. Het knooppunt daartussen ziet alleen een dichte envelop, en kan er zijn eigen sleutel bij doen zonder hem open te maken.
- Aan de uitkomst kan niemand tornen. Ook het antwoord komt versleuteld terug, dus het knooppunt kan er geen woord aan veranderen, ook niet in de opdrachten die het model meegeeft aan uw computer.
- Er zit een bewijs bij. Met rekenbewijsjes, geen hardware, kan worden aangetoond welk model gebruikt is en hoeveel tokens er verbruikt zijn. Dat is het antwoord op de vraag of u betaalt voor een duurder model dan u krijgt.
Volgens de maker werkt dat zonder speciale hardware, op gewone certificaten en rekenkunde. Het draait in de browser, in een programma op de computer, en het is nog nieuw en experimenteel.
Wanneer dit iets voor u is
- Als uw vraag zelf het probleem is: medische gegevens, een cliëntdossier, een contract dat nog niet ondertekend is, een idee dat nog niemand mag weten.
- Als u een tussenpartij gebruikt waarvan u de eigenaar niet kent en die u niet vertrouwt met de inhoud.
- Als u wil kunnen aantonen welk model er precies geantwoord heeft.
Wanneer niet
- Als u al vertrouwt op de partij waarmee u werkt. Vertrouwelijk inference beschermt u tegen de tussenlaag, niet tegen de partij die het model zelf draait. Die ziet uw vraag nog steeds, en dat is onvermijdelijk: het model moet uw vraag lezen om te kunnen antwoorden.
- Als het experimenteel is en uw werk er niet tegen kan. De maker zegt het zelf: probeer het en zeg wat er stukgaat. Dat is een uitnodiging aan ontwikkelaars, geen garantie voor wie erop moet rekenen.
- Als uw winst ergens anders zit. Gaat het u om de kosten, dan is een goedkoper model kiezen simpeler dan een nieuwe tussenlaag opzetten.
Wat het voor uw eigen opstelling betekent
U werkt met de inference-API van Nous, rechtstreeks vanuit Hermes. Routstr is een andere route naar andere partijen. Zolang u bij Nous blijft, verandert er dus niets aan uw privacy, ook niet als u Routstr ergens in een browser probeert.
De vraag die dan overblijft is de enige die echt telt: wat doet de partij die uw model draait met uw gegevens? Dat staat in hun voorwaarden, niet in de techniek van een tussenlaag.
Voor de techniek achter die vertrouwelijke modus, met de metingen en de prijzen, staat er een tweede notitie: Privacy en uncensored, waarom dat twee verschillende vragen zijn. Die legt ook uit waarom een model zonder rem iets anders is dan een privéverbinding.
Om verder uit te zoeken
- Wat de voorwaarden van uw huidige provider zeggen over bewaren en trainen.
- Of u voor gevoelige vragen een model wil dat op uw eigen computer draait, in plaats van een beter beveiligde verbinding naar iemand anders zijn computer.
Bronnen
- Pavol Lupták (@wilderko) op X, 13 oktober 2026, over de vertrouwelijke modus van Routstr.
- De cheat sheet van de node op routstr.cypherpunk.today, met de werkwijze voor een API-sleutel.
- De blog, de paper en de code die in die post gelinkt staan, op juraj.bednar.io en github.com/jooray.