Wat je organisatie echt uitgaf, en aan welk model

Monitoring

Hieronder speelbaar - zonder aanmelding

Het meeste AI-geld is onzichtbaar tot de factuur komt, en dan is de interessante vraag - welk model zag welke data - niet meer te beantwoorden. Dit is de rapportagelaag: gebruik per model, assistent, persoon en tool, met kosten eraan gekoppeld en een egress-spoor erachter.

Probeer het hieronder

Live demo

Een week gebruik van een klein team

Totalen, een tijdlijn per dag en uitsplitsingen per model, assistent, persoon en tool. De rij die je moet bekijken is het lokale model: echt verkeer, nul kosten bij de aanbieder, niets dat het netwerk verliet.

Synthetische cijfers, en ze sluiten op elkaar aan - aanroepen per model tellen op tot het totaal en de tijdlijn telt op tot hetzelfde getal. Alleen voorbeelddata.

Waarop het gebruik wordt uitgesplitst

Wat je ermee kunt beantwoorden

Drie vragen die meestal giswerk zijn

Wat kost dit, per model?

Kosten volgen tokens tegen het eigen tarief van elk model, dus een assistent van een duur naar een goedkoper model overzetten verschijnt als een getal in plaats van een gevoel.

Wie gebruikt het eigenlijk?

Uitsplitsingen per persoon en per assistent laten zien of een uitrol is geland of dat vier mensen het dragen. Dat is een adoptievraag, en die wordt meestal met anekdotes beantwoord.

Waar ging de data heen?

Elke integratieaanroep wordt bij het loggen naar een land herleid en doorgifte buiten de EER wordt gesignaleerd, dus het antwoord is een rapport in plaats van een verzekering.

De rij van het lokale model is het argument

In de voorbeelddata draagt één model ruwweg een kwart van het verkeer tegen nul kosten bij de aanbieder, omdat het op de eigen hardware van de organisatie draait. Dat is geen demotruc - zo ziet de rapportage eruit zodra je het gevoelige werk naar een model op je eigen netwerk stuurt. De besparing is echt, maar de reden om het te doen is dat die prompts het gebouw nooit verlieten.

Monitoring die zelf geen lek is

Gebruiksregistraties bevatten de vorm van de activiteit, niet de inhoud: welk model, hoeveel tokens, hoe lang, welke tool. Guardrail-gebeurtenissen leggen de categorie en de genomen actie vast en nooit de gevonden tekst. Een monitoringlaag die prompts naar een log kopieerde zou de blootstelling veroorzaken die hij moet meten, en daarom doet hij dat niet.

FAQ

Goed om te weten

Bevat het log onze prompts?

Nee. Gebruiksregistraties bevatten model, tokenaantallen, duur en toolnamen - de vorm van de activiteit, niet de inhoud. Guardrail-gebeurtenissen leggen vast welke categorie is gedetecteerd en wat er is gedaan, nooit de gevonden tekst.

Is het kostenbedrag exact?

Het is een schatting uit tokenaantallen tegen het gepubliceerde tarief van het model, naast de gefactureerde kosten getoond waar de aanbieder die doorgeeft. Beschouw het als een goed werkgetal om assistenten te vergelijken, niet als factuur.

Kunnen we het exporteren?

Ja, en dat is meestal het punt - de cijfers belanden in een bestuurspakket of een DPIA. Ops-metrics kunnen ook naar je eigen observability-stack worden gepusht in plaats van van een scherm te worden gelezen.

Wie kan het zien?

Organisatiebeheerders. Het is bewust een weergave per organisatie: het gebruik van een individu is zichtbaar voor de mensen die verantwoordelijk zijn voor de deployment, niet voor collega's.

Draai het twee weken en lees de modelkolom

Het eerste wat de meeste teams vinden is een assistent op een duur model die werk doet dat een goedkoop model net zo goed zou doen.