Rust token killer (do Codexu) (Wuwejův zápisník)

Když AI agent spustí příkaz ve vašem systému, vrátí se mu výstup, který může obsahovat i spoustu nepodstatných informací. Při programování jde typicky o příkazy Gitu, ale v systému se vám agent pohybuje i u jiných akcí – kupříkladu moje Fabula při psaní podkladů nebo kontrole článku používá ls pro výpis adresáře, find pro hledání souborů, jq pro zpracování JSONu a rg neboli ripgrep pro hledání v textu.

Každá taková postradatelná informace se přidává do kontextu a spotřebovává drahocenné tokeny, takže jejich redukce je velmi žádoucí.

RTK neboli Rust Token Killer je drobný nástroj napsaný v jazyce Rust, jehož úkolem je výstup nástrojů zkracovat. U gitu dělá stručnější výstup, u spouštěných testů sloučí úspěchy do jednoho řádku s celkovým počtem atd.

Na Linuxu se instaluje pomocí:

curl -fsSL https://raw.githubusercontent.com/rtk-ai/rtk/refs/heads/master/install.sh | sh

Následně se – pro Codex – aktivuje příkazem

rtk init -g --codex

Tím se do Codexu nainstaluje sada pravidel typu „místo ls spouštěj rtk ls“.

Já jsem tedy narazil ještě na jednu nepříjemnost. Jak totiž Codex běží v sandboxu, tak sice rtk spustí a tokeny ušetří, ale statistiky si do svého adresáře zapsat nedokáže. Takže když jsem se celý natěšený šel podívat, kolik jsem ušetřil, výsledek byl nula.

V režimu workspace-write(který běžně používám při spuštění nad Obsidian vaultem pro blog) pomůže povolit datový adresář RTK v souboru ~/.codex/config.toml

[sandbox_workspace_write] writable_roots = ["/home/wu/.local/share/rtk"]

Ještě nový start Codexu, ať se změny načtou, a pak už statistiky můžete zkontrolovat. Podíváte se na ně pomocí příkazu

rtk gain

a výsledek vypadá nějak takto:

Rust token killer (do Codexu)

Informace

Kontakt

Vyhledávání

Kategorie

Archiv