Оптимизация расходов и ускорение работы LLM при помощи Prompt Caching на OpenRouter
Узнайте, как устроена технология Prompt Caching на OpenRouter. В статье разбираются различия между автоматическим и явным кэшированием, механизм липкой маршрутизации (sticky routing), способы отслеживания расхода токенов и практические примеры интеграции на Python для оптимизации расходов на API.