Amazon Bedrock suma métricas de TTFT y consumo de cuota TPM
AWS incorporó dos métricas nativas en CloudWatch para Amazon Bedrock: TimeToFirstToken y EstimatedTPMQuotaUsage. El cambio permite a equipos de plataforma, SRE y DevOps monitorear latencia percibida en streaming y consumo…