Qual métrica melhor mede a eficiência de tempo de execução no fornecimento de modelos de IA em produção?

O Tempo Médio de Resposta (Average Response Time) é a métrica mais adequada para medir a eficiência de tempo de execução no fornecimento de modelos de IA em produção, pois quantifica o tempo que o sistema leva para processar uma solicitação e retornar um resultado. Isso impacta diretamente a experiência do usuário. A Pontuação de Satisfação do Cliente (CSAT) é uma métrica de experiência do usuário, não de desempenho técnico. O Tempo de Treinamento por Época e o Número de Instâncias de Treinamento são métricas relacionadas à fase de treinamento do modelo, não ao seu desempenho em produção.