E. Relatório de Monitoria e Avaliação

A monitoria e avaliação do processo da ENDE é uma componente importante do ciclo da mesma. Embora algumas dessas tarefas sejam realizadas em um período de tempo específico, elas são consideradas como uma ferramenta contínua e fornecem informações importantes que permitem uma gestão integral durante todo o processo da ENDE e, sendo assim, classificadas como tarefas fundamentais. De forma particular, a monitoria requer uma organização constante das actividades destinadas ao rastreamento ou alerta aos gestores sobre potenciais problemas. A prestação de contas, também, é uma tarefa que deve ser levada, seriamente, em conta. 

 
Independentemente da atenção tida, na sua concepção, a estratégia só será um sucesso se a sua implementação for rigorosamente planificada. A monitoria e avaliação da implementação constituemum processo fundamental e contínuo.É importante que, em todo o momento, haja capacidade de aferir, se está a desviar-se do caminho desejado ou não, e se for o caso tomar-seas medidas de ajustamento adequadas. Da mesma forma, a planificação da implementação depende de um mecanismo de informação regular e diversificado.

Como a criação de uma ENDE deve sempre começar do que já existe, as actividades a serem realizadas no primeiro ano da sua implementação são, em grande medida "pré-determinadas". Estas geralmente consistem, quer em continuação das actividades já em curso (regulares ou não), com o objectivo, por exemplo, de melhorar a quantidade ou a qualidade das estatísticas, a fim de atender aos requisitos ainda insatisfeitos, ou em novas actividades cujo financiamento já está disponível a partir de recursos nacionais e/ou externos. Assim, a monitoria da execução de um plano de acção da ENDE do primeiro ano tem o seu próprio carácter específico, mesmo porque os recursos necessários estão disponíveis, apenas, teoricamente.

 

1. CADEIA DE RESULTADOS
Para dar uma visão geral da ENDE, é preparado um quadro lógico, com destaque para as relações entre os diferentes elementos (visão, objectivos, resultados esperados, actividades e meios) e os pressupostos subjacentes à uma implementação bem sucedida da estratégia.

A cadeia de resultados descreve a seguinte sequência: meios-actividades-realizações -resultados (resultados) –objectivos, e suas inter-relações.
Os meios descrevem os recursos necessários para a implementação das actividades. Estes incluem recursos materiais, recursos humanos, recursos financeiros, o quadro jurídico e institucional, etc. As actividades podem assumir diversas formas: a preparação de guias metodológicas para melhorar a qualidade e divulgação de dados, avaliação da estrutura organizacional da SNE, organização de workshops, inquéritos e censos, etc. Asrealizações podem ser publicações estatísticas disponíveis, séries estatísticas melhoradas, o número de técnicos estatísticos formados, etc. Os resultados correspondem a mudanças como, o aumento da capacidade de produção de estatísticas, o reforço do diálogo entre usuários e produtores, o aumento da procura de estatísticas, etc. Um exemplo de uma cadeia de resultados da ENDE está disponível no quadro abaixo:

Exemplos da cadeia de resultados da ENDE

Metas típicas na ENDE
1.    Aumentar a relevância da gestão baseada em estatísticas oficiais 2.    Melhorar a evidência
3.    Aumentar a confiança do público em estatísticas oficiais 4.    Aumentar o financiamento
ResultadosTípicos na ENDE
5.    Aumentadaa capacidade nacional em dados estatísticos oficiais  6.    Aumentada a satisfação do usuário
7.    Aumentado o acesso aos dados estatísticos oficiais  8.    Aumento da pontualidade
9.    Aumento da demanda de dados oficiais
do sistema nacional de estatística
10.    Melhorada a capacidade institucional
 11.    Diálogo usuários-produtores melhorado 12.  Disponibilidade de estatísticas
 Realizações Típicas na ENDE
13.   Estatísticas produzidas
 
14.   Número de conjuntos de dados que têm seguido o protocolo de qualidade
15.    Estatísticas produzidas, incluindo desagregação em sexo 16.   Adopção de licença de dados abertos
17.    Estatísticas produzidas com base em padrões internacionais 18.   Ética, por exemplo, código de conduta
 19.    Mecanismos de coordenação melhorados  
   
As actividades típicas/componentes de uma ENDE
20.    Formação do pessoal do SNE 21.    Metodologias desenvolvidas
22.    Formação dos utilizadores de dados 23.    Desenvolvimento de regulamentos estatísticos e orientações
24.    Instalação de equipamentos informáticos e de software para o desenvolvimento 25.    Aumento de financiamento para o desenvolvimento estatístico
26.    Desenvolvimento de um código de conduta  

 

As Filipinas criaram uma versão simplificada, que vale a pena referenciá-la:

 

 

2. MONITORIA E AVALIAÇÃO
Pode-se definir "monitoria" como um processo contínuo de recolha e análise de informações com a finalidade de aferir a qualidade da execução de umaENDE.
Este processo fornece informações regularmente aos gestores e outros intervenientes sobre o progresso e dificuldades enfrentados na obtenção de resultados, e faz comparação entre as realizações e os resultados esperados desde o início, e permite que as partes tomem todas as medidas correctivas necessárias.
Uma monitoria forte exige a concepção de um plano definido da seguinte forma: Depois de estabelecer as principais metas a serem alcançadas, é preciso especificar os indicadores que serão usados para monitorar o progresso e recolher informações básicas sobre cada um dos indicadores de modo a estabelecer uma linha de base. Os meios, a frequência e a pessoa responsável pela compilação de cada indicador devem ser claramente definidos. Os indicadores compilados devem, depois, ser avaliados e produzir-se relatórios para estabelecer as tendências e chegar a um consenso sobre as mudanças necessárias a serem implementadas em relação a informação e actividades, incluindoresultados e metas. A experiência mostra que, no processo de identificação dos indicadores, não se tem prestado atenção suficiente à viabilidade e disponibilidade regular dos indicadores. A outra limitação está relacionada com a falta de identificação precisa e sensibilização adequada das pessoas encarregues de fazer a compilação dos dados.

A avaliação irá aferir a relevância, desempenho e sucesso da ENDE. Ela indica até que ponto a ENDE alcançou os seus objectivos. A monitoriae avaliação constituem dois processos indissociáveis. A monitoria centra-se na implementação das actividades e realizações.A avaliação diz respeito à obtenção de resultados, os efeitos e os impactos sobre a meta global da ENDE. Ela ajuda a tirar lições e capitalizar experiência para um futuro da ENDE.

O sistema de avaliação deve possuir a flexibilidade necessária de forma a ter em conta as mudanças inevitáveis que ocorrerão durante o período de implementação da estratégia. Estas mudanças podem resultar em, mais ou menos, adaptações significativas dos objectivos estratégicos seleccionados e /ou resultado obtido, o que exigirá mudanças no cronograma das actividades e nas próprias actividades. A avaliação deve identificar, os resultados esperados que não foram alcançados, e as respectivas razões, a fim de redireccionar a estratégia. Avaliação geralmente inclui duas etapas importantes: avaliação intercalar e avaliação final. A avaliação intercalar permite uma análise das diferenças entre os resultados alcançadose os esperados, de modo a permitir que as mudanças necessárias sejam feitas, incluindo o cronograma de actividades para a segunda etapa do período da estratégia. A avaliação final permite a tirada de lições e a preparação do progresso para o futuro da ENDE.

 

Na prática

Quem e quando
A monitoria e avaliação da implementação da ENDE são da responsabilidade dos gestores nos diferentes níveis do sistema estatístico nacional, começando com os gestores responsáveis pela realização das várias actividades e dos gestores de recursos (humanos, materiais e financeiros). A frequência da monitoria irá depender da preferência do país. Em geral, a frequência é anual ou até semestral. Existem casos raros em que a monitoria é realizada trimestral ou mensalmente. 

A avaliação ocorre durante a fase de concepção do projecto (avaliação do SNE), e, em seguida, durante a execução (no meio ou final da ENDE).

A monitoria é necessariamente ligada com a preparação dos programas anuais de trabalho para cada unidade e para todo o SNE.

Como
Uma boa estrutura de monitoria e avaliação deve ser baseada em normas e práticas reconhecidas internacionalmente. Os indicadores seleccionados devem ser mensuráveis. Cada indicador tem uma linha de base, uma unidade de medida, e um alvo

Os exemplos de indicadores utilizados no processo de monitoria e avaliação da ENDE estão listados na tabela abaixo:

 Indicador  Unid. Medição
1.    Intervalo de tempo entre a recolha e divulgação dos  Tempo
2.    Proporção de conjuntos de micro dados  Percentagem
3.    Número de conjuntos de dados controlados com qualidade e concebidos como Estatísticas Oficiais  Número
Adicionar uma linha de base
1.    Intervalo de tempo entre a produção do inquérito e  6 Meses
2.    Proporção de conjuntos de micro dados  40 Porcento
3.    Número de conjuntos de dados controlados com qualidade e concebidos como Estatísticas Oficiais  100
Adicionar uma meta e data prevista para a sua conclusão
1.    Intervalo de tempo entre a produção do inquérito e divulgação dos resultados  4 Meses (até Março de 2014)
2.    Proporção de conjuntos de micro dados documentados de acordo com o padrão de DDI  80 Porcento (até Junho 2014)
3.    Número de conjuntos de dados controlados com qualidade e concebidos como Estatísticas Oficiais  500 (até Março 2017)

 

PARIS21 produziu indicadores que podem ser usados para medir a capacidade estatística. Estes incluem indicadores quantitativos e qualitativos que permitem aos países a proceder uma auto-avaliação ou a revisão pelos pares do nível de desenvolvimento do seu sistema estatístico. Estes indicadores incluem:

  • Indicadores gerais do sistema, que definem as estatísticas que um país publica, seu ano de referência, e sua fonte;
  • Indicadores quantitativos que têm a ver com as agências de estatísticas. Para permitir a comparação, recomenda-se a inclusão, no mínimo, dos órgãos responsáveis pelo cálculo do Produto Interno Bruto (PIB), população e renda familiar / despesas;
  • Indicadores qualitativos que dizem respeito à séries estatísticas. Aqui, novamente, recomenda-se a inclusão do PIB, número de população e renda familiar / despesas, para permitir comparação, a nível internacional.

O Banco Mundial e a Comissão Económica das Nações Unidas para África também desenvolveram indicadores de capacidade estatística.

Normalmente, as ENDEs são avaliadas no meio e no final do período de implementação. A avaliação é, muita das vezes, reservada à consultores independentes com prazos e termos de referências,bem definidos. Os termos de referência podem ser considerados como uma ferramenta de gestão da avaliação no sentido em que:

- descrevem os objectivos de avaliação, que podem variar, dependendo do tipo de avaliação, intercalar ou final;
- são úteis para determinar em que medida a avaliação foi realizada com sucesso;
- Legitimam a tarefa atribuída ao consultor de avaliação.

Dado o seu papel como uma ferramenta de gestão de avaliação, os termos de referência, geralmente, são discutidos e aprovados por um grupo de trabalho ou comité directivo e são anexos ao contrato de consultoria.

 

3. AVALIAÇÕES PELOS PARES
As avaliações pelos pares são cada vez mais utilizadas para avaliar um sistema nacional de estatística, um organismo estatístico oficial, ou uma ENDE. Estas são um exercício amigável com base, sobretudo, na confiança mútua entre os países e uma confiança comum no processo. Estas são conduzidas por "pares", em outras palavras, por gestores do SNE que colaboram com os seus homólogos de outros países. O quadro metodológico pode ser os Princípios Fundamentais da ONU de Estatísticas Oficiais ou seus equivalentes a nível continental ou regional: Código de Práticas das Estatísticas Europeias, Carta Africano da Estatística, etc.

A revisão pelos pares avalia o funcionamento de todos os aspectos de um SNE (institucional, organizacional, mecanismo de produção estatística, etc.), identifica os pontos fortes e fracos, faz recomendações com vista a melhorar o desempenho, e ajuda na partilha de boas práticas. Os relatórios de avaliação pelos pares são, em princípio, tornados públicos.

A revisão por pares sugere que os avaliadores sejam gerentes do SNE, o que pressupõe que sejam, no geral, estatísticos. No entanto, os pontos de vistas de outras partes interessadas são extremamente necessários numa avaliação, e os usuários devem estar envolvidos no processo, de modo a diversificar os pontos de vista, incluindo usuários de fora do SNE. 

 

Na prática

Quem e quando
Contrariamente à avaliação de uma ENDE ou, em termos mais gerais, de um sistema nacional de estatística ou de uma organização de estatísticas públicas, que pode ser definida dentro de um quadro legal apropriado, a avaliação pelos pares ocorre por iniciativa dos responsáveis, directamente afectadas (por exemplo, o Director do Serviço de Estatística Central). Assim, avaliação pelos pares de uma ENDE pode ocorrer durante o processo da sua preparação, de preferência, para coincidir com a avaliação do SNE para dar acesso às observações, análises e recomendações de uma equipe experiente, a fim de permitir a elaboração de estratégias de melhoramento de capacidades, da forma mais objectiva possível.

Como
Além de pares no verdadeiro sentido do termo (nomeadamente, gestores seniores em outras estruturas nacionais), a equipe responsável pela revisão pelos pares pode recorrer a consultores independentes (garantindo que os usuários sejam devidamente representados), que, ao contrário dos revisores, serão pagos. Este foi o caso das avaliações pelos pares, realizadas em África, com o apoio da Secretaria de PARIS21. Como parte da estrutura adoptada, foi preparado um guião para os revisores que descrevia os principais factores a serem levados em consideração. A referência metodológica era os Princípios Fundamentais de Estatísticas Oficiais das Nações Unidas e da Carta Africana de Estatística, que representam a sua implementação em África.

A revisão pelos pares assume a forma de uma série de entrevistas, com a alta administração do órgão central de estatística e indivíduos de outros serviços constantes da amostra, que produzem estatísticas públicas, usuários nacionais de estatística e parceiros técnicos e financeiros. Com base no guião, estas entrevistas cobrem: o quadro legal e regulamentar que rege as actividades de estatística; a estrutura de produção de estatísticas (incluindo humanos, materiais e financeiros); e a análise, distribuição, armazenamento e arquivo de dados estatísticos. É dada especial atenção à independência profissional de estatísticos (independência na escolha de conceitos, definições, nomenclaturas e métodos; integridade e imparcialidade dos serviços públicos de estatísticas), a qualidade dos dados, a satisfação dos usuários e os processos de preparação, execução, monitoria e avaliação do ENDE em progresso, quando apropriado. Com base em suas observações, a equipe de análise, avalia os pontos fortes e fracos, oportunidades e ameaças, e vai traçar recomendações. No final do processo é publicado um relatório sobre a revisão pelos pares que abrange todos esses elementos. 

 

4. SISTEMA DE RELATÓRIO
Os relatórios são parte integrante de qualquer quadro de monitoria e avaliação. O seu principal objectivo é fornecer e publicar informações completas e regulares sobre a implementação da ENDE ou qualquer outro programa. De facto, durante os anos de implementação da ENDE (geralmente, de três à seis anos), mais ou menos, mudanças significativas podem surgir que exijam a alteração de metas, resultados esperados, e actividades. Estas modificações são decididas pelos gestores do SNE, ou até mesmo pelas autoridades políticas. Estes últimos, devem receber informações oportunas e análise, a fim de tomar uma decisão inteligente. É papel do sistema de relatório, prestar essa informação.

 

 Na prática 

Quem e quando
Diferentes países têm diferentes níveis de sofisticação dos seus sistemas de relatório. Em todos os sistemas, no entanto, a entidade central de estatística deve produzir (ou supervisionar/coordenar a produção de relatórios anuais), a nível nacional para fornecer uma informação actualizada sobre o progresso na implementação da ENDE, resumo das dificuldades encontradas, e as soluções propostas. Um sistema de relatórios sofisticado, podem incluir, relatórios semestrais, trimestrais, ou mesmo mensais. Estes relatórios são geralmente produzidos pelos diferentes órgãos, directamente, envolvidos na implementação da ENDE.

Como
Os relatórios anuais são produzidos a partir de relatórios produzidos pelos vários serviços e organismos que produzem estatísticas oficiais, num modelo padrão para facilitar a sua combinação. Em seguida, são examinados pelo órgão de coordenação oficial do SNE (o conselho nacional de estatística ou equivalente). Em alguns países, as conclusões e recomendações resultantes dessa análise são submetidos ao governo.  

Os relatórios emitidos semestrais, trimestral ou mensalmente, são examinados, num nível próximo aos serviçose agências de produção de estatísticas. Podem ser comissões ministeriais ou sectoriais, constituídas por técnicos directamente envolvidos na produção de estatísticas.

 

5. DIFICULDADES ENFRENTADAS PELOS PAÍSES EM DESENVOLVIMENTO

Decorre do exposto que a qualidade dos sistemas de avaliação e monitoria (incluindo relatórios) depende em grande medida das disposições institucionais em vigor para a concepção da ENDE e monitoria da sua implementação. É este nível que os países em desenvolvimento enfrentam uma das maiores dificuldades. Na verdade, as disposições institucionais em vigor nestes países têm muitas deficiências:

  • Enquanto os Conselhos de Administração e Direcções previstas na legislaçãoestatística reúnem-seregularmente e prestam contas ao órgão de tutela, outros órgãos de co-ordenação e consulta, por exemplo,os comités de usuários-produtores, tendem a reunir-se com pouca frequência por uma série de razões, nomeadamente, ainfrequência da composição das comissões, as agendas para as reuniões que não são interessantes, especialmente para os usuários de dados, convocatórias para as reuniões que não são enviados em tempo útil, falta de interesse por parte de alguns gestores do SNE e, por vezes, a falta de recursos (financeiros)
  • Em alguns casos, as leis estatísticas estabelecem um organismo de coordenação oficial como um Conselho Nacional de Estatística, mas os regulamentos de implementação nem sempre são adequados para o funcionamento eficiente: um Conselho Nacional de Estatística presidido pelo Primeiro-Ministro e composto por ministros, muitas vezes tem dificuldades de se reunir, quando for agendada uma reunião. Da mesma forma, um Conselho Nacional de Estatística presidido pelo ministro responsável pelas estatísticas e composto por outros ministros vai ter dificuldades de funcionar optimamente sem a presença da maioria dos membros.

Outra grande dificuldade reside simplesmente na ausência de um sistema de monitoria e avaliação relevante. Quando tal sistema é mencionado na ENDE, muitas vezes, trata-se apenas de uma descrição muito breve. Em particular, não se encontra o conjunto de indicadores relativos às metas, resultados, realizações e actividades, o que torna qualquer monitoria e avaliação regular confiável impossível.

Para superar as grandes dificuldades mencionadas acima, é importante alocar recursos suficientes para os órgãos de coordenação e consulta, seja por financiá-los através de uma rubrica orçamental específica ou através de recursos do Fundo Nacional de Desenvolvimento da Estatística nos países onde tal fundo já existe ou está a ser criado. Por último, é importante que, nos países em causa, se faça a revisão e / ou conclusão das disposições legislativas e regulamentares em vigor.