INSTITUTO NACIONAL DE ECOLOGÍA

DIRECCIÓN GENERAL DE INVESTIGACIÓN SOBRE LA CONTAMINACIÓN URBANA, REGIONAL Y GLOBAL

DICA

Informe final del Proyecto

“Comparación de modelos de dispersión de emisiones provenientes de fuentes fijas”

Octubre de 2004 Consultor: M. I. Ramón Carlos Torres Enríquez

Contenido:

Antecedentes.................................................................................................................................................................... 3 Objetivo General.............................................................................................................................................................. 4

Objetivos específicos...................................................................................................... 4 Limitaciones ................................................................................................................... 4 Metodología.................................................................................................................... 5 Actividades realizadas ..................................................................................................................................................... 7

1.

Análisis de los modelos .......................................................................................... 7 Aspectos generales de cada modelo .................................................................... 7 Diferencias y similitudes entre los modelos ........................................................ 9 Análisis de la información empleada por los modelos..................................... 21 2. Evaluación estadística .......................................................................................... 22 Diferentes metodologías ....................................................................................... 22 Resumen de las Metodologías ............................................................................. 23 3. Análisis de sensibilidad de los modelos ............................................................... 30 Establecimiento del escenario base ................................................................... 30 Listas de parámetros y variables consideradas en el análisis ....................... 35 Análisis de resultados ........................................................................................... 40 4. Modelación de contaminantes .............................................................................. 44 Revisión de la información de Tuxpan ............................................................... 44 Limitaciones de la campaña ................................................................................. 46 Análisis de información ......................................................................................... 46 Calculo de las concentraciones en los receptores ........................................... 50 Resultados obtenidos ............................................................................................ 52 Análisis de los resultados obtenidos .................................................................. 53 Conclusiones y recomendaciones .................................................................................................................................. 59 Bibliografía.................................................................................................................................................................... 61 Anexo 2 Tabla de los diferentes parámetros de los modelos CALPUFF e ISCST3....................................................... 62 Anexo 3 Tabla comparativa de las metodologías de cálculo empleadas por los modelos CALPUFF e ISCST3. .......... 63 Anexo 4 Índices estadísticos de las metodologías MVK y ASTM. ............................................................................... 64 Anexo 5 Índices empleados en la estadística descriptiva (Excel). ................................................................................. 65 Anexo 6 Graficas de los Índices estadísticos generados con las estimaciones del modelo ISCST3. ............................. 66 Anexo 7 Graficas de los Índices estadísticos generados con las estimaciones del modelo CALPUFF.......................... 69

2

Antecedentes Dada la necesidad de conocer los efectos de la generación de energía eléctrica sobre la atmósfera, se han realizando recientes estudios en todo el mundo para conocer los impactos locales, regionales y de naturaleza global, como el cambio climático. Debido a las implicaciones estratégicas del sector eléctrico en el desarrollo de los países, es necesario atender aspectos relacionados directamente con la mejora de combustibles, la optimización del los procesos y las nuevas tecnologías. Es decir, la expansión del sector eléctrico mexicano debe ir acompañada de mayores compromisos para la disminución de contaminantes del aire que deterioran nuestro entorno y nuestra salud. La Dirección General de investigación sobre la Contaminación Urbana, Regional y Global del Instituto Nacional de Ecología realizó durante el año 2003 el estudio: “Evaluación del impacto de la termoeléctrica de Tuxpan en la calidad del aire de la región, usando el sistema de modelado de dispersión CALMET-CALPUFF” con el objetivo general de evaluar los posibles efectos causados por las emisiones derivadas de la producción de energía eléctrica en la planta termoeléctrica Adolfo López Mateos, en Tuxpan, Veracruz. De este estudio, se estimaron los efectos en salud de las poblaciones expuestas a las concentraciones de PM10 (primarias y secundarias) que son emitidas por la termoeléctrica de Tuxpan, y mediante la valoración económica de estos efectos, se encontró que el costo anual por mortalidad y bronquitis crónica asciende a 33 millones de dólares. Dicha estimación se realizó a partir de las concentraciones anuales de partículas estimadas con el modelo CALMET-CALPUFF, esta concentración anual se determinó a través de concentraciones semanales ponderadas con tres condiciones meteorológicas representativas de la región durante el año 2001, y posteriormente se aplicaron funciones dosis y el método de valoración contingente. En este estudio se menciona que una posible causa de incertidumbre no cuantificada se refiere a la ponderación de las concentraciones anuales asumiendo concentraciones medias semanales representativas de tres escenarios meteorológicos conformados por el análisis cluster. Así pues, en este estudio, se planteó la necesidad de cuantificar la incertidumbre asociada, en primer término a la estimación de las concentraciones del modelo CALPUFF. Así mismo, se planteo

3

realizar un estudio de comparación de concentraciones con información de campañas de monitoreo de calidad de aire en la región. Así como la comparación de valores, usando el modelo ISC3, que actualmente también se utiliza en la Dirección de Investigación de Calidad del Aire. Otra actividad que se planteó para mejorar el conocimiento de los modelos de dispersión y determinar de la influencia de los parámetros de los modelos, es la realización de un análisis de sensibilidad para identificar las variables que por su naturaleza ó parametrización afectan las magnitudes o tendencia de los resultados.

Objetivo General Comparar el desempeño de los modelos de dispersión de contaminantes (ISCST3 y CALPUFF) para estimar concentraciones atmosféricas, considerando un análisis de sensibilidad y la estimación de la incertidumbre asociada a cada uno de ellos.

Objetivos específicos 1. Analizar la sensibilidad de los parámetros, variables e insumos del modelo CALPUFF, sobre los resultados de la modelación. 2. Estimar el sesgo de los valores de concentraciones modelados por CALPUFF e ISC3, usando metodologías comparativas internacionales, entre los valores calculados y los valores observados. 3. Comparar los resultados obtenidos por la aplicación de los modelos CALPUFF e ISC3 para el mismo escenario de modelación (Caso Tuxpan). 4. Elaborar propuestas de interpretación de la información obtenida y recomendaciones para el uso de los modelos de dispersión estudiados para proyectos futuros. .

Limitaciones Las campañas de medición de calidad del aire y parámetros meteorológicos, que se realizó en la zona urbana de la Ciudad de Tuxpan se limitaron un periodo de 18 días, que fue del 27 de octubre al 14 de Noviembre del 2003 y que dentro de las agrupaciones de semanas que resultaron del análisis

4

cluster representa un periodo seco frío. Sin embargo, se presentaron lluvias de bajas a moderadas en la región, por lo que se encontraron concentraciones más bajas de las esperadas para este periodo en 2000. La campaña de medición se efectuó con el apoyo del Centro Nacional de Investigación y Capacitación Ambiental y la Autoridades estatales de SEMARNAT, así como estudiantes de la Universidad Veracruzana. El porcentaje de recuperación de datos de esta campaña fue de aproximadamente el 99% para contaminantes gaseosos y de 30% para partículas, debido a la presencia de una temporada de intensa humedad a causa de las lluvias.

Metodología Para cubrir los objetivos planteados se trabajo en conjunto con el personal de la Dirección de investigación sobre la Calidad del Aire (DICA) del Instituto Nacional de Ecología (INE) en el establecimiento de las actividades del proyecto, y el planteamiento de una ruta crítica, así como el cronograma de actividades. Como resultado de estas reuniones de trabajo se establecieron cuatro actividades principales con sus correspondientes sub-actividades. La primer actividad que se planteó fue la realización del “Análisis de las formulaciones de los modelos”, en la que se buscó estudiar y e identificar las características de cada modelo ISCST3 y CALPUFF, así como, las diferencias y similitudes entre ellos. La segunda actividad que se planteó fue la “Revisión y Evaluación de metodologías estadística para la comparación y verificación de modelos”, que tenía por objetivo revisar y analizar las diferentes metodologías y criterios con los que se evalúan los resultados de los modelos. La tercera actividad que se planteó fue el “Análisis de sensibilidad de los modelos ISCST3 y CALPUFF”, en la que se buscó determinar la influencia en la concentración estimada por cada insumo, variable y parámetro. Como parte de la primera sub-tarea de esta actividad, se identificó en primer término las variables ó parámetros que poseen mayor influencian en el cambio de las concentraciones resultantes.

5

La cuarta y última actividad que se planteó fue la” modelación de SO2 usando los dos modelos durante el periodo de la campaña de monitoreo”, en la que se comparó las concentraciones estimadas por los modelos ISCST3 y CALPUFF, con la información observada. A continuación se describen paso a paso, las actividades realizadas para el desarrollo de proyecto.

6

Actividades realizadas En esta sección se presentan los aspectos de mayor relevancia encontrados durante el desarrollo de cada una de las actividades consideradas en el proyecto.

1. Análisis de los modelos Se realizó una revisión bibliográfica para estudiar y analizar la información disponible de los modelos, logrando identificar características, similitudes y diferencias que se presentan entre los modelos CALPUFF e ISCST3. a continuación se presentan los aspectos generales de los modelos.

Aspectos generales de cada modelo ISCST3 El modelo de fuentes industriales ISCST3 Industrial Source Complex es un modelo que desarrolló Pacific Environmental Services, Inc., Research Triangle Park, North Carolina, para la Agencia de protección ambiental de estados unidos EPA (1995), este modelo considera: •

El escenario típico de emisiones de una industria al considerar un amplio rango de fuentes puntuales, de volumen ó de áreas.

•

El modelo estima los efectos de abatimiento de la pluma de contaminantes (building downwash) causado por construcciones u obstáculos (Micro-meteorología).

•

Considera la remoción húmeda y seca de la concentración de los contaminantes.

•

Capacidad para considerar las condiciones del terreno reales.

•

El modelo puede trabajar con datos meteorológicos horarios del área de estudio o condiciones meteorológicas típicas por defecto, para estimar la elevación de la pluma, el transporte, difusión y remoción de contaminantes.

La Agencia de Protección Ambiental de EU (EPA) presenta el modelo ISCST3 como parte de los paquetes computacionales recomendados para la dispersión de contaminantes, para estudios exploratorios de gabinete para simulara las emisiones ocasionadas por complejos industriales. Y recomendado para aplicaciones menores a 50 km de distancia de la fuente, en donde se ha visto un mejor desempeño del modelo, (EPA, 1995).

CALPUFF

7

Por otra parte el modelo de dispersión CALPUFF junto con los programas CALMET (modelo meteorológico de diagnóstico) y CALPOST (modelo post-procesador) fue desarrollado por Sigma Research Corporation (ahora parte de earth Tech, Inc.). En su primer versión CALPUFF-CALMET fue patrocinada por el California Air Resources Board (CARB), (Scire., Strimaitis., Yamartino., 2000) El diseño del modelo considera: •

Modelación de la pluma de emisión como PUFF1.

•

La capacidad de modificar emisiones puntuales y de área durante el tiempo.

•

Conveniencia para modelar desde decenas de metros hasta cientos de kilómetros a partir de una fuente.

•

Estimaciones de concertación en periodos de tiempo que pueden ir desde una hora hasta un año.

•

Capacidad para modelar tanto contaminantes inertes ó emplear mecanismos de transformación de pseudos-primer orden.

•

Capacidad para considerar la rugosidad o condiciones del terreno.

•

Capacidad para trabajar con información meteorológica tridimensional

La Agencia de Protección Ambiental de EU (EPA) presenta el modelo CALPUFF como parte de los paquetes computacionales recomendados para la dispersión de contaminantes, para ser empleado para el transporte de contaminantes a gran escala (de 50 a 200 km de la fuente) y también para la aplicación en escalas locales donde existan variaciones de las condiciones meteorológicas, velocidades de viento bajas, efecto de fumigación, recirculaciones ó estancamientos y efectos debido al tipo de terreno ó costa Un inconveniente de los modelos de Puff ha sido la necesidad de considerar varias Puff para representar adecuadamente el efecto de las plumas dentro de las cercanías de la fuente. Si no se considera la sobre posición de los Puff, la concentración estimada en el receptor entre dos Puff en un instante podría resultar subestimada.

1

Bocanadas ó soplos de contaminante; paquetes discretos de contaminantes.

8

El modelo CALPUFF es un modelo Gaussiano, dinámico de puff Lagrangiano que presenta dos sistemas de coordenadas para el cálculo del desplazamiento de los contaminantes: uno absoluto, referido a las coordenadas del foco emisor, en el que se calcula la traslación media de los elementos de contaminante considerados; otro relativo, referido a un punto representativo de la traslación media del penacho, para tener en cuenta la dispersión del penacho debido a la turbulencia. En el Anexo 2 se presenta una tabla que compara los diferentes parámetros de entrada (opciones durante el ingreso de datos) que considera cada uno de los modelos

Diferencias y similitudes entre los modelos Los dos modelos se basan en una formulación Gaussiana derivada de una solución semiempírica a partir de un planteamiento Lagrangiano, sin embargo una de las diferencias significativas es el tratamiento de la emisión. El ISC trata la emisión de contaminantes como un flujo continuo que se va dispersando a medida que se aleja de la fuente en función de las condiciones meteorológicas que rigen los coeficientes de dispersión que pueden variar hora a hora. El modelo CALPUFF trata las emisiones como paquetes discretos de contaminantes que cambian de posición y tamaño en el tiempo recomendados para el cálculo de la concentración alejado de la fuente. Estos PUFF pueden ser representados por esferas de contaminante (PUFF) ó la sobre posición de PUFF (SLUG) que es recomendado para el cálculo de la concentración cerca de la fuente y además tienen la ventaja de usar un sistema hibrido durante la corrida en la que las cercanías de la fuente se trate como un slug y después de cierto tiempo se cambie a puff. Formula Gaussiana El modelo de fuentes industriales para periodos cortos (ISCST3 Industrial Source Complex Short Term) es un modelo que desarrolló Pacific Environmental Services, Inc., Research Triangle Park, North Carolina, para la EPA (1995), que tiene la siguiente expresión:

9

⎡ ⎛ y QKD exp ⎢ −0.5 ⎜ C ( x, y, 0; he ) = ⎜σy 2π uσ yσ z ⎢ ⎝ ⎣

⎞ ⎟⎟ ⎠

2

⎤ ⎥ ⎥ ⎦

2 2 ⎛ ⎛ ⎛ − he ⎞ ⎞ ⎛ he ⎞ ⎞ exp ⎜ −0.5 ⎜ ⎟ ⎟ + exp ⎜⎜ −0.5 ⎜ ⎟ ⎟⎟ ⎜ σz ⎠ ⎟ ⎝ ⎝σz ⎠ ⎠ ⎝ ⎠ ⎝ 2 2 ⎧ ⎛ ⎛ ⎛ − ( 2izi − he ) ⎞ ⎞ ⎛ ( 2izi − he ) ⎞ ⎞ ⎫ ⎪ exp ⎜ −0.5 ⎜ ⋅ ⎟ ⎟ + exp ⎜ −0.5 ⎜ ⎟ ⎟ ⎪ ⎜ ⎟ ⎜ σ σ ⎪ ∞ z z ⎝ ⎠ ⎠ ⎝ ⎠ ⎟⎠ ⎪⎪ ⎝ ⎝ ⎪ +∑ ⎨ ⎬ 2 2 ⎛ ⎛ i =1 ⎪ ⎛ − ( 2izi + he ) ⎞ ⎞ ⎛ ( 2izi + he ) ⎞ ⎞ ⎪ ⎪ + exp ⎜ −0.5 ⎜ ⎟ ⎟ + exp ⎜ −0.5 ⎜ ⎟ ⎟⎪ ⎜ ⎟ ⎜ σ σ z z ⎝ ⎠ ⎠ ⎝ ⎠ ⎟⎠ ⎪⎭ ⎪⎩ ⎝ ⎝

(1.1)

Donde:

C Q K D σy

σZ u he zi

Concentración (ug/m3) en el tiempo t Flujo de la emisión (g/s) Coeficiente para corregir unidades (1X106) Termino de remoción Desviación estándar de la distribución horizontal de la concentración Desviación estándar de la distribución vertical de la concentración Velocidad del viento a la altura de la emisión (m/s) hs + ∆h altura de emisión (m) + elevación de la pluma (m) Altura de la capa mezcla (m)

El término de remoción es un método simple para cuantificar la remoción de contaminantes debido tanto a efectos físicos como químicos. La serie infinita en la formula Gaussiana estima los efectos debido a la capa de mezcla al considera fuentes imaginarias al considerar múltiples reflexiones de la pluma entre la superficie y la capa de mezcla. Donde se puede destacar que para los escenarios donde la altura efectiva de la pluma sea mayor que la altura de la capa de mezcla, se asume un efecto de penetración completa de la emisión y por lo tanto no se estima concentración en la superficie del terreno. Por otro lado Sigma Research Corporation (ahora parte de Herat Tech, Inc.) desarrollo el modelo de dispersión CALPUFF, junto con su programa preprocesador meteorológico CALMET. Presentando la siguiente formula Gaussiana 2 ⎡ ⎡ ⎛d ⎛ da ⎞ ⎤ C ( x, y, 0; he ) = g exp ⎢ −0.5 ⎜ ⎟ ⎥ exp ⎢ −0.5 ⎜ c ⎜ 2πσ xσ y ⎢ ⎝ σ x ⎠ ⎦⎥ ⎝σy ⎣⎢ ⎣

Q

⎞ ⎟⎟ ⎠

2

⎤ ⎥ ⎥ ⎦

(1.2)

10

g=

2⎤ ⎡ ⎛ ⎞ H + 2 nh e ⎢⎢ −0.5 ⎜⎜ e ⎟⎟ ⎥⎥ σ 2πσ z n=−∞ ⎢ z ⎝ ⎠ ⎥ ⎣ ⎦

2

∞

∑

Donde: Concentración (g/m3) Es la masa del contaminante (g) en el Puff Desviación estándar de la distribución en dirección del veinto de la σx concentración σy Desviación estándar de la distribución horizontal de la concentración σZ Desviación estándar de la distribución vertical de la concentración Es la distancia del centro del Puff al receptor en la dirección del da viento (m). Es la distancia del centro del Puff al receptor perpendicular a la dc dirección del viento (m). g Es el termino vertical de la ecuación Gaussiana He Es la altura efectiva desde la superficie hasta el centro del Puff h Altura de la capa mezcla (m) La sumatoria del término vertical representa las múltiples reflexiones entre la capa de mezcla y la

C Q

superficie del terreno Con la opción de simulación Slug activada, los Puffs emitidos se consideran como paquetes de material contaminante aglutinados a lo largo de la dirección del viento. Un Slug se puede visualizar como la sobre posición de un conjunto de Puffs circulares que presentan distancias muy pequeñas entre cada uno. En otras palabras un Slug representa la emisión continua de Puffs Estabilidad atmosférica Ambos modelos emplean las seis diferentes clases de estabilidad propuestas por Pasquill-GiffordTurner en relación con el gradiente térmico. Cuadro 1 Clases de estabilidad Pasquill-Gifford-Turner. Clase de estabilidad Pasquill A B C D E F

Descripción Extremadamente inestable Inestable Ligeramente inestable Neutro Ligeramente estable Estable

∂θ ∂z

⎡ °C ⎤ ⎢⎣100m ⎥⎦ < −1.9 − 1.9 a − 1.7 − 1.7 a − 1.5 − 1.5 a − 0.5 − 0.5 a 4 >4

11

Coeficientes de dispersión El modelo ISCST3 considera las formulas de Pasquill-Gifford-Turner (1970) para calcular los coeficientes de dispersión, σ y y σ z , a continuación se muestran las formulas empleadas:

σ y = 465.11628( x ) tan (0.017453293 [c − d ln ( x )])

(1.3)

σ z = ex f

Los valores de los parámetros c, d , e y f están dados en función de la clase de estabilidad, para cada distancia x en kilómetros, los valores se muestran en los cuadros 2 y 3. Cuadro 2 Constantes para el cálculo del coeficiente de dispersión horizontal σ y (ISCST3). Clase de estabilidad A B C D E F

c 24.1670 18.3330 12.5000 8.3330 6.2500 4.1667

d 2.5334 1.8096 1.0857 0.72382 0.54287 0.36191

Cuadro 3 Constantes para el cálculo del coeficiente de dispersión vertical σ z (ISCST3). Clase de estabilidad

A*

B* C*

D

E

x (km) < 0.10 0.10 – 0.15 0.16 – 0.20 0.21 – 0.25 0.26 – 0.30 0.31 – 0.40 0.41 – 0.50 0.51 – 3.11 > 3.11 < 0.20 0.21 – 0.40 > 0.40 todas < 0.30 0.31 – 1.00 1.01 – 3.00 3.01 – 10.00 10.01 – 30.00 > 30.00 < 0.10 0.10 – 0.30 0.31 – 1.00

e 122.800 158.080 170.220 179.520 217.410 258.890 346.750 453.850 5000* 90.673 98.483 109.300 61.141 34.459 32.093 32.093 33.504 36.650 44.053 24.260 23.331 21.628

f 0.94470 1.05420 1.09320 1.12620 1.26440 1.40940 1.72830 2.11660 5000* 0.93198 0.98332 1.09710 0.91465 0.86974 0.81066 0.64403 0.60486 0.56589 0.51179 0.83660 0.81956 0.75660

12

F

1.01 – 2.00 2.01 – 4.00 4.01 – 10.00 10.01 – 20.00 20.01 – 40.00 > 40.00 < 0.20 0.21 – 0.70 0.71 – 1.00 1.01 – 2.00 2.01 – 3.00 3.01 – 7.00 7.01 – 15.00 15.01 – 30.00 30.01 – 60.00 > 60.00

21.628 22.534 24.703 26.970 35.420 47.618 15.209 14.457 13.953 13.953 14.823 16.187 17.836 22.651 27.074 34.219

0.63077 0.57154 0.50527 0.46713 0.37615 0.29592 0.81558 0.78407 0.68465 0.63227 0.54503 0.46490 0.41507 0.32681 0.27436 0.21716

* si el valor calculado de σ z excede 5000 m, σ z se fijara como 5000 m. Mientras que el modelo CALPUFF considera tres diferentes opciones para los datos de entrada dependiendo de cinco opciones de dispersión. Las cinco opciones de dispersión son: 1. Coeficientes de dispersión calculados a partir de valores de turbulencia medidos. La forma general para calcular los coeficientes de dispersión propuesto por Hanna et al 1977 son:

σ yt = σ v tf y (t t ly )

σ zt = σ wtf z (t tlz )

(1.4)

Donde:

σv σw t t ly , t lz

Es la desviación estándar (m/s) de la componente horizontal perpendicular a la dirección del viento. Es la desviación estándar (m/s) de la componente vertical en la dirección del viento. Es el tiempo (s) transcurrido desde la pluma hasta el receptor. Son las componentes Langrangianas de tiempo (s) en la horizontal y la vertical.

2. Coeficientes de dispersión calculados internamente σ y y σ w empleando información micro meteorológica ( u* , w* , L, etc ) Se emplean las formulas mostradas para la opción anterior, con modelos que relacionan la información micro meteorológica para determinar los coeficientes.

13

3. Coeficientes de dispersión de Pasquill-Gifford para regiones rurales y los coeficientes McElroy-Pooler para regiones urbanas. Los coeficientes de PG empleados son los presentados en la ecuación (1.3), empleando las constantes de los cuadros 2 y 3. para el calculo de los coeficientes de dispersión urbana de McElroyPooler las formulas se presentan en el siguiente cuadro. Cuadro 4 Formulas para calcular los coeficientes dispersión urbanos McElroy-Pooler σ y y σ z

σ z (metros)

σ y ( metros )

Clase de estabilidad A

0.32 x (1.0 + 0.0004 x )

−1

B

0.32 x (1.0 + 0.0004 x )

−1

C

0.22 x (1.0 + 0.0004 x )

−1

D

0.16 x (1.0 + 0.0004 x )

−1

E

0.11x (1.0 + 0.0004 x )

−1

F

0.11x (1.0 + 0.0004 x )

−1

2

0.24 x (1.0 + 0.001x )

+1

2

0.24 x (1.0 + 0.001x )

+1

2

2

0.20x

2

2

0.14 x (1.0 + 0.0003x )

2

0.8 x (1.0 + 0.0015 x )

−1

2

0.8 x (1.0 + 0.0015 x )

−1

−1

2

2

2

4. Igual que el anterior pero considerando las ecuaciones de MESOPUFF II para calcular los coeficientes de Pasquill-Gifford. En esta opción se consideran las reacciones químicas de cinco especies (SO2, SO4, NOx, HNO3 y NO3) las ecuaciones MESOPUFF II consideradas para calcular los coeficientes de dispersión son:

σ y = ay x

by

(1.5)

σ z = az xb

z

Donde a y , b y , a z , bz son parámetros en función de la clase de estabilidad Cuadro 5 Valores de los parámetros MESOPUFF II empleados Clase de estabilidad A B C D E F

ay

by

0.36 0.25 0.19 0.13 0.096 0.063

0.9 0.9 0.9 0.9 0.9 0.9

az 0.00023 0.058 0.11 0.57 0.85 0.77

bz 2.10 1.09 0.91 0.58 0.47 0.42

14

5. Para condiciones estables y/o neutras se calcula la dispersión con las formulas CTDM, mientras que para condiciones inestables se emplean las formulas de la opción 3. Las formulas CTDMPLUS (Perry et al., 1989) son empleadas en esta opción cuando la altura de Monin-Obukhov es positiva (de neutral a estable). Presentando la siguiente expresión.

ut ⎤ ⎡ f y = ⎢1 + ⎣ 20000 ⎥⎦

−1

2

L0

Donde z es la altura desde la superficie y N es la frecuencia de Brunt-Vaisala. La información empleada por cada una de las 5 opciones de dispersión se puede clasificar en 3 diferentes grupos que son: •

Medición directa de la turbulencia para las opciones 1 y 5.

•

Parámetros micro meteorológicos en la opción 2

•

Coeficientes de dispersión de PGT en la opción 3 y 5 ó coeficientes MESOPUFF II. Elevación de la pluma

El modelo ISCST3 calcula la elevación de la pluma con las ecuaciones de Briggs (1972) considerando efectos de flotación y momentum. La ecuación que emplea asumiendo que prevalece un efecto de flotación es: he = hS' + 1.6

Fb1 3 x 2 3 uS

(1.7)

Mientras que con efectos prevalecientes de momentum Bowers (1979) la ecuación empleada es: 13

⎛ 3F x ⎞ he = hS' + ⎜ 2m 2 ⎟ ⎜β u ⎟ ⎝ j S⎠

(

⎛ sin x s / u S he = hS' + ⎜ 3Fm ⎜ β j2 u S s ⎝

en condiciones inestables

)

(1.8)

13

⎞ ⎟ ⎟ ⎠

en condiciones estables

Donde: Fb

Es el flujo de flotación en (m4/s3)

15

Fm he hS'

uS

Es el Flujo de Momentum en (m4/s2) Altura efectiva de la emisión (m) Altura de la emisión modificada por efecto de lavado de la boca de la chimenea. (m) Velocidad del viento ajustada a la altura por la emisión (m/s) Parámetro de estabilidad (g Ta )(dθ dz ) Es el coeficiente jet de ingreso (β j = 1 3 + u S w)

s βj x Es la distancia de la chimenea en la dirección del viento (m) Mientras que el modelo CALPUFF calcula la elevación de la pluma z n con las ecuaciones de Briggs (1975) en función de la flotación y el momentum durante condiciones neutrales o inestables, la ecuación empleada es: 1

⎡ 3F x 3Fx 2 ⎤ 3 (1.9) z n = ⎢ 2m 2 + 2 3 ⎥ ⎢⎣ β j u S 2β1 u S ⎥⎦ Mientras que la ecuación empleada para calcular la elevación final z sf en condiciones estables es: ⎡ 3F 6 F ⎤⎥ m z sf = ⎢ + ⎢ β 2 u S 12 β 22 u S S ⎥ ⎣ j S ⎦

1

3

(1.10)

Donde: Fm F uS x

β1 β2 βj w

S g Ta dθ dz

Es el Flujo de Momentum en (m4/s2) Es el flujo de flotación en (m4/s3) La velocidad del viento (m/s) a la altura de la chimenea Es la distancia de la chimenea en la dirección del viento (m) Es el parámetro de ingreso (≈ 0.6) Es el parámetro de ingreso (≈ 0.36) Es el coeficiente jet de ingreso (β j = 1 3 + u S w) Es la velocidad de salida del gas emitido (m/s) Es el parámetro de estabilidad (g Ta )(dθ dz ) Es la aceleración gravitatoria (m/s2) Es la temperatura ambiente (K) Es el gradiente térmico (K/m)

Velocidad del viento El modelo ISCST3 emplea una formula de potencia (potenciación) para ajustar la velocidad del viento observada a una altura de referencia para determinar la velocidad del viento a la altura de la

16

chimenea, esta velocidad es empleada en la formula Gaussiana y en las formulas de elevación de la pluma. La formula de potencia (potenciación) es: us = uref

⎛ hs ⎜⎜ ⎝ zref

⎞ ⎟⎟ ⎠

P

(1.11)

Donde: hS P

Altura de la chimenea (m) Exponente de la formula de potencia que estima la velocidad del viento (adimensional) La velocidad del viento (m/s) a la altura de la chimenea

uS u ref

Velocidad del viento medida a la altura de referencia (m/s)

z ref

Altura de referencia (m)

Los valores de P pueden ser establecidos por el usuario en función de la clase de estabilidad y de la clase debido al terreno, el modelo tiene los siguientes valores predeterminados: Cuadro 6 Valores del exponente P para calcular la velocidad del viento Exponente Exponente (condiciones (condiciones urbanas) rurales) A 0.07 0.15 B 0.07 0.15 C 0.10 0.20 D 0.15 0.25 E 0.35 0.30 F 0.55 0.30 Mientras que el modelo CALPUFF determina la velocidad del viento a través de un modelo Categorías de estabilidad

meteorológico que desarrolla campos tridimensionales de viento y temperatura, empleando campos bidimensionales de altura de mezclado, características del terreno y de dispersión para crear un archivo que posteriormente es usado por el modelo CALPUFF. Abatimiento de la pluma por edificios La diferencia en el tratamiento del abatimientote la pluma por edificios entre los modelos es que la altura limite a partir de la cual los modelos determinan el método a usar, en el modelo CALPUFF esta puede ser determinada por el usuario Ambos modelo emplean los métodos para el decaimiento por edificios desarrollados por Schulman y Scire (1980) este método es empleado cuando la altura de la chimenea es menor que la altura de un

17

edificio mas un medio de la altura del edificio más pequeño. En los casos en que no se cumple la regla anterior el modelo trabaja con el método propuesto por Huber (1977) y Snyder (1976). Método Huber-Snyder modifica los coeficientes de dispersión a través de las siguientes formulas:

σ z' = 0.7 H b + 0.067 ( x − 3H b )

σ y' = 0.35H w + 0.067(x − 3H b )

(1.12)

Método Schulman-Scire emplea una función de decaimiento linear aplicada a la dispersión vertical del método Huber-Snyder a través de las siguientes ecuaciones:

σ z'' = Aσ z' ⎧1 ⎪ ⎪ H − He +1 A=⎨ b L 2 b ⎪ ⎪⎩0

He ≤ Hb H b < H e ≤ H b + 2 Lb

(1.13)

H b + 2 Lb < H e

Terreno El modelo ISCST3 emplea una ecuación Gaussiana de medias sectoriales en condiciones estables al aplicar el modulo COMPLEX1 presentando modificaciones en la ecuación Gaussiana básica, elevación de la pluma y en las formulas para determinar los coeficientes de dispersión. La formula Gaussiana de medias sectoriales empleada para calcular la concentración horaria considera la incorporación de un ancho específico en radianes para realizar este cálculo como se muestra en la siguiente ecuación:

C=

QVD ⋅ CORR 2π R∆θ ′u S σ z

(1.14)

Donde: Q ∆θ ′

Flujo de contaminante emitido (masa/tiempo) Ancho del sector en radianes (=0.3927)

R x y uS

Distancia radial de la fuente al receptor x 2 + y 2 Distancia en la dirección del viento (m) Distancia lateral del eje de la pluma al receptor (m) La velocidad del viento (m/s) a la altura de la chimenea Desviación estándar de la concentración en la vertical Termino vertical. Termino de decaimiento Termino de corrección para los receptores

σz V D CORR

18

Durante la aplicación del método para calcular la elevación de la pluma, esta rutina es aplicada para distancias menores a la distancia donde se presenta la elevación final de la pluma empleando la distancia radial desde la fuente. El algoritmo COMPLEX para calcular los efectos del terreno calcula la distribución de la pluma a través del las medias sectoriales empleando la distancia radial sin calcular los parámetros de dispersión horizontal σ y . Mientras que el modelo CALPUFF puede calcular los efectos de la concentración a través de tres diferentes maneras que son:

•

Ajuste del campo de vientos a gran escala debido a las condiciones del terreno

•

Simulaciones especificas de la interacción del terreno con la emisión tanto en distancias contenidas dentro de la resolución de la malla, como para distancias mayores.

•

Simulaciones simplificadas de la interacción del terreno con la emisión tanto en distancias menores a la resolución de la malla, como para distancias mayores.

Deposición seca Ambos modelos calculan la deposición seca empleando el algoritmo desarrollado por Pleim (1984) contenidas en el modelo de deposición ácida y oxidación ADOM por sus siglas en ingles. Donde el flujo de deposición es calculado como el producto de la concentración por la velocidad de deposición calculada a la altura de referencia, como se muestra en la formula 1.15.

Fd = χ d Vd

(1.15)

Donde:

Fd

Flujo de deposición (g/m2s)

χd

Concentración (g/m3) Velocidad de deposición (m/s)

Vd

La velocidad de deposición se puede calcular con la formulas de Slinn (1978 y 1980) y Pleim (1984) como la inversa de la suma de las resistencias del contamínate a través de varias capas y términos de gravitacionales de asentamiento. El modelo CALPUFF cuenta con una base de datos de los que se puede seleccionar entre diferentes especies. Mientras que el modelo ISCST3 necesita la incorporación por el usuario de esta información.

19

También es importante mencionar que el modelo CALPUFF cuenta con tres diferentes niveles de detalle en la información para calcular la deposición seca: 1. Completo considerando las variaciones en los índices de decaimiento temporal y espacial. 2. Especificado por el usuario en ciclos de 24 horas para cada contaminante, pero sin considerar dependencias espaciales. 3. Sin deposición.

Remoción húmeda El modelo ISCST3 emplea el planteamiento de lavado para gases y partículas contaminantes a través de índices de remoción húmeda, con la siguiente expresión:

Q( x ) = Qo exp[− Λt ]

(1.16)

Donde:

t Λ Q (x ) Qo

Es el tiempo transcurrido desde que fue emitida (s) Índice de lavado (s-1) Es el factor de deposición húmeda (adimensional)

El flujo de deposición húmeda es calculado aun si la altura de la pluma excede la altura de mezclado. El cálculo de la remoción húmeda es opcional, debido a que no considera los efectos de la perdida de concentración por este fenómeno, presentando estimaciones conservadoras tanto de la concentración como de la deposición. Ya que el material depositado en la superficie no deja de ser considerado en la pluma. El índice de lavado se determina del producto de un coeficiente de lavado y la precipitación media.

Λ = λR

(1.17)

Donde: Λ

Índice de lavado (s-1) Es el coeficiente de lavado que depende de las características λ de cada especie (s-mm/hr) Es la precipitación media (mm/hr) R El modelo CALPUFF emplea la ecuación propuesta por Maul (1980) que estima la remoción húmeda siendo una ecuación empírica basada en el coeficiente de lavamiento, como se muestra en la siguiente expresión

χt + dt = χt exp [ −Λ∆t ]

(1.18)

20

⎛R⎞ Λ =λ⎜ ⎟ ⎝ R1 ⎠ Donde:

χ Λ

λ R R1

Concentración (g/m3) en el tiempo t Índice de lavado (s-1) Es el coeficiente de lavado que depende de las características de cada especie (s-1) Es la precipitación media (mm/hr) Es la precipitación media de referencia de 1mm/hr

El usuario puede modificar los valores preestablecidos de los coeficientes de lavado, como también puede evitar el cálculo de la remoción húmeda. Con toda la información de los modelos estudiada y analizada se desarrollo una tabla que lista las principales diferencias y similitudes de los modelos, la tabla comparativa de los modelos CALPUFF vs ISCST3 se presenta en el Anexo 3. En la siguiente sección se presentan las recomendaciones a partir de las características y limitaciones encontradas durante el análisis de los modelos

Análisis de la información empleada por los modelos De la actividad Análisis de los modelos destaca que durante el cálculo de la remoción húmeda el modelo ISCST3 estima una concentración conservadora debido a que no resta los contaminantes removidos por la remoción húmeda de la concentración de la pluma. El modelo CALPUFF estimará una concentración nula de contaminantes en la superficie del terreno en el caso cuando la altura de la emisión es mayor que la altura de la capa de mezcla considerando un efecto de penetración completa de la emisión. Las recomendaciones para emplear el modelo CALPUUF sugieren escenarios de gran escala. En la siguiente sección “Evaluación estadística” se estudian las diferentes metodologías encontradas para determinar el desempeño de los modelos, que permitirán evaluar el análisis de sensibilidad.

21

2. Evaluación estadística Con el fin de analizar el desempeño de diferentes modelos usados a nivel mundial, la comunidad científica ha organizado conferencias para unificar criterios al evaluar modelos conocidas como la iniciativa del “Harmonisation within Atmospheric Dispersion Modeling for Regulatory Purposes”. A partir de iniciativas como esta, los científicos han manifestado que al desarrollar modelos para describir fenómenos naturales como por ejemplo modelos para la caracterización de la calidad del aire es imposible definir una metodología que permita evaluar el desempeño de los modelos. De la misma manera la comunidad científica ha coincidido en expresar que los modelos desarrollados a través de planteamientos científicos para describir efectos naturales nunca podrán ser validados. En general los fundamentos empíricos que describen el comportamiento de la naturaleza pueden ser ciertos. Como se ha observado con los modelos de dispersión de contaminantes de aire basados en hipótesis científicas muy complejas acerca de los procesos naturales, estos pueden ser confirmados a través de la comparación con datos provenientes del monitoreo, pero nunca podrán ser validados. La comunidad científica experta en estudios de dispersión de contaminantes bajo la necesidad de evaluar el desempeño de diferentes modelos ha desarrollado diferentes herramientas que permiten evaluar el desempeño de los modelos. Las herramientas desarrolladas son el paquete de evaluación estadística “Model Validation Kit” (MVK) y una guía para la evaluación estadística del desempeño de los modelos de dispersión desarrollada por la sociedad americana de pruebas y materiales por sus siglas en ingles ASTM. Una característica presente en ambas metodologías es que estas realizan sus evaluaciones considerando la dirección del viento donde se presenta la máxima concentración de contaminantes, sin tomar en cuenta las variaciones en la dirección del viento que modifica la ubicación de la máxima concentración y en el caso en que se requiera las metodologías asumen que el modelo considera la dirección correcta. En la siguiente sección se presentan las principales características de cada una de las metodologías.

Diferentes metodologías La metodología MVK es un paquete de datos y herramientas que permite evaluar los modelos al aplicar un marco de referencia común, el desarrollo del paquete fue trabajo de Hanna (1991) y

22

difundido por Olesen (1994). El paquete considera la emisión de una chimenea, para cuatro episodios diferentes, cuenta con programas para realizar el análisis estadístico y gráfico de la información de monitoreo en campo contra la estimada por los modelos. Una limitante importante es que no considera la naturaleza estocástica2 de la dispersión atmosférica, esto significa que las graficas generadas de deberán ser cuidadosamente interpretadas ya que un modelo perfecto no se espera que estime la misma distribución de concentraciones que los datos monitoreados y esto significa que la grafica Cantidad-Cantidad no presentara una correspondencia de uno a uno, mientras que los gráficos de residual contra algún parámetro físico pueden mostrar el comportamiento del modelo (Olesen 1995 y 1997) La guía propuesta por la sociedad Americana de pruebas y materiales por sus siglas en ingles ASTM presenta como objetivo el evaluar el escenario de las emisiones de una chimenea y deja la posibilidad de considerar otros escenarios de dispersión, siendo principalmente el trabajo de Irwin (1999 y 2000). Tratando de evaluar la naturaleza estocástica de las observaciones de una manera consistente. La guía sugiere técnicas para la comparación de concentraciones estimadas con datos del monitoreo de campo, pero menciona que la metodología para realizar las comparaciones todavía esta en desarrollo por lo que se esperan futuras modificaciones tanto en los procedimientos como en los índices estadísticos y en los datos empleados.

Resumen de las Metodologías El “Model validation Kit” basa sus cálculos en la comparación de la concentración máxima observada para cada experimento contra la estimada por el modelo. Tiene como finalidad comparar diferentes modelos al hacer una evaluación estadística. Los índices estadísticos considerados por el paquete MVK son: El promedio calculado para las concentraciones observadas así como para las estimadas, y se define como: N

O =∑ i =1

Oi ; N

N

P =∑ i =1

Pi ; N

(2.1)

donde N corresponde al número total de valores. Se espera que O = P para un buen modelo.

2

Comportamiento aleatorio.

23

La desviación estándar, S , es un índice estadístico que se define como la raíz cuadrada del promedio de los cuadrados de la diferencia entre datos puntuales con el promedio. Este índice se calcula tanto para las concentraciones observadas como para las simuladas, y se espera que estos sean iguales para un buen modelo. La desviación estándar de un conjunto de datos es una medida de cuánto se desvían los datos de su media

So =

∑

(Oi − O )2 ; S N

p

=

∑

(Pi − P )2 ;

(2.2)

N

El sesgo, B , se define como la diferencia del promedio observado y el promedio simulado y se representa como:

B=O −P

(2.3)

Cuando el sesgo tome un valor B > 0 el promedio del modelo subestima las concentraciones o datos observados y viceversa. El error medio cuadrático normalizado (NMSE) se define como la razón del promedio de los cuadrados de la diferencia de las concentraciones observadas y las simuladas, y el producto de los promedios de las concentraciones observadas y las simuladas. Se representa en forma matemática como: 2 ( O − P) NMSE =

OP

(2.4)

Un modelo perfecto resulta en NMSE = 0; el valor de este índice es siempre positivo. El coeficiente de correlación, π , se define como la razón del producto de las concentraciones observadas y simuladas con respecto a su promedio, y el producto de las desviaciones estándar observadas y simuladas.

π=

(O − O )(P − P ) So S p

(2.5)

Con un modelo perfecto se obtiene un coeficiente de correlación de + 1 , los rangos para este índice son de –1 a +1.

24

El factor dos, FA2, se define como el porcentaje de datos para los cuales la razón de la concentración simulada y la observada se encuentren entre 0.5 y 2.

0.5 ≤

FA2

Pi ≤2 Oi

(2.6)

El uso de un modelo perfecto da un valor de FA2 = 1 . El sesgo fraccionado, FB, se define como el doble de la diferencia de los promedios de las concentraciones observadas menos las simuladas, entre la suma de los promedios

FB =

2(O − P ) O+P

(2.7)

El sesgo fraccionado tiene en valores entre –2 y +2; cuando el valor del sesgo fraccionado sea > 0 , las concentraciones medidas han sido subestimadas. La desviación estándar fraccionada, FS , se define como dos veces la razón de la diferencia de las desviaciones estándar observadas y simuladas entre la suma de las mismas: FS = 2

So − S p

(2.8)

So + S p

Este índice genera valores entre –2 y +2. Cuando se obtienen valores positivos para FS, la dispersión de los valores simulados es menor que la dispersión de las observaciones. La guía del ASTM presenta los siguientes índices estadísticos para comparar juegos de datos, donde

Oi representa el dato observado y Pi representa la estimación con el modelo. La

i

indica el

juego de datos con el que se esta trabajando y la barra superior indica que se emplea el promedio. El sesgo promedio, d , y desviación estándar del sesgo, σ d ,

d i = (Pi − Oi )

d = di

(2.9)

σ d2 = (d i − d )

2

Sesgo fraccionado, FB, y desviación estándar del sesgo fraccionado, σ FB ,

25

2(Pi − Oi ) (Pi + Oi )

FBi =

(2.10)

FB = FBi 2 2 σ FB = (FBi − FB )

Sesgo fraccionado absoluto, AFB , y desviación estándar del sesgo fraccionado absoluto, σ AFB ,

AFBi =

2 Pi − Oi (Pi + Oi ) (2.11)

AFB = AFBi 2 2 σ AFB = ( AFBi − AFB )

Error cuadrado medio normalizado, NMSE , como medida del error resultante del sesgo y de la dispersión (la normalización PO asegura que tanto la sobre y sub estimación se consideran de igual manera) 2 ( Pi − Oi ) NMSE =

(2.12)

PO

La pendiente, m, y la ordenada al origen, b, en las graficas de dispersión donde las estimaciones se grafican en el eje de las x y las observaciones en el eje de las y, son: m=

N ∑ Pi Oi − (∑ Pi )(∑ Oi ) N ∑ Pi 2 − (∑ Pi )

2

(∑ O )(∑ P ) − (∑ P O )(∑ P ) b= N ∑ P − (∑ P ) 2

i

i

i

i 2

2

i

(2.13)

i

i

El coeficiente de correlación lineal Pearson entre las estimaciones y las observaciones.

r=

∑ (P − P )(O − O ) [∑ (P − P) ∑ (O − O) ] i

i

2 12

2

i

(2.14)

i

La guía ASTM manifiesta que durante la comparación directa de observaciones con medias estimadas, dicha comparación considera datos provenientes de dos poblaciones distintas y con diferentes fuentes de varianza, restando validez a las conclusiones que se deriven de estos análisis. En el anexo 4 se presenta una tabla resumen de los índices estadísticos sugeridos por las metodologías MVK y ASTM.

26

Las graficas cantidad-cantidad se elaboran por ejemplo relacionando la máxima concentración observada contra la máxima concentración estimada. Si tanto el valor observado como el estimado son similares, entonces la grafica se dibujara a lo largo de la línea 1:1. Permitiendo a simple vista valorar si las distribuciones son similares y la manera en la que las observaciones y estimaciones se comportan. Las distribuciones de frecuencia acumuladas se construyen graficando los valores de concentración con determinada clasificación (del mayor al menor) contra la frecuencia, f , (generalmente en porcentaje), donde ρ es la clasificación (1= el máximo), N es el número de valores y la frecuencia se define como:

f = 100%(ρ − 0.4) / N para ρ < N 2 f = 100% − 100%( N − ρ + 0.6) / N para ρ > N 2

(2.15)

A través de una inspección visual de la distribución de frecuencia acumulada entre observadas y estimadas es posible determinara si las distribuciones son similares y cuando se presenta un sesgo que sobreestima o subestima el valor máximo observado. La máxima concentración robusta por sus siglas en ingles RHC se basa en el ajuste exponencial para el conjunto de concentraciones máximas estimadas R-1 de la distribución de frecuencias, donde R generalmente se fija en 26 para frecuencias anuales ⎛ 3R − 1 ⎞ RHC = C (R ) + Θ ln⎜ ⎟ ⎝ 2 ⎠

(2.16)

Donde:

Θ C (R )

Es el promedio R-1 de los valores máximos El máximo R° valor

Bootstrap resampling es un método para estimar la distribución de muestreo empleando una técnica de remuestreo con reemplazo de muestra. Esta metodología se desarrolla para evaluar el desempeño de un cierto modelo no únicamente al valor medio del periodo estudiado, logrando evaluar el comportamiento durante el tiempo y las variaciones que se presentaron durante el periodo en estudio. Por ejemplo de un grupo original de datos para un año (365 días) es fraccionado en bloques de tres días, para cada estación considerando bloques de tres días (aproximadamente 30 bloques por estación), estos bloques son simulados individualmente hasta completar cada estación y

27

sucesivamente hasta tener las cuatro estaciones y de esta manera obtener el bootstrap del año completo. En este ejemplo los bloques de tres días fueron escogidos para conservar la información meteorológica entre días. La información generada por el bootstrap anual es empleada para determinar la composición del desempeño de cada modelo. Este procedimiento se repite considerando que se cuenta con la información necesaria. El error estándar se calcula como la desviación estándar generada por los resultados del procedimiento bootstrap. Para determinar entre dos modelos cual presenta el mejor desempeño, esta será igual a la razón de los errores estándar de cada modelo. Los estadísticos empleados al realizar un estudio de estadística descriptiva son: El promedio, considerado como el centro de gravedad de los datos. El promedio estimado de una muestra se aproximara al promedio de la población al incrementar el número de datos en la muestra. n

xi n

x=∑ i =1

(2.17)

La mediana es el valor del dato intermedio del juego de datos, esta tiene la propiedad de que una mitad de los datos esta por arriba y la otra mitad por abajo.

xi

(2.18)

i =n / 2

La moda es el tercer indicativo de la tendencia central y es el valor que se repite más veces en el juego de datos. La varianza y la desviación estándar de la muestra: son consideradas como las mediciones estadísticas más representativas de la dispersión de los datos, las unidades de la desviación estándar y del promedio son las mismas, esta es una de las razones por las que la desviación estándar es tan empleada.

∑ (x n

S2 =

i =1

i

)

2

n −1

∑ (x n

S=

−x

i =1

i

−x

)

(2.19)

2

n −1

La simetría (Skewness) es una medida de la simetría de los datos que se calcula como:

28

(

n

a=

n∑ xi − x

)

3

(2.20)

i =1

(n − 1)(n − 2)

La Kurtosis es una medida de la angosto de la distribución, esta se calcula de la siguiente manera:

∑ (x n

n K=

2

i

i =1

−x

)

4

(2.21)

(n − 1)(n − 2)(n − 3)

Tanto la simetría (Skewness) como la Kurtosis se pueden presentar de manera adimensional al dividirlas por la desviación estándar a la cuarta. CK =

K S4

(2.22)

El índice de confianza se estima con la siguiente expresión.

CI = x ± t

S n

(2.23)

Donde el valor de t es tanto función del número de grados de libertad df y del nivel de significancía. El uso de t compensa la tendencia de subestimar la incertidumbre debido al empleo de un numero pequeño de datos. En el anexo 5 se presenta una tabla resumen de los índices estadísticos que Excel aplica durante la realización de un análisis de estadística descriptiva y que son los anteriormente mostrados. En el estudió de comparación de estimaciones contra los datos de monitoreo en campo de una red en Izmir Turquía realizado por Tolga Elbir 2003 el autor sugiere emplear el estadístico índice de concordancia que se define como: n

d = 1−

∑ (P − O ) i =1

2

i

i

∑(P − O + O n

i =1

i

i

−O )

(2.24)

2

Dentro de la siguiente sección de análisis de sensibilidad de los modelos, se aplicaran y valorara la información obtenida al aplicar cada uno de los índices estadísticos arriba mostrados.

29

3. Análisis de sensibilidad de los modelos El análisis de sensibilidad es una metodología que busca evaluar el impacto de los datos de entrada o de las restricciones especificas de un modelo en particular, en el resultado final o en las variables de salida del modelo (Turban, 2001). Esta metodología de evaluación es una herramienta muy poderosa para los tomadores de decisiones, por que genera información invaluable en dos sentidos. Primero, identifica los parámetros más importantes, con lo que se debe poner un cuidado especial al hacer estimaciones en posteriores estudios y al seleccionar una solución que tenga un buen desempeño para la mayoría de los valores posibles. Segundo, identifica los parámetros que será necesario observar y controlar de cerca durante el desarrollo del estudio.

Establecimiento del escenario base Para estimar el desempeño de los modelos CALPUFF e ISCST3, se considera trabajar con la información de emisión, meteorológica y topográfica del periodo de Junio del 2001. Considerando que el modelo ISCST3 realiza los cálculos de estimación de diferentes contaminantes de manera independiente (la estimación de un contaminante en cada corrida), mientras que el modelo CALMET-CALPUFF realiza dentro del mismo cálculo la estimación de todos los contaminantes preseleccionados se propone trabajar con las estimaciones de SO2 para determinar la sensibilidad de cada modelo. El escenario base considera las emisiones de dióxido de azufre (SO2), proveniente de tres fuentes, considerando las características topográficas de la región en un área de 120X120 km ubicando al centro del ejercicio a la termoeléctrica para el periodo de la semana del 1° al 7° de junio del 2001, se obtuvieron las concentraciones estimadas en 180 receptores ordenados en anillos concéntricos a partir de las fuentes emisoras. Los resultados gráficos se muestran en las siguientes figuras. La figura 1 presenta gráficamente las concentraciones de SO2 estimadas por el modelo CALPUFF con 180 receptores, presentando una concentración máxima alrededor de 70 mg/m3.

30

CALPUFF

SO2

2370

2360

65 60

2350

55 2340

50 45

2330

40 35

2320

30 2310

25 20

2300

15 10

2290

5 2280 630

640

650

660

670

680

690

700

710

720

Figura1. Concentración de SO2 estimada por el modelo CALPUFF. También se presentan los resultados encontrados con los estadísticos descriptivos donde se puede apreciar las diferencias entre el promedio, la mediana y la moda que nos indican la presencia de una distribución de concentraciones sesgada. CASO BASE CALPUFF

Promedio Mediana Moda Desviación estándar Varianza Kurtosis Simetría

8.585636 1.9776 0.74713 15.05358 226.6104 8.115509 2.813546

31

Rango Mínimo Máximo Suma Datos

78.331 0.265 78.596 1545.415 180

120% 100% 80% 60% 40% 20% 0%

72.6

60.5

48.5

36.4

24.4

12.3

140 120 100 80 60 40 20 0

0.3

Frecuencia

Histograma modelo CALPUFF

Concentración ug/m3

Frecuencia

Acumulado %

Cuadro 7. Estadística descriptiva e histograma de frecuencias para las concentraciones de SO2 estimada por el modelo CALPUFF. La siguiente figura presenta la concentración de SO2 estimada con el modelo ISCST3 considerando únicamente información meteorológica de la estación de monitoreo de Tuxpan, en la que se presento una concentración máxima de 45 mg/m3.

32

ISCST3

SO2

2370

2360

40 2350

35 2340

30 2330

25 2320

20 2310

15 2300

10 2290

5 2280 630

640

650

660

670

680

690

700

710

720

Figura 2. Concentración de SO2 estimada por el modelo ISCST3. Los resultados obtenidos con la estadística descriptiva para el escenario base empleando el modelo ISCST3 se presentan en el siguiente cuadro. CASO BASE ISCST3

Promedio Mediana Moda Desviación estándar Varianza Kurtosis Simetría

4.366751 0.33271 0 7.971782 63.54931 6.356421 2.390918

33

Rango Mínimo Máximo Suma Datos

47.4811 0 47.4811 786.0151 180

140 120 100 80 60 40 20 0

45.5

37.9

30.3

22.8

15.2

7.6

120% 100% 80% 60% 40% 20% 0%

0.0

Frecuencia

Histograma modelo ISC3

Concentración ug/m3 Frecuencia

Acumulado %

Cuadro 8. Estadística descriptiva e histograma de frecuencias para las concentraciones de SO2 estimada por el modelo ISCST3. La conclusión encontrada al realizar un análisis de las Figuras 1 y 2 muestran que la concentración de SO2 para el periodo del 1º al 7º de junio, estimada por los modelos CALPUFF e ISCST3 son espacial y temporalmente similares. Al analizar la información estadística de las concentraciones de SO2 estimadas para los 180 receptores considerados destaca que el modelo ISCST3 estima un valor de concentración medio de 4.37 que resulta ser menor que la media del modelo CALPUFF estimada de 8.58. Al comparar los histogramas de concentraciones estimadas por los modelos figura 4 se puede concluir que las concentraciones estimadas por el modelo CALPUFF son entre 57 a 69 % mayores que las estimadas por el modelo ISCST3

34

80

70

60

50

40

30

20

10

0 1

8

15

22

29

36

43

50

57

64

71

78

85

ISC3

92

99 106 113 120 127 134 141 148 155 162 169 176

CALPUFF

Figura 4. Concentración de SO2 estimadas por los modelos ISCST3 y CALPUFF. Después de estas consideraciones es evidente que el modelo ISCST3 estima concentraciones menores con respecto a las obtenidas con el modelo CALPUFF efecto que concuerda con la información encontrada en la bibliografía sobre las recomendaciones y comparaciones entre los modelos, donde el modelo CALPUFF para distancias cortas (cercanas a la fuente) tiende a sobreestimar las concentraciones. Levy 2000. Se puede concluir la diferencia encontrada en la estimación de las concentraciones es resultado de emplear la información meteorológica tridimensional con el modelo CALPUFF contra la información de una única estación meteorológica para representar las condiciones meteorológicas usadas con el modelo ISCST3.

Listas de parámetros y variables consideradas en el análisis El objetivo de esta sección es el de seleccionar, ordenar y establecer los parámetros de entrada considerados en el análisis de sensibilidad de los modelos CALPUFF e ISCST3. Con la información de los diferentes parámetros que el usuario de los modelos necesita determinar para lograr la correcta ejecución de cada modelo, se desarrollo la siguiente tabla comparativa que nos muestra las diferentes opciones que consideran cada modelo. Cuadro 9 Tabla de los diferentes parámetros de los modelos CALPUFF e ISCST3.

35

Opción para modelar

CALPUFF Según los lineamientos de transporte en grandes distancias Sin considerar los lineamientos

Tipo de emisión

Puntual, de área, de volumen y de lineal

Información Meteorológica

Proveniente del programa CALMET Vectores tridimensionales y/ó de estaciones meteorológicas Especificado por el usuario Horario, diario y del periodo

Periodo Simulado Proyección del terreno Terreno Especies modeladas Transformación química Deposición seca y húmeda Perfil de viento

Elevación de la pluma

Opción para modelar Método para el terreno

ISCST3 Según recomendaciones de la EPA Seleccionando entre: Decaimiento por edificios Con información incompleta Elevación gradual de la pluma Sin dispersión por flotación Ajuste del termino vertical Puntual con factores temporales de emisión (horarios, diarios, por estación y por estabilidad atmosférica) De estaciones meteorológicas

Especificado por el usuario para cada simulación va de días en adelante. UTM

UTM Universal transverse mercator LCC lambert conic conformal TTM Tangetial transverse mercator Características y elevaciones del Archivo con la elevación del terreno terreno. Todas las definidas por el usuario En cada simulación se define la especie a modelar. MESOPUFF II No RIVAD/ARM3 SOA secondary organic aerosol Si en función de las propiedades Genera una concentración de cada especie ingresada. conservadora. No ISC rural ISC Urbano 1 ISC Urbano 2 definido por el usuario Decaimiento Transicional Elevación gradual Decaimiento dispersión inducida sin Corte vertical por viento flotamiento Penetración de la pluma Ajustable por el usuario Slug ó Puffs Pluma Sin ajuste por terreno Plano Algoritmo ISC Algoritmo simple Algoritmo CALPUFF Algoritmo complejo Parcial trayectoria de la pluma Algoritmo simple y complejo

36

Receptores Resultado de una corrida

Definibles por el usuario nodos de la malla meteorológica mallas cilíndricas Horarias, Diarias y del periodo

Definibles por el usuario Mallas cilíndricas o rectangulares Diarias y del periodo definido

Después de estudiar las características involucradas en los diferentes parámetros cada modelo, se procedió a realizar una lista por modelo con los parámetros, para determinar el efecto que de manera independiente tienen sobre el resultado de la simulación. En las listas de los cuadros 10 y 11 se presentan las diferentes opciones de los parámetros considerados por los modelos durante la estimación de concentraciones, parámetros con los que se realizó el análisis de sensibilidad para estimar su efecto en los resultados de cada modelo. Cuadro 10 Lista de parámetros del modelo ISCST3.

Variable 1. Tipo de resultados

2. Agotamiento de la pluma 3. Opciones de dispersión

4. Decaimiento exponencial de contaminante

5. Coeficientes de dispersión 6. Opciones del terreno

Parámetro Concentración Deposición total Deposición seca Deposición húmeda Seca Húmeda Conforme a la normatividad Non Stacktip downwash Datos faltantes Bypass the calms Elevación gradual de la pluma Non Buoyancy-induced dispersión Ajuste del término vertical No

1 2 3 4 5 6 7 8 9 10 11

Vida media (s) Coeficiente (1/s) Rural Urbano plano Simple + complejo Simple only Sólo complejo

15 16 17 18 19 20 21 22

12 13 14

Cuadro 11 Lista de parámetros del modelo CALPUFF.

37

Variable

Opciones

1. Deposición

2. Info meteorológica

3. Perfil de viento

4. Elevación de la pluma

5. Elemento emitido 6. Coeficientes de dispersión

7. Ajuste por rugosidad 8. Heffter z-sigama 9. Método de ajuste del terreno

Ninguna Seca Húmeda CALMET con MM5 CALMET sin MM5 Una estación meteorológica ISC Rural ISC Urban I ISC Urban II Specified (modificable) Transicional Stacktip Downwash Corte vertical Penetración Puff Slug Datos medidos de turbulencia Coeficientes de PG Rural Curvas ISC and coefficientes MP Urbano Coeficientes PG Rural Curvas Mesopuff II and Coeficientes MP Urbano Sí No Sí No Sin ajuste ISC CALPUFF Parcial de trayectoria de la pluma

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18

19

20 21 22 23 24 25 26 27

En las listas de los cuadros 12 y 13 se presentan los diferentes datos de entrada que cada modelo necesita. Cuadro 12 Lista de datos de entrada modelo ISCST3.

Variable 7. emisión

Dato de entrada Velocidad de emisión m/s Temperatura de la emisión K Flujo emitido (g/s)

23 24 25

38

8. Archivo Dry.met

Velocidad del viento Temperatura Clase de estabilidad Altura de capa de mezcla Velocidad de fricción Monin-Obukhov Rugosidad Precipitación cantidad y flujo

26 27 28 29 30 31 32 33

Cuadro 13 Lista de datos de entrada modelo CALPUFF.

Variable 9. emisión

10. Archivo Dry.met

Dato de entrada Velocidad de emisión m/s Temperatura de la emisión K Flujo emitido (g/s) Velocidad del viento Temperatura Clase de estabilidad Altura de capa de mezcla Velocidad de fricción Monin-Obukhov Rugosidad Precipitación cantidad y flujo

28 29 30 31 32 33 34 35 36 37 38

Una vez que se determinaron los datos de entrada empleados por los modelos y considerando que dichas variables son resultado de mediciones y/o estimaciones, estas presentan incertidumbre debido al monitoreo experimental, al error del equipo de medición, del operador, durante la transmisión de información, por el redondeo de los valores reportados, por fallas en el suministro eléctrico. Se realizó una búsqueda bibliográfica para encontrar información sobre la magnitud de error presente en los datos de entrada (cuadros 12 y 13). Se encontraron por ejemplo reportes de la frecuencia con la que se estiman las diferentes clases de estabilidad (Maes, 1995). Aunque no es posible deducir de la información presentada un error asociado al cálculo de la estabilidad atmosférica, si se puede concluir que pueden existir grandes diferencias en la estabilidad calculada en condiciones similares por diferentes modelos. Debido a la naturaleza empírica de las fórmulas empleadas para la estabilidad atmosférica, se esperan errores más grandes que los que se puedan esperar para variables calculadas mediante fórmulas basadas en alguna ley física, o los reportados para valores monitoreados. De igual manera se encontraron reportes de la incertidumbre media para la velocidad del viento que van de 1 a 10% y para el flujo de la emisión entre 10 y 50%. Considerando que la velocidad de

39

viento a una altura de referencia es obtenida a través del monitoreo en campo; está medición involucra errores debido tanto al monitoreo, al azar y a la manipulación de los datos. En el cuadro 14 se presentan diferentes incertidumbres reportadas por diferentes investigadores, para la velocidad del viento medida. Cuadro 14 Incertidumbres asociadas a la medición de la velocidad del viento reportadas.

Incertidumbre ± 0.5 − 1.0m / s ± 10% ± 10% ± 1− 10% ± 10 − 30%

Fuente Tesche et al., 1981 Seinfeld, 1988 Kent, 1998 Mason and Moses, 1984 Zavodsky, 2000

Considerado las incertidumbres encontradas se propusieron diferentes errores a los datos de entrada con los que se realizo el análisis de sensibilidad. En el cuadro 15 se muestran los errores asociado a cada variable, considerando el efecto de subestimación y sobreestimación para cada error considerado. Cuadro 15 Errores considerados para el estudio de sensibilidad. Dato de entrada

Unidades

Error considerado

Flujo emitido

g/s

± 10%

± 30%

± 50%

Velocidad de emisión

m/s

± 10%

± 30%

± 50%

Temperatura emisión

K

± 3K

± 5K

± 8K

Velocidad del viento

m/s

± 10%

± 30%

Temperatura del aire

K

± 3K

± 6K

Altura de capa de mezcla

m

± 2m

± 5m

Velocidad de fricción

m/s

± 10%

± 30%

Altura Monin-Obukhov

m

± 2m

± 5m

En la siguientes secciones se presentan los resultados de sensibilidad obtenidos al considerar la variación de cada parámetro y los errores de los datos de entrada que se presentaron en los cuadros 10,11,12,13 y 15.

Análisis de resultados Las graficas del comportamiento de cada índice estadístico en función de la variación en los parámetros y al error considerado en los datos de entrada se presentan en los anexos 6 y 7.

40

De los resultados obtenidos a través de las graficas de los índices estadísticos (anexo 6 y 7) presentados en las sección Resumen de las metodologías del capitulo de Evaluación estadística se encontró que tanto el SESGO, Error Típico, NMSE, Sesgo Fraccionado, Sesgo Fraccionado absoluto, desviación estándar del sesgo fraccionado absoluto y la desviación estándar del sesgo presentaron un comportamiento normalizado que inicia en el cero para los escenarios base y que presenta diferentes comportamiento en función del parámetro que se este variando. Destacando sobre todos los estadísticos el error típico y el error medio cuadrático normalizado (NMSE) debido a que estos presentan su valor mínimo en cero y cuantifican las variaciones únicamente en la escala positiva que permite apreciar de una manera mas clara la presencia de cualquier variación en los resultados estimados. A continuación se presentan las gráficas de los índices estadísticos error típico y error cuadrático medio normalizado en función de cada parámetro de entrada variado para el modelo ISCST3, que permiten apreciar el comportamiento en función de las diferentes opciones de los parámetros y los valores de error en los datos de entrada NMSE modelo ISCST3 3.0

5

2.5

4

2.0

3

1.5

2

1.0

1

0.5

0

0.0

-1

-0.5 Ba se 1 y2 1 ,2 y3 1 ,2 ,3 y 1 y5 1 y6 8 9 10 11 12 13 18 19 y 1 9 y2 1 21 22 23_10 23_30 23_50 2 3 _ -1 0 2 3 _ -3 0 2 3 _ -5 0 24_3 24_5 24_8 2 4 _ -3 2 4 _ -5 2 4 _ -8 25_10 25_30 25_50 2 5 _ -1 0 2 5 _ -3 0 2 5 _ -5 0 26_10 2 6 _ -1 0 26_30 2 6 _ -3 0 27_3 27_6 2 7 _ -3 2 7 _ -6 29_2 29_5 2 9 _ -2 2 9 _ -5 30_10 3 0 _ -1 0 31_2 31_5 3 2 _ -2 3 2 _ -5

6

B as e 1 y2 1,2y 3 1,2,3y 1 y5 1 y6 8 9 10 11 12 13 18 19 y 19y 21 21 22 23_10 23_30 23_50 23_-10 23_-30 23_-50 24_3 24_5 24_8 24_-3 24_-5 24_-8 25_10 25_30 25_50 25_-10 25_-30 25_-50 26_10 26_-10 26_30 26_-30 27_3 27_6 27_-3 27_-6 29_2 29_5 29_-2 29_-5 30_10 30_-10 31_2 31_5 32_-2

Error típico modelo ISCST3

error tipico

NMSE

Figura 5. Graficas de Error típico y error cuadrático medio normalizado para el modelo ISCST3. De analizar las grafica del error típico y de error cuadrático medio normalizado de la figura 5 encontramos que el modelo ISCST3 es sensible a: 1. Seleccionar los coeficientes de dispersión urbanos.

41

2. Al tipo de algoritmo seleccionado para estimar los efectos del terreno. 3. A las variaciones en la velocidad de la emisión 4. A las variaciones en la velocidad del viento. El comportamiento encontrado para el modelo CALPUFF se muestra en la siguiente figura.

42

Error típico modelo CALPUFF 16

NMSE modelo CALPUFF 3.0

14 2.5

12 2.0

10 8

1.5

6 1.0

4 0.5

2 0

0.0

-0.5

1 2 3 4 5 6 y 25 7 8 9 10 11 12 13 14 15 18 y 20 19 y 20 18 y 21 19 y 21 24 25 27 10% _28 30% _28 50% _28 -10% _28 -30% _28 -50% _28 29_3k 29_5k 29_8k 29_-3k 29_-5k 29_-8k 30_10% 30_30% 30_50% 30_-10% 30_-30% 30_-50% is c flojun 31_10% 31_-10% 31_30% 31_-30% 32_3k 32_-3k 32_6k 32_-6k 34_2m 34_-2m 34_5 34_-5 35_10% 35_-10 36_2 36_-2 36_5 36_-5

B ase 1 2 3 4 5 6 y 25 7 8 9 10 11 12 13 14 15 18 y 20 19 y 20 18 y 21 19 y 21 24 25 27 10% _28 30% _28 50% _28 -10% _28 -30% _28 -50% _28 29_3k 29_5k 29_8k 29_-3k 29_-5k 29_-8k 30_10% 30_30% 30_50% 30_-10% 30_-30% 30_-50% iscflojun 31_10% 31_-10% 31_30% 31_-30% 32_3k 32_-3k 32_6k 32_-6k 34_2m 34_-2m 34_5 34_-5 35_10% 35_-10 36_2 36_-2 36_5 36_-5

-2

Figura 6. Graficas de Error típico y error cuadrático medio normalizado para el modelo CALPUFF. Del análisis de las graficas presentadas en la figura 6 se puede concluir que el modelo CALPUFF es sensible al: 1. Tipo de información meteorológica empleada (tridimensional ó de una sola estación) 2. Emplear el modulo de penetración de la pluma 3. Seleccionar los diferentes tipos de coeficientes de dispersión 4. A las variaciones en la velocidad de la emisión 5. A las variaciones en la velocidad del viento.

43

4. Modelación de contaminantes Como antecedente existen trabajos comparativos entre los modelos ISC3 y CALPUFF; presentado por ejemplo Trinity Consultants, Incorporated, 2004., presentado en su boletín de marzo del 2004. En esta comparación de estimaron los impactos considerando una nueva fuente con inventarios de 300 fuentes, los resultados muestran que las estimaciones de concentración realizadas por el ISC3 son mayores comparadas con el modelo CALPUFF al estimar medias de periodos de tiempo cortos, pero el efecto se invierte al considerar periodos de tiempo mayores. En general las variaciones en las estimaciones entre los dos modelos resultaron menores del 50%. Para el análisis de comparación entre las concentraciones observadas y las estimadas, se usaron los modelos de dispersión CALPUFF e ISCST3, junto con la información de los campos de viento y la meteorología calculada por el modelo meteorológico de diagnóstico CALMET. Los datos para alimentar a CALMET fueron: las observaciones en superficie de la Estación Meteorológica Automática (EMA) de Tuxpan; los datos registrados por al unidad móvil (UM) durante la campaña de monitoreo y por los datos de salida de modelo MM5 para el periodo del 27 de noviembre al 13 de octubre de 2003

Revisión de la información de Tuxpan La campaña de monitoreo de la ciudad de Tuxpan se llevó a cabo del 27 de noviembre al 13 de octubre de 2003, registrando observaciones a través de una Unidad Móvil (UM) perteneciente al Centro Nacional de Investigación y Capacitación Ambiental, del INE (CENICA), con la que se midieron los parámetros meteorológicos y de calidad del aire de manera horaria, temperatura velocidad del viento, dirección del viento, humedad relativa, ozono, monóxido de carbono, dióxido de azufre, óxidos de nitrógeno y PM10. Este periodo fue seleccionado debido a que incluye una semana representativa del estudio de modelación de Tuxpan, que correspondía al periodo de secas-frías. La unidad móvil fue ubicó en el Centro Tecnológico del Mar (CETMAR) dentro del área urbana de la Ciudad de Tuxpan, este punto se encuentra aproximadamente a 12 km al suroeste de la planta termoeléctrica de Tuxpan, como se puede observar en la Figura 7.

44

Figura 7. Ubicación de la Unidad Móvil de Monitoreo de la campaña de Tuxpan 2003

La mayoría de los parámetros se midieron a partir de la 16:00 del 27 de octubre hasta las 14:00 h del día 13 de noviembre del 2003 y en total se monitorearon 18 días. En el cuadro 14 se presenta una lista que presenta para cada parámetro meteorológico y contaminante medido durante la campaña el la cantidad de datos por hora que se colectaron y el porcentaje que representan. Cuadro 14. Tabla de parámetros medidos durante la campaña de Tuxpan 2003 Variables reportadas

Abreviat ura

Temperatura Celcius

TEMP

Grados Celcius

Dirección de viento

WD

Grados SIMR

Velocidad de viento

WS

m/s

Humedad Relativa

RH

Porcentaje

Ozono

OZONO

ppb

Monóxido de carbono

CO

ppm

Dióxido de azufre

SO2

ppb

PM10

PM10

ug/m3

Dióxido de nitrógeno

NO2

ppb

Óxido de nitrógeno

NO

ppb

Radiación

SOLAR

LANG

Unidades

periodo

Horas con datos

27 Y 28 de noviembre

19

9 al 13 de octubre 27 al 31 de noviembre 1 al 13 de octubre 27 al 31 de noviembre 1 al 13 de octubre 27 al 31 de noviembre 2 al 12 de octubre 27 al 31 de noviembre 1 al 13 de octubre 27 al 31 de noviembre

100 104 303 104 303 45 65 104 303 104

1 al 13 de octubre 27 al 31 de noviembre 1 al 13 de octubre 27 al 31 de noviembre No se midieron 27 al 31 de noviembre 1 al 13 de octubre 27 al 31 de noviembre 1 al 13 de octubre 27 Y 28 de noviembre

303 104 303 103 104 271 104 303 20

Porcentaje datos recobrados 29%

100 % 100 % 27 % 100% 100%

100% 25% 92% 100% 5%

45

Limitaciones de la campaña Como se puede observar no se reporta precipitación ni presión, debido a que la unidad móvil no está equipada con pluviómetros ni barómetros. Este periodo fue pensado para caracterizar un periodo seco, sin embargo, hubo precipitación en la mayoría de los días monitoreados. También es importante mencionar que por problemas técnicos del equipo de muestreo de partículas debido a la alta humedad prevaleciente, no se pudo muestrear partícula en los días de noviembre.

Análisis de información Durante el periodo de monitoreo se descargo de la página del Servicio Meteorológico Nacional, la información horaria correspondiente a la Estación Meteorológica Automática (EMA) de Tuxpan ubicada, también en la zona urbana de Tuxpan y en dirección suroeste relativa a la termoeléctrica de Tuxpan como de presenta en la Figura 8 Figura 8. Localización de la Estación de Monitoreo Automática de Tuxpan operada por la red de monitoreo del Servicio Meteorológico Nacional

Como se observa la estación de la red del SMN se encuentra muy cerca de donde se ubicó la unidad móvil. Los parámetros que se tomaron para el análisis de la información de la EMA de Tuxpan, se presentan en el cuadro 15 y su correspondiente porcentaje de suficiencia de datos, para el periodo de monitoreo.

46

Cuadro 15. Parámetros meteorológicos seleccionados de la EMA de Tuxpan para el análisis de y modelación durante la campaña de monitoreo

• Dirección del viento (DIR)

94.8 %

• Velocidad del viento (WSK)

99%

• Temperatura promedio (AvgTemp) 99% • Humedad relativa (AvgRH)

99%

• Presión Barométrica (AvgBP)

99%

• Precipitación (Rain)

100%

Como una medida de verificación de los datos colectados durante la campaña de campo, se comparó la información colectada en la unidad móvil (UM) y la reportada en la Sitio WEB del Servicio Meteorológico Nacional. Esta comparación se presenta en las series de tiempo de la figura 9 y fue únicamente para los parámetros comunes (temperatura, humedad relativa y velocidad del viento). Figura 9a. Comparación de la humedad relativa colectada por la UM y la reportada por la EMA de Tuxpan

100.00

Humedad Relativa (%)

90.00

80.00

70.00 HR_UM HR_EMA

60.00

50.00 1

12 23 34 45 56 67 78 89 100 111 122 133 144 155 166 177 188 199 210 221 232 243 254 265 276 287 298 309 320 331 342 353 364 375 386 397

DATOS HORARIOS

Figura 9b. Comparación de la temperatura colectada por la UM y la reportada por la EMA de

47

Tuxpan

35.00

Temperatura (°C)

30.00

25.00

20.00

TEM_UM TEM_EMA 15.00

10.00 1

12 23 34 45 56 67 78 89 100 111 122 133 144 155 166 177 188 199 210 221 232 243 254 265 276 287 298 309 320 331 342 353 364 375 386 397

Datos horarios

Figura 9c. Comparación de la velocidad del viento colectada por la UM y la reportada por la EMA de Tuxpan

6.00 VELVTO_UM VELVTO_EMA

Velocidad del viento (m/s)

5.00

4.00

3.00

2.00

1.00

0.00 1

12 23 34 45 56 67 78 89 100 111 122 133 144 155 166 177 188 199 210 221 232 243 254 265 276 287 298 309 320 331 342 353 364 375 386 397

Datos horarios

Como se observa en la figura 9a, la tendencia de las dos series son muy similares, sin embargo los valores de la Unidad Móvil son mayores en promedio. En la figura 9b, se observa de igual forma,

48

con los pocos datos recobrados, una tendencia temporal similar. En el caso d la figura 9c también se observa una tendencia semejante, sin embargo, las magnitudes de los valores de unidad móvil permaneces la mayor parte de tiempo por arriba de las registradas en la estación del SMN, este hecho también se aprecia en el cuadro 16, en la que se aprecia que el valor de la velocidad del viento promedio de los datos de la Unidad Móvil es aproximadamente 3 veces mayor que la calculada para los datos de la EMA. Esta diferencia podría ser atribuible a errores en la calibración o simplemente a errores inherentes a los equipos de medición. Cuadro 16. Estadística descriptiva de los parámetros comparados

Mínimo 1er. Percentil.: Media: Mediana (2º. Percentil) 3 er. Percentil.: Máximo No. Datos : No. no datos : Desviación estándar

Temperatura UM EMA 14.30 14.08 21.00 21.77

Velocidad del Viento UM EMA 0.30 0.00 1.10 0.00

Humedad Relativa UM EMA 60.50 60.00 80.93 94.33

22.20 21.90

23.86 23.30

2.06 1.90

0.73 0.52

86.15 85.20

94.78 99.83

23.70

26.30

3.00

1.25

92.95

100.00

30.60 407.00

31.37 407.00

5.40 407.00

2.76 407.00

99.80 407.00

100.00 407.00

288.00

6.00

0.00

5.00

297.00

6.00

3.87

3.71

1.19

0.77

8.81

9.35

La comparación de la dirección e intensidad de los vientos se realizó por medio de la generación de rosas de vientos, para los datos de viento de la unida móvil y para los datos de la EMA de la red del Servicio Meteorológico Nacional. Figura 10. Comparación de los vientos entre los datos de la Unidad Móvil y al EMA-SMN Rosa de vientos de la información de la Unidad Móvil

Rosa de vientos de la información del Servicio Meteorológico Nacional

49

COMENTARIOS

ROSA DE VIENTOS

COMENTARIOS

ROSA DE VIENTOS

Station #

Datos de vientos de la campaña de monitoreo en Tuxpan, del 27 de octubre al 13 de noviembre

- ,

NORTH

NORTH

GRAFICO AÑO-MES-DI

GRAFICO AÑO-MES-DI

2003 Oct 27 - Nov 13 Midnight - 11 PM

2003 Oct 27 - Nov 13 Midnight - 11 PM 20%

25%

ORIENTACION

Direction (blowing from)

16%

DISPLAY

Wind Speed

12%

UNIDADES

m/s

8%

20%

DISPLAY

> 11.06

Wind Speed

15%

8.49 - 11.06 UNIDADES

5.40 - 8.49

m/s

10%

12.78%

EAST

28.32%

5%

1.80 - 3.34

2.30 m/s

> 11.06 8.49 - 11.06 5.40 - 8.49

VIENTOS CALMA 1.80 - 3.34

PROMEDIO DE LA VELOCIDAD DEL0.51 VIENTO - 1.80

PROMEDIO DE LA VELOCIDAD DEL0.51 VIENTO - 1.80 WEST

Wind Speed (m/s)

3.34 - 5.40

3.34 - 5.40 VIENTOS CALMA 4%

ORIENTACION

Direction (blowing from)

Wind Speed (m/s)

WEST

EAST

1.43 m/s FECHA

FECHA

12/01/2004

12/01/2004

MODELADOR

MODELADOR

Tania López

Tania López

INSTITUCIÓN

INSTITUCIÓN

Instituto Nacional de Ecología

Instituto Nacional de Ecología

PROYECTO

PROYECTO

SOUTH

SOUTH

WRPLOT View 3.5 by Lakes Environmental Software - www.lakes-environmental.com

WRPLOT View 3.5 by Lakes Environmental Software - www.lakes-environmental.com

Como se observa la predominancia del viento es en la dirección suroeste –oeste, pero existen diferencias en los vientos provenientes del noreste de los datos que ese registraron en la unidad móvil, los cuales son más intensos que los que se aprecian en la información de las estación del SMN. No se consideró realizar otros análisis estadísticos de estos parámetros debido a la insuficiencia de información.

Calculo de las concentraciones en los receptores Se preparó la información meteorológica de superficie de la EMA de Tuxpan y se complementó con la información del observatorio de Tuxpan, de igual forma se procesó la información de vientos colectada durante la campaña. Debido a que no hay perfiles verticales de vientos y termodinámicos (radio-sondeos) cercanos a la región de estudio se usó la información de salida del modelo de pronóstico MM5, para reproducir la dinámica de los vientos en las capas por arriba de la superficie. El MM5 se corrió para los 18 días monitoreados y se procesó con el programa CALMM5 que extrajo la información en el área de estudio y transformó al formato que CALMET requiere. La información que fue incorporada al modelo de diagnóstico CALMET, se constituyó de la información de dos estaciones de superficie, la salida del MM5 y los datos de precipitación introducidos como una estación de precipitación para los cálculos de remoción húmeda.

50

Los datos de generados por CALMET, se usaron tanto para alimentar el modelo CALPUFF, como para el modelo ISCST3, previo procesamiento de la información. Consideraciones de la modelación Lo parámetros de la modelación se mantuvieron iguales a los establecidos durante el estudio de “Evaluación del impacto de las emisiones de la termoeléctrica de Tuxpan en la calidad del aire de la región, usando el sistema de modelado de dispersión CALMET-CALPUFF”, a continuación se describen. El estudio considera las tres chimeneas de la termoeléctrica, cada una de 120 metros de altura y 5.5 metros de diámetro interior, descargando los gases provenientes de la combustión a una velocidad que oscila entre 22 y 23 m/s, a una temperatura que va de 425 a 428K. Las emisiones de bióxido de azufre (SO2) estimadas son; 89,288 91,031 y 76,248 ton/año dando un total de 256,567 ton/año. Estas emisiones fueron estimadas tomando como base el consumo de combustibles reportado en las Cédulas de Operación Anual. Si bien estas emisiones corresponden al año 2000, se consideran representativas del comportamiento de las emisiones de la planta durante el período 1998-2001. El dominio de simulación seleccionado fue un dominio de 120 km X 120 km, donde se ubicaron las coordenadas geográficas de la termoeléctrica al centro del mismo, obteniendo un radio de acción de los contaminantes de 60 km. El punto de origen de la malla fue 613 km UTMX y 2265 km UTMY con una resolución de la celda de 2 X 2 km. Estableciendo como receptores de interés las poblaciones de Tamiahua, Naranjos, Cerro Azul, Tuxpan, Álamo, Cazones y Poza Rica. Para la estimación de las condiciones meteorológicas se empleo el Modelo Meteorológico de Mesoescala MM5 (PSU/NCAR, 2001) para generar los campos de viento tridimensionales iniciales del dominio, empleando una malla de 6X6 km. Para cada semana modelada, junto con información de una estación de superficie localizada en Tuxpan, dos sondeos por cada día de modelación correspondientes a las 18:00 hrs locales del día anterior (00z, gtc) y 6:00 hrs locales del día actual (12z, gtc) y nueve capas en la vertical con alturas de 10, 50, 120, 230, 450, 800, 1250, 1750 y 2250 metros.

El dominio considerado para este estudio es el mismo del estudio de Tuxpan, con un radio de influencia de las emisiones de la termoeléctrica de 60km es decir un área cuadrada de 120km X 120

51

km.

Resultados obtenidos Con los resultados de la campaña de monitoreo y las estimaciones hechas con los modelos se encontró un rango de horas al día en el que tanto los datos del monitoreo y las concentraciones estimadas por el modelo CALPUFF presentan sus valores máximos de donde se puede concluir que el efecto observado en los datos de la campaña es reproducido por el modelo. En la figura 11 se muestra el comportamiento de los datos de la campaña y los estimados por el modelo en función de las horas del día. Figura 11 Distribución horaria de las concentraciones recolectadas y estimadas por el modelo CALPUFF. Concentraciones recolectadas por la campaña de monitoreo Oct-Nov 2003

600 500

ug/m3

400 300 200 100 0 0

5

10

15

20

25

Hora del día

Concentraciones estimadas por el modelo CALPUFF para el periodo de la campaña de monitoreo Oct-Nov 2003 Sin precipitación

Con precipitación

52

600

1000

500

800

400 ug/m3

ug/m3

1200

600

300

400

200

200

100 0

0 0

5

10

15

20

25

Hora del día

0

5

10

15

20

25

Hora del día

De la información de la campaña la concentración media encontrada es de 14.7 ug/m3 mientras que la estimada por modelo CALPUFF es de 2.1 ug/m3 al considerar el calculo de remoción húmeda, sin embargo al realizar el mismo calculo sin considera la remoción húmeda la media encontrada es de 29.5 ug/m3.

Análisis de los resultados obtenidos La principal conclusión a partir del análisis de esta información es que el modelo es capaz de reproducir el comportamiento de la acumulación de SO2 entre las 10 a las 17 de cada día. El modelo CALPUFF resulta ser muy sensible al considerar la precipitación subestimando la concentración media cuando considera la precipitación y sobreestimando la concentración media en el caso en que no sea considerada, resultando para este caso de estudio en una variación de 10 veces en la magnitud de la concentración estimada. En la figura 12 se presenta las concentraciones tanto del monitoreo como las estimada por el modelo CALPUFF. Figura 12 Comportamiento de las concentraciones de la campaña de monitoreo y las estimadas por el modelo CALPUFF con y sin precipitación.

53

27 28 28 29 29 30 30 31 31 1 1 2 2 3 3 4 4 5 5 6 6 7 7 8 8 9 9 10 10 11 11 12 12 13

ug/m3 de SO2

200 180 160 140 120 100 80 60 40 20 0 -20

27 Nov al 13 Oct 2003

Monitoreado

estimada con precipitación

estimada sin precipitación

A continuación se presentan las graficas de Concentración estimada vs la concentración recolectada en la campana de monitoreo, en las que claramente se puede ver que sin considerar la precipitación el modelo tiende a sobreestimar la concentración mientras que al considerar la precipitación el modelo tiende a subestimar las concentraciones. Figura 13 Precipitación reportada por la Estación Meteorológica Automática (EMA) de Tuxpan Sin precipitación

Con precipitación

400

200

350

180 160 140

250

Estimada

Estimados

300

200 150

120 100 80 60

100

Monitoreados

200

180

160

140

120

100

80

60

40

0

400

350

300

250

200

150

100

50

0 0

20

0

20

40

50

[] de cam po

Debido a que el comportamiento de las concentraciones monitoreadas y estimadas presentan comportamientos tan diferentes en función de la precipitación resulta necesario estudiar la

54

información de precipitación introducida al modelo. En la figura 14 se presenta la gráfica de la distribución de la precipitación durante el periodo de la campaña de monitoreo.

12 12 13 13

10 11 11

9 9 10

7 7 8 8

5 6 6

4 4 5

2 3 3

31 1 1 2

30 30 31

28 29 29

1.0 0.9 0.8 0.7 0.6 0.5 0.4 0.3 0.2 0.1 0.0 -0.1 27 27 28

mm/hr

Figura 14 Precipitación reportada por la Estación Meteorológica Automática (EMA) de Tuxpan

del 27 Nov al 13 Dic 2003

De la información proporcionada por la estación Meteorológica Automática (EMA) de Tuxpan, resulta evidente que las magnitudes de precipitación reportadas únicamente presentan valores de 0.00, 0.25, 0.51, 0.76 y 1.01. Siendo resultado de un posible problema de sensibilidad del equipo de medición durante el monitoreo y de alguna manera cuestiona la calidad de información con la que se esta trabajando y que fue empleada para la estimación de la concentración con el modelo CALPUFF. Nota durante el periodo del 29 al 31 en el que de la figura 14 se aprecia que no hay registro de precipitación Es cuestionable que el día 12 de noviembre se presento un episodio de gran precipitación que no se refleja en concentraciones bajas que seria lo esperado presentándose una gran concentración de SO2. y que durante el periodo donde no se reporta precipitación las concentraciones de SO2 reportadas presenten valores por debajo de la media calculada para todo el periodo. Para evaluar el desempeño del modelo al reproducir las concentraciones monitoreadas durante el periodo de la campaña, se realizó un análisis del comportamiento del error cuadrático normalizado NNSE en función del tiempo que duro la campaña de monitoreo. Al evaluar el comportamiento del modelo CALPUFF sin considerar la precipitación a través del error cuadrático normalizado NMSE sin considerar la precipitación encontramos que en general el modelo CALPUFF sobreestima las concentraciones del monitoreo. Y en general se presenta un mayor error

55

del NMSE, como se muestra en la figura 15, para los episodios donde la concentración estimada presenta medias bajas. Figura 15 Comportamiento del error cuadrático normalizado NMSE, sin precipitación durante el periodo de la campaña de monitoreo 27 Oct-13 Nov 2003. 50 45

NMSE

40 35 30 25 20

13

12

12

11

11

10

9

10

9

8

8

7

7

6

6

5

5

4

4

3

3

2

2

1

1

31

31

30

30

29

29

28

28

5 0

27

15 10

27 Nov al 13 Dic

El comportamiento del modelo CALPUFF al considerar la precipitación a través del NMSE presenta un menor error, pero hace falta aclarar que las concentraciones estimadas sobreestiman los valores medios reportados por el monitoreo de campo. La figura 16 muestra el comportamiento del NMSE del modelo CALPUFF al considerar la precipitación. Figura 16 Comportamiento del error cuadrático normalizado NMSE, con precipitación durante el periodo de la campaña de monitoreo 27 Oct-13 Nov 2003. 50

35 30 25

13

12

12

11

11

10

10

9

9

8

8

7

7

6

6

5

5

4

4

3

3

2

2

1

1

31

31

30

30

29

29

28

0

28

20 15 10 5 27

NMSE

45 40

27 Oct - 13 Nov 2003

56

El error NMSE medio del periodo 27 de octubre al 13 de noviembre sin considerar los efectos de la precipitación es de 11.41, mientras que el error NMSE medio del periodo al considerar la precipitación es de 92.36. Recordando que las concentraciones estimadas para el escenario que considera la precipitación subestiman la concentración capturada por el monitoreo, se recomienda trabajar con las concentraciones resultantes sin considerar la precipitación, que consideran valores medios mayores que los registrados con el monitoreo que se pueden considerar como valores conservadores que representan la mayor concentración de contaminantes acumulable. Mientras que con el modelo ICSST3 no se puede apreciar el comportamiento de la concentración estimada hora a hora, debido a que dicho modelo no tiene la capacidad de estimar las concentraciones a periodos menores de 24 horas. Sin embargo el comportamiento estimado por el modelo durante periodos de 24 horas se compara con las medias diarias obtenidas de los datos reportados por la unidad de monitoreo. En el que no resulta evidente que el modelo prediga adecuadamente las concentraciones encontradas durante la campaña de monitoreo. Presentando una concentración media para el periodo de 9.62 menor que la concentración media de los datos de la campaña de monitoreo de 14.7 para el mismo periodo. Concluyendo que en general el modelo subestima tanto la concentración estimada con el modelo CALPUFF como las concentraciones de la campaña de monitoreo. Figura 17 Comportamiento de la concentración estimada por el modelo ISCST3 80.0 70.0

ug/m3 SO2

60.0 50.0 Obs

40.0

ISC3

30.0 20.0 10.0 0.0 28

29

30

31

1

2

3

4

5

6

7

8

9

10

11

12

13

Días

57

También se estima el error NMSE del modelo ISCST3 día a día durante el periodo de la campaña de monitoreo del que se observan únicamente errores considerables a partir del 9 de noviembre, presentando un error promedio para el periodo de estudio de 10.1, como se muestra en la figura 18. Figura 18 Error NMSE del modelo ISCST3 120

100

NMSE

80

60

40

20

0 28

29

30

31

1

2

3

4

5

6

7

8

9

10

11

12

27 Oct - 13 Nov

De los resultados encontrados se puede concluir que el modelo ISCST3 es un modelo diagnostico de rápida consulta que permite hacer una evaluación preliminar para diferentes escenarios, que no presento sensibilidad al considerar eventos de precipitación.

58

Conclusiones y recomendaciones •

Se desarrollo una guía de la información necesaria para poder emplear cada modelo (cuadro 9). Considerando la cantidad y calidad de información necesaria se desarrollo una tabla comparativa que permite apreciar tanto la cantidad y tipo de información que cada modelo emplea durante una estimación de rutina.

•

Se determinaron los parámetros a los que cada modelo resulto más sensible Gracias al análisis de sensibilidad y realizado a los modelos CALPUFF e ISCST3 fue posible determinar a que parámetros para cada modelo resulto sensible durante la estimación de contaminantes.

Lista de parámetros y variables a los que cada modelo resulto sensible son: CALPUFF

•

Tipo de información meteorológica

ISCST3

•

empleada (tridimensional ó de una sola estación)

•

•

•

A las variaciones en la velocidad del

coeficientes

de

Al tipo de algoritmo seleccionado para estimar los efectos del terrreno.

•

A las variaciones en la velocidad de la emisión

•

A las variaciones en la velocidad de la emisión

•

•

Seleccionar los diferentes tipos de coeficientes de dispersión

los

dispersión urbanos.

Emplear el modulo de penetración de la pluma

Seleccionar

A las variaciones en la velocidad del viento.

•

Recomendado para distancias menores de 50 km. de la fuente.

viento.

•

Al cálculo de la remoción húmeda.

•

Recomendado para distancias mayores de 120 km. de la fuente

59

•

Se determino que generalmente el modelo CALPUFF sobreestima los resultados

Se presentaron resultados en los que el modelo CALPUFF sobre estima las concentraciones en comparación con las estimadas con el modelo ISCST3 para distancias cercanas a la fuente y menores de 50 km efecto que confirma lo ya reportado en la literatura por Levy 2000. Para el caso de junio del 2001 se determinó que el modelo CALPUFF sobre-estima las concentraciones estimadas entre un 57 a un 69 % de las estimadas con el modelo ISCST3.

•

Se determino que el error típico es un índice estadístico que nos ayuda a evaluar el comportamiento de los modelos en función de las diferentes opciones con que estos pueden trabajar. Mientras que el error NMSE resulto se adecuado para evaluar desempeño del modelo en función de diferentes variables por ejemplo el tiempo.

Resultado del análisis de sensibilidad se recomienda emplear los índices estadísticos error típico y error cuadrático medio normalizado como una herramienta para determinar el grado de sensibilidad a determinado parámetro ó error en los datos entrada. De las ventajas mostradas por el modelo ISCST3 es su fácil aplicación, que permite obtener estimaciones de escenarios con poca inversión de tiempo, presentando información de ayuda durante cada etapa de ingreso y selección de parámetros para realizar la simulación. Mientras que el modelo CALPUFF se recomienda para escenarios mayores de 50 km. a partir de la fuente y en escenarios donde se cuente con la información completa del Meteorológico de Mesoescala MM5. Resultando ser un modelo más complejo y delicado durante la operación e ingreso de información.

Recomendaciones: Organizar y ejecutar una campaña de monitoreo que considere un numero de receptores tal en la que se pueda evaluar la manera en la que el modelo estima las concentraciones de toda una región. Resulta necesario establecer la certidumbre de la información que se esta alimentando a los modelos, en un caso particular hay que establecer los motivos por los cuales los valores de precipitación reportados presentan muy poca sensibilidad. Así mismo hay que determinara el motivo por el cual la información de la campaña de monitoreo presenta la mayor concentración de SO2 al mismo tiempo que se presenta el periodo de mayor precipitación.

60

Bibliografía Scire, J.S., Strimaitis D.G., Yamartino R.J., 2000a. A user's guide for the CALPUFF Dispersion model (Version 5.0). Earth Tech, Inc., Concord, MA. Tolga, Elbir., 2003 Comparison of model predictions with the data of an urban air quality monitoring network in Izmir, Turkey. Atmospheric Environment. Office of air Quality Planning and Standards Emissions, Monitoring, and Analysis Division, U.S. EPA,.1995 User’s Guide for the Industrial Source Complex (ISCST3) Dispersion Models Volume IIDescription of model Algorithms, Research Triangle Park, North Carolina. Levy, J.I. y Spengler, J.D., (2002), “Modeling the Benefits of Power Plant Emission Controls in Massachusets”, Journal of the Air & Waste Management Association, 52:5-18, Air & Waste Management Association. Levy, J.I., Spengler, J.D., Hlinka, D., Sullivan, D., (2000) “estimated Public health impacts of criteria pollutant air emissions from the Salem harbor and Brayton point power plants”, Clean Task Air Force and Pew Charitable trust. Levy, J.I., Spengler, J.D., Hlinka, D., Sullivan, D., Moon, D.(2002). “Using CALPUFF to evaluate the impacts of power plant emissions in Illinois: model sensitivity and implications”, Atmospheric Environment, 36:1063-1075, Elsevier Science, Ltd.. McBean, E.A., Rovers, F.A., 1998 Statistical Procedures for Analysis of Environmental Monitoring Data and Risk Assessment, Prentince Hall PTR López, M.T., Zuk, M., Garibay, V., Tzintzun, G., Iniestra, R., Fernández, A., 2005. Healt Damages from power plant emissions in México. Atmospheric Environment, 39 (7) pp.1199–1209. PSU/NCAR (Nacional Center for Atmospheric Research), 2001. Mesoescale Modeling System. MM5 Modeling System Version 3 Turban Efraim, Aronson Jay E., 2001 “Decision Support systems and Intelligent systems”, Sexta Edición, Ed. Prentice-Hall. Trinity Consultants, Incorporated. 2004. http://www.breeze-software.com/

61

Anexo 2 Tabla de los diferentes parámetros de los modelos CALPUFF e ISCST3. Opción para modelar

CALPUFF

ISCST3

Según los lineamientos de transporte en grandes distancias Sin considerar los lineamientos

Según recomendaciones de la EPA

Tipo de emisión

Puntual, de área, de volumen y de lineal

Información Meteorológica

Proveniente del programa CALMET Vectores tridimensionales y/ó de estaciones meteorológicas Especificado por el usuario Horario, diario y del periodo

Periodo Simulado Proyección del terreno Terreno Especies modeladas Transformación química Deposición seca y húmeda Perfil de viento

Elevación de la pluma

Opción para modelar Método para el terreno

Receptores Resultado de una corrida

UTM Universal transverse mercator LCC lambert conic conformal TTM Tangetial transverse mercator Características y elevaciones del terreno Todas las definidas por el usuario MESOPUFF II RIVAD/ARM3 SOA secondary organic aerosol Si en función de las propiedades de cada especie ingresada. ISC rural ISC Urbano 1 ISC Urbano 2 definido por el usuario Transicional Decaimiento Corte vertical por viento Penetración de la pluma Slug ó Puffs Sin ajuste por terreno Algoritmo ISC Algoritmo CALPUFF Parcial trayectoria de la pluma Definibles por el usuario nodos de la malla meteorológica mallas cilindricas Horarias, Diarias y del periodo

Seleccionando entre: Decaimiento por edificios Con información incompleta Elevación gradual de la pluma Sin dispersión por flotación Ajuste del termino vertical Puntual con factores temporales de emisión (horarios, diarios, por estación y por estabilidad atmosférica) De estaciones meteorológicas Especificado por el usuario para cada simulación va de días en adelante. UTM Archivo con la elevación del terreno. En cada simulación se define la especie a modelar. No Genera una concentración conservadora. No

Decaimiento Elevación gradual dispersión inducida sin flotamiento Ajustable por el usuario Pluma Plano Algoritmo simple Algoritmo complejo Algoritmo simple y complejo Definibles por el usuario Mallas cilíndricas o rectangulares Diarias y del periodo definido

62

Anexo 3 Tabla comparativa de las metodologías de cálculo empleadas por los modelos CALPUFF e ISCST3. Estabilidad Atmosférica Coeficientes de Dispersión.

CALPUFF CALMET Mediciones directas Usando datos micro meteorológicos CALMET

Implementación ISCST usando PGT 1970 Elevación de pluma Briggs 1975 Considera flujos buoyantes y de momentum Velocidad del viento CALMET genera campos tridimensionales de viento y temperatura Decaimiento por Huber-Snyder edificios Shulman-Scire Usa 36 direcciones de viento Terreno Ajustes de dirección de vientos a larga escala Simulación de interacciones del puff con el terreno Opción simplificada de interacción puffterreno según la escala Deposición seca Remoción húmeda Término Concentración Término Horizontal

ISCST3 Pasquill (A,...,F) Pasquill & Gifford, 1970 Briggs, 1971

Emplea formula de potencia Shulman-Scire Usa 36 direcciones de viento s Emplea medias sectoriales, para calcular la elevación de la pluma, la distribución de contaminantes y la concentración con la distancia radial. Pleim (1984)

Acepta factores de decaimiento (Sehmel 1980 and Hicks 1982) Maul 1980 coeficientes de scavenging Q expresión = Considera Q, σ y , σ z , u u ⋅ σ y ⋅ σ z ⋅ 2π

Nota: el término concentración es el mismo para los dos modelos. 2 ⎛ d2 ⎞ ⎛ ⎜− y expresión = exp ⎜ − c 2 ⎟ = expresión exp ⎜ 2 ⋅σ y ⎟ ⎜ 2 ⋅σ 2 ⎝ ⎠ y ⎝ d c distancia del centro del puff al y distancia de

receptor

⎞ ⎟ ⎟ ⎠

la

chimenea al receptor

63

Anexo 4 Índices estadísticos de las metodologías MVK y ASTM. MVK N Oi P O =∑ ; P =∑ i; i =1 N i =1 N

ASTM

N

Promedio Desviación estándar S

So =

∑

(Oi − O )

2

N

Correlación pi Factor 2 Sesgo fraccionado FB Desviación estándar fraccionada Desviación estándar del sesgo Desviación estándar del sesgo fraccionado Sesgo fraccionado absoluto Std desvi del AFB

2

N

; d i = (Pi − Oi )

B=O −P

Sesgo NMSE

∑

; Sp =

(Pi − P )

NMSE =

π=

d = di

(O − P )2 OP

(O − O )(P − P ) So S p

0.5 ≤

FA2 FB =

r=

PO Pi − P Oi − O

∑(

)( ) [∑ (P − P) ∑ (O − O) ] i

Pi ≤2 Oi FBi =

2(Pi − Oi ) FB = FBi (Pi + Oi )

So − S p So + S p

σ d2 = (d i − d )2 2 2 σ FB = (FBi − FB )

2 Pi − Oi AFB = AFBi (Pi + Oi )

AFBi =

2 2 σ AFB = ( AFBi − AFB )

m=

Grafica O vs P

2 12

2

i

2(O − P ) O+P

FS = 2

(Pi − Oi )2

NMSE =

N ∑ Pi Oi − (∑ Pi )(∑ Oi ) N ∑ Pi 2 − (∑ Pi )

2

(∑ O )(∑ P ) − (∑ P O )(∑ P ) b= N ∑ P − (∑ P ) 2

i

i

i

i 2

2

i

i

i

64

Anexo 5 Índices empleados en la estadística descriptiva (Excel). n

x=∑

Promedio

i =1

xi

Mediana Moda

i =n / 2

Valor que se presenta mas veces

SEM x =

Desviación estándar

K=

S n

(

n

Kurtosis

xi n

n 2 ∑ xi − x

)

4

i =1

(n − 1)(n − 2)(n − 3)

(

n

n∑ xi − x

)

3

Simetría

a=

Rango Mínimo Máximo

=Máximo - Mínimo

i =1

(n − 1)(n − 2)

n

Suma

xT = ∑ xi

Datos

n

i =1

65

8

3

2

Moda

0.1

-0.1 B as e 1 y2 1 ,2y 3 1,2,3y 1 y5 1 y6 8 9 10 11 12 13 18 19 y 19 y 21 21 22 23 _10 23 _30 23 _50 23 _-10 23 _-30 23 _-50 2 4_3 2 4_5 2 4_8 2 4_-3 2 4_-5 2 4_-8 25 _10 25 _30 25 _50 25 _-10 25 _-30 25 _-50 31 _10 31 _-10 31 _30 31 _-30 3 2_3 3 2_6 3 2_-3 3 2_-6 3 4_2 3 4_5 3 4_-2 3 4_-5 35 _10 35 _-10 3 6_2 3 6_5 3 6_-2 3 6_-5

B a se 1 y2 1 ,2 y3 1 ,2 ,3 y 1 y5 1 y6 8 9 10 11 12 13 18 19 y 1 9 y2 1 21 22 23_10 23_30 23_50 2 3 _ -1 0 2 3 _ -3 0 2 3 _ -5 0 24_3 24_5 24_8 2 4 _ -3 2 4 _ -5 2 4 _ -8 25_10 25_30 25_50 2 5 _ -1 0 2 5 _ -3 0 2 5 _ -5 0 31_10 3 1 _ -1 0 31_30 3 1 _ -3 0 32_3 32_6 3 2 _ -3 3 2 _ -6 34_2 34_5 3 4 _ -2 3 4 _ -5 35_10 3 5 _ -1 0 36_2 36_5 3 6 _ -2 3 6 _ -5

Media

0.2 180

0.15 160

-0.15 20

-0.2 0 B a se 1 y2 1 ,2 y3 1 ,2 ,3 y 1 y5 1 y6 8 9 10 11 12 13 18 19 y 19y21 21 22 23_10 23_30 23_50 2 3 _ -1 0 2 3 _ -3 0 2 3 _ -5 0 24_3 24_5 24_8 2 4 _ -3 2 4 _ -5 2 4 _ -8 25_10 25_30 25_50 2 5 _ -1 0 2 5 _ -3 0 2 5 _ -5 0 31_10 3 1 _ -1 0 31_30 3 1 _ -3 0 32_3 32_6 3 2 _ -3 3 2 _ -6 34_2 34_5 3 4 _ -2 3 4 _ -5 35_10 3 5 _ -1 0 36_2 36_5 3 6 _ -2 3 6 _ -5

B a se 1 y2 1 ,2 y3 1 ,2 ,3 y 1 y5 1 y6 8 9 10 11 12 13 18 19 y 1 9 y2 1 21 22 23_10 23_30 23_50 2 3 _ -1 0 2 3 _ -3 0 2 3 _ -5 0 24_3 24_5 24_8 2 4 _ -3 2 4 _ -5 2 4 _ -8 25_10 25_30 25_50 2 5 _ -1 0 2 5 _ -3 0 2 5 _ -5 0 31_10 3 1 _ -1 0 31_30 3 1 _ -3 0 32_3 32_6 3 2 _ -3 3 2 _ -6 34_2 34_5 3 4 _ -2 3 4 _ -5 35_10 3 5 _ -1 0 36_2 36_5 3 6 _ -2 3 6 _ -5

Anexo 6 Graficas de los Índices estadísticos generados con las estimaciones del modelo ISCST3. Mediana 2.5

7

2

6

5

1.5

4

1

0.5

0

Varianza

140

0.05 120

0 100

-0.05 80

60

40

66

10

7

6

Simetría

2.3

2.2

Error típico Base 1 y2 1,2y3 1 ,2 ,3 y 1 y5 1 y6 8 9 10 11 12 13 18 19 y 1 9 y2 1 21 22 2 3 _1 0 2 3 _3 0 2 3 _5 0 2 3 _-1 0 2 3 _-3 0 2 3 _-5 0 2 4_ 3 2 4_ 5 2 4_ 8 2 4_ -3 2 4_ -5 2 4_ -8 2 5 _1 0 2 5 _3 0 2 5 _5 0 2 5 _-1 0 2 5 _-3 0 2 5 _-5 0 3 1 _1 0 3 1 _-1 0 3 1 _3 0 3 1 _-3 0 3 2_ 3 3 2_ 6 3 2_ -3 3 2_ -6 3 4_ 2 3 4_ 5 3 4_ -2 3 4_ -5 3 5 _1 0 3 5 _-1 0 3 6_ 2 3 6_ 5 3 6_ -2 3 6_ -5

B a se 1 y2 1 ,2 y3 1 ,2 ,3 y 1 y5 1 y6 8 9 10 11 12 13 18 19 y 1 9 y2 1 21 22 23_10 23_30 23_50 2 3 _ -1 0 2 3 _ -3 0 2 3 _ -5 0 24_3 24_5 24_8 2 4 _ -3 2 4 _ -5 2 4 _ -8 25_10 25_30 25_50 2 5 _ -1 0 2 5 _ -3 0 2 5 _ -5 0 31_10 3 1 _ -1 0 31_30 3 1 _ -3 0 32_3 32_6 3 2 _ -3 3 2 _ -6 34_2 34_5 3 4 _ -2 3 4 _ -5 35_10 3 5 _ -1 0 36_2 36_5 3 6 _ -2 3 6 _ -5

11

B as e 1 y2 1,2y 3 1,2,3y 1 y5 1 y6 8 9 10 11 12 13 18 19 y 19y 21 21 22 23_10 23_30 23_50 23_-10 23_-30 23_-50 24_3 24_5 24_8 24_-3 24_-5 24_-8 25_10 25_30 25_50 25_-10 25_-30 25_-50 31_10 31_-10 31_30 31_-30 32_3 32_6 32_-3 32_-6 34_2 34_5 34_-2 34_-5 35_10 35_-10 36_2 36_5 36_-2

B as e 1 y2 1,2y 3 1,2,3y 1 y5 1 y6 8 9 10 11 12 13 18 19 y 19y 21 21 22 23_10 23_30 23_50 23_-10 23_-30 23_-50 24_3 24_5 24_8 24_-3 24_-5 24_-8 25_10 25_30 25_50 25_-10 25_-30 25_-50 31_10 31_-10 31_30 31_-30 32_3 32_6 32_-3 32_-6 34_2 34_5 34_-2 34_-5 35_10 35_-10 36_2 36_5 36_-2 36_-5

13 10

12 9.5

5 5.5

4 5

3 4

2.9 3

6 3.0

5 2.5

4 2.0

3 1.5

2 1.0

1

0.5

0

0.0

-1

-0.5

B as e 1 y2 1,2y 3 1,2,3y 1 y5 1 y6 8 9 10 11 12 13 18 19 y 19y 21 21 22 23_10 23_30 23_50 23_-10 23_-30 23_-50 24_3 24_5 24_8 24_-3 24_-5 24_-8 25_10 25_30 25_50 25_-10 25_-30 25_-50 31_10 31_-10 31_30 31_-30 32_3 32_6 32_-3 32_-6 34_2 34_5 34_-2 34_-5 35_10 35_-10 36_2 36_5 36_-2

Ba se 1 y2 1 ,2 y3 1 ,2 ,3 y 1 y5 1 y6 8 9 10 11 12 13 18 19 y 1 9 y2 1 21 22 23_10 23_30 23_50 2 3 _ -1 0 2 3 _ -3 0 2 3 _ -5 0 24_3 24_5 24_8 2 4 _ -3 2 4 _ -5 2 4 _ -8 25_10 25_30 25_50 2 5 _ -1 0 2 5 _ -3 0 2 5 _ -5 0 31_10 3 1 _ -1 0 31_30 3 1 _ -3 0 32_3 32_6 3 2 _ -3 3 2 _ -6 34_2 34_5 3 4 _ -2 3 4 _ -5 35_10 3 5 _ -1 0 36_2 36_5 3 6 _ -2 3 6 _ -5

Desviación estándar Kurtosis

8.5

9

9 7.5

8

8

6.5

7

6

Sesgo

2.8

2.7 2

2.6 1

2.5 0

2.4 -1

-2

-3

NMSE

67

1.4

1.2

1

0.6

Sesgo fraccionado absoluto

Desviación estándar del Sesgo

69

-1 B as e 1 y2 1,2y 3 1,2,3y 1 y5 1 y6 8 9 10 11 12 13 18 19 y 19y 21 21 22 23_10 23_30 23_50 23_-10 23_-30 23_-50 24_3 24_5 24_8 24_-3 24_-5 24_-8 25_10 25_30 25_50 25_-10 25_-30 25_-50 31_10 31_-10 31_30 31_-30 32_3 32_6 32_-3 32_-6 34_2 34_5 34_-2 34_-5 35_10 35_-10 36_2 36_5 36_-2

Ba se 1 y2 1 ,2 y3 1 ,2 ,3 y 1 y5 1 y6 8 9 10 11 12 13 18 19 y 1 9 y2 1 21 22 23_10 23_30 23_50 2 3 _ -1 0 2 3 _ -3 0 2 3 _ -5 0 24_3 24_5 24_8 2 4 _ -3 2 4 _ -5 2 4 _ -8 25_10 25_30 25_50 2 5 _ -1 0 2 5 _ -3 0 2 5 _ -5 0 31_10 3 1 _ -1 0 31_30 3 1 _ -3 0 32_3 32_6 3 2 _ -3 3 2 _ -6 34_2 34_5 3 4 _ -2 3 4 _ -5 35_10 3 5 _ -1 0 36_2 36_5 3 6 _ -2 3 6 _ -5

1.6

B as e 1 y2 1,2y 3 1,2,3y 1 y5 1 y6 8 9 10 11 12 13 18 19 y 19y 21 21 22 23_10 23_30 23_50 23_-10 23_-30 23_-50 24_3 24_5 24_8 24_-3 24_-5 24_-8 25_10 25_30 25_50 25_-10 25_-30 25_-50 31_10 31_-10 31_30 31_-30 32_3 32_6 32_-3 32_-6 34_2 34_5 34_-2 34_-5 35_10 35_-10 36_2 36_5 36_-2

B as e 1 y2 1,2y 3 1,2,3y 1 y5 1 y6 8 9 10 11 12 13 18 19 y 19y 21 21 22 23_10 23_30 23_50 23_-10 23_-30 23_-50 24_3 24_5 24_8 24_-3 24_-5 24_-8 25_10 25_30 25_50 25_-10 25_-30 25_-50 31_10 31_-10 31_30 31_-30 32_3 32_6 32_-3 32_-6 34_2 34_5 34_-2 34_-5 35_10 35_-10 36_2 36_5 36_-2

2

0.9 0.9

0.8 0.8

0.7 0.7

0.6 0.6

0.5 0.5

0.4 0.4

0.3 0.3

0.2 0.2

0.1 0.1

0.0 0

-0.1 -0.1

39 0.9

29 0.8

B as e 1 y2 1,2y 3 1,2,3y 1 y5 1 y6 8 9 10 11 12 13 18 19 y 19y 21 21 22 23_10 23_30 23_50 23_-10 23_-30 23_-50 24_3 24_5 24_8 24_-3 24_-5 24_-8 25_10 25_30 25_50 25_-10 25_-30 25_-50 31_10 31_-10 31_30 31_-30 32_3 32_6 32_-3 32_-6 34_2 34_5 34_-2 34_-5 35_10 35_-10 36_2 36_5 36_-2

Base 1 y2 1 ,2 y 3 1 ,2 ,3 y 1 y5 1 y6 8 9 10 11 12 13 18 19 y 19y21 21 22 23_10 23_30 23_50 2 3 _ -1 0 2 3 _ -3 0 2 3 _ -5 0 24_3 24_5 24_8 2 4 _ -3 2 4 _ -5 2 4 _ -8 25_10 25_30 25_50 2 5 _ -1 0 2 5 _ -3 0 2 5 _ -5 0 31_10 3 1 _ -1 0 31_30 3 1 _ -3 0 32_3 32_6 3 2 _ -3 3 2 _ -6 34_2 34_5 3 4 _ -2 3 4 _ -5 35_10 3 5 _ -1 0 36_2 36_5 3 6 _ -2

Intervalo de Confianza 95% Sesgo Fraccionado

0.8

1

1.8 0.6

0.4

0.2

-0.2

0

-0.4

0.8 -0.6

-0.8 -1

Desviación Str. del sesgo fraccionado absoluto

Correlación lineal Pearson

1.1

59 1.0

49 1.0

0.9

19 0.8

9

0.7

0.7

0.6

68

30

25

Moda

100

80

70

50

20

0

Base 1 2 3 4 5 6 y 25 7 8 9 10 11 12 13 14 15 18 y 20 19 y 20 18 y 21 19 y 21 24 25 27 10%_28 30%_28 50%_28 -10%_28 -30%_28 -50%_28 29_3k 29_5k 29_8k 29_-3k 29_-5k 29_-8k 30_10% 30_30% 30_50% 30_-10% 30_-30% 30_-50% iscflojun 31_10% 31_-10% 31_30% 31_-30% 32_3k 32_-3k 32_6k 32_-6k 34_2m 34_-2m 34_5 34_-5 35_10% 35_-10 36_2 36_-2 36_5 36_-5

Base 1 2 3 4 5 6 y 25 7 8 9 10 11 12 13 14 15 18 y 20 19 y 20 18 y 21 19 y 21 24 25 27 10%_28 30%_28 50%_28 -10%_28 -30%_28 -50%_28 29_3k 29_5k 29_8k 29_-3k 29_-5k 29_-8k 30_10% 30_30% 30_50% 30_-10% 30_-30% 30_-50% iscflojun 31_10% 31_-10% 31_30% 31_-30% 32_3k 32_-3k 32_6k 32_-6k 34_2m 34_-2m 34_5 34_-5 35_10% 35_-10 36_2 36_-2 36_5 36_-5

Media

0

B as e 1 2 3 4 5 6 y 25 7 8 9 10 11 12 13 14 15 18 y 20 19 y 20 18 y 21 19 y 21 24 25 27 10% _28 30% _28 50% _28 -1 0 % _ 2 8 -3 0 % _ 2 8 -5 0 % _ 2 8 29_3k 29_5k 29_8k 2 9 _ -3 k 2 9 _ -5 k 2 9 _ -8 k 30_10% 30_30% 30_50% 3 0 _ -1 0 % 3 0 _ -3 0 % 3 0 _ -5 0 % is c flo ju n 31_10% 3 1 _ -1 0 % 31_30% 3 1 _ -3 0 % 32_3k 3 2 _ -3 k 32_6k 3 2 _ -6 k 34_2m 3 4 _ -2 m 34_5 3 4 _ -5 35_10% 3 5 _ -1 0 36_2 3 6 _ -2 36_5 3 6 _ -5

Base 1 2 3 4 5 6 y 25 7 8 9 10 11 12 13 14 15 18 y 20 19 y 20 18 y 21 19 y 21 24 25 27 10%_28 30%_28 50%_28 -10%_28 -30%_28 -50%_28 29_3k 29_5k 29_8k 29_-3k 29_-5k 29_-8k 30_10% 30_30% 30_50% 30_-10% 30_-30% 30_-50% iscflojun 31_10% 31_-10% 31_30% 31_-30% 32_3k 32_-3k 32_6k 32_-6k 34_2m 34_-2m 34_5 34_-5 35_10% 35_-10 36_2 36_-2 36_5 36_-5

Anexo 7 Graficas de los Índices estadísticos generados con las estimaciones del modelo CALPUFF. Mediana 25

20

20

15

15

10

10

5

5

0

Varianza

90

600

500

60

400

40

300

30

200

10

100

0

69

7

Simetría

3.5

1.5

Error típico

16

10

8

2

0

B as e 1 2 3 4 5 6 y 25 7 8 9 10 11 12 13 14 15 18 y 20 19 y 20 18 y 21 19 y 21 24 25 27 10% _28 30% _28 50% _28 -10% _28 -30% _28 -50% _28 29_3k 29_5k 29_8k 29_-3k 29_-5k 29_-8k 30_10% 30_30% 30_50% 30_-10% 30_-30% 30_-50% is c flojun 31_10% 31_-10% 31_30% 31_-30% 32_3k 32_-3k 32_6k 32_-6k 34_2m 34_-2m 34_5 34_-5 35_10% 35_-10 36_2 36_-2 36_5 36_-5

1 2 3 4 5 6 y 25 7 8 9 10 11 12 13 14 15 18 y 20 19 y 20 18 y 21 19 y 21 24 25 27 10%_28 30%_28 50%_28 -10%_28 -30%_28 -50%_28 29_3k 29_5k 29_8k 29_-3k 29_-5k 29_-8k 30_10% 30_30% 30_50% 30_-10% 30_-30% 30_-50% iscflojun 31_10% 31_-10% 31_30% 31_-30% 32_3k 32_-3k 32_6k 32_-6k 34_2m 34_-2m 34_5 34_-5 35_10% 35_-10 36_2 36_-2 36_5 36_-5

15

1 2 3 4 5 6 y 25 7 8 9 10 11 12 13 14 15 18 y 20 19 y 20 18 y 21 19 y 21 24 25 27 10% _28 30% _28 50% _28 -10% _28 -30% _28 -50% _28 29_3k 29_5k 29_8k 29_-3k 29_-5k 29_-8k 30_10% 30_30% 30_50% 30_-10% 30_-30% 30_-50% iscflojun 31_10% 31_-10% 31_30% 31_-30% 32_3k 32_-3k 32_6k 32_-6k 34_2m 34_-2m 34_5 34_-5 35_10% 35_-10 36_2 36_-2 36_5 36_-5

B a s e1 23 4 6 y 2 575 8 1 09 111 213 11 45 111 988 yyy 222 001 1 9 y 22 41 25 10 % __ 222 887 30 50 % % _28 -10 -30 % % ___ 222 888 -50 22%9_ 3k 9_ 29_ 9_-358 kkk 22 9_ -5 k 2_9_ -8%k 30 10 30 30 % 30___-10 50 % % 30 30 30 __ -30 -50 % % is c flo ju 31__-10 10 % %n 31 31__-30 30 % % 31 2_-33 kk 3332_ 2_ 6 k 3 2_ k 4_-2-6 2m 334_ m5 34 _ 34 _% -5 353_5_ 10-1 0 36__-22 36 36 _ 36 _ -55

23

1 2 3 4 5 6 y 25 7 8 9 10 11 12 13 14 15 18 y 20 19 y 20 18 y 21 19 y 21 24 25 27 10% _28 30% _28 50% _28 -10% _28 -30% _28 -50% _28 29_3k 29_5k 29_8k 29_-3k 29_-5k 29_-8k 30_10% 30_30% 30_50% 30_-10% 30_-30% 30_-50% is c flojun 31_10% 31_-10% 31_30% 31_-30% 32_3k 32_-3k 32_6k 32_-6k 34_2m 34_-2m 34_5 34_-5 35_10% 35_-10 36_2 36_-2 36_5 36_-5

B ase 1 2 3 4 5 6 y 25 7 8 9 10 11 12 13 14 15 18 y 20 19 y 20 18 y 21 19 y 21 24 25 27 10% _28 30% _28 50% _28 -10% _28 -30% _28 -50% _28 29_3k 29_5k 29_8k 29_-3k 29_-5k 29_-8k 30_10% 30_30% 30_50% 30_-10% 30_-30% 30_-50% iscflojun 31_10% 31_-10% 31_30% 31_-30% 32_3k 32_-3k 32_6k 32_-6k 34_2m 34_-2m 34_5 34_-5 35_10% 35_-10 36_2 36_-2 36_5 36_-5

Desviación estándar Kurtosis 14.0

21

12.0

19

10.0

17

8.0

13

6.0

11

4.0

9

2.0

0.0

Sesgo 20

3.0

2.5 15

2.0 10

5

1.0

0.5 0

0.0 -5

-10

NMSE

14 3.0

12 2.5

2.0

6 1.5

4

1.0

0.5

-2

0.0

-0.5

70

3.0

2.8

2.4

2.2

1.8

1.6

1.2

1.0

Sesgo fraccionado absoluto

0.8

0.6

-0.2

Desviación estándar del Sesgo

50

0 1 2 3 4 5 6 y 25 7 8 9 10 11 12 13 14 15 18 y 20 19 y 20 18 y 21 19 y 21 24 25 27 10%_28 30%_28 50%_28 -10%_28 -30%_28 -50%_28 29_3k 29_5k 29_8k 29_-3k 29_-5k 29_-8k 30_10% 30_30% 30_50% 30_-10% 30_-30% 30_-50% iscflojun 31_10% 31_-10% 31_30% 31_-30% 32_3k 32_-3k 32_6k 32_-6k 34_2m 34_-2m 34_5 34_-5 35_10% 35_-10 36_2 36_-2 36_5 36_-5

Base 1 2 3 4 5 6 y 25 7 8 9 10 11 12 13 14 15 18 y 20 19 y 20 18 y 21 19 y 21 24 25 27 10%_28 30%_28 50%_28 -10%_28 -30%_28 -50%_28 29_3k 29_5k 29_8k 29_-3k 29_-5k 29_-8k 30_10% 30_30% 30_50% 30_-10% 30_-30% 30_-50% iscflojun 31_10% 31_-10% 31_30% 31_-30% 32_3k 32_-3k 32_6k 32_-6k 34_2m 34_-2m 34_5 34_-5 35_10% 35_-10 36_2 36_-2 36_5 36_-5

3.4

1 2 3 4 5 6 y 25 7 8 9 10 11 12 13 14 15 18 y 20 19 y 20 18 y 21 19 y 21 24 25 27 10%_28 30%_28 50%_28 -10%_28 -30%_28 -50%_28 29_3k 29_5k 29_8k 29_-3k 29_-5k 29_-8k 30_10% 30_30% 30_50% 30_-10% 30_-30% 30_-50% iscflojun 31_10% 31_-10% 31_30% 31_-30% 32_3k 32_-3k 32_6k 32_-6k 34_2m 34_-2m 34_5 34_-5 35_10% 35_-10 36_2 36_-2 36_5 36_-5

1 2 3 4 5 6 y 25 7 8 9 10 11 12 13 14 15 18 y 20 19 y 20 18 y 21 19 y 21 24 25 27 10% _28 30% _28 50% _28 -10% _28 -30% _28 -50% _28 29_3k 29_5k 29_8k 29_-3k 29_-5k 29_-8k 30_10% 30_30% 30_50% 30_-10% 30_-30% 30_-50% is cflojun 31_10% 31_-10% 31_30% 31_-30% 32_3k 32_-3k 32_6k 32_-6k 34_2m 34_-2m 34_5 34_-5 35_10% 35_-10 36_2 36_-2 36_5 36_-5

3.6

350

1.2

300

1

1 2 3 4 5 6 y 25 7 8 9 10 11 12 13 14 15 18 y 20 19 y 20 18 y 21 19 y 21 24 25 27 10%_28 30%_28 50%_28 -10%_28 -30%_28 -50%_28 29_3k 29_5k 29_8k 29_-3k 29_-5k 29_-8k 30_10% 30_30% 30_50% 30_-10% 30_-30% 30_-50% iscflojun 31_10% 31_-10% 31_30% 31_-30% 32_3k 32_-3k 32_6k 32_-6k 34_2m 34_-2m 34_5 34_-5 35_10% 35_-10 36_2 36_-2 36_5 36_-5

1 2 3 4 5 6 y 25 7 8 9 10 11 12 13 14 15 18 y 20 19 y 20 18 y 21 19 y 21 24 25 27 10%_28 30%_28 50%_28 -10%_28 -30%_28 -50%_28 29_3k 29_5k 29_8k 29_-3k 29_-5k 29_-8k 30_10% 30_30% 30_50% 30_-10% 30_-30% 30_-50% iscflojun 31_10% 31_-10% 31_30% 31_-30% 32_3k 32_-3k 32_6k 32_-6k 34_2m 34_-2m 34_5 34_-5 35_10% 35_-10 36_2 36_-2 36_5 36_-5

Intervalo de Confianza 95% Sesgo Fraccionado 1.5

3.2 1.2

1.0

2.6 0.7

0.5

2.0

-0.1

0.2

1.4 -0.3

-0.6

-0.8

Desviación Str. del sesgo fraccionado absoluto

1.4

1.2

0.6

1

0.5

0.4

0.3

0.4

0.2

0.2

0

0.1

0

Correlación lineal Pearson

250

200

0.8

150

0.6

100

0.4

0.2

0

71

72