Tema 6.-

ESPACIOS VECTORIALES EUCLÍDEOS

! PRODUCTO ESCALAR, NORMA Y DISTANCIA. MATRIZ DE GRAM ! ORTOGONALIDAD ! PROCESO DE ORTOGONALIZACIÓN DE GRAMSCHMIDT ! APROXIMACIÓN LINEAL VECTORIALES EUCLÍDEOS

EN

ESPACIOS

! SOLUCIÓN APROXIMADA INCOMPATIBLES (MÉTODO CUADRADOS)

DE DE

SISTEMAS MÍNIMOS 1

Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

Una de las aplicaciones má más interesantes en este capí capítulo es el mé método de mínimos cuadrados.. Con frecuencia, al tratar de comprender datos experimentales, deseamos determinar una recta o una curva que “encaje” encaje” o “se ajuste” ajuste” má más (o describa mejor) estos datos. Por ejemplo, imaginemos que un profesor de álgebra lineal mantiene las estadí estadísticas (que se muestran a continuació continuación) del porcentaje de notables otorgados durante un perí período de 6 cursos. Curso Porcentaje de notables

1

0.20

2

3

0.25

0.20

4

0.30

5

0.45

6

0.40

Si el profesor quisiera trazar una recta que se acerque a los puntos en la tabla tendrá tendrá muchas opciones. Sin embargo, hay una que se ajusta mejor a estos datos, bajo cierto criterio. criterio. En este capí capítulo veremos que esa recta es y = 0.13333 + 0.05 x

Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

2

Un poco de historia El método por mínimos cuadrados fue inventado por Karl Friedrich Gauss, y lo usó para resolver un problema de astronomía. En 1801 el asteroide Ceres se había observado mucho más brillante durante más de un mes antes de desaparecer cuando se acercó al Sol. Con base en las observaciones disponibles, los astrónomos deseaban aproximar la órbita de Ceres para observarlo de nuevo cuando se alejara del sol. Gauss empleó los mínimos cuadrados e impactó a la comunidad científica al predecir la hora y el lugar correctos (unos 10 meses después) para localizar el asteroide.

Karl Friedrich Gauss (1777 - 1855) Matemático, físico y astrónomo alemán. Nacido en el seno de una familia humilde, desde muy temprana edad Gauss dio muestras de una prodigiosa capacidad para las matemáticas (según la leyenda, a los tres años interrumpió a su padre cuando estaba ocupado en la contabilidad de su negocio para indicarle un error de cálculo). Durante su vida, se reconoció que era el matemático más grande de los siglos XVIII y XIX. Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

3

Ejemplo introductorio: el reajuste del nivel de referencia americano Imagine comenzar un proyecto masivo que se estima tomará tomará diez añ años y que requiere el esfuerzo de docenas de personas para construir y resolver un sistema de 180000 por 900000 ecuaciones lineales. Esto es exactamente lo que se hizo en el Estudio Geodé Geodésico Nacional (de los Estados Unidos) en 1974, cuando se propuso actualizar el nivel de referencia norteamericano (NAD) –una red con 268000 puntos de referencia cuidadosamente medidos y marcados que abarcan todo el continente de Amé América del Norte arriba del istmo de Panamá Panamá, junto con Groenlandia, Hawai, las Islas Ví Vírgenes, Puerto Rico y otras islas del Caribe. Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

4

Las latitudes y longitudes registradas en el NAD deben determinarse con una exactitud de unos pocos centí centímetros puesto que forman la base para todos los planos, mapas, lí límites legales de la propiedad, planes de uso de la tierra estatales y regionales y la organizació organización de proyectos de ingenierí ingeniería civil como carreteras y líneas pú públicas de transmisió transmisión de electricidad. Desde el último ajuste de los puntos de referencia geodé geodésicos en 1927, má más de 200000 puntos nuevos habí habían sido añadidos a un viejo conjunto de mediciones. Los errores se habí habían acumulado gradualmente a travé través de los añ años y en algunos lugares la tierra misma se ha movido (hasta 5 centí í metros al añ cent año). En 1970 ya era urgente reacondicionar el sistema por completo y se hicieron planes para determinar un nuevo conjunto de coordenadas para los puntos de referencia. Los datos de mediciones recolectadas a lo largo de un periodo de 140 añ años debí debían convertirse a una forma legible por computador y los datos mismos tení tenían que estandarizarse. (Por ejemplo, se usaron modelos matemá matemáticos de los movimientos de la corteza terrestre para actualizar las mediciones hechas añ años atrá atrás a lo largo de la falla de San André Andrés en California.) Despué Después de eso, se tení tenían que comparar las mediciones para identificar errores que hubieran surgido de los datos originales o de los introducidos en el computador. Los cá cálculos finales comprendí comprendían aproximadamente 1.8 millones de observaciones, cada una ponderada segú según su precisió precisión relativa y cada una dando lugar a una ecuació ecuación. Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

5

El sistema de ecuaciones del NAD no tení tenía solució solución en el sentido comú común, sino que má más bien tení tenía una solució solución por mí mínimos cuadrados, que asignaba latitudes y longitudes a los puntos de referencia de tal modo que correspondieran de la mejor manera posible a los 1.8 millones de observaciones. Se encontró encontró la solució solución de mí mínimos cuadrados resolviendo un sistema lineal relacionado de ecuaciones normales, que incluí incluía ¡928735 ecuaciones con 928735 variables! Como las ecuaciones normales eran demasiado grandes para los computadores existentes, se descompusieron en sistemas má más pequeñ pequeños utilizando una té é cnica llamada bloques de Helmert, que parte recursivamente t la matriz de coeficientes en bloques má más y má más pequeñ pequeños. Los bloques menores proporcionaron ecuaciones para bloques geográ geográficamente contiguos de 500 a 2000 puntos de referencia del NAD. Despué Después de varios pasos intermedios se utilizaron las soluciones de los sistemas má más pequeñ pequeños para producir los valores finales para todas las 928735 variables. En 1983 se completó completó la base de datos para el reajuste del NAD. Tres añ años despué después, tras un aná análisis extenso y má más de 940 horas de tiempo de procesamiento en computador, se resolvió resolvió el mayor problema de mí mínimos cuadrados jamá jamás intentado. Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

6

PRODUCTO ESCALAR Sea V un espacio vectorial real es un producto escalar sobre V si : 1.2.3.4.es un espacio vectorial euclídeo 7

Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

-EJEMPLOS.1.- Producto escalar usual en Para

vectores de

definimos:

vectores de

definimos:

" 2.- Otro producto escalar en Para

" 3.- Producto escalar usual en Siendo Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

8

4.- Producto escalar usual en Para

definimos:

" 5.- Producto escalar usual en Para

definimos:

Siendo la traza de una matriz cuadrada la suma de los elementos de su diagonal principal.

"

Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

9

-OBSERVACIÓN.- Otra forma (m (más có cómoda) moda) de calcular el producto escalar usual de dos matrices cuadradas del mismo orden

"

Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

10

6.- Producto escalar usual en es el espacio vectorial de las funciones continuas en [a , b], b], y por tanto integrables en [a , b]. b].

"

Algunas propiedades del producto escalar.1.El nico vector El úúnico vector de de un un espacio espacio vectorial vectorial euclí í deo V que cumple que su producto eucl euclídeo V que cumple que su producto escalar escalar con con todos todos los los vectores vectores de de V V es es cero, cero, es es el el vector vector nulo. nulo.

2.3.-

Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

11

NORMA Y DISTANCIA EUCLÍDEAS Los conceptos geomé geométricos de longitud, distancia y perpendicularidad, que son bien conocidos para y , se definen en este capí capítulo para y, en general, para cualquier espacio vectorial euclí euclídeo V.. Estos conceptos nos van a proporcionar herramientas geomé geométricas potentes para resolver muchos problemas aplicados, incluidos los problemas de mí mínimos cuadrados que hemos mencionado en la introducció ó n. Los tres conceptos se definen en té introducci términos del producto escalar, tambié también denominado producto interior, de dos vectores.

Sea

un espacio vectorial euclídeo

" Norma o longitud de un vector." Distancia entre dos vectores.-

-OBSERVACIÓN.Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

12

Propiedades de la norma.1.2.3.4.Desigualdad de Schwarz** 5.6.Desigualdad de Minkowski o desigualdad triangular Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

*

13

Sobre la historia de la desigualdad Cauchy-Schwarz-Bunyakovsky

Se acredita a Cauchy1 la desigualdad para vectores y a Schwarz2 para los productos escalares con integrales. Sin embargo, fue Bunyakovsky3 quien demostró demostró y publicó publicó la desigualdad de Schwarz en una monografí monografía, 25 añ años antes que Schwarz. 1 Augustin

Louis Cauchy (1789-1857) nació nació en Parí París y murió murió en una villa cercana a esa misma ciudad. Es autor de trabajos importantes sobre ecuaciones diferenciales, series infinitas, determinantes, probabilidad, grupos de permutació permutación y de fí física matemá matemática. En 1814 publicó publicó una memoria que se convirtió convirtió en el fundamento de la teorí teoría de las funciones complejas. Su trabajo se conoce por su rigor. Publicó Publicó 789 artí artículos y ocupó ocupó puestos en a Facultad de Ciencias, en el Colegio de Francia y en la Escuela Polité Politécnica, todos en Parí París. Ha muchos té términos y teoremas que llevan su apellido. Fue un realista fiel y vivió vivió en Suiza, Turí Turín y Praga, despué después de rehusarse a jurar la alianza. Regresó Regresó a Parí París en 1838 y recuperó recuperó su puesto en la Academia de Ciencias. En 1848 recuperó recuperó su lugar en la Sorbona, que mantuvo hasta su muerte. 2

Karl Herman Amandus Schwarz (1843-1921) nació nació en Hermsdorf, Polonia (hoy Alemania), y murió murió en Berlí Berlín. Estudió Estudió quí química en Berlí Berlín, pero se cambió cambió a matemá matemáticas, obteniendo el doctorado. Desempeñó Desempeñó puestos acadé académicos en Halle, Zurich y Gö Göttingen. Reemplazó Reemplazó a Weierstrass en Berlí Berlín y enseñó enseñó alllí alllí hasta 1917. Trabajó Trabajó en cá cálculo de variaciones y en superficies mí mínimas. Su memoria en ocasió ocasión del 70 aniversario de Weierstrass contiene, entre otros temas importantes, la desigualdad para integrales que hoy se conoce como desigualdad de Schwarz. 3 Viktor

Yakovlevich Bunyakovsky (1804-1889) nació nació en Bar, Ucrania, y murió murió en San Petersburgo, Rusia. Fue profesor en San Petersburgo de 1846 a 1880. Publicó Publicó má más de 150 trabajos en matemá matemáticas y mecá mecánica. Fue autor de trabajos importantes en teorí teoría de los nú números, y demostró demostró y publicó publicó la desigualdad de Schwarz en 1859, 25 años antes que Schwarz. Tambié También trabajó trabajó en geometrí geometría y en hidrostá hidrostática. 14 Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

Desigualdad de Schwarz

Definición de ángulo entre dos vectores no nulos.Es el correspondiente al arco dado por:

Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

15

EXPRESIÓN MATRICIAL DEL PRODUCTO ESCALAR Si V es un espacio vectorial euclí euclídeo de dimensió dimensión n y es una base de V,, entonces:

Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

16

# : matriz de Gram, o matriz del producto escalar dado, en la base B. " G es simétrica. " Los elementos de la diagonal principal de G son estrictamente positivos. " G es regular. # : expresión matricial del producto escalar dado en la base B.

Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

17

ORTOGONALIDAD " Definición de vectores ortogonales.-

-EJEMPLOS.- En

p.e.usual ) comprobar que los vectores son ortogonales. ¿Son ortogonales estos vectores con el producto escalar

" de V

(

es el único vector de V ortogonal a todos los vectores

" IMPORTANTE Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

18

" Definición de subconjuntos ortogonales.Dos subconjuntos A y B de V son ortogonales ( cuando

),

" Sea S subespacio vectorial de V y una base de S. Entonces:

-EJEMPLO.- Comprobar que los subconjuntos

son ortogonales en (

p.e. usual) 19

Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

-EJEMPLO.- Hallar el subespacio vectorial los vectores ortogonales al subespacio:

utilizando el producto escalar usual en Segú Según la definició definición de

formado por todos

.

, será será:

siendo B una base de S.

" Primero encontramos una base de

S.

"

Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

20

SISTEMAS ORTOGONALES Y ORTONORMALES. PROCESO DE ORTOGONALIZACIÓN DE GRAM-SCHMIDT En este apartado describiremos un mé método muy importante, llamado proceso * de Gram-Schmidt . El proceso de Gram-Schmidt es un algoritmo sencillo para producir una base ortogonal u ortonormal para cualquier subespacio vectorial, de un espacio vectorial euclí euclídeo.

"

es un sistema ortogonal de vectores si

"

es un sistema ortonormal de vectores si $ $ Vectores Vectores unitarios unitarios

Es Es decir, decir, un un sistema sistema ortonormal ortonormal es es un un sistema sistema ortogonal ortogonal formado formado por por vectores vectores unitarios unitarios

En honor del matemá matemático y actuario dané danés Jörgen Pedersen Gram (1850-1916) y Erhard Schmidt, Schmidt, matemá matemático alemá alemán (1876-1959). Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

21

-EJEMPLOS.1.- En (

p.e. usual)

" el sistema

es ortogonal,

pues: pero no es ortonormal pues: " el sistema

es

ortonormal, pues: $ $

2.- En

con el producto escalar

¿Son ortogonales los vectores Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

? 22

IMPORTANTE

Propiedades de los sistemas ortogonales.a)

s.ortogonal de vectores no nulos del e.v. euclídeo V, entonces:

b)

s.ortogonal, entonces:

-OBSERVACIÓN.-

En

Para r = 2

con el producto escalar usual: Teorema de Pit ágoras Pitágoras

Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

23

" Proyección ortogonal de un vector.- La proyección ortogonal de sobre es el vector:

-OBSERVACIÓN.-EJEMPLO.- En vector

con el p.e. usual la proyecció proyección ortogonal del sobre es:

Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

24

Si es un s. libre de un espacio vectorial euclí euclídeo V,, entonces: s.ortogonal

Todo espacio vectorial eucl ídeo euclídeo de dimensi ón finita n admite dimensión bases ortogonales y ortonormales

y tales que:

s.ortonormal

¿¿Cómo Cómo se hallan estas bases?

Proceso de ortogonalizaci ón de Gram-Schmidt: ortogonalización " " " " 25

Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

¿¿Cómo Cómo se construye una base ortogonal BOO ((ortonormal ortonormal BON ídeo SS? ? euclídeo ON) de un espacio vectorial eucl 1.- Hallar una base B de S:: 2.- Proceso de ortogonalizació ortogonalización de Gram-Schmidt: Gram-Schmidt:

" " " "

3.- Normalizar los vectores

Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

del paso 2.-: 2.-:

26

-OBSERVACIONES.1.- No es necesario partir de una base B de SS,, basta con partir de un sistema generador de SS.. El proceso de Gram-Schmidt detectar á si el detectará sistema es libre o ligado. 2.- Suele resultar conveniente calcular los productos escalares de los diversos vectores de la base o s.g. de S y ““reordenarlos” reordenarlos” escribiendo en primer lugar aquellos vectores que sean ortogonales entre si.

" Utilizando el p.e. usual hallar una base ortogonal del s.v. engendrado por los vectores:

" Utilizando el p.e. usual hallar una base ortogonal del s.v. engendrado por los vectores:

27

Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

APROXIMACIÓN LINEAL EN ESPACIOS VECTORIALES EUCLÍDEOS En este apartado vamos resolver el siguiente problema: " espacio vectorial euclídeo " S subespacio de V con

base de S

" Se trata de encontrar

tal que: sea mínima

Este problema admite solución y es única. se denomina mejor aproximación de -OBSERVACIÓN.- Si

en S.

, entonces

Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

28

Mejor aproximación de

en S.-

Si mejor aproximación de

es una base ortogonal de S, la en S es:

Coeficientes de Fourier. Suma de Fourier.Si es una base ortogonal de S: "

se denominan coeficientes de Fourier.

"

se llama suma de Fourier. 29

Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

¿¿Cómo Cómo encontrar la mejor aproximaci ón de un vector aproximación de un espacio vectorial V en un subespacio S de V ? V? 1.- Comprobar que 2.- Hallar una base B de S: 3.- Proceso de ortogonalización de Gram-Schmidt aplicado a B: BOO base ortogonal de S

4.- Suma de Fourier ( ) de BO encontrada en el paso 3.-:

5.- Comprobar el resultado:

respecto de la base ortogonal

HAY HAY QUE QUE TRABAJAR TRABAJAR CON CON EL EL PRODUCTO PRODUCTO ESCALAR ESCALAR DEL DEL PROBLEMA PROBLEMA

Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

30

-EJERCICIO.- Consideremos el producto escalar usual en a.- Encontrar la mejor aproximació de aproximación subespacio vectorial S y hallar la norma del error cometido.

en el

Solució Solución

1.- Comprobamos que 2.- Hallamos una base BS de S 3.- Aplicamos el proceso de Gram-Schmidt a la base BS de S para conseguir una base ortogonal BO de S:

" "

31

Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

4.- Suma de las proyecciones ortogonales de la base ortogonal BO de S:

sobre los vectores de

5.- Comprobar el resultado: " Norma del error cometido

b.- Utilizando el producto escalar usual encontrar la mejor aproximació de en el subespacio vectorial: aproximación

y hallar la norma del error cometido. Solució Solución

Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

32

SOLUCIÓN APROXIMADA DE UNA SISTEMA DE ECUACIONES LINEALES INCOMPATIBLE. (MÉTODO DE MÍNIMOS CUADRADOS) El ejemplo introductorio del capí capítulo describe un gigantesco problema A · x = b que no tení tenía solució solución. Los sistemas inconsistentes surgen con frecuencia en las aplicaciones, aunque generalmente no con una matriz de coeficientes tan enorme. Cuando se necesita una solució solución y no existe alguna, lo mejor que se puede hacer es encontrar una x que haga A · x tan cercana a b como sea posible.

Pensemos en A · x como una aproximación de b. Cuanto más corta sea la distancia entre b y A · x, dada por || b – A · x || mejor será la aproximación. El problema general de mínimos cuadrados es encontrar un x que haga || b – A · x || tan pequeña como sea posible. El término de mínimos cuadrados surge del hecho de que || b – A · x || es la raíz cuadrada de una suma de cuadrados, pues estamos utilizando el producto escalar usual en . Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

33

¿¿Cómo Cómo resolver de forma aproximada un sistema de ecuaciones lineales incompatible? 1.- Expresar vectorialmente el sistema:

2.- Hallar

mejor aproximación de

en S.

Utilizar el esquema del apartado anterior

HAY HAY QUE QUE TRABAJAR TRABAJAR CON CON EL EL PRODUCTO PRODUCTO ESCALAR ESCALAR USUAL USUAL

3.- Resolver el sistema:

La solución del sistema (!) es la solución aproximada del sistema incompatible (1). 34

Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

-EJERCICIO.- Resolver de ecuaciones lineales dado por:

forma

aproximada

el

sistema

de

Solució Solución 1.- Comprobamos que el sistema es incompatible:

2.- Escribimos el sistema en forma vectorial:

35

Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

3.- Hallamos la mejor aproximació aproximación

de

en S:

3.1.- Encontrar una base BS de S 3.2.- Aplicar el proceso de Gram-Schmidt a la base BS de S para conseguir una base ortogonal BO de S: " " "

3.3.- Hallar la suma de las proyecciones ortogonales de sobre los vectores de la base ortogonal BO de S:

Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

36

4.- Resolver el sistema:

Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

37

Cálculo alternativo de una solución por mínimos cuadrados. El siguiente teorema proporciona un criterio útil para cuando existe una solución por mínimos cuadrados de A · x = b. La matriz ATT · A es invertible si y ssólo ólo si las columnas de A son linealmente independientes. En este caso, la ecuaci ón A · x = b tiene ecuación solamente una soluci ón por m ínimos cuadrados solución mínimos y viene dada por:

Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

38

Producto escalar Expresión matricial Espacio vectorial euclídeo

Propiedades

CONCEPTOS PROPIEDADES Ejemplos

Teoría de aproximación lineal

Características

Ortogonalidad Ortonormalidad

Norma Distancia Ángulo entre dos vectores

Vectores Subconjuntos Proyección ortogonal Fundamentos Matemáticos II Electrónicos 01,16 Curso 2006-07

Objetivo Planteamiento Coeficientes de Fourier Suma de Fourier

Método de Gram-Schmidt 39