Aprendizaje en Inteligencia Artificial Alberto Pesquera Martín 1. Introducción Máquina que Aprende: Sistema Organizado que transforma un mensaje de Entrada en una Salida, de acuerdo con un Principio de Transformación. Si tal Principio está sujeto a cierto Criterio de validez, y el Método de Transformación se ajusta a fin de que tienda a mejorar el funcionamiento; se dice que el Sistema Aprende. Aprendizaje Animal: Cuando los Organismos se Ajustan o Adaptan al Conjunto de Estímulos que provienen del Entorno; Reciben la Información y la Almacena con el fin de Reutilizarla en Situaciones o Patrones de Estímulos Semejantes. La Organización (o Reorganización) de la propia Conducta (ante una Situación o un Patrón de Estímulos) como Resultado de una Experiencia Individual. Todos los Estímulos a los que un Individuo responde en un cierto Contexto pueden No ser Efectivos para Producir una Conducta de Aprendizaje en otros Contexto. Tipos de Aprendizaje •

Habituación. Una Respuesta que decae ante un Conjunto de Estímulos Repetidos (o Continuos) No Asociados a Ningún Tipo de Recompensa o Refuerzo. Implica Tendencia a Borrar todo Tipo de Respuesta ante un Estímulo que No tiene Importancia para la Supervivencia. Sirve como Filtro a un Conjunto de Estímulos No Relevantes.

•

Asociativo. Un Evento permite Predecir, con cierta confianza, la Ocurrencia (o no) de otro. Un Animal que Conoce estas Relaciones pueden sacar provecho Anticipándose a esos Eventos y Comportarse apropiadamente. •

Condicionamiento. Un Animal adquiere la Capacidad de Responder a un Estímulo Determinado con la misma Acción Refleja con que Responderí a otro Estímulo Condicionante (Refuerzo o Recompensa) cuando ambos Estímulos se presentan Concurrentemente (o sobre puestos en una Secuencia) un cierto número de veces.

•

Prueba y Error. Los Animales permanecen siempre Activos y su Atención se fija Primero aquí y luego allá probando todas las Posibilidades inimaginables hasta que de manera mas o menos Accidental resuelve con Éxito la Tarea y Obtiene Recompensa. Requiere la Existencia del Refuerzo (o Recompensa) para animar la Selección de la Respuesta Deseada.

•

Latente. Tiene lugar en Ausencia de Recompensa. Se aprende algo que permanece Latente hasta que es Necesario.

1

Aprendizaje en Inteligencia Artificial •

Imitación. Implica Copiar una Conducta, Acción o Expresión Nueva o que resulta Imprescindible de Aprender si no es Copiada de otro Individuo.

•

Impronta. La Manera en que un Rango Específico de Estímulos es Capaz de Elicitar una Respuesta pudiendo ser Limitado y Refinado mediante la Experiencia. Su Duración se Restringe a Periodos Sensitivos.

1.1. Análisis Aprendizaje •

Psicología Cognitiva

•

Inteligencia Artificial

Dificultad •

Programas Incapaces de Adaptarse a los cambios del Entorno

•

Corregir sus propios Errores

Sistemas de Aprendizaje Nivel de Conocimiento: Objetivo, Reglas y Otra fuente de Conocimiento (Adquirido o Aprendido) Nivel de Algoritmo: Secuencia de Decisiones y Acciones Nivel Simbolico: Procesos de Manipulación de los Simbolos que representan los Elementos del Dominio

1.2. Historia 1.2.1. Inicial (1955 - 1965) Modelo al Ser Humano. Crear mecanismos generales capaces de Aprender sin apenas conocimiento. Aprendizaje Conexionista. Establecer Modelos Computacionales de Redes de Elementos de Procesamiento Analógico No Lineal.

1.2.2. Intermedia (1962 - 1976) Sistemas tuvieran una Capacidad apreciable de "Adquirir Conocimiento", habia que dotarles de Cierto Conocimiento sobre el Dominio. Técnicas Simbólicas sobre Adquisición de Conceptos 1.2.3. Asentamiento (1976 - 1988) Desarrollo y Divulgación de las Principales Ténicas de Modificación de Conceptos

2

Aprendizaje en Inteligencia Artificial 1.2.4. Actual (1988 - ...) Aprendizaje Computacional. Aprendizaje Multiestrategia. Propuestas Hibridas: Combinar Técnicas Simbolicas y Subsimbolicas (Redes Neuronales)

1.3. Concepto Aprendizaje. Incrementar el Conocimiento adquirido, Realizar Tareas con mayor Eficiencia o Corrección, o llevar a cabo Nuevas Tareas. Adquisición de Conocimiento. Actividad de Diálogo en la que un "Agente" es Informado de algún Hecho o Situación, o realiza Preguntas que originan una Reestructuración de Conocimiento disponible. •

Adquisición de Soltura. Mejora Gradual del Comportamiento mediante la Repetición incosciente de alguna actuación.

Capacidad de Memorizar. Basado en Conservar las Demostraciones con el Fín de poder utilizarlas en el futuro. Requiere que se Establezcan Mecanismos en la Memoria de los sistemas para Almacenar Nuevos Elementos en el contexto adecuado. •

Durante la Fase de Comprensión estamos constantemente Buscando Recuerdos relacionados lo mas generales posibles.

•

Estudio de Diferentes Formas de Evocación en Función de la Situación Real.

Relación con el Entorno (Medio). La Situación Ideal en la que el Sistema de Apredizaje (SA) es un Agente Autonomo capaz de Adquierir todo el conocimoiento necesario a partir de su relación con el Medio. El Sistema parte de un Conocimiento Inicial bastante evolucionado que le permite desenvolverse en su Entorno. Velocidad con la que Ocurren los Cambios. Determinar si el Sistema de Aprendizaje es capaz de Capturar, en el tiempo disponible, las Regularidades Observables en el Dominio. Tareas 1. Clasificación y Predicción 2. Comprensión del Lenguaje Natural 3. Configuración y Diseño 4. Planificación y Gestión de Recursos 5. Control y Mejora de Rendimiento Actualización y Recuperación Eficiente del Conocimiento Adquirido. Razonamiento Basado en Casos

3

Aprendizaje en Inteligencia Artificial Representación del Conocimiento. Elige un Formalismo de Representación Determinado y éste determina las Inferencias realizables y Capacidades. La Mejora del comportamiento se logra mediante una Actualización de las Estructuras. Percibir las Limitaciones de los mecanismos internos; mejora de Rendimiento en los Sistemas Multiestrategia.

1.4. Objetivos •

•

Mejorar la Corrección (Exactitud) de la Solución •

Realizar una Inferencia Inductiva

•

Objetivo es la Sintesis (Definición) de una Estructura nueva

Reducir el Tiempo de Cálculo de la Solución •

Realizar una Inferencia Deductiva

•

Objetivo es el Análisis (explicación) de una observación

2. Tarea de Aprendizaje Identificar correctamente un Elemento Desconocido D dada una Información Parcial I acerca de D. SidebarInferencia P U CB => C

P (Premisa): Perteneciente al conjunto de axiomas, postulados y definiciones que definan

una Teoría del Dominio CB (Conocimiento Base): Engloba todo lo conocido C (Consecuente: Resultado

Inductiva: Establecer una Hipotesis P que permita determinar el papel de la Información dada C con respecto a la Estructura Lógica que refleja el conocimiento disponible CB. Se requiere ademas que la Hipotesis generada permita predecir el carácter de la Información semejante. Deductiva: Particularizar la estructura que refleja el conocimiento disponible para así poder justificar la Información surgida. Requiere que se extraigan consecuencias de dicho proceso, de forma que se haya que repetirlo para justificar la información semejante.

4

Aprendizaje en Inteligencia Artificial

2.1. Encontrar D •

Concepto Desconocido - INDUCTIVO BASADO EN EJEMPLOS

•

Descripción Operacional del Concepto Conocido - DEDUCTIVO

•

Solución de un Problema a partir de una Solución de un Caso parecido - ANALOGÍA

•

Hipótesis que permita justificar una Ocurrencia - ABDUCTIVA

2.2. Dada una Información Parcial I de D Conjunto de Ejemplos (INSTANCIAS) •

Positivas (Casos Concretos de C) - INDUCTIVO y DEDUCTIVO

•

Negativas (Casos Concretos No correspondientes a C) - INDUCTIVO BASADO EN EJEMPLOS

Fuentes de Conocimiento Alternativas •

Conocimiento Básico Independiente del Dominio •

[Bias] - INDUCTIVO BASADO EN EJEMPLOS

Dependiente del Dominio •

[Teoría Formal] - DEDUCTIVO

•

[Reglas de Inferencia] - INDUCTIVO y DEDUCTIVO

•

[Relaciones Causa -> Efecto]

•

•

Soluciones Previas - ANALOGÍA

•

Casos Previos - BASADO EN CASOS

•

Supuestos - ABDUCCIÓN

Combinaciones de los anteriores - MULTIESTRATEGIA

3. Aprendizaje Inductivo Metodos de Aprendizaje Empírico cuya generalización se fundamenta en Aplicar Conocimiento Independiente del Dominio de Aplicación. Creación de Sistemas Autónomos con muy poco Conocimiento Inicial que fueran capaces de Aprender sobre una gran Diversidad de Cuestiones.

5

Aprendizaje en Inteligencia Artificial

3.1. Objetivo Establecer los Rasgos Comunes de una Serie de Ejemplos de un Concepto Desconocido, de tal forma que la Descripción obtenida no abarque el resto de los ejemplos que no sean Casos Concretos de dicho Concepto. La Presencia de un Ejemplo Negativo dentro del Concepto es debida a la Presencia de Ruido en el Conjunto de Datos Observados. Suposiciones Adicionales 1. Los Ejemplos pueden ser Suministrados por una Fuente Externa (Aprendizaje Supervisado), o proporcionados por el propio Aprendiz de Conceptos (Aprendizajes No Supervisado) 2. Las Instancias pueden ser Consideradas por la Estrategia de una en una (Aprendizaje Incremental), o todas a la vez (Aprendizaje No Incremental)

3.2. Tarea Encontrar una Hipótesis h que: •

Describa los Ejemplos Positivos

•

Excluya los Ejemplos Negativos

•

Tenga Expectativas de Clasificar correctamente Futuros ejemplos

3.3. Descripción Ejemplos presentados mediante pares (Xi, f(Xi)), siendo f(Xi) el valor de la clase. La Tarea es Encontrar la Deficinición de la Función f que debe reflejar un concepto acorde con dichos ejemplos.

Carácter Incierto Ejemplos de Entrenamiento: Se Divide el Conjunto de Instancias de dos Subconjuntos. (2/3 -> Aprender el Modelo) Ejemplos de Prueba: Comprobar el Porcentaje de Aciertos del Modelo de Clasificación Aprendido. (1/3 del resto)

3.4. Ruido Errores en la Determinación de los Valores del Atributo; u Omisión de Atributos.

6

Aprendizaje en Inteligencia Artificial

3.5. Procesamiento de Instancias Simultaneamente: Aplicar Análisis Estadísticos que permiten aislar posibles Errores Secuencialmente: Las más parecidas del proceso de Aprendizaje Humano

3.6. Bias: Criterios de Selección de Hipótesis Encontrar una Estructura que "Clasifique bien" y que "Realice Predicciones Correctas". Bias. Conjunto de todos los Factores que permiten Realizar y Seleccionar las Hipósis más adecuadas. •

•

Definiendo un Conjunto de Resticciones sobre el Espacio de Hipótesis H •

Demasiado Restringido. Invalida las Hipótesis Disyuntivas

•

Ruido. Ejemplos Mal Clasificados

Definiendo un Criterio de Prefencia entre las distintas Hipótesis h eÎH •

Se define un valor para cada hipótesis

•

Ordenamiento en el espacio de hipótesis

•

Se prefieren las hipótesis mas generales sobre las mas concretas

•

Tendencia a elegir las hipótesis que mejor se ajustan a la clasificación

•

Ruido. Ejemplos mal clasificados. Casos Aislados

3.7. Espacio de Versiones Marco Unificado para el Aprendizaje de Conceptos. El Proceso de Aprendizaje de un Concepto tiene lugar en un Espacio H definido entre los conjuntos de Hipótesis G (elementos más Generales) y S (elementos más Especificos). El Espacio de Versiones permite mantener toda la información Útil extraida de un Conjunto de Entrenamiento sin tener que guardar ningún ejemplo. Definición 1. Criterio de Consistencia 2. Criterios para Escoger la Formula más Especifica (INF) y la más General (SUP) entre las Consistentes 3. Definición de Generalización 4. Conjunto de Ejemplos Positivos y Negativos Dado el Conjunto de Entrenamiento (I) y una Teoria (T), si se emplean diferentes Criterios de Consistencia, se pueden obtener (Aprender) diferentes Versiones del Concepto G .

7

Aprendizaje en Inteligencia Artificial

3.8. Árboles de Decisión El Algoritmo de Aprendizaje es esencialmente un Proceso de Búsqueda de un Modelo de Clasificación lo mas Sencillo y Generales posibles. Árbol de Decisión. Representación posible de los Procesos de Decisión involucradas a Tareas Inductivas de Clasificación. •

Los Atributos son utilizados para Crear Particiones de Conjuntos Ejemplos

•

Los Nodos del Ábol corresponden a los Nombres o Identificadores de los Atributos

•

Las Ramas de un Nodo representan los posibles valores del Atributo Asociado al Nodo

•

Las Hojas son Conjuntos ya clasificados de Ejemplos

La Estrategia consiste en Seleccionar aquel atributo potencialmente más útil para cada clasificación 1. Coste. Longitud del Camino o Coste de cada Consulta 2. Bondad. Porcentaje de Acierto por Clases

Cada Elemento o Instancia toma forma de una lista de Pares (Atributo, Valor), constituyendo una Descripción Conjuntiva. Cada Instancia va acompañada de la clase a la que pertenece. El Objetivo es construir un Ábol de Decisión que explique todas las Instancias de la manera más compacta. Camino de Discriminación. Va de la Raíz a dicho Nodo para los Atributos involucrados. Se propone la Binarización de los Atributos (0, 1) = (No, Si); independizando el Proceso de Número de valores de un Atributo. Normalizar la Ganancia. ALGORITMO ID3 (lista-ejemplos, lista-atributos) 1. Si lista-ejemplos está vacia entonces "Regresar", sino seguir 2. Si todos los ejemplos en lista-ejemplos son + entonces devolver + sino seguir 3. Si todos los ejemplos en lista-ejemplos son - entonces devolver - sino seguir 4. Si lista-ejemplos está vacia entonces devolver Error sino i. Llamar mejor al elemento a de lista-atributos que minimice merito (a) ii. Iniciar un Árbol cuya Raíz sea mejor iii. Para cada valor de Vi de mejor •

Incluir en ejemplos-restantes los elementos de lista-ejemplos que tengan el valor Vi del atributo mejor

8

Aprendizaje en Inteligencia Artificial •

Dejar en atributos-restantes todos los elementos de lista-atributos excepto mejor

•

Devolver el valor de: ID3 (ejemplos-restantes, atributos-restantes)

3.9. Paradigmas Derivativos Agrupamiento de Conceptos Agrupando convenientemente los Objetos y Estableciendo una Descripción de dichos Grupos. Establecer los Bias (Criterios de Selección de Hipótesis) adecuados para generar conjuntos lo mas útiles posibles. Aprendizaje por Descubrimiento Objetivo Inicial es realizar Descubrimientos, Establecer Heurísticas que permiten obtener Leyes Válidas en el Contexto seleccionado. Redes Neuronales Modelo Biológico de Funcionamiento del Sistema Nervioso. Necesidad de realizar una Codificación Arbitraria de las Entradas y Salidas, y la Inaccesibilidad al Conocimiento Distribuido Implícito en la Red. Paradigma Genético Las Mutaciones Genéticas sufridas en los Procesos de Reproducción Biológica y los Principios de Selección Natural de Darwin. Se introducen cambios y Recombinaciones de los Conceptos y se confrontan con una Función Objetivo, que Decide cuales son Aceptados en un Proceso de "Supervivencia".

3.10. Agrupación Conceptual Intenta Introducir la mayor cantidad de Conocimiento sobre el Contexto en el que se quiera Realizar el Aprendizaje que puede ser mas útil. Parte de la Constatación sobre el Contexto. Las Funciones a que dan lugar todas estas ideas: los dos objetos a Comparar (f(A,B)), un Entorno (E), un Conjunto de Conceptos (C)

MODELOS CLUSTER: Creación de Categorias descritas en Base a propiedades suficientes y necesarias utilizando una Función a Optimizar sobre las Descripciones. WITT: Funciones tomadas de la Teoría de la Información favoreciendo las Clases con descripciones menos Rigidas, más acorde con las tendencias de la Psicología Cognitiva incluyendo operadores que permiten modificar Dinamicamente las Clases Obtenidas.

9

Aprendizaje en Inteligencia Artificial AUTOCLASS: Aplicación del Teorema de Bayes y las Funciones de Distribución que presenta los Atributos que describen los Datos.

3.11. Formación de Conceptos Obtener una Clasificación de un Conjunto de Observaciones y una Caracterización de las Clases obtenidas que permiten Identificar los diferentes Grupos (Construcción de una Jerarquía que permita relacionar los Conceptos). Planteamiento del Aprendizaje como una Tarea Incremental. Las Modificaciones que son necesarias en la Estructura Jerarquica se guian a través de funciones que optimizan ciertos criterios sobre los aprendido. Se realiza una Búsqueda en un Espacio de Jerarquias con un Método de Ascenso.

3.12. COBWEB Basado en las Ideas de la Psicología Cognitiva acerca del Nivel Básico de Categorización. Se prefiere un Nivel de Generalización respecto a otros. Utilidad de la Categoría: Medida adoptada por COBWEB para guiar el Proceso de Aprendizaje; dando mayor valor a las clases que presentan un alta similaridad entre sus Miembros y una baja similaridad con el resto de las Clases. Manteniendo un Balance entre Predecibilidad y Previsibilidad. Predecibilidad: Probabilidad de que una Observación pertenezca a una clase dado el valor de un Atributo. Exclusivos de una Clase y por lo tanto Diferenciadores. Maximiza la diferencia entre Clases. Previsibilidad: Probabilidad de que una observación tenga un valor en un Atributo dado que pertenece a cierta clase. Comparten muchos miembros de una clase. Maximiza la Similaridad entre los Miembros de una Clase. La Representación del Conocimiento utilizada es la Típica de atributo-valor, sólo que no se admitan más que Atributos Categóricos. El Algortimo de COBWEB va incluyendo Instancias a la Jerarquía Descendiendo a través del Árbol guiándose por la Medida de Utilidad de Categoría para decidir el Descendiente por el que ha de Continuar o el Operador que debe aplicar el Árbol para Incorporar nuevo Conocimiento: Incorporar una Clase, Crear una Nueva Clase, Unir dos Clases existentes, Dividir una Clase a sus Descendientes. ALGORITMO 1. Actualizar las Probabilidades del Nodo en Curso según los Valores de la Observación 2. Si el Nodo es Terminal, el Resultado es Incorporar el Nodo Modificado, Finalizando el Algoritmo 3. Si el Nodo es No Terminal, se Evalúan las siguientes posibilidades según la Función CU, se escoge la mejor y se llama recursivamente a la función con el Nodo en el que se haya decidido incorporar la observación:

10

Aprendizaje en Inteligencia Artificial •

Incorporar una Clase. Se Clasifica la Observación en cada Descendiente de Nodo en curso y se Identifica el que Maximice la Función CU. Ese sería el Nodo en el que se incorporaría la Observación.

•

Crear una Nueva Clase. Se Calcula la Función CU añadiendo una Nueva Clase que contenga únicamente la Observación.

•

Unir Dos Clases existentes. Se Une el Mejor par de Clases y se Incorpora la Observación a esta Clase. Se Escogería esta Opción si se Mejora la Función CU del Nodo en Curso.

•

Dividir una Clase en sus Descendientes. Se Particiona la Mejor Clase y se Añade sus Descendientes, Calculando el Resultado de la función CU al añadir la observación a cada una de las Clases Incorporadas, Dejandola en la Mejor.

Los Principales Avances que incorpora COBWEB en su Metodología es la utilización de una Descripción Probabilística de las Clases, Fundamentar la Creación de su Jerarquía en una Medida que está orientada hacia la Búsqueda del Nivel Básico de Categorización y Define los cuatro Operadores necesarios para la Creación de la Jerarquía.

4. Aprendizaje Abductivo (Inducción Basada en el Conocimiento del Dominio) Forma de Generalización Inductiva Basada en la Utilización del Conocimiento del Dominio. Los Procesos de Razonamiento Abductivos tienen como Principal Objetivo completar los procesos originados por Teorías Incompletas mediante el establecimiento de suposiciones válidas. Dada una Conclusión conocida se proponen Hipótesis que la expliquen.

5. Aprendizaje Deductivo (Basado en la Explicación) Aprender Conceptos Conocidos

5.1. Objetivo Lograr que una Reducción del tiempo requerido para utilizar el Conocimiento Disponible. El Sistema No Aprende Nuevos Conceptos. El Conocimiento Aprendido se añade al Conocimiento Inicial en forma Disyuntiva. Para los Casos en que pueda aplicarse el Conocimiento Aprendido, éste será el utilizado, pero el resto de las situaciones se aplicará el Conocimiento de Partida.

11

Aprendizaje en Inteligencia Artificial Dos Clases de Tareas •

•

Proceso de Búsqueda. En Espacio de Estados •

Problemas de Planificación

•

Mejorar la Eficiencia del Sistema

•

El Aprendizaje tiene lugar una vez obtenido una Solución del Problema (Secuencia de Estados y de Operadores aplicados a éstos de forma que el último sea un Estado Meta)

•

El Aprendizaje consiste en crear un "MacroOperador": Un Operador que reuna en una sola acción todo el Proceso realizado en una Secuencia

Aprendizaje de Conocimiento de Control. Tres enfoques diferentes 1. Funciones de Evaluación 2. Valores Numericos Asociados a cada Operador 3. Reglas que describen Condiciones de Aplicabilidad disponibles (Creación de "Metareglas")

5.2. Tarea Encontrar una Definición "Operacional" del Concepto Objetivo (C) o Meta •

Definición Inicial de C

•

Ejemplo (E) de C

•

Conocimiento Base

•

•

Conjunto de Reglas que permiten "probar" que E es un Ejemplo de C - TEORÍA DEL DOMINIO (TD)

•

Cualquier otra Fuente de Conocimiento Relevante del Dominio

Especificación de las Condiciones que deben cumplir los Conceptos Aprendidos - CRITERIO DE OPERACIONALIDAD (CO)

5.3. Descripción Teoría del Dominio (TD): Conjunto de Reglas que permiten probar que E es una Instancia de C Concepto Objetivo (C): Probar que los Ejemplos presentados son realmente Instancias de dicho Concepto, para ello se utilizan las reglas TD. De las Pruebas se extraen Nuevas Descripciones más Generales que los Ejemplos, más Especificas que C y que cumplan el Criterio de Operacionalidad (TD). Si analizamos el Objetivo C como la definición de un Conjunto, los conceptos aprendidos en este aprendizaje son definiciones "Operacionales". Ejemplo (E): Instancia Positiva del Concepto Objetivo que permite descubrir que características del problema pueden ser más relevantes en el futuro.

12

Aprendizaje en Inteligencia Artificial

5.4. Estrategia del Método EBL 1. Construcción de una Explicación que Justifica porque el Ejemplo es una Instancia Positiva •

Resolución del Problema. La Tarea es Encontrar el Concepto Objetivo ayudandose de la Teoría del Dominio y del Ejemplo. El Resultado es una Traza que contiene toda Información que se ha ido acivando en el curso de la Resolución

•

Anáalisis de la Traza. La Explicación es aquella parte de la Traza que contiene Información que se prevé útil Criterio de Operacionalidad: Indica las Acciones directamente ejecutables por el Sistema Criterio de Relevancia: Permite decidir que Información es Útil

La Información Relevante será aquella que no forme parte de un Camino Fracasado. La Información que pertenece al Camino que lleva a la Solución y Contiene sólo Predicados Operacionales.

•

Filtrado. Construye la Explicación Separando la Información marcada como Relevante de la que no lo es.

2. Generalizar la Explicación de manera que en el Futuro pueda ser Aplicada •

Generalización de la Explicación. Sustituir Constantes por Variables o Estructuras de Variables de manera que la Explicación siga siendo Válida.

Regresionar. Una Fórmula F a través de una Regla R es un Mecanismo para Determinar las Condiciones necesarias y suficientes bajo las cuales puede usarse la Regla R para Inferir F.

•

Construcción de una Nueva Información. La Explicación se Traduce al Formato adecuado para que pueda ser utilizada.

•

Incorporación de Nueva Información. Hacer que las Nuevas Reglas Creadas queden disponibles de manera que puedan utilizarse para la Resolución de Nuevos Problemas.

5.5. Problemas del EBL •

Reformulación de la Teoría. Garantizar que la Información Aprendida es realmente más útil. Incorporar Nuevas Definiciones o Reglas de Control a la Teoría Existente a. Incorporar a la Teoría algo que quizas nunca más será útil b. Las Reglas Aprendidas son más Complejas que las Iniciales (Coste) Degradación de la Teoría •

Baja Frecuencia de Aplicación

13

Aprendizaje en Inteligencia Artificial

•

•

Alto Coste de Cotejar las Reglas

•

Bajo Beneficio

Revisión de la Teoría. Problemas que son consecuencia de la Teoría del Dominio Disponible Teoría Incompleta: La Teoría No puede Explicar algún Ejemplo por no disponer de Toda la Información Necesaria. La Solución es Intentar Explicar al máximo el ejemplo e Identificar y Conjeturar Nuevas Reglas que complementarían la Explicación Teoría Incorrecta: El Sistema comete algún Fallo de Predicción. Solución: Identificar la causa del Fallo y Modificar convenientemente la Teoría Teoría Inconsistente: El Sistema llega a Predicciones Contradictorias. Puede tener su origen en Inconsistencias entre la Teoría y las Observaciones Teoría Intratable: Para dar una Predicción se necesitan más Recursos (Computacionales) de los que dispone. Solución Usando Heurísticas que permiten Restringir el Espacio de Búsqueda

Problema de Utilidad El Criterio de Operacionalidad trata de garantizar que los conceptos aprendidos permiten realmente reducir el tiempo de llevar acabo la Tarea encomendada. Supongamos que se aprenden muchas reglas, tantas que la sola gestión de las mismas, en lugar de ayudar, Ralentiza el Comportamiento. El Coste implicado en comprobar si se puede aplicar una regla concreta puede ser muy elevado. Las Medidas de Utilidad propuestas tienen en cuenta la frecuencia de utilización de la regla aprendida y el Coste Asociado a su uso.

Naturaleza Semántica La Esencia de la Generalización está en acceder al Conocimiento Relevante del Dominio y No en Establecer Restricciones o Preferencias Sintacticas relacionadas con las Expresiones obtenidas, como ocurría en las Técnicas de Aprendizaje Inductivo Basado en Ejemplos

5.6. Metodos EBL 5.6.1. STRIPS Planificador que Genera y Recuerda Planes que le permiten conseguir un Determinado Objetivo. Una vez generado el Plan, Intenta Explicar porque cumple el Objetivo. Entradas. Estado Inicial, Estado Objetivo y Conjunto de Operadores que permiten cambiar de Estado. Se utilizan Formulas del Calculo de Predicados. Operadores.

14

Aprendizaje en Inteligencia Artificial Precondición: Describe las Condiciones de Aplicabilidad Lista Añadir: Contiene los Hechos que se añaden a un Estado como Consecuencia Lista Borrar: Contiene los Hechos que dejan de ser ciertos

El Plan será convertido en un MacroOperador cuya Precondición describirá las Condiciones suficientes bajo las cuales pueden alcanzarse el Estado Objetivo desde el Estado Inicial. 5.6.2. EBG de Mitchell Generalización Basada en Explicaciones (EBG). Este Formalismo es un intento de agrupar elementos esenciales de Sistemas ya existentes. Método Independiente del Dominio que usa Conocimiento del Dominio para guiar la Generalización. Los Mecanismos de Resolución de Problemas y de Generalización son Independientes del Dominio mientras que las Entradas al Sistema forzosamente deben contener Información del Dominio. El Objetivo del EBG es aprender Nuevas Descripciones Operacionales. Entradas: Concepto Objetivo, Ejemplo, Teoría del Dominio, Criterio de Operacionalidad El Resultado es una Nueva Teoría del Dominio; es la Generalización del Ejemplo; es una Condición Suficiente para el Objetivo que ademas satisface el Criterio de Operacionalidad. El EBG debe demostrar primero que el Ejemplo es una Instancia Positiva del Concepto Objetivo. La Traza contiene todos los Caminos intentados, y que han Fracasado; y un solo camino hacia la Solución. Explicación que debe ser Generalizada. Metodo de Generalización. Modificación del Algoritmo de Regresión de Objetivos consistentes en usar sólo las Reglas que han servido para demostrar el ejemplo de manera que la Generalización es una condición Suficiente bajo la que una Regla R puede ser usada para Inferir la Fórmula F. Al Analizar dicha Traza obtenemos la Explicación.

5.6.3. SOAR Arquitectura que combina el Aprendizaje y Resolución de Problemas. La Unidad Organizativa Fundamental es el Espacio de Problemas y su Paradigma Central es la Búsqueda.

Componentes Básicos Memoria Reglas de Producción: Contiene la Experiencia Acumulada por el Sistema en la Resolución de Problemas Memoria de Trabajo: Contiene la Información Relacionada con el Problema que se está intentado Resolver Gestor Memoria Trabajo: Permite Borrar Objetos de la Memoria de Trabajo Procedimiento de Decisión: Permite Resolver Conflictos Mecanismo de Chum King: Le Permite Aprender

15

Aprendizaje en Inteligencia Artificial

La Memoria de Trabajo se compone de 3 objetos: 1. Pila de Contextos. Especifican la Jerarquía de Objetos Activos, Espacio de Problemas, Estados y Operadores 2. Objetos. Objetivos y Estados 3. Preferencias. Codifican el Conocimiento de Control

Metodo SubObjetivación Universal: Para conseguir un Objetivo (Conjunto de Estados Deseado) se realiza una Búsqueda en un Espacio de Problemas. Ciclo Resolución Problemas: Busca los Operadores que pueden ser aplicables al Estado en Curso y Escoge entre ellos. Puede Trabajar en varios Espacios de Problemas. Objetos: Objetivo, Espacio de Problemas, Estado, Operador Resolución de Conflictos •

Fase de Elaboración. Se Activan en Paralelo los Operadores Aplicables

•

Fase de Decisión. Se Examinan los Resultados de los Operadores aplicados en la Fase de Elaboración y se Escoge la mejor opción

Impasse. El Sistema no tiene suficiente información •

De Vínculo. Varios operadores y poco Conocimiento para discriminarlos

•

Conflicto. Varias opciones que pueden llevar a Estados Contradictorios

•

Sin Cambios. Se mantiene sin cambio el valor del item

•

Rechazo. La Opción en curso es rechazada y no hay ninguna opción más

El EBL se realiza al Generalizar las situaciones en los que se puede usar una Preferencia determinada. 5.6.4. PRODIGY Arquitectura Integrada que intenta unificar Resolución de Problemas, Planificación y Múltiples Métodos de Aprendizaje. El Nucleo Central es un Resolvedor de Problemas Central cuyo comportamiento está determinado por el Conocimiento del Dominio y por el Conocimiento de Control para dirigir la Búsqueda. Reducción de la Búsqueda con Reglas, Funciones de Evaluación Heurística, Planes Abstractos, Soluciones de Problemas Anáalogos (en una Librería) y MacroOperadores.

16

Aprendizaje en Inteligencia Artificial El Modulo EBL Analiza la Traza de Resolución del Problema para extraer la Información relevante a partir de la que Construirá una Explicación. A partir de esta explicación se obtendrá una Regla de Control que será simplificada y cuya Utilidad será Evaluada. En Función de la Utilidad estimada será incorporada o No al Conocimiento Existente. Resolver un Problema en un Dominio Particular necesita la Especificación de este Dominio en forma de un Conjunto de Operadores y de Reglas de Inferencia. Operador se compone de una Precondición que determina las Condiciones bajo las que es aplicable y de una Lista de Efectos que produce su aplicación sobre el Estado en curso. La Diferencia entre los operadores y las Reglas de Inferencia estriba lo que los operadores corresponden a acciones externas que permiten pasar de un Estado a otro, mientras que las Reglas de Inferencia incrementan al Conocimiento Explicito del Estado en Curso. Evita la Degradación Cuatro Conceptos Objetivos Exito, Fracaso, Única Alternativa, Interferencia de Objetivos Tres Tipos Reglas de Control Preferencia, Rechazo, Selección

5.7. Comparación con otros Métodos de Aprendizaje Métodos Deductivos: Necesitan una Teoría del Dominio Completa y Consistente Métodos Inductivos: Los Ejemplos de Entrada debe ser Suficientemente Representativos, Caracteristicas Relevantes de los Conceptos; las Generalizaciones No están Justificadas Métodos EBL: No Aprenden Nuevo Conocimiento sino que Explicitan Conocimiento que ya tenian de forma Implicita. Una Diferencia es que los Métodos Inductivos se generaliza a partir de los ejemplos usando las caracteristicas contenidas; y en los Métodos Deductivos lo que se generaliza son los caminos deductivos que llevan a la solución del problema.

6. Aprendizaje por Analogía El Razonamiento Analógico intenta Emular la Capacidad Humana de Recordar la Solcución de Problemas previos ante la aparición de problemas parecidos en los que se llevan a cabo Razonamientos Analogos para alcanzar sus Soluciones Respectivas.

17

Aprendizaje en Inteligencia Artificial

6.1. Análisis Generalización Inductiva sobre las relaciones que se cumplen en un Determinado Dominio (Origen o Fuente), suponiendo que también se cumplen en otro Dominio (Destino o Meta). El Proceso de Analogía esta basado en que si dos Situaciones son Similares en algún aspecto entonces pueden serlo en otro. Explota la Experiencia Acumuladad. Problema Base: El Problema Ya Resuelto tal que su Solución servirá de Base para Resolver el Nuevo Problema. Conocimiento Base: La Información disponible sobre el Problema Base y su Dominio. Problema Objetivo: El Nuevo Problema a Resolver Entre ambos Existe una Relación de Causalidad.

6.2. Modelo de Razonamiento Unificado Visión Unificada de los Componentes Básicos de un Sistema Analógico. Problema Tipo. Dada como entrada una Situación Objetivo, da como Resultado una Representación aumentada de la misma en la que consten las Inferencias Analógicas obtenidas de una Situación Base. Fases •

Recuperación. Dada la Situación Objetivo, el Sistema ha de ser capaz de Recuperar un Caso Base potencialmente Análogo y poner en Correspondencia las Partes correspondientes de ambas

•

Elaboración. Derivar Atributos, Relaciones o Cadenas Causales Adicionales que pueden ser utilizadas sobre la Situación Objetivo

•

Mapeo. Mapear los Atributos Seleccionados sobre el Objetivo con posibles Modificaciones

•

Justificación. Justificar que los Atributos son válidos

•

Aprendizaje. Guardar la Representación aumentada de la Situación Objetivo; en la Creación la Reglas Generales motivadas por la Analogía o en el Refinamiento de las mismas a partir de más Razonamientos sobre la misma o diferentes Situaciones Base

6.3. Combinación Inductivo - Deductivo Las "Inferencias Analógicas" son un caso concreto de Razonamiento Analógico tienen Carácter Inductivo. Se Fundamenta en Establecer la Suposición que permite relacionar las dos Situaciones involucradas (s y t). P(s)^Q(s), P(t) --------------Q(t)

18

Aprendizaje en Inteligencia Artificial Parte de la Idea de que si las situaciones coinciden en algunos aspectos, entonces es probable que coincidan en otros: "P(x) => Q(x)

Suele aplicarse sólo cuando las situaciones comparadas comparten un conjunto "Suficiente" de Semejanzas o cuando ademas la relación establecida sea relevante y sea necesario utilizar la Información de la Fuente para Realizar la Inferencia. Problema de la No Redundancia. Determinar cuáles son las Suposiciones Analógicas que deben hacerse. Establecer Mecanismos Adicionales que nos permitan acceder al Conocimiento Implicado en decidir en la Fórmula anterior cuáles son las Propiedades Q que pueden estar sujetas a Inferencia Analógica. Lógica de Predicados. La Expresión "P determina Q" es representado como "P >Q"; expresa la Relación de Dependencia entre las Propiedades P y Q de los Objetos del Dominio. La Nación determina el Idioma. Estas Relaciones pueden utilizarse adecuadamente en un Marco de Programación Lógica, que permite validar las Inferencias realizadas en el Razonamiento Analógico.

6.4. Analogía Transformacional Se recupera de la Memoria de Soluciones Previas la solución del problema "más parecida al problema que se está intentando resolver. La Solución Recordada se toma como "Estado Inicial" de un Proceso de Búsqueda que consistirá en aplicar una serie de Operadores con vistas a alcanzar una Solución del Problema Nuevo. Figura 1. Aprendizaje por Analogía Transformacional

Se considera que existe un Espacio (T-espacio) en el cual la Solución Conocida puede ser Transformada, usando unos Operadores (T-operadores), hasta convertirla en la solucioacute;n de un nuevo problema. Planteamiento. Sólo se mira que la Solución sea Equivalente; No cómo se Resuelve. 6.4.1. Análisis Medios - Fines Espacio del Problema •

Conjunto Estados Posibles

•

Estado Inicial

•

Estado Final

•

Conjunto de Operadores: Permiten Transformar un Estado en otro

19

Aprendizaje en Inteligencia Artificial •

Función de Diferencias: Computa las diferencias existentes entre dos Estados dados

•

Tabla de Diferencias: Dada una diferencia, devuelve el Operador que permite eliminarla

•

Conjunto de Restricciones Globales

Resolución 1. Comparar el Estado Actual y el Final mediante Función de Diferencias 2. Elegir un Operador que Elimine alguna de las Diferencias encontradas 3. Si es posible aplicar el Operador, se Aplica y se Obtiene un Nuevo Estado Actual. Sino Guardar el Estado Actual y Aplicar la Estrategia de Resolución al Problema de Satisfacer dichas Restricciones 4. Cuando el SubProblema es Resuelto, Restablecer el Ultimo Estado guardado y proseguir el trabajo en el Problema Original No se utiliza en ningún momento Información Obtenida en la Resolución del primero para Resolver el segundo. Generalizar la Estrategia 1. Fase Búsqueda de los Precedentes. Medida de Similitud entre Problemas, la Función de Diferencias calcula las diferencias entre Estados y Compara las Restricciones 2. Fase Transformación de la Solución. Adaptar la Secuencia de Operadores en que consiste la solución del caso Precedente en una que resuelva el Nuevo Problema y que cumpla las Restricciones

6.5. Analogía Derivacional Se describe la Solución Analógica de un Problema como la Meta de una Tarea Jerárquica que Almacena Información detallada de la Solución. El Plan Generado se descompone en Subproblemas que indican metas intermedias; lo que permite Trazar el Curso de la Solución. Figura 2. Aprendizaje por Analogía Derivacional

Solución Incremental. A cada paso de la Solución se Resuelve un Nuevo Problema. El Sistema es capaz de emplear trazas de problemas resueltos previamente. El Sistema ha de Almacenar toda la Informcación generada en cada paso, pero que dé especial importancia a aquella generada por los operadores instanciados sin analizar las Razones de esa elección. Traza 1. Dado un Problema Objetivo, el Sistema intenta Recuperar un Plan. Si resuelve el problema, Termina.

20

Aprendizaje en Inteligencia Artificial 2. Elaborar una Solución 3. Descomponer el Problema en Subproblemas 4. Mecanismo Selección de un Subproblema. Si al tratar el subproblema FALLA, se almacena la secuencia y se Asocia una Explicación 5. La Solución Progresa Positivamente, se Selecciona Operadores para el Tratamiento del Problema. 6. Se Construye una Justificación para cada Nodo Cuando una Rama Falla, el Sistema intenta Buscar en otras Fuentes. Aplicaciones •

Buscar Nuevas Soluciones a Problemas ya Resueltos

•

Intentar Optimizar las Soluciones Antiguas

•

Método Razonamiento a partir de Experimentos

•

La Justificación facilita la reconstrucción de la Solución y permite Evaluar lo Aprendido

Diferencias. No solo se Transfiere entre los dos Problemas Implicados la Traza de la Solución, también se incluye cualquier Decisión tomada en la Solución del Problema Previo ( Alternativas deshechadas, Razones de las decisiones, Dependencias de cualquier fuente adicional de conocimiento ... )

6.6. Razonamiento Basado en Casos El Razonamiento Basado en Casos (RBC) significa Resolver Problemas a partir de Experiencias Precedentes (Casos), Adaptando soluciones antiguas para resolver problemas nuevos, o Recuperando casos anteriores para Iluminar aspectos de la situación actual. Hace de su última etapa, el Aprendizaje, el Centro de todo el Proceso Analógico. Ventajas •

RBC como Técnica de Adquisición de Conocimiento

•

RBC como Mecanismo de Resolución de Problemas

•

RBC permite Trabajar en Dominios de Problemas de Dificil Estructuración y Representación

Inconvenientes •

Resulta Costoso en cuanto a Memoria

•

No ha habido Trabajos Extensos para la Manipulación de Incertidumbre

Aplicaciones. Problemas Legales, Diagnostico, Clasificación, Planificación, Diseño 6.6.1. Aprendizaje Para poder Iniciar el Proceso de Razonamiento, es necesario disponer de un Conjunto de Casos Precedentes (Librería de Casos).

21

Aprendizaje en Inteligencia Artificial Los Casos pertenecen a un Determinado Dominio que es necesario Conocer para poder Interpretar la Información contenida en ellos. Cada Nuevo Caso Resuelto por el sistema presenta una Nueva Ocasión para Aprender. Tipos 1. Aprender Nuevos Casos que Ayude a Evitar Problemas 2. Aprender Características que predigan Problemas 3. Aprender Reparaciones aplicables en diversas Situaciones

6.6.2. Etapas del Razonamiento Basado en Casos (RBC) 6.6.2.1. Recuperación de Casos Determina cuando dos Casos (Cm en Memoria y C el Caso Actual) son semenjantes. Diferentes Tipos de Similitud: Estructural (Forma) Semántica (Significado) Organizativa Pragmática

Para Determinar si un caso es Similar a otro, se define una Función de Comparación (Matching) donde se confrontan las Características de un caso con las del otro. Informa si la Similitud es Exacta (Identicos) o Parcial (Determinada por un Grado de Semejanza). Se pueden utilizar un Conjunto de Heurísticas que ayuden a determinar que características son más relevantes. Si un conjunto de Casos en Memoria obtienen un Resultado Parcial se elige un solo Caso de entre todos ellos. 6.6.2.2. Adaptación de Casos Acomodar la Solución del Caso Cm Recuperado de la Memoria para obtener la Solución del Caso C. Es necesario tener en cuenta las diferencias. Tipos •

Adaptar la Solución. •

Reinstalación o Substitución de una Característica por otra

•

Búsqueda Local de Características en una Red de Discriminación

•

Uso de "Críticos" que definen un Conjunto Especial de Reglas de Adaptación para manipular Características que Interaccionan

22

Aprendizaje en Inteligencia Artificial •

•

Eliminación de una Característica Espuria (No Útil)

Replicar el Proceso de Razonamiento. Verificar las Condiciones que han hecho posible la aplicación de Determinados Métodos, Reglas o Pasos Inferenciales; en el Caso Recuperado de Memoria. Si estas se cumplen para el caso actual, se Reaplica el Método, Regla o Inferencia.

6.6.2.3. Evaluación de Resultados Determina si la Solución del Caso Elaborada en la Etapa de Adaptación es Plausible: •

Consultando a un Maestro, Experto Humano

•

Simulando los Planes antes de Ejecutarlos y Realizando las correcciones oportunas

Reparación. Similar a la Adaptación pues consiste en Modificar una Solución para adecuarla a una situación dada. Se conoce la Solución, que ha fracasado y, probablemente, de una Explicación. Para poder realizarla es necesario disponer del Conocimiento Especifico del Dominio.

6.6.2.4. Aprendizaje por Casos Almacenar el Caso Nuevo C resultado del Proceso Analógico. Surge la oportunidad de Reorganizar la Memoria y Aprender la nueva Experiencia. Sino ha sido correcta se tendran que Reorganizar los Casos en memoria para que no se vuelvan a Producir los mismos Errores. 6.6.2.4.1. Acumulando nuevas experiencias Un Caso Resuelto no tiene porque ser Identico a uno en Memoria •

Durante el Proceso de Recuperación indica que no existe ningún caso identico (Matching distinto de exacto)

•

La Existencia de un Proceso de Adaptación indica que la Solución No se transfiere tal cual sino por analogía

•

Pueden adaptarse diferentes partes de diferentes casos para resolver un problema

Si una experiencia No esta en memoria se tiene que considerar si es necesario almacenarla; guardar todos los casos daría una memoria demasiado grande y de uso ineficiente. Si el caso es diferente pero similar a uno precedente, se construye un nuevo prototipo que generalice el conocimiento contenido en ambos casos. 6.6.2.4.2. Aprendizaje de Errores Aprender las Condiciones que han dado lugar al Fracaso para que no se repita.

23

Aprendizaje en Inteligencia Artificial •

Aprender el Error. Relacionar las Características causantes del error y el caso fracasado, almacenando el caso indexado por estas. Si existe en memoria un caso similar y no se ha activado el error: Actualizar (mejorar) los indices del caso en memoria Generalizar las características de los dos casos

•

Actualización de Indices. La Función de Similitud se basa en los Indices o Característicad de los casos. Determinar que indices deben modificarse: •

Aumentar la importancia de un indice, haciendoles mas especifico, o asociandole un peso mayor

•

Disminuir la eficiencia de un indice, haciendole mas general, o asociandole un peso menor

7. Aprendizaje Multiestrategia El Aprendizaje Multiestrategia se ocupa del Desarrollo de los Sistemas de Aprendizaje (SA) que integren dos o más Estrategias de Inferencia diferentes y/o dos o más Estrategias de Computación diferentes. El Principal Problema es la Integración de las distintas Estrategias.

7.1. Planteamientos 7.1.1. Deductivo - Inductivo Utilizar el Conocimiento Expresado en una Teoría del Dominio Incompleta, incorporando a continuación el Conocimiento proveniente del trato Empírico de Ejemplos del Dominio. 7.1.2. ID3 Permiten obtener Reglas Sencillas (Expresadas en el Cálculo de Proposiciones), generadas a partir de los Ejemplos tratados, que reflejan las predicciones de cada usuario. Una vez obtenido el conjunto de Reglas Básicas, se podrían aplicar técnicas de carácter analítico, que hicieran uso del Conocimiento aprendido en aquél.

24

Aprendizaje en Inteligencia Artificial 7.1.3. Reminding - Based Generalization Se aprende en base a Semejanzas Casuales entre los elementos de conocimiento que en principio son poco relevantes. A partir de un Atributo poco relevante, puede originarse "Recuerdos", siendo esta circunstancia la causa de Generalizaciones Adicionales. 7.1.4. Analógico Basado en la Explicación Abductiva Capaz de trabajar simultaneamente con un Conjunto de Generalizaciones Análogas sobre los ejemplos positivos presentados. Se consideran como válidas un conjunto de Explicaciones Semejantes. 7.1.5. CASEY Crear Generalizaciones en forma de Casos, encargados de aglutinar las semejanzas entre algún conjunto de casos disponible. Estas nuevas Entidades se forman cuando existen un Conjunto "Suficiente". El Identificador No tiene contenido Semántico Asociado, la Semántica se asigna en el Proceso de Interpretación (por el Observador).

7.2. Propuestas Híbridas (Simbólico - Conexionistas) Las Soluciones Híbridas han sobrepasado la Barrera existente entre Simbólico y Conexionista. Enfoque Simbólico. La Formulación del Conocimiento Relevante del Dominio, Tareas de "mas alto nivel". Planificación y Diagnostico. Enfoque Conexionista. Basado en el Tratamiento Numérico, se ha utilizado en Tareas de "bajo nivel". Percepcioacute;n y Procesamiento de Señales 7.2.1. EBL-ANN Configurar una Red Neuronal a partir de la Infomación aportada por una Teoría del Dominio capaz de proporcionar explicaciones aproximadas.

25