Articulo de referencia

Aumento de datos

El aumento de datos es una técnica estadística que permite la estimación de máxima verosimilitud a partir de datos incompletos. [ 1 ] [ 2 ] El aumento de datos tiene aplicacione...

El aumento de datos es una técnica estadística que permite la estimación de máxima verosimilitud a partir de datos incompletos. [ 1 ] [ 2 ] El aumento de datos tiene aplicaciones importantes en el análisis bayesiano , [ 3 ] y la técnica se utiliza ampliamente en el aprendizaje automático para reducir el sobreajuste al entrenar modelos de aprendizaje automático, [ 4 ] lo cual se logra entrenando modelos en varias copias ligeramente modificadas de datos existentes.

Técnicas de sobremuestreo sintético para el aprendizaje automático tradicional

La técnica de sobremuestreo sintético de la clase minoritaria (SMOTE) es un método utilizado para abordar conjuntos de datos desequilibrados en el aprendizaje automático. En dichos conjuntos de datos, el número de muestras en diferentes clases varía significativamente, lo que provoca un rendimiento sesgado del modelo. Por ejemplo, en un conjunto de datos de diagnóstico médico con 90 muestras que representan a individuos sanos y solo 10 muestras que representan a individuos con una enfermedad específica, los algoritmos tradicionales pueden tener dificultades para clasificar con precisión la clase minoritaria. SMOTE reequilibra el conjunto de datos generando muestras sintéticas para la clase minoritaria. Por ejemplo, si hay 100 muestras en la clase mayoritaria y 10 en la clase minoritaria, SMOTE puede crear muestras sintéticas seleccionando aleatoriamente una muestra de la clase minoritaria y sus vecinos más cercanos, y luego generando nuevas muestras a lo largo de los segmentos de línea que unen a estos vecinos. Este proceso ayuda a aumentar la representación de la clase minoritaria, mejorando el rendimiento del modelo. [ 5 ]

Aumento de datos para la clasificación de imágenes

Cuando las redes neuronales convolucionales crecieron a mediados de la década de 1990, hubo una escasez de datos para usar, especialmente considerando que una parte del conjunto de datos general debía reservarse para pruebas posteriores. Se propuso perturbar los datos existentes con transformaciones afines para crear nuevos ejemplos con las mismas etiquetas, [ 6 ] que se complementaron con las llamadas distorsiones elásticas en 2003, [ 7 ] y la técnica se usó ampliamente a partir de la década de 2010. [ 8 ] El aumento de datos puede mejorar el rendimiento de las CNN y actúa como una contramedida contra los ataques de perfilado de CNN. [ 9 ]

El aumento de datos se ha vuelto fundamental en la clasificación de imágenes, enriqueciendo la diversidad del conjunto de datos de entrenamiento para mejorar la generalización y el rendimiento del modelo. La evolución de esta práctica ha introducido un amplio espectro de técnicas, que incluyen transformaciones geométricas, ajustes del espacio de color e inyección de ruido. [ 10 ]

Transformaciones geométricas

Las transformaciones geométricas alteran las propiedades espaciales de las imágenes para simular diferentes perspectivas, orientaciones y escalas. Las técnicas comunes incluyen:

  • Transformación afín
    • Rotación : Consiste en rotar las imágenes un grado específico para ayudar a los modelos a reconocer objetos desde distintos ángulos.
    • Reflexión : Consiste en reflejar imágenes horizontal o verticalmente para introducir variabilidad en la orientación.
    • Traducción : Desplazar imágenes en diferentes direcciones para enseñar a los modelos la invariancia posicional.
    • Escalada
    • Mapeo de cizallamiento
  • Recorte : Consiste en eliminar secciones de la imagen para centrarse en características específicas o simular vistas más cercanas.
  • Distorsión elástica [ 7 ]
  • Morfismo dentro de la misma clase : Generar nuevas muestras aplicando técnicas de morphing entre dos imágenes pertenecientes a la misma clase, aumentando así la diversidad intraclase. [ 11 ]

Transformaciones del espacio de color

Las transformaciones del espacio de color modifican las propiedades cromáticas de las imágenes, abordando las variaciones de iluminación, saturación de color y contraste. Las técnicas incluyen:

  • Ajuste de brillo : Permite variar el brillo de la imagen para simular diferentes condiciones de iluminación.
  • Ajuste de contraste : Permite modificar el contraste para ayudar a los modelos a reconocer objetos con distintos niveles de nitidez.
  • Ajuste de saturación : Modificación de la saturación para preparar los modelos para imágenes con diferentes intensidades de color.
  • Variación de color : Ajuste aleatorio del brillo, el contraste, la saturación y el tono para introducir variabilidad de color.

Inyección de ruido

Inyectar ruido en las imágenes simula imperfecciones del mundo real, enseñando a los modelos a ignorar variaciones irrelevantes. Las técnicas incluyen:

  • Ruido gaussiano : Añadir ruido gaussiano imita el ruido o la granularidad del sensor.
  • Ruido de sal y pimienta : La introducción aleatoria de píxeles blancos o negros simula polvo en el sensor o píxeles muertos .

Aumento de datos para el procesamiento de señales

El método bootstrap residual o por bloques se puede utilizar para el aumento de series temporales.

Señales biológicas

La ampliación de datos sintéticos es de suma importancia para la clasificación en aprendizaje automático, especialmente para datos biológicos, que tienden a ser de alta dimensionalidad y escasos. Las aplicaciones de control y aumento robótico en sujetos con y sin discapacidad aún dependen principalmente de análisis específicos para cada sujeto. La escasez de datos es notable en problemas de procesamiento de señales, como las señales de electromiografía de la enfermedad de Parkinson , que son difíciles de obtener. Zanini et al. observaron que es posible utilizar una red generativa antagónica (en particular, una DCGAN) para realizar una transferencia de estilo con el fin de generar señales electromiográficas sintéticas que correspondan a las exhibidas por personas con enfermedad de Parkinson. [ 12 ]

Estos enfoques también son importantes en la electroencefalografía (ondas cerebrales). Wang et al. exploraron la idea de utilizar redes neuronales convolucionales profundas para el reconocimiento de emociones basado en EEG; los resultados muestran que el reconocimiento de emociones mejoró cuando se utilizó el aumento de datos. [ 13 ]

Un enfoque común es generar señales sintéticas reorganizando componentes de datos reales. Lotte [ 14 ] propuso un método de "Generación de ensayos artificiales basada en analogía" donde se utilizan tres ejemplos de datos.incógnita1,incógnita2,incógnita3{\displaystyle x_{1},x_{2},x_{3}}proporcionar ejemplos y un artificialincógnitasynortethmitido{\displaystyle x_{sintético}}se forma lo cual esincógnita3{\displaystyle x_{3}}quéincógnita2{\displaystyle x_{2}}es aincógnita1{\displaystyle x_{1}}. Se aplica una transformación aincógnita1{\displaystyle x_{1}}para hacerlo más parecido aincógnita2{\displaystyle x_{2}}, luego se aplica la misma transformación aincógnita3{\displaystyle x_{3}}que generaincógnitasynortethmitido{\displaystyle x_{sintético}}Se demostró que este enfoque mejora el rendimiento de un clasificador de análisis discriminante lineal en tres conjuntos de datos diferentes.

Las investigaciones actuales muestran que se puede obtener un gran impacto con técnicas relativamente simples. Por ejemplo, Freer [ 15 ] observó que introducir ruido en los datos recopilados para formar puntos de datos adicionales mejoró la capacidad de aprendizaje de varios modelos que, de otro modo, tenían un rendimiento relativamente bajo. Tsinganos et al. [ 16 ] estudiaron los enfoques de deformación de magnitud, descomposición wavelet y modelos EMG de superficie sintética (enfoques generativos) para el reconocimiento de gestos de la mano, encontrando aumentos en el rendimiento de clasificación de hasta +16% cuando se introdujeron datos aumentados durante el entrenamiento. Más recientemente, los estudios de aumento de datos han comenzado a centrarse en el campo del aprendizaje profundo, más específicamente en la capacidad de los modelos generativos para crear datos artificiales que luego se introducen durante el proceso de entrenamiento del modelo de clasificación. En 2018, Luo et al. [ 17 ] observaron que se podían generar datos útiles de señales EEG mediante redes generativas adversarias (GAN) de Wasserstein condicionales, que luego se introdujeron en el conjunto de entrenamiento en un marco de aprendizaje clásico de entrenamiento-prueba. Los autores encontraron que el rendimiento de clasificación mejoró cuando se introdujeron dichas técnicas.

señales mecánicas

La predicción de señales mecánicas basada en el aumento de datos trae una nueva generación de innovaciones tecnológicas , como el despacho de energía, el campo de la comunicación 5G y la ingeniería de control robótico. [ 18 ] En 2022, Yang et al. [ 18 ] integran restricciones, optimización y control en un marco de red profunda basado en el aumento y la poda de datos con correlación de datos espacio-temporales, y mejoran la interpretabilidad, la seguridad y la controlabilidad del aprendizaje profundo en proyectos industriales reales a través de ecuaciones de programación matemática explícitas y soluciones analíticas.

Véase también

Referencias

  1. Dempster, AP; Laird, NM; Rubin, DB (1977). "Máxima verosimilitud a partir de datos incompletos mediante el algoritmo EM" . Journal of the Royal Statistical Society. Serie B (Metodológica) . 39 (1): 1–22 . doi : 10.1111/j.2517-6161.1977.tb01600.x . Archivado del original el 10 de octubre de 2022. Consultado el 28 de agosto de 2024 .
  2. Rubin, Donald (1987). " Comentario: El cálculo de distribuciones posteriores mediante aumento de datos" . Journal of the American Statistical Association . 82 (398). doi : 10.2307/2289460 . JSTOR 2289460. Archivado del original el 7 de agosto de 2024. Consultado el 28 de agosto de 2024 . 
  3. Jackman, Simon (2009). Análisis bayesiano para las ciencias sociales . John Wiley & Sons. pág. 236. ISBN  978-0-470-01154-6.
  4. Shorten, Connor; Khoshgoftaar, Taghi M. (2019). "Una revisión sobre el aumento de datos de imágenes para el aprendizaje profundo" . Matemáticas y computadoras en simulación . 6 60. springer. doi : 10.1186/s40537-019-0197-0 .
  5. Wang, Shujuan; Dai, Yuntao; Shen, Jihong; Xuan, Jingxue (2021-12-15). "Investigación sobre la expansión y clasificación de datos desequilibrados basada en el algoritmo SMOTE" . Scientific Reports . 11 (1): 24039. Bibcode : 2021NatSR..1124039W . doi : 10.1038/ s41598-021-03430-5 . ISSN 2045-2322 . PMC 8674253. PMID 34912009 .   
  6. Yann Lecun; et al. (1995). Algoritmos de aprendizaje para clasificación: una comparación en el reconocimiento de dígitos manuscritos ( Ponencia de congreso) . World Scientific. pp. 261–276 . Recuperado el 14 de mayo de 2023 .  {{cite book}}: |website=ignorado ( ayuda )
  7. 1 2 Simard, PY; Steinkraus, D.; Platt, JC (2003). "Mejores prácticas para redes neuronales convolucionales aplicadas al análisis visual de documentos". Séptima Conferencia Internacional sobre Análisis y Reconocimiento de Documentos, 2003. Actas . Vol. 1. págs. 958–963 . doi : 10.1109/ICDAR.2003.1227801 . ISBN   0-7695-1960-1. S2CID 4659176 . 
  8. Hinton, Geoffrey E.; Srivastava, Nitish; Krizhevsky, Alex; Sutskever, Ilya; Salakhutdinov, Ruslan R. (2012). "Mejora de las redes neuronales mediante la prevención de la coadaptación de los detectores de características". arXiv : 1207.0580 [ cs.NE ].
  9. Cagli, Eleonora; Dumas, Cécile; Prouff, Emmanuel (2017). "Redes neuronales convolucionales con aumento de datos contra contramedidas basadas en fluctuaciones: ataques de perfilado sin preprocesamiento" . En Fischer, Wieland; Homma, Naofumi (eds.). Hardware criptográfico y sistemas embebidos – CHES 2017. Lecture Notes in Computer Science. Vol. 10529. Cham: Springer International Publishing. pp. 45–68 . doi : 10.1007/978-3-319-66787-4_3 . ISBN   978-3-319-66787-4. S2CID 54088207 . 
  10. Shorten, Connor; Khoshgoftaar, Taghi M. (2019-07-06). "Una revisión sobre el aumento de datos de imágenes para el aprendizaje profundo" . Journal of Big Data . 6 (1): 60. doi : 10.1186/s40537-019-0197-0 . ISSN 2196-1115 . 
  11. Ghorbel, Emna; Ghorbel, Faouzi (2024-06-01). "Aumento de datos basado en la exploración del espacio de formas para conjuntos de datos de tamaño reducido: aplicación a la clasificación de formas 2D" . Neural Computing and Applications . 36 (17): 10031– 10054. doi : 10.1007/s00521-024-09798-5 . ISSN 1433-3058 . 
  12. Anicet Zanini, Rafael; Luna Colombini, Esther (2020). "Aumento y simulación de datos EMG de la enfermedad de Parkinson con DCGAN y transferencia de estilo" . Sensors . 20 ( 9): 2605. Bibcode : 2020Senso..20.2605A . doi : 10.3390/s20092605 . ISSN 1424-8220 . PMC 7248755. PMID 32375217 .   
  13. Wang, Fang; Zhong, Sheng-hua; Peng, Jianfeng; Jiang, Jianmin; Liu, Yan (2018). "Aumento de datos para el reconocimiento de emociones basado en EEG con redes neuronales convolucionales profundas". Modelado multimedia . Notas de clase en ciencias de la computación. Vol. 10705. págs. 82–93 . doi : 10.1007/978-3-319-73600-6_8 . ISBN   978-3-319-73599-3ISSN 0302-9743 
  14. Lotte, Fabien (2015). "Enfoques de procesamiento de señales para minimizar o suprimir el tiempo de calibración en interfaces cerebro-computadora basadas en actividad oscilatoria" ( PDF) . Actas del IEEE . 103 (6): 871– 890. doi : 10.1109/JPROC.2015.2404941 . ISSN 0018-9219 . S2CID 22472204. Archivado (PDF) del original el 3 de abril de 2023. Recuperado el 5 de noviembre de 2022 .  
  15. Freer, Daniel; Yang, Guang-Zhong (2020). "Aumento de datos para la clasificación de imágenes motoras a ritmo propio con C-LSTM". Journal of Neural Engineering . 17 (1): 016041. Bibcode : 2020JNEng..17a6041F . doi : 10.1088/1741-2552/ab57c0 . hdl : 10044/1/75376 . ISSN 1741-2552 . PMID 31726440 . S2CID 208034533 .   
  16. Tsinganos, Panagiotis; Cornelis, Bruno; Cornelis, Jan; Jansen, Bart; Skodras, Athanassios (2020). "Aumento de datos de electromiografía de superficie para el reconocimiento de gestos de la mano" . Sensors . 20 ( 17): 4892. Bibcode : 2020Senso..20.4892T . doi : 10.3390/s20174892 . ISSN 1424-8220 . PMC 7506981. PMID 32872508 .   
  17. Luo, Yun; Lu, Bao-Liang (2018). "Aumento de datos EEG para el reconocimiento de emociones mediante una GAN de Wasserstein condicional". 40.ª Conferencia Internacional Anual de la Sociedad de Ingeniería en Medicina y Biología del IEEE (EMBC) de 2018. Vol. 2018. págs. 2535–2538 . doi : 10.1109/EMBC.2018.8512865 . ISBN   978-1-5386-3646-6. PMID 30440924 . S2CID 53105445 .  
  18. 1 2 Yang, Yang (2022). "Pronóstico de velocidad del viento con poda y aumento de redes de correlación: un método de aprendizaje profundo de dos fases". Energía renovable . 198 (1): 267– 282. arXiv : 2306.01986 . Bibcode : 2022REne..198..267Y . doi : 10.1016/j.renene.2022.07.125 . ISSN 0960-1481 . S2CID 251511199 .