EfficientNet

EfficientNet es una familia de redes neuronales convolucionales (CNN) para visión artificial publicada por investigadores de Google AI en 2019. ^{[ 1 ]} Su innovación clave es el escalado compuesto , que escala uniformemente todas las dimensiones de profundidad, anchura y resolución utilizando un único parámetro.

Los modelos EfficientNet se han adoptado en diversas tareas de visión artificial, incluyendo la clasificación de imágenes , la detección de objetos y la segmentación .

EfficientNet introduce el escalado compuesto , que, en lugar de escalar una dimensión de la red a la vez, como la profundidad (número de capas), el ancho (número de canales) o la resolución (tamaño de la imagen de entrada), utiliza un coeficiente compuesto.${\displaystyle \phi }$para escalar las tres dimensiones simultáneamente. Específicamente, dada una red base, la profundidad, el ancho y la resolución se escalan de acuerdo con las siguientes ecuaciones: ^{[ 1 ]}$${\displaystyle {\begin{aligned}{\text{multiplicador de profundidad: }}d&=\alpha ^{\phi }\\{\text{multiplicador de anchura: }}w&=\beta ^{\phi }\\{\text{multiplicador de resolución: }}r&=\gamma ^{\phi }\end{aligned}}}$$sujeto a${\displaystyle \alpha \cdot \beta ^{2}\cdot \gamma ^{2}\approx 2}$y${\displaystyle \alpha \geq 1,\beta \geq 1,\gamma \geq 1}$. El${\displaystyle \alpha \cdot \beta ^{2}\cdot \gamma ^{2}\approx 2}$La condición es tal que el aumento${\displaystyle \phi }$por un factor de${\displaystyle \phi _{0}}$aumentaría el total de FLOPs de ejecutar la red en una imagen aproximadamente${\displaystyle 2^{\phi _{0}}}$tiempos. Los hiperparámetros${\displaystyle \alpha }$,${\displaystyle \beta }$, y${\displaystyle \gamma }$se determinan mediante una búsqueda en cuadrícula pequeña . El artículo original sugería 1,2, 1,1 y 1,15, respectivamente.

Desde el punto de vista arquitectónico, optimizaron la elección de módulos mediante la búsqueda de arquitectura neuronal (NAS, por sus siglas en inglés) y descubrieron que la convolución de cuello de botella invertida (a la que llamaron MBConv ) utilizada en MobileNet funcionaba bien.

La familia EfficientNet es una pila de capas MBConv, con formas determinadas por el escalado compuesto. La publicación original constaba de 8 modelos, desde EfficientNet-B0 hasta EfficientNet-B7, con un tamaño y precisión de modelo crecientes. EfficientNet-B0 es la red base, y los modelos subsiguientes se obtienen escalando la red base mediante un escalado creciente.${\displaystyle \phi }$.

EfficientNet ha sido adaptado para inferencia rápida en TPU de borde ^{[ 2 ]} y clústeres de TPU o GPU centralizados por NAS. ^{[ 3 ]}

^{EfficientNet V2 se publicó en junio de} 2021. La arquitectura se mejoró mediante una búsqueda NAS adicional con más tipos de capas convolucionales. ^{[ 4 ]} También introdujo un método de entrenamiento que aumenta progresivamente el tamaño de la imagen durante el entrenamiento y utiliza técnicas de regularización como dropout , RandAugment [ ^{5 ]} y Mixup. ^{[ 6 ]} Los autores afirman que este enfoque mitiga las caídas de precisión que suelen asociarse con el redimensionamiento progresivo.

• Red neuronal convolucional
• SqueezeNet
• MobileNet
• Solo miras una vez

• EfficientNet: Mejora de la precisión y la eficiencia mediante AutoML y escalado de modelos (Blog de IA de Google)