transformador generativo preentrenado

Un transformador generativo preentrenado ( GPT ) es un tipo de modelo de lenguaje grande (LLM) ^{[ 1 ] [ 2 ] [ 3 ]} que se utiliza ampliamente en chatbots de inteligencia artificial generativa . ^{[ 4 ] [ 5 ]} Los GPT se basan en una arquitectura de aprendizaje profundo llamada transformador . Se preentrenan en grandes conjuntos de datos de contenido sin etiquetar y son capaces de generar contenido novedoso. ^{[ 2 ] [ 3 ]}

OpenAI fue el primero en aplicar el preentrenamiento generativo a la arquitectura transformer, introduciendo el modelo GPT-1 en 2018. ^{[ 6 ]} El chatbot ChatGPT , lanzado a finales de 2022 (usando GPT-3.5 ), fue seguido por muchos chatbots de la competencia que utilizan sus propios transformadores generativos preentrenados para generar texto, como Gemini , DeepSeek y Claude .

Las GPT se utilizan principalmente para generar texto, pero pueden entrenarse para generar otros tipos de datos. Las GPT multimodales pueden procesar o generar múltiples tipos de datos, como texto, imágenes y audio. Para mejorar el rendimiento en tareas complejas, las GPT de razonamiento dedican más tiempo de cálculo al análisis del problema antes de generar un resultado.

Durante la década de 2010, la mejora de los algoritmos de aprendizaje automático , la mayor potencia de los ordenadores y el aumento de la cantidad de material digitalizado propiciaron un auge de la IA . ^{[ 7 ]}

Por otra parte, el concepto de preentrenamiento generativo (GP) era una técnica consolidada en el aprendizaje automático. El GP es una forma de aprendizaje autosupervisado en la que un modelo se entrena primero con un conjunto de datos grande y sin etiquetar (el paso de "preentrenamiento") para aprender a generar puntos de datos. Este modelo preentrenado se adapta luego a una tarea específica utilizando un conjunto de datos etiquetado (el paso de " ajuste fino "). ^{[ 8 ]}

La arquitectura Transformer para aprendizaje profundo es la tecnología central de un GPT. Desarrollada por investigadores de Google , se presentó en el artículo " Attention Is All You Need ", publicado en 2017. La arquitectura Transformer resolvió muchos de los problemas de rendimiento asociados con los diseños anteriores de redes neuronales recurrentes (RNN) para el procesamiento del lenguaje natural (PLN). El uso de un mecanismo de atención por parte de la arquitectura permite a los modelos procesar secuencias completas de texto a la vez, lo que posibilita el entrenamiento de modelos mucho más grandes y sofisticados. ^{[ 9 ]} Desde 2017, los sistemas de PLN basados ​​en Transformer disponibles han sido capaces de procesar, extraer, organizar, conectar, contrastar y resumir textos, así como responder preguntas a partir de la entrada textual.

El 11 de junio de 2018, investigadores e ingenieros de OpenAI publicaron un artículo titulado "Mejora de la comprensión del lenguaje mediante el preentrenamiento generativo", que presentó GPT-1 , el primer modelo GPT. ^{[ 10 ]} Fue diseñado como un modelo de lenguaje grande basado en transformadores que utilizó preentrenamiento generativo (GP) en BookCorpus , un corpus de texto diverso , seguido de un ajuste fino discriminativo para centrarse en tareas lingüísticas específicas. Este enfoque semisupervisado fue visto como un avance. Los modelos GPT utilizan solo la parte del decodificador de la arquitectura del transformador, preentrenada para predecir el siguiente token en una secuencia. ^{[ 11 ] [ 12 ]} Anteriormente, los modelos neuronales de mejor rendimiento en el procesamiento del lenguaje natural (PLN) habían empleado comúnmente el aprendizaje supervisado a partir de grandes cantidades de datos etiquetados manualmente ; entrenar un modelo de lenguaje grande con este enfoque habría sido prohibitivamente caro y requeriría mucho tiempo. ^{[ 10 ]} 

El 14 de febrero de 2019, OpenAI presentó GPT-2 , un modelo más grande capaz de generar texto coherente. Creado como una ampliación directa de su predecesor, tanto su número de parámetros como el tamaño de su conjunto de datos se incrementaron en un factor de 10. GPT-2 cuenta con 1.500 millones de parámetros y fue entrenado con WebText, un conjunto de datos de 40 gigabytes que contiene 8 millones de páginas web . ^{[ 13 ] [ 11 ]} Debido a los riesgos de uso malicioso, OpenAI optó por un "lanzamiento por etapas", publicando inicialmente versiones más pequeñas del modelo antes de lanzar el modelo completo de 1.500 millones de parámetros en noviembre. ^{[ 14 ]}

El 10 de febrero de 2020, Microsoft presentó su modelo de generación de lenguaje natural Turing, que, según afirmó, era el "modelo de lenguaje más grande jamás publicado, con 17 mil millones de parámetros". El modelo superó a todos los modelos de lenguaje anteriores en diversas tareas, incluyendo el resumen de textos y la respuesta a preguntas . ^{[ 15 ]}

El 28 de mayo de 2020, OpenAI presentó GPT-3 , un modelo con 175 mil millones de parámetros entrenado con un conjunto de datos mayor que el de GPT-2. Esto representó un avance significativo en las capacidades de aprendizaje con pocos ejemplos y sin ejemplos. Con pocos ejemplos, podía realizar diversas tareas para las que no había sido entrenado explícitamente. ^{[ 16 ] [ 12 ]}

Tras el lanzamiento de GPT-3, OpenAI comenzó a utilizar el aprendizaje por refuerzo a partir de la retroalimentación humana (RLHF) para alinear el comportamiento de los modelos más estrechamente con las preferencias humanas. Esto condujo al desarrollo de InstructGPT , una versión refinada de GPT-3. OpenAI perfeccionó aún más InstructGPT para crear ChatGPT , el producto insignia de chatbot de OpenAI que se lanzó el 30 de noviembre de 2022. ^{[ 17 ]} ChatGPT se basó inicialmente en GPT-3.5 , pero posteriormente se migró al modelo GPT-4 , que se lanzó el 14 de marzo de 2023. ^{[ 18 ] [ 19 ]} GPT-4 también se integró en partes de varias aplicaciones, incluidas Microsoft Copilot , GitHub Copilot , Snapchat , Khan Academy y Duolingo . ^{[ 20 ]}

La inmensa popularidad de ChatGPT impulsó el desarrollo generalizado de sistemas GPT competitivos por parte de otras organizaciones. EleutherAI lanzó una serie de modelos de peso abierto , incluido GPT-J en 2021. Otras importantes empresas tecnológicas desarrollaron posteriormente sus propios modelos GPT, como PaLM y Gemini de Google , así como Llama de Meta AI . ^{[ 21 ]}

Muchos modelos GPT posteriores se han entrenado para ser multimodales (capaces de procesar o generar múltiples tipos de datos). Por ejemplo, GPT-4o puede procesar y generar texto, imágenes y audio. ^{[ 22 ]} Además, modelos GPT como o3 y DeepSeek R1 se han entrenado con aprendizaje por refuerzo para generar razonamientos en cadena de varios pasos antes de producir una respuesta final, lo que ayuda a resolver problemas complejos en dominios como las matemáticas. ^{[ 23 ]}

Un modelo base es un modelo de IA entrenado con datos amplios a gran escala, de manera que pueda adaptarse a una amplia gama de tareas posteriores. ^{[ 24 ] [ 25 ]} Los GPT base también pueden emplear modalidades distintas al texto, para entrada y/o salida. ^{[ 26 ]} En cuanto a la salida multimodal , algunos modelos basados ​​en transformadores generativos se utilizan para tecnologías de texto a imagen como la difusión ^{[ 27 ]} y la decodificación paralela. ^{[ 28 ]} Este tipo de modelos pueden servir como modelos base visuales (VFM) para desarrollar sistemas posteriores que puedan trabajar con imágenes. ^{[ 29 ]}

Los requisitos computacionales y de memoria de los modelos basados ​​en transformadores aumentan significativamente a medida que se escalan a tamaños mayores y secuencias de entrada más largas. El mecanismo de autoatención estándar tiene una complejidad cuadrática con respecto a la longitud de la secuencia de entrada, como se describe en Attention Is All You Need . ^{[ 30 ]}

Los investigadores propusieron varias mejoras de eficiencia, como mecanismos de atención dispersa y arquitecturas eficientes en memoria que reducen los costos computacionales al tiempo que admiten ventanas de contexto más largas. ^{[ 31 ]} Modelos como BigBird, Reformer y FlashAttention demuestran patrones de atención estructurados o computación optimizada para mejorar la escalabilidad y la eficiencia. ^{[ 32 ] [ 33 ] [ 34 ]}

Esto ha ayudado a que los modelos de lenguaje de gran tamaño procesen de manera eficiente secuencias de entrada largas con una menor cantidad de memoria y capacidad de cálculo tanto durante el entrenamiento como durante la inferencia.

Las leyes de escala describen relaciones empíricas entre el rendimiento de los modelos de lenguaje grandes y factores como el tamaño del modelo, el tamaño del conjunto de datos y los recursos computacionales. Los estudios empíricos han demostrado que el rendimiento tiende a seguir relaciones aproximadas de ley de potencias a medida que aumentan estos factores. ^{[ 35 ]}

Los modelos más grandes entrenados con más datos generalmente logran una menor pérdida de entrenamiento y una mejor generalización. Trabajos posteriores sugieren que el rendimiento no está determinado únicamente por la cantidad de parámetros, sino por cómo se equilibran el tamaño del modelo, los datos y la capacidad de cómputo durante el entrenamiento. ^{[ 36 ]}

Estas observaciones han influido en el desarrollo de los sucesivos modelos GPT, en particular en las decisiones sobre el diseño de la arquitectura, la composición del conjunto de datos y las estrategias de entrenamiento.

Las capacidades emergentes se refieren a funcionalidades que aparecen en modelos de lenguaje grandes solo cuando alcanzan una cierta escala y no están presentes en versiones más pequeñas de los mismos modelos. Estas capacidades se consideran "emergentes" porque surgen a medida que aumenta el tamaño del modelo, los datos de entrenamiento y la capacidad de cómputo. ^{[ 37 ] [ 38 ]}

Algunos ejemplos de habilidades emergentes incluyen el razonamiento en varios pasos, el aprendizaje en contexto (la capacidad de realizar tareas basándose en ejemplos proporcionados en las indicaciones sin entrenamiento adicional) y un mejor desempeño en pruebas de referencia complejas de lenguaje y razonamiento.

Las investigaciones sugieren que estas capacidades no escalan linealmente, sino que aparecen una vez que los modelos superan ciertos umbrales de tamaño y escala de entrenamiento. ^{[ 38 ]}

Este fenómeno ha influido en el desarrollo de modelos GPT más grandes y ha contribuido a su mayor eficacia en una amplia gama de tareas.

OpenAI , que creó el primer transformador preentrenado generativo (GPT) en 2018, afirmó en 2023 que "GPT" debía considerarse una marca de OpenAI. ^{[ 39 ]} En abril de 2023, OpenAI revisó las directrices de marca en sus términos de servicio para indicar que otras empresas que utilizaran su API para ejecutar sus servicios de IA ya no podrían incluir "GPT" en dichos nombres o marcas. ^{[ 40 ]} En mayo de 2023, OpenAI contrató un servicio de gestión de marcas para notificar a sus clientes de API sobre esta política, aunque estas notificaciones no llegaron a hacer reclamaciones legales explícitas (como alegaciones de infracción de marca registrada o demandas de cese y desistimiento ). ^{[ 39 ]} A partir de noviembre de 2023, OpenAI todavía prohíbe a sus licenciatarios de API nombrar sus propios productos con "GPT", ^{[ 41 ]} pero ha comenzado a permitir a sus suscriptores de ChatGPT Plus hacer "versiones personalizadas de ChatGPT" llamadas GPT en el sitio de OpenAI. ^{[ 42 ]} Los términos de servicio de OpenAI dicen que sus suscriptores pueden usar "GPT" en los nombres de estos, aunque se "desaconseja". ^{[ 41 ]}

En relación con esto, OpenAI solicitó a la Oficina de Patentes y Marcas de los Estados Unidos (USPTO) el registro de la marca comercial "GPT" en el campo de la IA. ^{[ 39 ]} OpenAI intentó acelerar la tramitación de su solicitud, pero la USPTO la rechazó en abril de 2023. ^{[ 43 ]} En mayo de 2023, la USPTO rechazó la solicitud de marca comercial de OpenAI, al considerar que "GPT" era descriptivo y genérico. ^{[ 44 ] [ 45 ] [ 46 ] [ 47 ]}

En la Unión Europea , la Oficina de Propiedad Intelectual de la Unión Europea registró "GPT" como marca comercial de OpenAI en la primavera de 2023. Sin embargo, desde la primavera de 2024 el registro está siendo impugnado y pendiente de cancelación. ^{[ 48 ]} En Suiza , el Instituto Federal Suizo de Propiedad Intelectual registró "GPT" como marca comercial de OpenAI en la primavera de 2023. ^{[ 49 ] [ 50 ]} La Administración Nacional de Propiedad Intelectual de China denegó las solicitudes de OpenAI para registrar como marcas comerciales los términos "GPT" y "ChatGPT" en 2024, y el término "GPT-5" en agosto de 2025, tras lo cual OpenAI presentó apelaciones. ^{[ 51 ]}

La evaluación de los modelos transformadores generativos preentrenados se lleva a cabo utilizando una variedad de puntos de referencia y métricas, que buscan evaluar su desempeño en diferentes tareas. Los enfoques comunes incluyen la precisión en conjuntos de datos estándar, así como otras características como robustez, sesgo y toxicidad. ^{[ 52 ]}

Estos modelos se suelen probar en tareas como la comprensión del lenguaje natural, el razonamiento, la respuesta a consultas y la generación de código. A veces combinan varias tareas para proporcionar una evaluación más amplia del rendimiento del modelo en diferentes dominios. ^{[ 53 ]}

Enfoques más recientes amplían estas evaluaciones para incluir otras características como la equidad, la eficiencia y la transparencia, con el fin de obtener una evaluación más precisa de estos modelos. ^{[ 52 ]}

La evaluación sigue siendo un área activa de investigación, ya que las pruebas existentes pueden no reflejar con precisión el rendimiento en el mundo real o los riesgos asociados con los modelos generativos a gran escala. ^{[ 52 ]}

Los modelos transformadores generativos preentrenados han suscitado diversas preocupaciones éticas y sociales, en particular en lo que respecta al sesgo, la desinformación y el impacto ambiental. Los modelos de lenguaje de gran tamaño pueden reproducir y amplificar patrones presentes en sus datos de entrenamiento, incluidos los sesgos sociales, lo que puede dar lugar a resultados injustos o engañosos. ^{[ 54 ] [ 55 ]}

Estos modelos también se han asociado con la generación de información inexacta o engañosa, ya que están diseñados para producir texto fluido en lugar de verificar la exactitud de los hechos. Esto tiene un impacto en su uso en aplicaciones como la generación automatizada de contenido y la difusión de información. ^{[ 56 ]}

El entrenamiento de modelos a gran escala también requiere enormes recursos computacionales, lo que contribuye a un mayor consumo de energía y a mayores costos ambientales. La preocupación por el impacto ambiental de los grandes sistemas de IA ha generado demandas de métodos de entrenamiento más eficientes y mayor transparencia en la presentación de informes sobre el uso de recursos. ^{[ 57 ] [ 58 ]}

• Transformador de visión