Teoría de la representación

El espacio vectorial V se denomina espacio de representación de φ y su dimensión (si es finita) se denomina dimensión de la representación (a veces grado , como en ^{[ 18 ]} ). También es práctica común referirse a V mismo como la representación cuando el homomorfismo φ es evidente por el contexto; de lo contrario, se puede usar la notación ( V , φ ) para denotar una representación.

Cuando V es de dimensión finita n , se puede elegir una base para V para identificar V con F ^{n y} , por lo tanto , recuperar una representación matricial con entradas en el campo F.

Una representación efectiva o fiel es una representación ( V , φ ), para la cual el homomorfismo φ es inyectivo .

Si${\displaystyle V}$y${\displaystyle W}$son espacios vectoriales sobre${\displaystyle \mathbb {F} }$, equipado con representaciones${\displaystyle \varphi }$y${\displaystyle \psi }$de un grupo${\displaystyle G}$, luego un mapa equivariante de${\displaystyle V}$a${\displaystyle W}$es un mapa lineal${\displaystyle \alpha :V\rightarrow W}$de tal manera que $${\displaystyle \alpha (g\cdot v)=g\cdot \alpha (v)}$$ a pesar de${\displaystyle g}$en${\displaystyle G}$y${\displaystyle v}$en${\displaystyle V}$En términos de${\displaystyle \varphi :G\rightarrow {\text{GL}}(V)}$y${\displaystyle \psi :G\rightarrow {\text{GL}}(W)}$, esto significa $${\displaystyle \alpha \circ \varphi (g)=\psi (g)\circ \alpha }$$ a pesar de${\displaystyle g}$en${\displaystyle G}$, es decir, el siguiente diagrama conmuta :

Los mapas equivariantes para representaciones de un álgebra asociativa o de Lie se definen de manera similar. Si${\displaystyle \alpha }$es invertible, entonces se dice que es un isomorfismo , en cuyo caso${\displaystyle V}$y${\displaystyle W}$(o, más precisamente,${\displaystyle \varphi }$y${\displaystyle \psi }$) son representaciones isomorfas , también denominadas representaciones equivalentes . Un mapa equivariante se denomina a menudo mapa entrelazado de representaciones. Además, en el caso de un grupo${\displaystyle G}$, en ocasiones se le llama un${\displaystyle G}$-mapa o${\displaystyle G}$-mapa lineal. ^{[ 19 ]}

Las representaciones isomorfas son, a efectos prácticos, "iguales"; proporcionan la misma información sobre el grupo o álgebra que se representa. Por lo tanto, la teoría de la representación busca clasificar las representaciones salvo isomorfismo .

Si${\displaystyle (V,\psi )}$es una representación de (por ejemplo) un grupo${\displaystyle G}$, y${\displaystyle W}$es un subespacio lineal de${\displaystyle V}$que se conserva por la acción de${\displaystyle G}$en el sentido de que para todos${\displaystyle w\in W}$y${\displaystyle g\in G}$,${\displaystyle g\cdot w\in W}$( Serre llama a estos${\displaystyle W}$estable bajo${\displaystyle G}$^{[ 18 ]} ), entonces${\displaystyle W}$se denomina subrepresentación : al definir$${\displaystyle \phi :G\to {\text{Aut}}(W)}$$dónde${\displaystyle \phi (g)}$es la restricción de${\displaystyle \psi (g)}$a${\displaystyle W}$,${\displaystyle (W,\phi )}$es una representación de${\displaystyle G}$y la inclusión de${\displaystyle W\hookrightarrow V}$es una aplicación equivariante. El espacio cociente${\displaystyle V/W}$También se puede convertir en una representación de${\displaystyle G}$. Si${\displaystyle V}$tiene exactamente dos subrepresentaciones, a saber, el subespacio trivial {0} y${\displaystyle V}$en sí misma, entonces se dice que la representación es irreductible ; si${\displaystyle V}$Si tiene una subrepresentación propia no trivial, se dice que la representación es reducible . ^{[ 20 ]}

La definición de una representación irreducible implica el lema de Schur : una aplicación equivariante.$${\displaystyle \alpha$$ :(V,\psi )\to (V',\psi ')} entre representaciones irreducibles es o bien el mapa cero o un isomorfismo, puesto que su núcleo e imagen son subrepresentaciones. En particular, cuando${\displaystyle V=V'}$, esto demuestra que los endomorfismos equivariantes de${\displaystyle V}$formen un álgebra de división asociativa sobre el cuerpo subyacente F. Si F es algebraicamente cerrado , los únicos endomorfismos equivariantes de una representación irreducible son los múltiplos escalares de la identidad.

Las representaciones irreducibles son los bloques de construcción de la teoría de la representación para muchos grupos: si una representación${\displaystyle V}$Si no es irreducible, entonces se construye a partir de una subrepresentación y un cociente que son ambos "más simples" en algún sentido; por ejemplo, si${\displaystyle V}$Si es de dimensión finita, entonces tanto la subrepresentación como el cociente tienen una dimensión menor. Hay contraejemplos donde una representación tiene una subrepresentación, pero solo tiene un componente irreducible no trivial. Por ejemplo, el grupo aditivo.${\displaystyle (\mathbb {R} ,+)}$tiene una representación bidimensional $${\displaystyle \phi (a)={\begin{bmatrix}1&a\\0&1\end{bmatrix}}}$$ Este grupo tiene el vector${\displaystyle {\begin{bmatrix}1&0\end{bmatrix}}^{\mathsf {T}}}$fijo por este homomorfismo, pero el subespacio complementario se mapea a $${\displaystyle {\begin{bmatrix}0\\1\end{bmatrix}}\mapsto {\begin{bmatrix}a\\1\end{bmatrix}}}$$ dando solo una subrepresentación irreducible. Esto es cierto para todos los grupos unipotentes . ^{[ 21 ] : 112}

Si ( V , φ ) y ( W , ψ ) son representaciones de (digamos) un grupo G , entonces la suma directa de V y W es una representación, de manera canónica, a través de la ecuación

${\displaystyle g\cdot (v,w)=(g\cdot v,g\cdot w).}$

La suma directa de dos representaciones no aporta más información sobre el grupo G que la que aportan individualmente. Si una representación es la suma directa de dos subrepresentaciones propias no triviales, se dice que es descomponible. En caso contrario, se dice que es indescomponible.

En circunstancias favorables, toda representación de dimensión finita es una suma directa de representaciones irreducibles: dichas representaciones se denominan semisimples . En este caso, basta con comprender únicamente las representaciones irreducibles. Ejemplos donde se produce este fenómeno de " reducibilidad completa " (al menos sobre cuerpos de característica cero ) incluyen grupos finitos (véase el teorema de Maschke ), grupos compactos y álgebras de Lie semisimples.

En los casos en que no se cumple la reducibilidad completa, hay que entender cómo se pueden construir representaciones indescomponibles a partir de representaciones irreducibles mediante extensiones de cocientes por subrepresentaciones.

Suponer${\displaystyle \phi _{1}:G\rightarrow \mathrm {GL} (V_{1})}$y${\displaystyle \phi _{2}:G\rightarrow \mathrm {GL} (V_{2})}$son representaciones de un grupo${\displaystyle G}$Entonces podemos formar una representación${\displaystyle \phi _{1}\otimes \phi _{2}}$de G actuando sobre el espacio vectorial de producto tensorial${\displaystyle V_{1}\otimes V_{2}}$de la siguiente manera: ^{[ 22 ]}

${\displaystyle (\phi _{1}\otimes \phi _{2})(g)=\phi _{1}(g)\otimes \phi _{2}(g)}$.

Si${\displaystyle \phi _{1}}$y${\displaystyle \phi _{2}}$son representaciones de un álgebra de Lie, entonces la fórmula correcta a utilizar es ^{[ 23 ].}

${\displaystyle (\phi _{1}\otimes \phi _{2})(X)=\phi _{1}(X)\otimes I+I\otimes \phi _{2}(X)}$.

Este producto puede reconocerse como el coproducto en una coálgebra . En general, el producto tensorial de representaciones irreducibles no es irreducible; el proceso de descomponer un producto tensorial como una suma directa de representaciones irreducibles se conoce como teoría de Clebsch-Gordan .

En el caso de la teoría de representación del grupo SU(2) (o equivalentemente, de su álgebra de Lie complejizada)${\displaystyle \mathrm {sl} (2;\mathbb {C} )}$), la descomposición es fácil de realizar. ^{[ 24 ]} Las representaciones irreducibles están etiquetadas por un parámetro${\displaystyle l}$que es un entero no negativo o un semi-entero; la representación entonces tiene dimensión${\displaystyle 2l+1}$. Supongamos que tomamos el producto tensorial de la representación de dos representaciones, con etiquetas${\displaystyle l_{1}}$y${\displaystyle l_{2},}$donde asumimos${\displaystyle l_{1}\geq l_{2}}$. Entonces, el producto tensorial se descompone como una suma directa de una copia de cada representación con etiqueta${\displaystyle l}$, dónde${\displaystyle l}$abarca desde${\displaystyle l_{1}-l_{2}}$a${\displaystyle l_{1}+l_{2}}$en incrementos de 1. Si, por ejemplo,${\displaystyle l_{1}=l_{2}=1}$, entonces los valores de${\displaystyle l}$que ocurren son 0, 1 y 2. Por lo tanto, la representación del producto tensorial de dimensión${\displaystyle (2l_{1}+1)\times (2l_{2}+1)=3\times 3=9}$se descompone como una suma directa de una representación unidimensional${\displaystyle (l=0),}$una representación tridimensional${\displaystyle (l=1),}$y una representación de 5 dimensiones${\displaystyle (l=2)}$.

Las representaciones de grupos son una herramienta muy importante en el estudio de grupos finitos. ^{[ 25 ]} También surgen en las aplicaciones de la teoría de grupos finitos a la geometría y la cristalografía . ^{[ 26 ]} Las representaciones de grupos finitos exhiben muchas de las características de la teoría general y señalan el camino hacia otras ramas y temas en la teoría de representaciones.

Sobre un cuerpo de característica cero , la representación de un grupo finito G tiene una serie de propiedades convenientes. Primero, las representaciones de G son semisimples (completamente reducibles). Esto es consecuencia del teorema de Maschke , que establece que cualquier subrepresentación V de una G -representación W tiene un complemento G -invariante. Una prueba consiste en elegir cualquier proyección π de W a V y reemplazarla por su promedio π _G definida por

${\displaystyle \pi _{G}(x)={\frac {1}{|G|}}\sum _{g\in G}g\cdot \pi (g^{-1}\cdot x).}$

π _G es equivariante, y su núcleo es el complemento requerido.

Las representaciones G de dimensión finita pueden entenderse utilizando la teoría de caracteres : el carácter de una representación φ : G → GL( V ) es la función de clase χ _φ : G → F definida por

${\displaystyle \chi _{\varphi }(g)=\mathrm {Tr} (\varphi (g))}$

dónde${\displaystyle \mathrm {Tr} }$es la traza . Una representación irreducible de G está completamente determinada por su carácter.

El teorema de Maschke se cumple de forma más general para cuerpos de característica positiva p , como los cuerpos finitos , siempre que el primo p sea coprimo al orden de G. Cuando p y | G | tienen un factor común , existen representaciones de G que no son semisimples, las cuales se estudian en una subrama llamada teoría de representaciones modulares .

Las técnicas de promediado también muestran que si F son los números reales o complejos, entonces cualquier representación G conserva un producto interno.${\displaystyle \langle \cdot ,\cdot \rangle }$en V en el sentido de que

${\displaystyle \langle g\cdot v,g\cdot w\rangle =\langle v,w\rangle }$

para todo g en G y v , w en W. Por lo tanto, cualquier representación de G es unitaria .

Las representaciones unitarias son automáticamente semisimples, ya que el resultado de Maschke se puede demostrar tomando el complemento ortogonal de una subrepresentación. Al estudiar representaciones de grupos no finitos, las representaciones unitarias proporcionan una buena generalización de las representaciones reales y complejas de un grupo finito.

Resultados como el teorema de Maschke y la propiedad unitaria, que se basan en el promedio, pueden generalizarse a grupos más generales reemplazando el promedio por una integral, siempre que se pueda definir una noción adecuada de integral. Esto se puede hacer para grupos topológicos compactos (incluidos los grupos de Lie compactos), utilizando la medida de Haar , y la teoría resultante se conoce como análisis armónico abstracto .

Sobre cuerpos arbitrarios, otra clase de grupos finitos que poseen una buena teoría de representación son los grupos finitos de tipo Lie . Ejemplos importantes son los grupos algebraicos lineales sobre cuerpos finitos. La teoría de representación de los grupos algebraicos lineales y de los grupos de Lie extiende estos ejemplos a grupos de dimensión infinita, estando estos últimos íntimamente relacionados con las representaciones de álgebras de Lie . La importancia de la teoría de caracteres para grupos finitos tiene un análogo en la teoría de pesos para representaciones de grupos de Lie y álgebras de Lie.

Las representaciones de un grupo finito G también están vinculadas directamente a las representaciones algebraicas a través del álgebra de grupo F [ G ], que es un espacio vectorial sobre F con los elementos de G como base, equipado con la operación de multiplicación definida por la operación de grupo, la linealidad y el requisito de que la operación de grupo y la multiplicación escalar conmuten.

Las representaciones modulares de un grupo finito G son representaciones sobre un cuerpo cuya característica no es coprima con | G |, por lo que el teorema de Maschke ya no se cumple (porque | G | no es invertible en F y, por lo tanto, no se puede dividir por él). ^{[ 27 ]} Sin embargo, Richard Brauer extendió gran parte de la teoría de caracteres a las representaciones modulares, y esta teoría desempeñó un papel importante en los primeros avances hacia la clasificación de grupos simples finitos , especialmente para grupos simples cuya caracterización no era susceptible de métodos puramente teóricos de grupos porque sus subgrupos de Sylow de orden 2 eran "demasiado pequeños". ^{[ 28 ]}

Además de tener aplicaciones en la teoría de grupos, las representaciones modulares surgen de forma natural en otras ramas de las matemáticas , como la geometría algebraica , la teoría de códigos , la combinatoria y la teoría de números .

Una representación unitaria de un grupo G es una representación lineal φ de G en un espacio de Hilbert real o (generalmente) complejo V tal que φ ( g ) es un operador unitario para todo g ∈ G. Estas representaciones se han aplicado ampliamente en mecánica cuántica desde la década de 1920, gracias en particular a la influencia de Hermann Weyl , ^{[ 29 ]} y esto ha inspirado el desarrollo de la teoría, sobre todo a través del análisis de las representaciones del grupo de Poincaré por Eugene Wigner . ^{[ 30 ]} Uno de los pioneros en la construcción de una teoría general de representaciones unitarias (para cualquier grupo G en lugar de solo para grupos particulares útiles en aplicaciones) fue George Mackey , y Harish-Chandra y otros desarrollaron una teoría extensa en las décadas de 1950 y 1960. ^{[ 31 ]}

Un objetivo principal es describir el " dual unitario ", el espacio de representaciones unitarias irreducibles de G. ^{[ 32 ]} La teoría está más desarrollada en el caso de que G sea un grupo topológico localmente compacto (Hausdorff) y las representaciones sean fuertemente continuas . ^{[ 11 ]} Para G abeliano, el dual unitario es simplemente el espacio de caracteres , mientras que para G compacto, el teorema ^de Peter-Weyl muestra que las representaciones unitarias irreducibles son de dimensión finita y el dual unitario es discreto. ^{[ 33 ]} Por ejemplo, si G es el grupo de círculos S1 , entonces los caracteres están dados por enteros, y el dual unitario es Z.

Para G no compacto , la cuestión de qué representaciones son unitarias es sutil. Aunque las representaciones unitarias irreducibles deben ser "admisibles" (como módulos de Harish-Chandra ) y es fácil detectar qué representaciones admisibles tienen una forma sesquilineal invariante no degenerada , es difícil determinar cuándo esta forma es definida positiva. Una descripción efectiva del dual unitario, incluso para grupos relativamente bien comportados como los grupos de Lie reductivos reales (que se discuten más adelante), sigue siendo un importante problema abierto en la teoría de representaciones. Se ha resuelto para muchos grupos particulares, como SL(2, R ) y el grupo de Lorentz . ^{[ 34 ]}

La dualidad entre el grupo circular S ¹ y los enteros Z , o más generalmente, entre un toro T ⁿ y Z ⁿ es bien conocida en análisis como la teoría de las series de Fourier , y la transformada de Fourier expresa de manera similar el hecho de que el espacio de caracteres en un espacio vectorial real es el espacio vectorial dual . Por lo tanto, la teoría de la representación unitaria y el análisis armónico están íntimamente relacionados, y el análisis armónico abstracto explota esta relación, desarrollando el análisis de funciones en grupos topológicos localmente compactos y espacios relacionados. ^{[ 11 ]}

Un objetivo principal es proporcionar una forma general de la transformada de Fourier y del teorema de Plancherel . Esto se logra construyendo una medida en el dual unitario y un isomorfismo entre la representación regular de G en el espacio L² ⁽ G ) de funciones de cuadrado integrable en G y su representación en el espacio de funciones ^L² en el dual unitario. La dualidad de Pontrjagin y el teorema de Peter-Weyl lo consiguen para G abeliano y compacto, respectivamente. ^{[ 33 ] [ 35 ]}

Otro enfoque consiste en considerar todas las representaciones unitarias, no solo las irreducibles. Estas forman una categoría , y la dualidad de Tannaka-Krein proporciona una manera de recuperar un grupo compacto a partir de su categoría de representaciones unitarias.

Si el grupo no es ni abeliano ni compacto, no se conoce ninguna teoría general con un análogo del teorema de Plancherel o la inversión de Fourier, aunque Alexander Grothendieck extendió la dualidad de Tannaka-Krein a una relación entre grupos algebraicos lineales y categorías tannakianas .

El análisis armónico también se ha extendido desde el análisis de funciones en un grupo G a funciones en espacios homogéneos para G. La teoría está particularmente bien desarrollada para espacios simétricos y proporciona una teoría de formas automorfas (que se analiza más adelante).

Un grupo de Lie es un grupo que también es una variedad diferenciable . Muchos grupos clásicos de matrices sobre los números reales o complejos son grupos de Lie. ^{[ 36 ]} Muchos de los grupos importantes en física y química son grupos de Lie, y su teoría de representación es crucial para la aplicación de la teoría de grupos en esos campos. ^{[ 9 ]}

La teoría de representación de grupos de Lie puede desarrollarse considerando primero los grupos compactos, a los que se aplican los resultados de la teoría de representación compacta. ^{[ 32 ]} Esta teoría puede extenderse a representaciones de dimensión finita de grupos de Lie semisimples usando el truco unitario de Weyl : cada grupo de Lie real semisimple G tiene una complejización, que es un grupo de Lie complejo G ^c , y este grupo de Lie complejo tiene un subgrupo compacto maximal K . Las representaciones de dimensión finita de G se corresponden estrechamente con las de K .

Un grupo de Lie general es un producto semidirecto de un grupo de Lie resoluble y un grupo de Lie semisimple (la descomposición de Levi ). ^{[ 37 ]} La clasificación de las representaciones de grupos de Lie resolubles es intratable en general, pero suele ser sencilla en casos prácticos. Las representaciones de productos semidirectos pueden analizarse mediante resultados generales denominados teoría de Mackey , que es una generalización de los métodos utilizados en la clasificación de Wigner de las representaciones del grupo de Poincaré.

Un álgebra de Lie sobre un cuerpo F es un espacio vectorial sobre F equipado con una operación bilineal antisimétrica llamada corchete de Lie , que satisface la identidad de Jacobi . Las álgebras de Lie surgen en particular como espacios tangentes a grupos de Lie en el elemento identidad , lo que lleva a su interpretación como "simetrías infinitesimales". ^{[ 37 ]} Un enfoque importante para la teoría de representaciones de grupos de Lie es estudiar la teoría de representaciones correspondiente de álgebras de Lie, pero las representaciones de álgebras de Lie también tienen un interés intrínseco. ^{[ 38 ]}

Las álgebras de Lie, al igual que los grupos de Lie, tienen una descomposición de Levi en partes semisimples y resolubles, siendo la teoría de representaciones de las álgebras de Lie resolubles intratable en general. En contraste, las representaciones de dimensión finita de las álgebras de Lie semisimples se comprenden completamente, gracias al trabajo de Élie Cartan . Una representación de un álgebra de Lie semisimple 𝖌 se analiza eligiendo una subálgebra de Cartan , que es esencialmente una subálgebra maximal genérica 𝖍 de 𝖌 en la que el corchete de Lie es cero ("abeliano"). La representación de 𝖌 se puede descomponer en espacios de peso que son autoespacios para la acción de 𝖍 y el análogo infinitesimal de los caracteres. La estructura de las álgebras de Lie semisimples reduce entonces el análisis de las representaciones a una combinatoria fácilmente comprensible de los posibles pesos que pueden aparecer. ^{[ 37 ]}

Los grupos algebraicos lineales (o, más generalmente, los esquemas de grupos afines ) son análogos en geometría algebraica de los grupos de Lie , pero sobre cuerpos más generales que solo R o C. En particular, sobre cuerpos finitos, dan lugar a grupos finitos de tipo Lie . Aunque los grupos algebraicos lineales tienen una clasificación muy similar a la de los grupos de Lie, su teoría de representación es bastante diferente (y mucho menos comprendida) y requiere técnicas diferentes, ya que la topología de Zariski es relativamente débil y las técnicas del análisis ya no están disponibles. ^{[ 41 ]}

La teoría de invariantes estudia las acciones sobre variedades algebraicas desde el punto de vista de su efecto sobre funciones que forman representaciones del grupo. Clásicamente, la teoría se ocupaba de la descripción explícita de funciones polinómicas que no cambian, o son invariantes , bajo las transformaciones de un grupo lineal dado . El enfoque moderno analiza la descomposición de estas representaciones en irreducibles. ^{[ 42 ]}

La teoría de invariantes de grupos infinitos está intrínsecamente ligada al desarrollo del álgebra lineal , especialmente a las teorías de formas cuadráticas y determinantes . Otro campo con una fuerte influencia mutua es la geometría proyectiva , donde la teoría de invariantes puede utilizarse para organizar el tema, y ​​durante la década de 1960, David Mumford revitalizó el campo con su teoría geométrica de invariantes . ^{[ 43 ]}

La teoría de representación de grupos de Lie semisimples tiene sus raíces en la teoría de invariantes ^{[ 36 ]} y los fuertes vínculos entre la teoría de representación y la geometría algebraica tienen muchos paralelismos en la geometría diferencial, comenzando con el programa de Erlangen de Felix Klein y las conexiones de Élie Cartan , que colocan a los grupos y la simetría en el centro de la geometría. ^{[ 44 ]} Los desarrollos modernos vinculan la teoría de representación y la teoría de invariantes con áreas tan diversas como la holonomía , los operadores diferenciales y la teoría de varias variables complejas .

Las formas automorfas son una generalización de las formas modulares a funciones analíticas más generales , quizás de varias variables complejas , con propiedades de transformación similares. ^{[ 45 ]} La generalización implica reemplazar el grupo modular PSL ₂ ( R ) y un subgrupo de congruencia elegido por un grupo de Lie semisimple G y un subgrupo discreto Γ . Así como las formas modulares pueden verse como formas diferenciales en un cociente del semiplano superior H = PSL ₂ ( R )/SO(2), las formas automorfas pueden verse como formas diferenciales (u objetos similares) en Γ\ G / K , donde K es (típicamente) un subgrupo compacto maximal de G . Sin embargo, se requiere cierta precaución, ya que el cociente suele tener singularidades. El cociente de un grupo de Lie semisimple por un subgrupo compacto es un espacio simétrico y, por lo tanto, la teoría de las formas automorfas está íntimamente relacionada con el análisis armónico en espacios simétricos.

Antes del desarrollo de la teoría general, se trabajaron en detalle muchos casos especiales importantes, incluidas las formas modulares de Hilbert y las formas modulares de Siegel . Entre los resultados importantes de la teoría se encuentran la fórmula de traza de Selberg y la constatación por Robert Langlands de que el teorema de Riemann-Roch podía aplicarse para calcular la dimensión del espacio de formas automorfas. La noción posterior de "representación automorfa" ha demostrado ser de gran valor técnico para abordar el caso en que G es un grupo algebraico , tratado como un grupo algebraico adélico . Como resultado, se ha desarrollado toda una filosofía, el programa de Langlands , en torno a la relación entre la representación y las propiedades de la teoría de números de las formas automorfas. ^{[ 46 ]}

En cierto sentido, las representaciones de álgebras asociativas generalizan tanto las representaciones de grupos como las de álgebras de Lie. Una representación de un grupo induce una representación de un anillo de grupo o álgebra de grupo correspondiente , mientras que las representaciones de un álgebra de Lie se corresponden biyectivamente con las representaciones de su álgebra envolvente universal . Sin embargo, la teoría de representaciones de álgebras asociativas generales no posee todas las propiedades deseables de la teoría de representaciones de grupos y álgebras de Lie.

Una representación conjuntista (también conocida como representación de acción de grupo o permutación ) de un grupo G en un conjunto X viene dada por una función ρ de G a X ^X , el conjunto de funciones de X a X , tal que para todo g ₁ , g ₂ en G y todo x en X :

${\displaystyle \rho (1)[x]=x}$

${\displaystyle \rho (g_{1}g_{2})[x]=\rho (g_{1})[\rho (g_{2})[x]].}$

Esta condición y los axiomas para un grupo implican que ρ ( g ) es una biyección (o permutación ) para todo g en G . Por lo tanto, podemos definir equivalentemente una representación de permutación como un homomorfismo de grupo de G al grupo simétrico S _X de X .

Todo grupo G puede considerarse como una categoría con un único objeto; los morfismos en esta categoría son simplemente los elementos de G. Dada una categoría arbitraria C , una representación de G en C es un functor de G a C. Dicho functor selecciona un objeto X en C y un homomorfismo de grupos de G a Aut( X ), el grupo de automorfismos de X.

En el caso en que C es Vect _F , la categoría de espacios vectoriales sobre un cuerpo F , esta definición es equivalente a una representación lineal. Del mismo modo, una representación conjuntista es simplemente una representación de G en la categoría de conjuntos .

Como otro ejemplo , consideremos la categoría de espacios topológicos , Top . Las representaciones en Top son homomorfismos de G al grupo de homeomorfismos de un espacio topológico X.

Existen tres tipos de representaciones estrechamente relacionadas con las representaciones lineales:

• Representaciones proyectivas : en la categoría de espacios proyectivos . Estas pueden describirse como "representaciones lineales salvo transformaciones escalares".
• Representaciones afines : en la categoría de espacios afines . Por ejemplo, el grupo euclidiano actúa afínmente sobre el espacio euclidiano .
• Correpresentaciones de grupos unitarios y antiunitarios : en la categoría de espacios vectoriales complejos con morfismos que son transformaciones lineales o antilineales .

Dado que los grupos son categorías, también se puede considerar la representación de otras categorías. La generalización más sencilla es a los monoides , que son categorías con un solo objeto. Los grupos son monoides para los que todo morfismo es invertible. Los monoides generales tienen representaciones en cualquier categoría. En la categoría de conjuntos, estas son acciones de monoides , pero también se pueden estudiar representaciones de monoides en espacios vectoriales y otros objetos.

En términos más generales, se puede flexibilizar el supuesto de que la categoría representada tiene un solo objeto. En su máxima generalidad, esto es simplemente la teoría de functores entre categorías, y poco más se puede decir al respecto.

Un caso particular ha tenido un impacto significativo en la teoría de la representación: la teoría de la representación de carcajes. ^{[ 15 ]} Un carcaj es simplemente un grafo dirigido (con bucles y flechas múltiples permitidas), pero puede convertirse en una categoría (y también en un álgebra) al considerar los caminos en el grafo. Las representaciones de tales categorías/álgebras han esclarecido varios aspectos de la teoría de la representación, por ejemplo, al permitir que preguntas no semisimples de la teoría de la representación sobre un grupo se reduzcan, en algunos casos, a preguntas semisimples de la teoría de la representación sobre un carcaj.