Articulo de referencia

Espacio de muestra con sesgo pequeño

En la informática teórica , un espacio muestral de pequeño sesgo (también conocido como ϵ {\displaystyle \epsilon } -espacio muestral sesgado , ϵ {\displaystyle \epsilon } Un ge...

En la informática teórica , un espacio muestral de pequeño sesgo (también conocido comoϵ{\displaystyle \epsilon }-espacio muestral sesgado , ϵ{\displaystyle \epsilon }Un generador con sesgo ( o espacio de probabilidad con sesgo pequeño ) es una distribución de probabilidad que engaña a las funciones de paridad . En otras palabras, ninguna función de paridad puede distinguir entre un espacio muestral con sesgo pequeño y la distribución uniforme con alta probabilidad ; por lo tanto, los espacios muestrales con sesgo pequeño dan lugar de forma natural a generadores pseudoaleatorios para funciones de paridad.

La principal propiedad útil de los espacios muestrales de sesgo pequeño es que necesitan muchos menos bits verdaderamente aleatorios que la distribución uniforme para engañar a las paridades. Las construcciones eficientes de espacios muestrales de sesgo pequeño han encontrado muchas aplicaciones en la informática, algunas de las cuales son la desaleatorización , los códigos correctores de errores y las pruebas verificables probabilísticamente . La conexión con los códigos correctores de errores es de hecho muy fuerte ya queϵ{\displaystyle \epsilon }Los espacios muestrales sesgados son equivalentes aϵ{\displaystyle \epsilon }-códigos correctores de errores equilibrados .

Definición

Inclinación

Dejarincógnita{\displaystyle X}sea ​​una distribución de probabilidad sobre{0,1}norte{\displaystyle \{0,1\}^{n}}. El sesgo deincógnita{\displaystyle X}con respecto a un conjunto de índicesI{1,,norte}{\displaystyle I\subseteq \{1,\dots ,n\}}se define como [ 1 ]

inclinaciónI(incógnita)=|Princógnitaincógnita(iIincógnitai=0)Princógnitaincógnita(iIincógnitai=1)|=|2Princógnitaincógnita(iIincógnitai=0)1|,{\displaystyle {\text{bias}}_{I}(X)=\left|\Pr _{x\sim X}\left(\sum _{i\in I}x_{i}=0\right)-\Pr _{x\sim X}\left(\sum _{i\in I}x_{i}=1\right)\right|=\left|2\cdot \Pr _{x\sim X}\left(\sum _{i\in I}x_{i}=0\right)-1\right|\,,}

donde la suma se toma sobreF2{\displaystyle \mathbb {F} _{2}}, el campo finito con dos elementos. En otras palabras, la sumaiIincógnitai{\displaystyle \sum _{i\in I}x_{i}}igual0{\displaystyle 0}si el número de unos en la muestraincógnita{0,1}norte{\displaystyle x\in \{0,1\}^{n}}en las posiciones definidas porI{\displaystyle I}es par, y en caso contrario, la suma es igual1{\displaystyle 1}. ParaI={\displaystyle I=\emptyset }, la suma vacía se define como cero, y por lo tantoinclinación(incógnita)=1{\displaystyle {\text{sesgo}}_{\emptyset }(X)=1}.

espacio de muestras sesgado por ε

Una distribución de probabilidadincógnita{\displaystyle X}encima{0,1}norte{\displaystyle \{0,1\}^{n}}se llama unϵ{\displaystyle \epsilon }-espacio muestral sesgado si inclinaciónI(incógnita)ϵ{\displaystyle {\text{sesgo}}_{I}(X)\leq \epsilon } Se cumple para todos los subconjuntos no vacíos.I{1,2,,norte}{\displaystyle I\subseteq \{1,2,\ldots ,n\}}.

conjunto con sesgo ϵ

Unϵ{\displaystyle \epsilon }espacio muestral sesgadoincógnita{\displaystyle X}que se genera seleccionando un elemento uniforme de un multiconjuntoincógnita{0,1}norte{\displaystyle X\subseteq \{0,1\}^{n}}se llamaϵ{\displaystyle \epsilon }-conjunto sesgado . El tamaños{\displaystyle s}de unϵ{\displaystyle \epsilon }-conjunto sesgadoincógnita{\displaystyle X}es el tamaño del multiconjunto que genera el espacio muestral.

generador con polarización ε

Unϵ{\displaystyle \epsilon }generador con polarizaciónGRAMO:{0,1}{0,1}norte{\displaystyle G:\{0,1\}^{\ell }\to \{0,1\}^{n}}es una función que mapea cadenas de longitud{\displaystyle \ell }a cadenas de longitudnorte{\displaystyle n}de tal manera que el multiconjuntoincógnitaGRAMO={GRAMO(y)|y{0,1}}{\displaystyle X_{G}=\{G(y)\;\vert \;y\in \{0,1\}^{\ell }\}}es unϵ{\displaystyle \epsilon }Conjunto sesgado. La longitud de la semilla del generador es el número{\displaystyle \ell }y está relacionado con el tamaño de laϵ{\displaystyle \epsilon }-conjunto sesgadoincógnitaGRAMO{\displaystyle X_{G}}mediante la ecuacións=2{\displaystyle s=2^{\ell }}.

Conexión con códigos correctores de errores con épsilon equilibrado

Existe una estrecha conexión entreϵ{\displaystyle \epsilon }conjuntos sesgados yϵ{\displaystyle \epsilon }-códigos de corrección de errores lineales balanceados . Un código linealdo:{0,1}norte{0,1}s{\displaystyle C:\{0,1\}^{n}\to \{0,1\}^{s}}de longitud del mensajenorte{\displaystyle n}y longitud del bloques{\displaystyle s}es ϵ{\displaystyle \epsilon }-equilibrado si el peso de Hamming de cada palabra clave distinta de cerodo(incógnita){\displaystyle C(x)}está entre(12ϵ)s{\displaystyle ({\frac {1}{2}}-\epsilon )s}y(12+ϵ)s{\displaystyle ({\frac {1}{2}}+\epsilon )s}. Desdedo{\displaystyle C}es un código lineal, su matriz generadora es una(norte×s){\displaystyle (n\times s)}-matrizA{\displaystyle A}encimaF2{\displaystyle \mathbb {F} _{2}}condo(incógnita)=incógnitaA{\displaystyle C(x)=x\cdot A}.

Entonces sostiene que un multiconjuntoincógnita{0,1}norte{\displaystyle X\subset \{0,1\}^{n}}esϵ{\displaystyle \epsilon }-sesgado si y solo si el código linealdoincógnita{\displaystyle C_{X}}, cuyas columnas son exactamente elementos deincógnita{\displaystyle X}, esϵ{\displaystyle \epsilon }-equilibrado. [ 2 ]

Construcciones de conjuntos pequeños con sesgo épsilon

Por lo general, el objetivo es encontrarϵ{\displaystyle \epsilon }-conjuntos sesgados que tienen un tamaño pequeños{\displaystyle s}en relación con los parámetrosnorte{\displaystyle n}yϵ{\displaystyle \epsilon }Esto se debe a un tamaño más pequeño.s{\displaystyle s}Esto significa que la cantidad de aleatoriedad necesaria para elegir un elemento aleatorio del conjunto es menor, por lo que el conjunto se puede utilizar para engañar a las paridades utilizando pocos bits aleatorios.

Límites teóricos

El método probabilístico proporciona una construcción no explícita que alcanza el tamaños=O(norte/ϵ2){\displaystyle s=O(n/\epsilon ^{2})}. [ 2 ] La construcción no es explícita en el sentido de que encontrar elϵ{\displaystyle \epsilon }El conjunto sesgado requiere mucha aleatoriedad verdadera, lo que no ayuda al objetivo de reducir la aleatoriedad general. Sin embargo, esta construcción no explícita es útil porque muestra que existen estos códigos eficientes. Por otro lado, el límite inferior más conocido para el tamaño deϵ{\displaystyle \epsilon }-conjuntos sesgados ess=Ω(norte/(ϵ2registro(1/ϵ)){\displaystyle s=\Omega (n/(\epsilon ^{2}\log(1/\epsilon ))}, es decir, para que un conjunto seaϵ{\displaystyle \epsilon }-sesgado, debe ser al menos así de grande. [ 2 ]

Construcciones explícitas

Hay muchas construcciones explícitas, es decir, deterministas deϵ{\displaystyle \epsilon }-conjuntos sesgados con diversas configuraciones de parámetros:

  • Naor y Naor (1990) lograns=norteescuela politécnica(ϵ){\displaystyle \displaystyle s={\frac {n}{{\text{poly}}(\epsilon )}}}La construcción utiliza códigos de Justesen (que es una concatenación de códigos de Reed-Solomon con el conjunto de Wozencraft ) así como muestreo de recorrido de expansor .
  • Alon et al. (1992) lograns=O(norteϵregistro(norte/ϵ))2{\displaystyle \displaystyle s=O\left({\frac {n}{\epsilon \log(n/\epsilon )}}\right)^{2}}. Una de sus construcciones es la concatenación de códigos Reed-Solomon con el código Hadamard ; esta concatenación resulta ser unaϵ{\displaystyle \epsilon }-código equilibrado, que da lugar a unϵ{\displaystyle \epsilon }-espacio muestral sesgado a través de la conexión mencionada anteriormente.
  • La concatenación de códigos geométricos algebraicos con el código de Hadamard da como resultado unϵ{\displaystyle \epsilon }-código equilibrado cons=O(norteϵ3registro(1/ϵ)){\displaystyle \displaystyle s=O\left({\frac {n}{\epsilon ^{3}\log(1/\epsilon )}}\right)}. [ 2 ]
  • Ben-Aroya y Ta-Shma (2009) lograns=O(norteϵ2registro(1/ϵ))5/4{\displaystyle \displaystyle s=O\left({\frac {n}{\epsilon ^{2}\log(1/\epsilon )}}\right)^{5/4}}.
  • Ta-Shma (2017) logras=O(norteϵ2+o(1)){\displaystyle \displaystyle s=O\left({\frac {n}{\epsilon ^{2+o(1)}}}\right)}lo cual es casi óptimo debido al límite inferior.

Estos límites son mutuamente incomparables. En particular, ninguna de estas construcciones produce el más pequeño.ϵ{\displaystyle \epsilon }-conjuntos sesgados para todas las configuraciones deϵ{\displaystyle \epsilon }ynorte{\displaystyle n}.

Aplicación: independencia casi k-ésima

Una aplicación importante de los conjuntos de sesgo pequeño reside en la construcción de espacios muestrales casi k-independientes.

espacios independientes k-ésimos

Una variable aleatoriaY{\displaystyle Y}encima{0,1}norte{\displaystyle \{0,1\}^{n}}es un espacio independiente k-ésimo si, para todos los conjuntos de índicesI{1,,norte}{\displaystyle I\subseteq \{1,\dots ,n\}}de tamañok{\displaystyle k}la distribución marginalY|I{\displaystyle Y|_{I}}es exactamente igual a la distribución uniforme sobre{0,1}k{\displaystyle \{0,1\}^{k}}. Es decir, para todos los talesI{\displaystyle I}y todas las cadenasz{0,1}k{\displaystyle z\in \{0,1\}^{k}}la distribuciónY{\displaystyle Y}SatisfacePrY(Y|I=z)=2k{\displaystyle \Pr _{Y}(Y|_{I}=z)=2^{-k}}.

Construcciones y límites

Los espacios independientes de k dimensiones se comprenden bastante bien.

  • Una construcción simple de Joffe (1974) alcanza el tamañonortek{\displaystyle n^{k}}.
  • Alon, Babai e Itai (1986) construyen un espacio independiente k veces cuyo tamaño esnortek/2{\displaystyle n^{k/2}}.
  • Chor et al. (1985) demuestran que ningún espacio independiente k veces puede ser significativamente más pequeño quenortek/2{\displaystyle n^{k/2}}.

La construcción de Joffe

Joffe (1974) construye unak{\displaystyle k}-espacio independiente sabioY{\displaystyle Y}sobre el cuerpo finito con algún número primonorte>k{\displaystyle n>k}de elementos, es decir,Y{\displaystyle Y}es una distribución sobreFnortenorte{\displaystyle \mathbb {F} _{n}^{n}}. El inicialk{\displaystyle k}Las distribuciones marginales se extraen de forma independiente y uniforme al azar:

(Y0,,Yk1)Fnortek{\displaystyle (Y_{0},\dots ,Y_{k-1})\sim \mathbb {F} _{n}^{k}}.

Para cadai{\displaystyle i}conki<norte{\displaystyle k\leq i<n}, la distribución marginal deYi{\displaystyle Y_{i}}entonces se define como

Yi=Y0+Y1i+Y2i2++Yk1ik1,{\displaystyle Y_{i}=Y_{0}+Y_{1}\cdot i+Y_{2}\cdot i^{2}+\dots +Y_{k-1}\cdot i^{k-1}\,,}

donde se realiza el cálculo enFnorte{\displaystyle \mathbb {F} _{n}}. Joffe (1974) demuestra que la distribuciónY{\displaystyle Y}construido de esta manera esk{\displaystyle k}-inteligente como una distribución sobreFnortenorte{\displaystyle \mathbb {F} _{n}^{n}}La distribuciónY{\displaystyle Y}es uniforme en su soporte y, por lo tanto, el soporte deY{\displaystyle Y}forma unak{\displaystyle k}Conjunto independiente -a nivel de . Contiene todosnortek{\displaystyle n^{k}}cadenas enFnortek{\displaystyle \mathbb {F} _{n}^{k}}que se han extendido a cadenas de longitudnorte{\displaystyle n}utilizando la regla determinista anterior.

Espacios casi k-ésimos independientes

Una variable aleatoriaY{\displaystyle Y}encima{0,1}norte{\displaystyle \{0,1\}^{n}}es unδ{\displaystyle \delta }-espacio casi k-ésimo independiente si, para todos los conjuntos de índicesI{1,,norte}{\displaystyle I\subseteq \{1,\dots ,n\}}de tamañok{\displaystyle k}la distribución restringidaY|I{\displaystyle Y|_{I}}y la distribución uniformeUk{\displaystyle U_{k}}en{0,1}k{\displaystyle \{0,1\}^{k}}sonδ{\displaystyle \delta }-cerrado en norma 1 , es decir,Y|IUk1δ{\displaystyle {\Big \|}Y|_{I}-U_{k}{\Big \|}_{1}\leq \delta }.

Construcciones

Naor y Naor (1990) proporcionan un marco general para combinar espacios pequeños independientes k-ésimos con espacios pequeñosϵ{\displaystyle \epsilon }espacios sesgados para obtenerδ{\displaystyle \delta }-espacios casi k-independientes de tamaño aún menor. En particular, seaGRAMO1:{0,1}h{0,1}norte{\displaystyle G_{1}:\{0,1\}^{h}\to \{0,1\}^{n}}Sea una aplicación lineal que genere un espacio independiente de k maneras y seaGRAMO2:{0,1}{0,1}h{\displaystyle G_{2}:\{0,1\}^{\ell }\to \{0,1\}^{h}}ser un generador de unϵ{\displaystyle \epsilon }-conjunto sesgado sobre{0,1}h{\displaystyle \{0,1\}^{h}}. Es decir, cuando se le da una entrada aleatoria uniforme, la salida deGRAMO1{\displaystyle G_{1}}es un espacio independiente k veces, y la salida deGRAMO2{\displaystyle G_{2}}esϵ{\displaystyle \epsilon }-sesgado. EntoncesGRAMO:{0,1}{0,1}norte{\displaystyle G:\{0,1\}^{\ell }\to \{0,1\}^{n}}conGRAMO(incógnita)=GRAMO1(GRAMO2(incógnita)){\displaystyle G(x)=G_{1}(G_{2}(x))}es un generador de unδ{\displaystyle \delta }-casik{\displaystyle k}-espacio independiente sabio, dondeδ=2k/2ϵ{\displaystyle \delta =2^{k/2}\epsilon }. [ 3 ]

Como se mencionó anteriormente, Alon, Babai e Itai (1986) construyen un generador.GRAMO1{\displaystyle G_{1}}conh=k2registronorte{\displaystyle h={\tfrac {k}{2}}\log n}, y Naor y Naor (1990) construyen un generadorGRAMO2{\displaystyle G_{2}}con=registros=registroh+O(registro(ϵ1)){\displaystyle \ell =\log s=\log h+O(\log(\epsilon ^{-1}))}. Por lo tanto, la concatenaciónGRAMO{\displaystyle G}deGRAMO1{\displaystyle G_{1}}yGRAMO2{\displaystyle G_{2}}tiene longitud de semilla=registrok+registroregistronorte+O(registro(ϵ1)){\displaystyle \ell =\log k+\log \log n+O(\log(\epsilon ^{-1}))}. Para queGRAMO{\displaystyle G}para producir unδ{\displaystyle \delta }-espacio casi k-ésimo independiente, necesitamos establecerϵ=δ2k/2{\displaystyle \epsilon =\delta 2^{-k/2}}, lo que lleva a una longitud de semilla de=registroregistronorte+O(k+registro(δ1)){\displaystyle \ell =\log \log n+O(k+\log(\delta ^{-1}))}y un espacio muestral de tamaño total2registronorteescuela politécnica(2kδ1){\displaystyle 2^{\ell }\leq \log n\cdot {\text{poly}}(2^{k}\cdot \delta ^{-1})}.

Notas

  1. cf., p. ej., Goldreich (2001)
  2. 1 2 3 4 cf., p. ej., pág. 2 de Ben-Aroya y Ta-Shma (2009)
  3. ^ Sección 4 en Naor & Naor (1990)

Referencias

  • Alon, Noga ; Babai, László; Itai, Alon (1986), "Un algoritmo paralelo aleatorio rápido y sencillo para el problema del conjunto independiente máximo" (PDF) , Journal of Algorithms , 7 (4): 567– 583, doi : 10.1016/0196-6774(86)90019-2
  • Alon, Noga; Goldreich, Oded; Håstad, Johan; Peralta, René (1992), "Construcciones simples de variables aleatorias casi k-independientes" (PDF) , Random Structures & Algorithms , 3 (3): 289–304 , CiteSeerX 10.1.1.106.6442 , doi : 10.1002/rsa.3240030308 
  • Ben-Aroya, Avraham; Ta-Shma, Amnon (2009). «Construcción de conjuntos de sesgo pequeño a partir de códigos algebraico-geométricos». 50.º Simposio Anual IEEE de 2009 sobre Fundamentos de la Informática (PDF) . págs. 191–197 . CiteSeerX 10.1.1.149.9273 . doi : 10.1109/FOCS.2009.44 . ISBN   978-1-4244-5116-6.
  • Chor, Benny ; Goldreich, Oded; Håstad, Johan; Freidmann, Joel; Rudich, Steven; Smolensky, Roman (1985). «El problema de la extracción de bits o funciones t-resilientes». 26.º Simposio Anual sobre Fundamentos de la Informática (SFCS 1985) . págs. 396–407 . CiteSeerX 10.1.1.39.6768 . doi : 10.1109/SFCS.1985.55 . ISBN   978-0-8186-0644-1. S2CID 6968065 . 
  • Goldreich, Oded (2001), Lección 7: Espacios de muestra con sesgo pequeño
  • Joffe, Anatole (1974), "Sobre un conjunto de variables aleatorias k-independientes casi deterministas", Annals of Probability , 2 (1): 161– 162, doi : 10.1214/aop/1176996762
  • Naor, Joseph; Naor, Moni (1990), "Espacios de probabilidad de sesgo pequeño: construcciones eficientes y aplicaciones", Actas del vigésimo segundo simposio anual de la ACM sobre Teoría de la Computación - STOC '90 , págs. 213–223 , CiteSeerX 10.1.1.421.2784 , doi : 10.1145/100216.100244 , ISBN   978-0897913614, S2CID 14031194 
  • Ta-Shma, Amnon (2017), "Códigos explícitos, casi óptimos y épsilon-equilibrados", Actas del 49.º Simposio Anual ACM SIGACT sobre Teoría de la Computación , pp. 238–251 , doi : 10.1145/3055399.3055408 , ISBN  9781450345286, S2CID 5648543