Local differential privacy

La detección de anomalías se define formalmente como el proceso de identificar elementos o eventos inesperados en conjuntos de datos. El auge de las redes sociales en la actualidad ha generado numerosas preocupaciones relacionadas con la privacidad de la información . A medida que más usuarios dependen de las redes sociales, se ven amenazados por violaciones de la privacidad, acceso no autorizado a información personal y filtración de datos sensibles . Para abordar este problema, los autores de "Detección de anomalías sobre privacidad diferencial preservada en redes sociales en línea" han propuesto un modelo que utiliza una red social con privacidad diferencial local restringida. Este modelo busca mejorar la preservación de la privacidad mediante la detección de anomalías. En este artículo, los autores proponen un modelo de preservación de la privacidad que anonimiza la recopilación de información de usuario de una red social utilizando privacidad diferencial local restringida (LDP) para guardar copias sintéticas de los datos recopilados. Este modelo utiliza datos reconstruidos para clasificar la actividad del usuario y detectar comportamientos anómalos en la red. Los resultados experimentales demuestran que el método propuesto logra una alta utilidad de los datos gracias a una mejor preservación de la privacidad. Además, los datos anonimizados con privacidad diferencial local son adecuados para su uso en análisis posteriores, como la detección de anomalías. La detección de anomalías en los datos reconstruidos del método propuesto alcanza una precisión de detección similar a la de los datos originales. ^{[ 7 ]}

Las posibles combinaciones de la tecnología blockchain con la privacidad diferencial local han recibido atención por parte de la investigación. Las blockchains implementan libros de contabilidad distribuidos, seguros y compartidos que se utilizan para registrar y rastrear datos dentro de una red descentralizada, y han reemplazado con éxito ciertos sistemas anteriores de transacciones económicas dentro y entre organizaciones. El mayor uso de las blockchains ha planteado algunas preguntas sobre la privacidad y la seguridad de los datos que almacenan, y se ha propuesto la privacidad diferencial local de diversos tipos como una propiedad deseable para las blockchains que contienen datos sensibles. ^{[ 8 ]}

La privacidad diferencial local proporciona privacidad independiente del contexto incluso en ausencia de un recolector de datos confiable, aunque a menudo a costa de una caída significativa en la utilidad. La definición clásica de LDP asume que todos los elementos en el dominio de datos son igualmente sensibles. Sin embargo, en muchas aplicaciones, algunos símbolos son más sensibles que otros. Un marco de privacidad diferencial local sensible al contexto ^{[ 9 ]} puede permitir que un diseñador de privacidad incorpore el contexto de la aplicación en la definición de privacidad. Para dominios de datos binarios, la investigación algorítmica ha proporcionado un esquema de privatización universalmente óptimo y ha resaltado sus conexiones con la respuesta aleatoria de Warner ^{[ 10 ]} (RR) y la respuesta mejorada de Mangat. Para dominios de datos k-arios , motivados por aplicaciones de geolocalización y búsqueda web, los investigadores han considerado al menos dos casos especiales de LDP sensible al contexto: LDP estructurada en bloques y LDP alta-baja (esta última también se define en ^{[ 11 ]} ). La investigación ha proporcionado esquemas eficientes en comunicación, óptimos en muestras y límites inferiores teóricos de la información para ambos modelos.

El reconocimiento facial se ha generalizado en los últimos años. Los smartphones más recientes , por ejemplo, lo utilizan para desbloquear el teléfono y autorizar pagos con tarjeta de crédito. Si bien esto resulta práctico, plantea problemas de privacidad. Se trata de una tarea que consume muchos recursos y que a menudo involucra a terceros, lo que suele generar una brecha en la que la privacidad del usuario podría verse comprometida. La información biométrica transmitida a servidores de terceros no confiables de forma incontrolada puede constituir una importante fuga de privacidad, ya que los datos biométricos pueden correlacionarse con información sensible, como historiales médicos o financieros. En su artículo académico, Chamikara propone una técnica de preservación de la privacidad para la "difusión controlada de información", donde se disfraza una imagen facial original y se evita la filtración de las características biométricas durante la identificación de una persona. Presenta un nuevo protocolo de reconocimiento facial que preserva la privacidad, denominado PEEP (Privacy using Eigenface Perturbation), que utiliza privacidad diferencial local. PEEP aplica perturbaciones a los Eigenfaces mediante privacidad diferencial y almacena únicamente los datos perturbados en los servidores de terceros para ejecutar un algoritmo estándar de reconocimiento de Eigenfaces. Como resultado, el modelo entrenado no será vulnerable a ataques de privacidad como la inferencia de pertenencia y los ataques de memorización del modelo. ^{[ 12 ]} Este modelo proporcionado por Chami kara muestra la posible solución a este problema de fugas de privacidad.

El aprendizaje federado tiene la ambición de proteger la privacidad de los datos a través de métodos de aprendizaje distribuido que mantienen los datos en su almacenamiento. Asimismo, la privacidad diferencial (PD) logra mejorar la protección de la privacidad de los datos midiendo la pérdida de privacidad en la comunicación entre los elementos del aprendizaje federado. La posible combinación del aprendizaje federado y la privacidad diferencial con los desafíos de la protección de la privacidad de los datos ha provocado el lanzamiento de varias herramientas de software que soportan sus funcionalidades, pero carecen de una visión unificada de estas técnicas y de un flujo de trabajo metodológico que respalde su uso. En el estudio patrocinado por el Instituto Andaluz de Investigación en Ciencia de Datos e Inteligencia Computacional , desarrollaron Sherpa.ai FL, 1,2 que es un marco unificado de investigación abierta de FL y PD que tiene como objetivo fomentar la investigación y el desarrollo de servicios de IA en los bordes y preservar la privacidad de los datos. Las características de FL y PD probadas y resumidas en el estudio sugieren que los convierten en buenos candidatos para soportar servicios de IA en los bordes y preservar la privacidad de los datos a través de su hallazgo de que al establecer el valor de${\displaystyle \epsilon }$para valores más bajos garantizaría una mayor privacidad a costa de una menor precisión. ^{[ 13 ]}

El rápido crecimiento de los datos de salud, junto con los recursos limitados de almacenamiento y computación de las redes de sensores corporales inalámbricos, se está convirtiendo en una barrera para que el sector sanitario se mantenga al día. Para solucionar esto, la externalización de datos de salud cifrados a la nube se ha presentado como una estrategia atractiva. Sin embargo, como toda decisión, puede presentar inconvenientes potenciales. La agregación de datos se volverá más difícil y más vulnerable a las ramificaciones de datos de esta información sensible de los pacientes del sector sanitario. En su artículo académico «Agregación de datos de salud multifuncional y con privacidad mejorada bajo garantías de privacidad diferencial», Hao Ren y su equipo proponen un esquema de agregación de datos de salud multifuncional y con privacidad mejorada (PMHA-DP) bajo privacidad diferencial. Esta función de agregación está diseñada para proteger los datos agregados de los servidores en la nube . El rendimiento y la evaluación realizados en su estudio muestran que la propuesta genera una menor sobrecarga de comunicación que los modelos de agregación de datos existentes. ^{[ 14 ]}

Un número creciente de vehículos incorpora conexión a internet para la comodidad de los usuarios. Esto supone una amenaza adicional para la privacidad del usuario. Se espera que el Internet de los vehículos (IoV) permita la gestión inteligente del tráfico , servicios de información dinámica inteligentes, control inteligente de vehículos, etc. Sin embargo, se argumenta que la privacidad de los datos de los vehículos es una barrera importante para la aplicación y el desarrollo del IoV, lo que genera una gran atención. La privacidad diferencial local (LDP) es una versión flexible del estándar de privacidad, privacidad diferencial, y puede proteger la privacidad de los datos de los usuarios frente a terceros no confiables en el peor escenario adversario. Los costos computacionales del uso de LDP son una preocupación para los investigadores, ya que su implementación es bastante costosa para un modelo tan específico dado que el modelo requiere alta movilidad y tiempos de conexión cortos. ^{[ 15 ]} Además, a medida que aumenta el número de vehículos, la comunicación frecuente entre los vehículos y el servidor en la nube genera costos de comunicación inesperados. Para evitar la amenaza a la privacidad y reducir el costo de comunicación, los investigadores proponen integrar el aprendizaje federado y la privacidad diferencial local (LDP) para facilitar las aplicaciones de crowdsourcing para lograr el modelo de aprendizaje automático. ^{[ 16 ]}

Dado que las llamadas no deseadas son una molestia creciente en el mundo digital, los investigadores han estado buscando posibles soluciones para minimizar este problema. Agencias federales como la Comisión Federal de Comercio de EE. UU. (FTC) han estado trabajando con operadores telefónicos para diseñar sistemas que bloqueen las llamadas automáticas . Además, se han creado varias aplicaciones comerciales y para teléfonos inteligentes que prometen bloquear las llamadas no deseadas, pero tienen un costo oculto. La información privada del usuario que se obtiene al otorgar a la aplicación acceso para bloquear llamadas no deseadas puede filtrarse sin el consentimiento del usuario ni siquiera saber que esto está ocurriendo. En el estudio, ^{[ 17 ]} los investigadores analizan los desafíos y las compensaciones relacionadas con el uso de la privacidad diferencial local, evalúan el sistema basado en LDP con registros de llamadas reales reportados por usuarios y recopilados por la FTC, y demuestran que es posible aprender una lista negra de teléfonos utilizando un presupuesto de privacidad general razonable y, al mismo tiempo, preservar la privacidad de los usuarios manteniendo la utilidad de la lista negra aprendida.

Con el objetivo de resolver el problema de la baja utilización de datos y la protección de la privacidad, el investigador Hu propone un método personalizado de protección de la privacidad diferencial basado en restricciones de correlación cruzada . Al proteger los puntos de ubicación sensibles en la trayectoria y los puntos sensibles, este modelo extendido de protección de la privacidad diferencial combina la sensibilidad de la ubicación de la trayectoria del usuario con los requisitos de protección de la privacidad del usuario y el presupuesto de privacidad. Mediante la transformada de Laplace de autocorrelación , el ruido blanco específico se transforma en ruido relacionado con la secuencia de trayectoria real del usuario tanto en el tiempo como en el espacio. Estos datos de ruido se utilizan para encontrar la mecánica de restricción de correlación cruzada de la secuencia de trayectoria en el modelo. Al proponer este modelo, el método personalizado de protección de la privacidad diferencial del investigador Hu se desglosa y aborda el problema de agregar ruido independiente y no correlacionado y el mismo grado de confusión que resultan en una baja protección de la privacidad y una escasa disponibilidad de datos. ^{[ 18 ]}

Sea ε un número real positivo y${\displaystyle {\mathcal {A}}}$Sea un algoritmo aleatorio que toma como entrada los datos privados del usuario.${\displaystyle {\textrm {im}}{\mathcal {A}}}$denota la imagen de${\displaystyle {\mathcal {A}}}$El algoritmo${\displaystyle {\mathcal {A}}}$Se dice que proporciona${\displaystyle \varepsilon }$-privacidad diferencial local si, para todos los pares de posibles datos privados de los usuarios${\displaystyle x}$y${\displaystyle x^{\prime }}$y todos los subconjuntos${\displaystyle S}$de${\displaystyle {\textrm {im}}{\mathcal {A}}}$:

donde la probabilidad se toma sobre la medida aleatoria implícita en el algoritmo.

La principal diferencia entre esta definición de privacidad diferencial local y la definición de privacidad diferencial estándar (global) es que en la privacidad diferencial estándar las probabilidades se refieren a las salidas de un algoritmo que toma los datos de todos los usuarios, mientras que aquí se refieren a un algoritmo que toma los datos de un solo usuario.

Otras definiciones formales de privacidad diferencial local se refieren a algoritmos que categorizan los datos de todos los usuarios como entrada y generan como salida una colección de todas las respuestas (como la definición en el artículo de Raef Bassily, Kobbi Nissim , Uri Stemmer y Abhradeep Guha Thakurta de 2017 ^{[ 19 ]} ).