Categorías
Derechos

Reconocimiento Facial: una batalla perdida

Interesante nota en NYT sobre Fawkes y algunos papers de de-identificación muestran los esfuerzos que se están haciendo para evitar que los sistemas de reconocimiento facial nos identifiquen pero en esta carrera armamentística la capacidad de volvernos anónimos esta perdida.

Vamos por partes, las imagenes izquierdas y derechas de Jessica Simpson, Gwyneth Paltrow y Patrick Dempsey que nuestro cerebro identifica como de la misma persona, para un algoritmo tradicional genera problemas y es interpretada como un objeto diferente porque se rompe alguna de las caracteristicas salientes de identificación.

La herramienta que genera estas modificaciones o «cloaking» (palabra que siempre asociaré a la tecnología romulana de las naves Klingon) se llama Fawkes y esta disponible para que la bajes y pruebes e imagines que vas a poder aplicarlo y evitar que Deepface, Rekognition, Azure Face API, Clearview y otros te reconozcan… ¿la realidad? no vas a tener éxito.

Los sistemas de reconocimiento facial trabajan analizando datasets de miles de millones de fotos, encontrando patrones y dando un resultado relevante atado a un dato que es el ID/nombre del objeto en la foto… por eso el resultado es un «reconocimiento» que es simplemente la unión de ciertos patrones.

Para ponerlo de otro modo, a un algoritmo el objeto del medio está marcado como Gwyneth Paltrow pero solo porque se lo entrenó para eso; si le dijeramos que el ID es «Goop Founder» la presentaría como eso y punto… el cerebro humano no trabaja de esa manera y la evaluación para identificación es más abarcativa y compleja.

¿Que pasa al usar estos algoritmos de anonimato como Fakwes y ver sus resultados online? le estás explicando a los algoritmos de reconomiento facial que «este objeto es Patrick Dempsey aunque el parámetro X sea difernte» y así entender que otras cosas analizar para identificarlo.

En definitiva, estos algoritmos públicos de «anonimización» solo sirven para entrenar a los algortimos de reconocimiento facial y mejorarlos.

El mejor ejemplo de eso son los algortimos usados en Wuhan durante el primer lockdown por el SARS-CoV-2 que aprendieron a trabajar e identificar caras abajo de ciertos tipos de mascarillas (las estándares celestes) porque empezaron a enfocarse en puntos distintivos en la parte superior de la cara (distancias y profundidad) pero tambien en las inclinaciones de la misma.

Básicamente estamos en una carrera armamentística donde el desbalance de poder entre los que desarrollan aplicaciones de reconocmiento facial y los que crean herramientas de anonimización es tanta que, a nivel tecnológico, la batalla está perdida.

Y el siguiente párrafo muestra el nivel de recursos que se necesita para implementar esto en video, al punto que el que lo hace es R&D de Facebook… quien siempre está interesado en nuestra privacidad ;)

We propose a method for face de-identification that enables fully automatic video modification at high frame rates.
The goal is to maximally decorrelate the identity, while having the perception (pose, illumination and expression) fixed.
We achieve this by a novel feed-forward encoder-decoder
network architecture that is conditioned on the high-level
representation of a person’s facial image. The network is
global, in the sense that it does not need to be retrained for
a given video or for a given identity, and it creates natural
looking image sequences with little distortion in time.

Live Face De-Identification in Video

¿Como lo resolvemos? En este punto solo con regulaciones y políticas claras de tratamiento de imágenes, ¿como se recolectan? ¿como se agregan? ¿como se analizan? ¿como se comercializan los datasets? ¿que algoritmos se aplican? aún así estamos en un punto donde si sos una persona de interés para un actor estatal no tenés como esconderte de forma simple o económica…

Solo espero que, la próxima vez que leas «Con esta herramienta gratuita podés evitar el reconocimiento facial» sepas que la ventaja durará el tiempo que los otros algoritmos se entrenen… y nada más.

Categorías
Derechos

Ley de Privacidad de ADN

Florida se convirtió en el primer estado de USA en regular la privacidad del ADN prohibiendo expresamente a las empresas de salud y aseguradoras acceder a los datos del ADN de una persona incluso por medio de terceras partes, esto es… las empresas de test caseros como 23 and Me.

La ‘House Bill 1189’ fue patrocinada por un senador republicano que al tener cáncer descubrió que ni HIPAA ni GINA evitan que esos datos personales se usen para las cláusulas y precio de los seguros de vida, discapacidad o enfermedades crónicas y por eso las aseguradoras promueven el uso de apps de test genéticos.

El uso de información genética, que para algunos es algo a largo plazo, es tan presente gracias a los tests caseros que:

  • En algunos estados, al momento de comprar un apartamento pueden pedirte que presentes un análisis de que no tenés predisposición al Alzheimer… los del consorcio!
  • Las leyes federales no prohiben el uso en los casos que resuelve esta nueva ley de Florida.
  • Ancestry y 23andMe pueden, y de hecho ya lo han hecho, compartir la información genética con las fuerzas policiales (y asi se atrapó a un asesino serial, porque compararon ADN de sospechosos y encontraron un pariente directo)

Y aunque desde hace ya un par de años sigo el tema, cada tanto aparece una empresa (médica o de seguros) que me aseguran que podrian bajar las primas gracias a la baja predisposicion a algunas enfermedades… lo que significa que podrían subirlas para otras, simplemente porque escupiste en un tarrito para hacer un test de ascendencia.

Categorías
Inteligencia Artifical Seguridad

Coronavirus y la vida en un Estado de vigilancia

Cuando el coronavirus arrancó y las noticias hablaban sobre cómo el gobierno chino estaba conteniendo la expansión, pocos se dieron cuenta que este es un momento ideal para entender el concepto de «Estado de Vigilancia» o «Surveillance State».

Porque a la campaña de control social tradicional que se aplicó -puertas marcando familias con infectados y hasta recompensas por la información de paraderos de personas originarias de las ciudades del virus ( Hubei, Yueyang, Hunan y Xinyang)- se le sumó la vigilancia tecnológica de China que uno conoce por arriba, pero que tiene ahora aplicaciones impensadas, como por ejemplo:

  1. Cámaras remotas capaces de identificar personas con temperatura un poco más alta de lo normal en medio de una multitud; un algoritmo de reconocimiento facial que puede correr aun cuando usen máscaras para respirar y enviar el dato a la policía, en tiempo real, con geo-posicionamento, para intercepción y contención.
  2. Identificar a una persona sin permiso de viaje en un transporte público, aún usando una máscara, y automáticamente notificar a las personas que están cerca de forma física mediante una notificación en sus móviles… y sumarlos a la base de datos de potenciales portadores.

Mientras algunas personas hablan de ratios de contagio del coronavirus, de mortalidad o de expansión o la comparan con enfermedades históricas, me pregunto si toman en cuenta estas capacidades modernas de identificar, aislar y contener movimientos de ciudades enteras en días. No creo que haya un Estado con tanto poder sobre sus ciudadanos como la China de hoy en día.

Mientras BlueDot roba titulares porque, incorrectamente, decía que la IA había predicho el coronavirus, me pregunto si en este caso nadie habla de privacidad o control social porque imaginan que este es un «caso bueno de control» o si simplemente porque recién se está corriendo el velo de las capacidades de vigilancia.

Links interesantes: en Wikipedia «Mainland China during the Wuhan Coronavirus Outbreak» y en Reuters: «Coronavirus brings China’s surveillance state out of the shadows» y En NY Times «China, Desperate to Stop Coronavirus, Turns Neighbor Against Neighbor«

Categorías
Derechos

Facebook abre la puerta a los Deekfakes

Hace un tiempo, la estrategia de algunos partidos es subir a Facebook videos editados y distribuirlos lo máximo posible para lastimar a sus rivales a sabiendas que son mentira; Facebook lo sabe y tomó la decisión deliberada de permitir la distribución de esos videos sino agregarle un texto abajo diciendo que «de acuerdo a nuestras fuentes este video no es real»amparándose en su política de «sólo se borra si el que lo sube es una persona falsa»… vean este video de una portavoz defendiendo una estupidez:

Categorías
Publicidad Online

Google y la privacidad en IO2019… otro jardin vallado

Con menos de una semana de diferencia Google y Facebook pusieron sus armas sobre la mesa y atacaron el tema de la privacidad de formas diferentes pero armando su jardín vallado y protegiendo sus ventajas competitivas frente al resto del ecosistema de publicidad online.

Mientras Facebook se puso defensivo pidiendo una regulación que le complique la vida a competidores pequeños, Google decidió mostrar que hay opciones para «cuidar la privacidad» y entonces presento varias cosas con pequeño impacto en su negocio y una que es una bomba para el resto: Chrome va a incluir tecnología que fuerce a los devs a pedir un opt-in explícito para usar en sitios de terceros aka: anti-fingerprint  pero…

Categorías
Redes Sociales

En F8 Facebook se puso en modo defensivo

Hace tiempo Facebook está siendo golpeado por usuarios, competidores y reguladores; que no pueden hacer mucho realmente por frenar su cultura ¿una multa de millones? tienen un free cashflow de 5bn por trimestre y unos 50bn en COH ¿una campaña como #deletefacebook? tienen WhatsApp e Instagram así que no van a lograr nada… ¿competidores? miren a Snap y entiendan como pueden destruirte y como Mark lo usa como técnica de negociación.

El futuro es regulado. Esa es su estrategia defensiva en tres actos.

Categorías
Derechos

Facebook Portal y el valor de la confianza para entrar a tu hogar

Cuando Facebook presentó Portal, su asistente always-on con Alexa integrado, dije básicamente que era raro que alguien pensara seriamente en utilizar un equipo de una empresa que cada 3 meses tiene un problema de privacidad y luego pide disculpas en un bucle infinito… pero $FB previendo estas críticas decidió que cada dispositivo tenga un «camera cover provided» y que no se iban a usar datos para publicidad.

Una semana después hay una declaración oficial de Facebook diciendo:

“Las llamadas de voz de Portal están construidas en la infraestructura de Messenger, por lo que cuando realices una videollamada en Portal, recopilamos los mismos tipos de información (ej: datos de uso como la duración de llamadas, frecuencia de las llamadas) que recopilamos en otros dispositivos que usan Messenger. Nosotros podríamos utilizar esta información para informar los anuncios que te mostremos en nuestras plataformas. Otros datos de uso general, como el uso agregado de aplicaciones, etc., también pueden usarse para alimentar la información que utilizamos para publicar anuncios.»

Categorías
Derechos

¿Como monetizamos y manejamos la privacidad del ADN?

No tengo realmente claro como una empresa farmacológica como GSK comunica mejor que 23&Me el acuerdo entre ambas empresas; que incluye una inversión de $300 millones en 23&Me, identificación de subgrupos para tratamientos médicos específicos e investigación conjunta de drogas genéticas… en la base de datos del ADN que enviamos unos cinco millones de personas a 23&Me para ver nuestros patrones genéticos y de ascendencia.

Y acá les dejo unos pensamientos sueltos sobre el tema porque increíblemente estoy leyendo poco del tema en medios en español

Categorías
Derechos

Dos personas se conocen en un avion y lo que sucedio luego no lo creerás!

Ayer una persona le pidio a otra cambiar de asiento asi podía viajar con su pareja, lo que sucedio no lo creerás pero básicamente Rosey Blair se dedicó a espiar a la persona que le cambió el asiento, publicó sus fotos sin consentimiento, se dedicó a calificar su aspecto físico y se viralizó tanto que la gente de Buzzfeed publicó el nombre de Euan Holden (el joven muy feliz de ser una celebrity por 15 segundos) y no consiguieron el nombre de ella.

Y mientras todos nos reimos y celebramos que en el mundo el amor triunfa, al punto que el CEO de T-Mobile le va a dar crédito gratis a la que relató todo me pregunto hasta que punto no se violó la privacidad de la parejita feliz, me pregunto hasta que punto está bien fotografiar, filmar y publicar lo que hacen dos personas sin que ellos lo sepan.

Me pregunto si la privacidad cuando «es con onda» es menos importante que en otros casos… o simplemente estoy «out of touch»

Categorías
Derechos

Facebook y Cambridge Analytica: sólo un síntoma de un problema más grande

Cuando The Guardian arrancó con las revelaciones sobre Cambridge Analytica usando datos de Facebook para influir en la campaña presidencial de Trump y comenzó todo el escándalo sobre la privacidad, preferí escuchar y ver cómo se iba desarrollando algo que tiene tantas aristas que gran parte de la cobertura es, cuando menos, parcial o desinformada.

Para arrancar me gustaría dejar en claro algunos puntos:

  • ¿Usó Cambridge Analytica tus datos privados? Hasta casi 2016 estos datos eran accesibles por la API de Facebook; luego de eso sinceramente no está claro si hubo acceso indebido.
  • ¿Qué hizo mal Cambridge Analytica con tus datos de Facebook, entonces? Venderlos a un tercero, en este caso la campaña de Trump que mostraba avisos perfilados.
  • ¿Cómo convirtieron los datos en un arma? Simplemente por volumen y aplicación de patrones psicológicos (esos que los programadores dicen que son irrelevantes), para luego convertidos en algoritmos para escalar.
  • Borraste Facebook. ¿Ya está? En realidad deberías dejar de usar Google, Android, Alexa y los permisos que les diste a todas esas apps antes de borrar todo.
  • Sin el uso de estos datos, la mitad de los servicios y apps que estás usando gratuitamente no existirían.

Esto no es nuevo, ya en 2009 escribí sobre el Gaydar Experiment, uno uno de los experimentos más provocativos, estúpidos y hasta discriminadores que conocí: definir tu sexualidad con sólo analizar tus contactos.  En 2011 se podía establecer una inclinación política en base a likes, y en 2015 se predecía el color de piel en base al mismo parámetro. Es decir que hace tres años con sólo tener acceso a los likes ya se podía perfilar tu sexualidad, el color de tu piel, tus preferencias políticas y tu posición frente a ciertos temas (armas, aborto, etc.) para mostrarte publicidad… incluso a tus amigos. Ninguna sorpresa acá, esto es el modelo de negocios de Facebook, Google y del ad-tech space.

Categorías
Rants

Compartir tu ubicación, otra mina de oro

Pocas veces los usuarios tienen conciencia de la cantidad de datos que le entregan a los proveedores de servicios, en algunos casos con razón en otros casos de formas totalmente injustificadas. Uber hace un par de semanas comenzó a forzar a que compartas tu ubicación con la app aún cuando no la estés usando alegando que así pueden entender mejor cuales son tus patrones de conducta al momento de pedir un Uber y que solamente analiza los 5 minutos anteriores y posteriores al uso de la app.

Para que tengan una idea de la pérdida de privacidad que esto implica les recomiendo leer este párrafo de una demanda iniciada por ex-empleados donde se descubre que hay un «God-view» o «Heaven View»:

Categorías
Derechos

Ik weet zoveel van jou… y ustedes tan poco de privacidad

Que un juguete sea capaz de interactuar con un niño al responder sus preguntas o comentarios es genial. 

Que un padre no sepa, al comprar ese juguete, que la voz de sus hijos es analizada en un servidor remoto y se convierten en datos susceptibles de ser utilizados para publicidad y explotación comercial con terceras partes es increíble.

«Ik weet zoveel van journey» significa «Te conozco tanto…» y está en la caja de los juguetes como si fuera una suerte de chiste sobre la falta de conocimiento que tienen las personas sobre su propia privacidad… y la de sus hijos.

Más en TNW

Categorías
Derechos

Suecia prohibe los drones con cámaras

La suprema corte de Suecia decidió prohibir el uso de drones con cámaras porque son potencialmente un aparato de vigilancia y por lo tanto solo pueden usarlas los policías o con un permiso especial para filmación que es uno de los permisos más caros que se conceden en ese país.

Es interesante porque las leyes suecas tan liberales en muchos campos son de las más estrictas en cuanto al tratamiento de la privacidad y aunque a nivel personal no esté de acuerdo con esta prohibición total de algo que tiene decenas de usos válidos debo reconocer que tiene cierta lógica en su argumento.

«the [drone] camera can be used for personal monitoring, although it is not the purpose. The camera is therefore to be regarded as a surveillance camera.»

Y la lógica de esto, frente a la de permitir el uso de cámaras en cascos o autos (que se da en el mismo comunicado) es que básicamente uno extiende el alcance de lo que puede ver/vigilar más allá de nuestra línea de visión natural convirtiéndose en algo que potencialmente puede salir del dominio público e invadir espacios privados.

Una sola de las pequeñas batallas que se avecinan en el balance entre privacidad y libertad.

Categorías
Medios Rants

Peter Thiel y la peor cara de Silicon Valley 

Hoy leo en The Information una carta abierta a Peter Thiel sobre su nuevo ataque a los medios luego de haber logrado romperle la espalda a Gawker. Algo sobre lo que mi posición es bastante similar a la de Jessica Lessin y poco popular:

Esto no es una pelea por la libertad de expresión, es una pelea de millonarios con sus egos lastimados pero donde, le guste a quien le guste o no, un jurado encontró a un medio culpable de un delito (no, el chantaje por usar un escort gay que le hicieron al CFO de una empresa se cerró con un acuerdo) y ahora tiene que pagar, o apelar

Pero de ahí, un pelea personal donde uno puede dejar que un juzgado determine la responsabilidad de un medio o no, a hablar del peligro que los periodistas y medios son para la privacidad gracias a Internet hay un trecho gigantesco… sobre todo si miembro del consejo de Facebook!

“As an internet entrepreneur myself, I feel partly responsible for a world in which private information can be instantly broadcast to the whole planet.”

Apoyé la pelea contra Gawker, no apoyo su vendetta, no apoyo su devoción por Trump ni sus negocios con Palantir y el Pentágono… 

Pero Facebook debería tomar una posición cuando alguien habla de definir que es públicamente relevante para los medios y que se puede publicar o no, usando como excusa las prácticas de Gawker.

Categorías
Derechos

Microsoft y las fronteras de la privacidad en la nube

Finalmente el Departamento de Justicia de Estados Unidos perdió el juicio contra Microsoft en el que le pedían que entregue emails y datos almacenados en los cloud services de Microsoft en servidores basados en otros países lo que, técnicamente, le pone fronteras a la nube y asegura la privacidad de acuerdo a las leyes que aplican en el país donde se almacenan los datos… una victoria para el concepto de cloud services, para Microsoft y una derrota para el DoJ estadounidense.

El post oficial de Microsoft es claro y directo

Categorías
Derechos

Tesla y los datos persistentes, otra potencial pesadilla

Si a algo no estamos acostumbrados es a la medición completa de nuestras actividades diarias; este caso de Tesla demostrando que un individuo no usó bien una función del Tesla Model S es la segunda, luego de destrozar a un periodista públicamente con datos privados del uso de su auto, vez donde se usan públicamente datos de una actividad que uno imagina privada.

«Los registros de vehículos confirman que la función automática SUMMON fue iniciado por una doble pulsación del botón selector de marchas, pasando de Drive a Park y solicitar la activación de SUMMON. El conductor fue alertado de la activación de SUMMON con un aviso sonoro y un mensaje emergente en la pantalla del centro de la pantalla táctil. En este momento, el conductor tuvo la oportunidad de cancelar la acción pulsando CANCEL en la pantalla del centro de la pantalla táctil; Sin embargo, el botón CANCELAR no fue pulsado por el conductor. En el segundo siguiente, el pedal de freno se liberó y dos segundos más tarde, el conductor salió del vehículo. Tres segundos más tarde, la puerta del conductor fue cerrada, y otros tres segundos más tarde, SUMMON activado de conformidad con la solicitud de doble pulsación del conductor. Aproximadamente cinco minutos, diez y y seis segundos después de la activación de SUMMON, la puerta del lado del conductor del vehículo se abrió de nuevo. El comportamiento del vehículo es el resultado de las propias acciones del conductor…»

Categorías
Publicidad Online Rants

Dejo de usar AdBlockers si dejás de trackearme

Este twitt de @carlosdomingo muestra parte del problema gracias al cual los adblockers tienen sentido para todos, entiendo que una empresa de medios debe generar ingresos para sobrevivir, vamos… en la empresa-que-me-borró-de-su-historia vivíamos de eso pero creo que nunca llegamos a este tipo de invasión que va más allá de un banner mas o menos en mi pantalla.

Hagamos de cuenta que el ancho de banda no es un problema, hagamos de cuenta que no me molesta ver un intersticial y un banner y un desplegable y un roll-over para llegar al contenido, hagamos de cuenta que no tengo problema en pagar 4USD/mes para ver una versión de tu sitio sin publicidad, hagamos de cuenta que no me molesta que los desarrollan herramientas «anti-adblockers» son paladines de la libertad de prensa…

Les propongo a los medios que me ofrezcan un plan donde yo elija una suscripción mensual no de 4USD sino de 8USD o 15USD pero los medios se comprometen a NO trackearme de ninguna manera, remover todo script que pueda definir que soy un hombre de 44 años, casado, viviendo en Madrid y Buenos Aires que compra viajes, maletas, bolsos, relojes y zapatillas como TOC… ¿estoy pidiendo mucho?

No, no creo que esté pidiendo mucho, porque gran parte del público se cree que los adblockers sirven porque te frenan un banner, cuando lo importante es bloquear los scripts que rompen tu privacidad pedacito a pedacito y te convierten en un bit de «audiencias premium» donde se venden tus datos a quien sea… pero el dia que se den cuenta, ahí van a tener un problema y la gente va a ver a los adblockers como aliados y van a dejar de ser un 3±4% del tráfico.

En fin, si algún medio promete no trackearme… les pago con gusto, aunque las centrales de medios se mueran de hambre :)

Categorías
Redes Sociales

Facebook y la rana hervida

Hay veces que siento que en la relación entre Facebook y nuestra privacidad se aplica el sindrome de la rana hervida; hoy hay algo de enojo porque WhatsApp no deja enviar links a servicios de la competencia (ie: Telegram) pero al mismo tiempo Facebook escanea tu álbum de fotos del teléfono y apenas abrís la app ya te recomienda el nombre de amigos o te ofrece publicar el último link que copiaste aún estando en otra aplicación… como si el teléfono completo fuera su campo de juegos y no tu propio dispositivo.

facebook BigBrother

Categorías
Apple Medios Publicidad Online

iOS9, los adblockers y la hipocresía de los nuevos medios

bloqueo de publicidad io9
Desde el lanzamiento de iOS9 lo que más leo sobre esta actualización del sistema operativo móvil de Apple es «los pequeños medios van a morir» o su variante «somos carne de cañon en la pelea entre Apple, Google y Facebook» lo cual tiene algo de cierto, pero que nunca dijeron hasta que empezaron a ver que lastimaba sus fuentes de ingreso… hasta ese momento todos hablaban de lo maravilloso de una web más rápida. De hecho la hipocresía llega a tanto que comparan a los que usan un AdBlocker con los que descargan películas siendo muchos de estos medios defensores acérrimos del «contenido digital gratis para todos», muchos de los que defendían a capa y espada el descargar películas ahora dicen que «si usás un AdBlocker para leer mi sitio estás robándome».

Categorías
Mobile

Spotify, privacidad y miedo

spotify
Spotify actualizó los términos de privacidad de su servicio en una forma bastante estándar pero bien explicada, luego Wired escribe una nota sembrando miedo al analizar uno por uno los permisos que Spotify pide al instalarse en un móvil y comienza una serie de enredos que termina con el CEO de Spotify aclarando cada uno de los permisos en una forma tan simple que no se puede creer.

Y mientras Spotify pide disculpas, sin ser necesarias porque son permisos que uno debe brindar explícitamente, hay empresas que viven de los datos de la gente sin que estos lo sepan y no veo a Wired hablar del tema pero recuerdo sabias palabras de Tim Cook sobre la privacidad:

«I’m speaking to you from Silicon Valley, where some of the most prominent and successful companies have built their businesses by lulling their customers into complacency about their personal information. They’re gobbling up everything they can learn about you and trying to monetize it. We think that’s wrong. And it’s not the kind of company that Apple wants to be. We believe the customer should be in control of their own information. You might like these so-called free services, but we don’t think they’re worth having your e-mail, your search history and now even your family photos data mined and sold off for god knows what advertising purpose. And we think some day, customers will see this for what it is.» [New Yorker]

La falta de entendimiento de los permisos que te pide una aplicación cualquiera en los teléfonos móviles es un problema gravísimo, pero acusar a Spotify de «querer saber todo de vos y no poder hacer nada al respecto» no ayuda a generar conciencia sobre el tema sino a generar miedo, incertidumbre y duda… lo cual no le hace bien a la industria.