A Simon Mackenzie, guardia de seguridad de una tienda de descuento de la cadena QD Stores ubicada a las afueras de Londres, le faltaba el aire. Acababa de perseguir a tres ladrones que se habían llevado varios paquetes de jabón para la ropa. Antes de que llegara la policía, se sentó en un escritorio de la trastienda para hacer algo importante: captar los rostros de los culpables.
En una vieja computadora de escritorio, extrajo las grabaciones de las cámaras de seguridad, haciendo una pausa para ampliarlas y aislar una foto de cada ladrón. Luego, se conectó a un programa de reconocimiento facial, Facewatch, que su tienda usa para identificar a los ladrones. La próxima vez que esas personas entren en cualquier tienda en un radio de pocos kilómetros que utilice Facewatch, el personal de la tienda recibirá una alerta.
“Es como tener a alguien contigo que te diga: ‘Esa persona que identificaste la semana pasada acaba de volver a entrar’”, explicó Mackenzie.
El uso que hace la policía de la tecnología de reconocimiento facial ha sido examinado a fondo en los últimos años, pero su aplicación por parte de empresas privadas ha recibido menos atención. Ahora, a medida que la tecnología mejora y su costo disminuye, los sistemas se están aplicando cada vez más en la vida cotidiana. El reconocimiento facial, que ya no es solo competencia de los organismos públicos, se utiliza cada vez más para identificar a ladrones, clientes problemáticos y adversarios legales.
Facewatch, una empresa británica, es utilizada por minoristas de todo el país frustrados por la delincuencia común. Por tan solo 250 libras al mes (cerca de 320 dólares), Facewatch ofrece acceso a una lista de vigilancia personalizada que comparten las tiendas cercanas entre sí. Cuando Facewatch detecta un rostro que ha sido previamente fichado, se envía una alerta a un celular de la tienda, donde los empleados deciden si vigilar de cerca a la persona o pedirle que se marche.
Mackenzie dice que añade uno o dos rostros nuevos cada semana, sobre todo de personas que roban pañales, comestibles, artículos para mascotas y otros productos de bajo costo. Afirma que la dificultades económicas de estas personas hacen que simpatice con ellos, pero el número de robos se ha descontrolado tanto que es necesario el reconocimiento facial. Normalmente, al menos una vez al día, Facewatch le avisa que alguien de la lista de vigilancia ha entrado en la tienda.
La tecnología de reconocimiento facial está proliferando a medida que los países occidentales lidian con los avances de la inteligencia artificial. La Unión Europea está diseñando normas que prohibirían muchos de los usos del reconocimiento facial, mientras que Eric Adams, alcalde de Nueva York, ha animado a los minoristas a probar esta tecnología para luchar contra la delincuencia. MSG Entertainment, propietaria del Madison Square Garden y del Radio City Music Hall, ha utilizado el reconocimiento facial automatizado para denegar la entrada a abogados cuyos bufetes han demandado a la empresa.
Entre los países democráticos, el Reino Unido está a la vanguardia del uso del reconocimiento facial en tiempo real, y los tribunales y organismos reguladores aprueban su uso. La policía de Londres y Cardiff están experimentando con esta tecnología para identificar a delincuentes buscados mientras caminan por la calle. En mayo se utilizó para escanear a la multitud en la coronación del rey Carlos III.
Sin embargo, su uso por los minoristas ha suscitado críticas por considerarlo una solución desproporcionada para los delitos menores. Las personas no tienen manera de saber que están en la lista de vigilancia ni de apelar. En una denuncia judicial el año pasado, Big Brother Watch, un grupo de la sociedad civil, la calificó de “orwelliana en extremo”.
Fraser Sampson, comisionado de Biometría y Videovigilancia del Reino Unido, quien asesora al gobierno británico sobre políticas, dijo que había “nerviosismo y vacilación” en torno a la tecnología de reconocimiento facial debido a preocupaciones de privacidad y algoritmos de rendimiento deficiente en el pasado.
“Pero creo que en términos de velocidad, escala, precisión y costo, la tecnología de reconocimiento facial puede, en algunas áreas, literalmente cambiar las reglas del juego”, dijo. “Eso significa que lo más probable es que su llegada y despliegue sea inevitable. Es solo un asunto de cuándo”.
‘No puedes esperar que venga la policía’
Facewatch fue fundada en 2010 por Simon Gordon, propietario de un popular bar de vinos del siglo XIX en el centro de Londres, conocido por su interior tipo bodega y su popularidad entre los carteristas.
En aquel momento, Gordon contrató a desarrolladores de software para crear una herramienta en línea que permitiera compartir las grabaciones de las cámaras de seguridad con las autoridades, con la esperanza de ahorrar tiempo a la policía en la presentación de informes de incidentes y lograr más detenciones.
El interés fue limitado, pero despertó la fascinación de Gordon por la tecnología de seguridad, quien se mantuvo al tanto de los avances en reconocimiento facial y se le ocurrió la idea de crear una lista de vigilancia que los minoristas pudieran compartir y a la que pudieran contribuir. Era como las fotos de los ladrones que las tiendas guardan junto a la caja registradora, pero potenciada en una base de datos colectiva para identificar a los pillos en tiempo real.
En 2018, Gordon consideró que la tecnología estaba lista para su uso comercial.
“Tienes que ayudarte a ti mismo”, comentó. “No puedes esperar que venga la policía”.
Facewatch, que licencia el software de reconocimiento facial hecho por Real Networks y Amazon, se encuentra actualmente en casi 400 tiendas en todo el Reino Unido. Entrenados con millones de fotos y videos, los sistemas leen la información biométrica de un rostro cuando la persona entra en una tienda y la cotejan con una base de datos de personas marcadas.
La lista de vigilancia de Facewatch crece constantemente a medida que las tiendas suben fotos de ladrones y clientes problemáticos. Una vez añadida, una persona permanece en ella durante un año antes de ser eliminada.
‘Los errores son poco comunes, pero sí ocurren’
Cada vez que el sistema de Facewatch identifica a un ladrón, se envía una notificación a una persona que previamente pasó una prueba para ser un “súper reconocedor”, es decir alguien con un talento especial para recordar rostros. En cuestión de segundos, el súper reconocedor debe confirmar la coincidencia con la base de datos de Facewatch antes de que se envíe una alerta.
Pero si bien la empresa ha creado políticas para evitar identificaciones incorrectas y otros fallos, los errores ocurren.
En octubre, una mujer que compraba leche en un supermercado de Bristol, Inglaterra, fue confrontada por una empleada y se le ordenó que se marchara. Le dijeron que Facewatch la había señalado como ladrona vetada.
La mujer, que pidió que no se revelara su nombre por motivos de privacidad y cuya historia fue corroborada por material facilitado por su abogado y Facewatch, aseguró que debía de tratarse de un error. Cuando se puso en contacto con Facewatch días después, la empresa se disculpó diciendo que se trataba de un error de identidad.
Después de que la mujer amenazara con emprender acciones legales, Facewatch indagó en sus registros. Descubrió que la mujer había sido añadida a la lista de vigilancia por un incidente ocurrido 10 meses antes, en el que había robado mercancía por valor de 20 libras (unos 25 dólares). El sistema “funcionaba perfectamente”, según Facewatch.
Pero, aunque la tecnología había identificado correctamente a la mujer, no había dejado mucho margen a la discreción humana. Ni Facewatch ni la tienda donde se produjo el incidente se pusieron en contacto con ella para comunicarle que estaba en la lista de vigilancia y preguntarle qué había ocurrido.
La mujer dijo que no recordaba el incidente y que nunca había robado en una tienda. Aclaró que tal vez se había marchado sin darse cuenta de que el pago con su tarjeta de débito no se había efectuado correctamente en el autocajero.
Madeleine Stone, responsable jurídica y política de Big Brother Watch, señaló que Facewatch estaba “normalizando los controles de seguridad al estilo de los aeropuertos para actividades cotidianas como comprar un litro de leche”.
Gordon declinó hacer comentarios sobre el incidente de Bristol.
En general, afirmó, “los errores son poco comunes, pero sí ocurren”. Y añadió: “Si ocurre, reconocemos nuestro error, pedimos disculpas, borramos cualquier dato relevante para evitar que vuelva a ocurrir y ofrecemos una compensación proporcional”.
Aprobado por el departamento de privacidad
Los grupos de defensa de las libertades civiles han expresado su preocupación por Facewatch y han sugerido que su despliegue para prevenir delitos menores podría ser ilegal en base a la legislación británica sobre privacidad, que exige que las tecnologías biométricas tengan un “interés público sustancial”.
La Oficina del Comisario de Información del Reino Unido, organismo regulador de la privacidad, llevó a cabo una investigación sobre Facewatch durante un año. La oficina concluyó en marzo que el sistema de Facewatch estaba permitido por la ley, pero solo después de que la empresa introdujera cambios en su funcionamiento.
Stephen Bonner, subcomisario de supervisión reguladora de la oficina, dijo que la investigación había llevado a Facewatch a cambiar sus políticas: de ahora en adelante pondría más carteles en las tiendas, compartiría entre ellas solo la información sobre delincuentes graves y violentos y enviaría alertas solo sobre reincidentes. Esto significa que no se incluirá a nadie en la lista de vigilancia por una sola infracción menor, como le ocurrió a la mujer de Bristol.
“Eso reduce la cantidad de datos personales que se conservan, reduce las posibilidades de que individuos sean incluidos injustamente a este tipo de lista y aumenta la probabilidad de que sea precisa”, afirmó Bonner. La tecnología, dijo, “no es diferente a tener simplemente muy buenos guardias de seguridad”.
Liam Ardern, gerente de operaciones de Lawrence Hunt, propietario de 23 tiendas de conveniencia Spar que utilizan Facewatch, estima que la tecnología le ha salvado a la compañía más de 50.000 libras desde 2020.
Ardern calificó de exagerados los riesgos de privacidad del reconocimiento facial. El único ejemplo de identificación errónea que recordó fue cuando un hombre fue confundido con su gemelo idéntico, que había robado en una tienda. Los críticos pasan por alto que tiendas como la suya operan con márgenes de ganancia bajos, afirmó.
“Es fácil para ellos decir: ‘No, eso va en contra de los derechos humanos’”, dijo Ardern. Si no se reducen los hurtos, afirmó, sus tiendas tendrán que subir los precios o reducir el personal.
Adam Satariano es corresponsal de tecnología y reside en Europa, donde su trabajo se centra en la política digital y la intersección de la tecnología y los asuntos internacionales. @satariano
Kashmir Hill es reportera de tecnología radicada en Nueva York. Escribe sobre las formas inesperadas y en ocasiones ominosas en que la tecnología está cambiando nuestras vidas, particularmente cuando se trata de nuestra privacidad. @kashhill