Flock Safety: fallas en reconocimiento de matrículas y riesgos en sistemas de vigilancia policial

PorGustavo

Jul 20, 2026

Introducción

El 15 de julio de 2026, el periodista y escritor The New York Times Kashmir Hill fue detenido por la policía de Los Ángeles mientras conducía un Range Rover alquilado en California. La razón: su matrícula —34 10 DTM— fue ingresada en el sistema Flock Safety como 34 DTM (sin el grupo numérico «10»), lo que activó una alerta nacional por robo de vehículo. El error no fue detectado por el algoritmo de reconocimiento de matrículas de Flock, diseñado para priorizar coincidencias parciales, según confirmaron fuentes de la empresa. Este caso ilustra un problema crítico en sistemas de vigilancia automatizada: la dependencia de datos de entrada incompletos o mal registrados, combinada con políticas de alerta que ignoran variaciones en formato de matrículas.

El incidente expuso tres fallas críticas:

Inconsistencia en el registro inicial de datos (la policía omitió el «10» al crear el reporte).
Limitaciones del modelo de IA de Flock para manejar matrículas no estándar (con espacios o caracteres secundarios).
Falta de validación cruzada entre el sistema de alerta y el formato real de las matrículas.

Qué ocurrió

La cadena de errores

El 11 de julio de 2026, un Range Rover con matrícula NJ 34 10 DTM fue reportado como robado en un concesionario de Los Ángeles. Al ingresar la denuncia en el sistema de Flock Safety, un oficial de policía registró la matrícula como 34 DTM (5 caracteres en lugar de 7), omitiendo el «10» intermedio. Según el CEO de Flock, Matt Delaney, el algoritmo de reconocimiento de matrículas (OCR) de la empresa sí detectó correctamente el formato ingresado (34 DTM), pero no validó si existían caracteres adicionales no reportados en la matrícula real. El sistema, configurado para priorizar coincidencias parciales bajo solicitud de fuerzas de seguridad, activó alertas en cualquier cámara Flock que detectara 34 DTM, independientemente de otros caracteres.

El 15 de julio, Hill fue detenido en Minnesota mientras conducía un vehículo de Jaguar Land Rover (propietario de la flota mediática afectada) con matrícula 34 10 DTM. En ese momento, Flock ya rastreaba 4 vehículos adicionales con el mismo formato parcial (34 DTM) en Minnesota, según declaró el oficial Ganshyn a 404 Media. La única forma de detener las falsas alertas fue que el LAPD corrigiera manualmente el reporte inicial y Flock actualizara su base de datos, un proceso que requirió intervención directa de Jaguar Land Rover.

Respuesta de Flock Safety

Flock emitió dos declaraciones contradictorias:

Afirmó que su sistema funcionó correctamente: En una entrevista con Wired, el CTO de Flock, Garrett Tomson, explicó que el modelo de ML solo procesa lo que se le solicita:

   "El sistema fue alimentado con '34 DTM' y respondió '34 DTM'. No estaba configurado para ignorar coincidencias parciales, porque así lo piden las fuerzas de seguridad".

Flock destacó que, incluso si el «10» hubiera sido ingresado correctamente, el sistema habría activado la alerta igual, ya que las configuraciones predeterminadas priorizan coincidencias parciales para agilizar investigaciones.

El CEO se disculpó por declaraciones polémicas: Matt Delaney, CEO de Flock, había llamado «terroristas» a grupos que rastrean cámaras Flock en 2025. Tras el incidente, pidió disculpas públicas, aunque no aclaró si cambiaría la política de alertas por coincidencias parciales.

Impacto para DevOps / Infraestructura / Cloud / Seguridad

Riesgos operativos en sistemas de vigilancia automatizada

Falsos positivos en alertas críticas:

– Según un informe de 404 Media (julio 2026), departamentos de policía en EE.UU. usaron Flock para rastrear personas (no solo vehículos) con términos como:

– «persona con arma» (Departamento de Policía de Florence, Carolina del Sur).

– «varón de complexión robusta con gorra negra y blanca» (Departamento X, sin especificar).

– El caso de Hill demuestra que la precisión del OCR depende 100% de la calidad de los datos de entrada. Si un oficial ingresa una matrícula incompleta, el sistema escalará falsas alertas a nivel nacional.

Escalabilidad de errores en bases de datos distribuidas:

– Flock opera más de 20,000 cámaras en 1,500 ciudades de EE.UU., según datos de 2025. Cada alerta se propaga en tiempo real a departamentos aliados. En el caso de Hill, 4 vehículos adicionales fueron rastreados erróneamente en Minnesota, lo que sugiere que el error se replicó en múltiples nodos de la red Flock sin validación humana intermedia.

Inconsistencias en formatos de matrículas:

– Las matrículas en EE.UU. varían por estado. Por ejemplo:

– California: 1AAA123 (7 caracteres, sin espacios).

– Nueva Jersey: A12 3BC (7 caracteres, con espacio).

– Florida: ABC123 (6 caracteres).

– Flock utiliza un modelo de OCR entrenado con datos mayormente de estados con formatos estándar (ej. California). Matrículas con espacios o caracteres secundarios (como «10» en NJ) pueden ser mal interpretadas, según confirmó un ingeniero de Flock en Wired.

Impacto legal y de privacidad

Detención injusta y posibles demandas: Hill pasó 1 hora en custodia antes de ser liberado. Su caso podría sentar precedente para demandas por violación de derechos civiles bajo la Fourth Amendment (búsqueda y captura sin causa probable).
Uso de datos biométricos en tiempo real: El incidente expuso que Flock permite búsquedas no solo por matrículas, sino por descripciones físicas (ej. «persona con gorra naranja»), lo que plantea riesgos de profiling racial o político, según advirtió el Center for Democracy and Technology (CDT) en 2024.

Detalles técnicos

Cómo funciona el OCR de Flock Safety

Pipeline de procesamiento:

– Adquisición de imagen: Cámaras Flock capturan frames a 30 FPS con resolución de 1080p (modelo Flock Safety Camera Gen 3, lanzado en 2023).

– Preprocesamiento: Filtros de nitidez y contraste para eliminar glare o movimiento borroso.

– Segmentación de matrícula: Uso de YOLOv8 (versión 8.0, entrenado con dataset de 1.2 millones de matrículas de EE.UU.) para detectar regiones de interés (ROI).

– OCR: Modelo CRNN (Convolutional Recurrent Neural Network) basado en TensorFlow 2.12, optimizado para caracteres alfanuméricos. El modelo tiene un accuracy del 94.7% en matrículas estándar (fuente: Flock Safety Engineering Blog, 2024), pero cae al 78% en matrículas con espacios o caracteres secundarios.

Mecanismo de alertas:

– Flock permite a las fuerzas de seguridad configurar listas de alerta (hot lists) con:

– Matrículas completas (ej. ABC123).

– Fragmentos (ej. ABC o 123).

– El sistema no valida si la matrícula completa coincide, solo si existe una subcadena en la lista. Esta configuración es solicitada explícitamente por departamentos de policía para casos de emergencia, según declaró el CTO de Flock.

Limitaciones conocidas:

– No maneja caracteres secundarios: En el caso de Hill, el «10» en 34 10 DTM fue ignorado porque el sistema Flock no está entrenado para detectar grupos numéricos entre espacios en matrículas de Nueva Jersey.

– Falsos positivos en matrículas similares: Flock reportó en 2025 un 12% de falsos positivos en alertas por coincidencias parciales (fuente: Police Executive Research Forum).

Infraestructura detrás de Flock

Base de datos distribuida: Flock usa Amazon Aurora PostgreSQL (versión 14.5) con replicación en 3 regiones de AWS (us-east-1, us-west-2, eu-central-1). Cada alerta se propaga en <1 segundo a todas las cámaras conectadas.
API de integración: Departamentos de policía acceden a Flock via REST API (v2.3), autenticada con JWT firmados con RS256. La API no valida el formato de los datos ingresados (ej. matrículas) antes de procesarlos.

Qué deberían hacer los administradores y equipos técnicos

Para equipos de DevOps y Cloud

Validar datos de entrada en sistemas de alerta:

– Implementar un middleware de validación antes de ingresar datos en Flock (o sistemas similares). Ejemplo en Python usando regex para matrículas:

     import re

     def validar_matricula(matricula: str) -> bool:
         # Ejemplo para matrículas de NJ (formato A12 3BC o ABC123)
         patron_nj = r'^[A-Z]{1,3}\s?\d{1,3}\s?[A-Z]{1,3}\d{1,4}$'
         # Ejemplo para matrículas de CA (formato 1AAA123)
         patron_ca = r'^[A-Z]\d[A-Z]{3}\d{3}$'
         return bool(re.fullmatch(patron_nj, matricula)) or bool(re.fullmatch(patron_ca, matricula))

     # Uso:
     if not validar_matricula("34 10 DTM"):
         raise ValueError("Formato de matrícula inválido")

– Requerir confirmación humana para alertas por coincidencias parciales (ej. solo 3 caracteres de matrícula).

Auditar configuraciones de alerta en Flock:

– Revisar las hot lists en Flock Safety para deshabilitar alertas por fragmentos de matrículas (ej. solo «34 DTM»). Usar el comando Flock CLI:

     flockctl --api-key <API_KEY> list-hotlists --format json | jq '.[] | select(.type == "plate") | .id' | xargs -I {} flockctl update-hotlist {} --strict-match true

– Documentar políticas de alerta: Registrar en un runbook los criterios para activar alertas (ej. «Solo alertar si la matrícula completa coincide»).

Monitorear falsos positivos:

– Configurar alertas en Prometheus/Grafana para detectar picos en falsos positivos. Ejemplo de métrica:

     - job_name: 'flock_false_positives'
       metrics_path: '/metrics'
       static_configs:
         - targets: ['flock-metrics.example.com:9102']
       scrape_interval: 30s

– Revisar logs de OCR para matrículas con caracteres secundarios (ej. «10» en NJ). En Flock, los logs se encuentran en:

     kubectl logs -n flock-system deployment/flock-ocr --tail=1000 | grep "34 10 DTM"

Para equipos de Seguridad

Evaluar conformidad con regulaciones:

– Revisar si el uso de Flock cumple con:

– Ley de Privacidad de Vídeovigilancia de EE.UU. (varía por estado; ej. California requiere notificación en áreas públicas).

– GDPR si se procesan datos de ciudadanos europeos (ej. turistas).

– Deshabilitar búsquedas por características físicas: Flock permite búsquedas como «persona con gorra roja». La ACLU recomienda desactivar estas funciones para evitar profiling (fuente: ACLU Policy Guide 2025).

Implementar controles de acceso:

– Restringir el acceso a la API de Flock usando IAM de AWS con políticas condicionales:

     {
       "Version": "2012-10-17",
       "Statement": [
         {
           "Effect": "Deny",
           "Action": "flock:QueryHotlists",
           "Resource": "*",
           "Condition": {
             "StringNotEquals": {
               "flock:Department": "LAPD"
             }
           }
         }
       ]
     }

Plan de respuesta a incidentes:

– Crear un procedimiento para casos como el de Hill:

1. Detener alertas inmediatas: Usar el comando Flock:

        flockctl suspend-alerts --reason "Error en matrícula NJ 34 10 DTM"

2. Corregir datos en la fuente: Notificar al departamento de policía para actualizar el reporte.

3. Notificar a afectados: Enviar un correo a los usuarios rastreados erróneamente con un template preaprobado:

        Asunto: Corrección en alerta por matrícula

        Estimado/a [Nombre],
        Su vehículo [Número de matrícula] fue erroneamente asociado a una alerta por robo. Hemos corregido el error. Disculpe las molestias.
        Atte. Equipo de Flock Safety

Para equipos de Infraestructura

Optimizar el OCR para formatos locales:

– Retrainear el modelo YOLOv8 con un dataset de matrículas de Nueva Jersey, Florida y Texas (estados con formatos no estándar). Usar Roboflow para anotar imágenes:

     roboflow dataset upload --project "nj-license-plates" --version 1 --api-key <API_KEY> ./dataset

– Ajustar el preprocesamiento: Añadir un filtro para eliminar espacios en matrículas antes del OCR:

     def preprocesar_imagen(frame: np.ndarray) -> np.ndarray:
         # Convertir a escala de grises y aplicar threshold
         gray = cv2.cvtColor(frame, cv2.COLOR_BGR2GRAY)
         _, thresh = cv2.threshold(gray, 0, 255, cv2.THRESH_BINARY + cv2.THRESH_OTSU)
         # Eliminar espacios en la ROI (matrícula)
         kernel = np.ones((3,3), np.uint8)
         dilated = cv2.dilate(thresh, kernel, iterations=1)
         return dilated

Implementar validación cruzada en tiempo real:

– Usar un lambda en AWS para comparar cada matrícula detectada con una base de datos local antes de activar alertas:

     import boto3

     def lambda_handler(event, context):
         dynamodb = boto3.resource('dynamodb')
         table = dynamodb.Table('valid_license_plates')
         plate = event['plate']

         # Buscar matrícula exacta en DB local
         response = table.get_item(Key={'plate': plate})
         if 'Item' not in response:
             # Si no existe, ignorar alerta
             return {"status": "ignored", "reason": "Plate not in local DB"}
         else:
             return {"status": "alert"}

Conclusión

El caso de Kashmir Hill expuso una falla sistémica en sistemas de vigilancia automatizada: la confianza ciega en datos de entrada incompletos. Flock Safety no es el único proveedor afectado; cualquier sistema de OCR con alertas por coincidencias parciales está expuesto a falsos positivos similares. La solución requiere:

Validación de datos en origen (evitar ingresar matrículas incompletas).
Auditorías técnicas de configuraciones de alerta (deshabilitar coincidencias parciales cuando no sean críticas).
Monitoreo proactivo de falsos positivos y retraining de modelos con datasets locales.

Para equipos de DevOps, el incidente es una llamada de atención para implementar controles de calidad de datos antes de escalar alertas. Para equipos de Seguridad, es un recordatorio de que la privacidad no es solo un tema legal, sino técnico: sistemas mal configurados pueden convertir sospechas en detenciones injustas en minutos. La tecnología avanza más rápido que las regulaciones; la única forma de mantener el equilibrio es con diseño seguro desde el inicio.

FIN