Procesamiento algorítmico por drones, la CNIL permanece en alerta

Después de expresar su preocupación por el uso de cámaras alimentadas por inteligencia artificial (también conocida como algorítmica o aumentada) en el contexto de operaciones de videovigilancia por parte de las autoridades policiales, la CNIL acabó emitiendo una opinión positiva al respecto. Tras la ley de los Juegos Olímpicos de 2024 promulgada el 19 de mayo, un decreto del 28 de agosto publicado en el Boletín Oficial el 30 de agosto autoriza así, con carácter experimental y hasta el 31 de marzo de 2025, el uso de procesamiento algorítmico en imágenes recogidas mediante sistemas de videoprotección. y cámaras instaladas en aviones (drones).

En el ámbito de este decreto, la comisión fue contactada por el Ministerio del Interior para emitir un dictamen, lo que no dejó de hacer durante su deliberación. “La CNIL destaca la utilidad de anticipar, en la medida de lo posible, la identificación de eventos para los cuales las imágenes procedentes de dispositivos de videoprotección y de cámaras instaladas en los aviones podrían ser útiles en el diseño de algoritmos. En efecto, en este caso, los interesados ​​podrían ser informados previamente, por los responsables del tratamiento de datos que tengan implantados estos dispositivos de videoprotección o estas cámaras instaladas en las aeronaves, de conformidad con el artículo 13.3 del RGPD, de la reutilización, por parte del Ministerio. del Interior, imágenes que les conciernen a efectos de diseñar procesamiento algorítmico”, indica la comisión. “Esta anticipación y priorización de la información brindada a las personas garantizaría una mayor transparencia y lealtad pública. En este caso, si el Gobierno no estuviera obligado a informar a las personas en virtud del artículo 14.5 a) del RGPD, la CNIL recomienda que proporcione a las personas información general que contenga al menos el lugar y la fecha de los hechos en cuestión y su finalidad. de reutilización.

De ChatGPT a Midjourney: limitar los riesgos de la IA generativa en los negocios

A la espera de proporcionar información comprensible y accesible.

El artículo 2 recuerda en particular las garantías previstas por la ley: las operaciones de tratamiento no pueden utilizar ningún sistema de identificación biométrica, no tratar ningún dato biométrico y no aplicar ninguna técnica de reconocimiento facial. No podrán realizar ninguna conciliación, interconexión o conexión automatizada con otros tratamientos de datos personales. No producen ningún otro resultado y no pueden, por sí mismos, constituir la base de ninguna decisión individual ni de ningún acto de acción penal. Y precisar en el artículo 3 los acontecimientos predeterminados que el procesamiento algorítmico puede tener como objetivo detectar, en la medida en que puedan presentar o revelar un riesgo de acto de terrorismo o de una violación grave de la seguridad de las personas en determinados casos (objetos abandonados, uso de armas, movimiento de multitudes, inicio de incendios... En cualquier caso, la CNIL recomienda encarecidamente, teniendo en cuenta la sensibilidad y el carácter sin precedentes del tratamiento algorítmico previsto, que "no se permita ninguna transferencia de datos fuera de la UE ni acceso a los datos por parte de autoridades extranjeras". puede ocurrir, tanto en la fase de diseño como en la operativa. La comisión también insistió fuertemente en la necesidad de proporcionar sistemáticamente modalidades de información directamente en los lugares donde se capturaron las imágenes y en medios adecuados (paneles informativos específicos, vídeos, códigos QR, marcas en el suelo, anuncios sonoros, etc.).

“La CNIL destaca la utilidad de anticipar, en la medida de lo posible, la identificación de eventos para los cuales las imágenes procedentes de dispositivos de videoprotección y de cámaras instaladas en los aviones podrían ser útiles en el diseño de algoritmos. En efecto, en este caso, los interesados ​​podrían ser informados previamente, por los responsables del tratamiento de datos que tengan implantados estos dispositivos de videoprotección o estas cámaras instaladas en las aeronaves, de conformidad con el artículo 13.3 del RGPD, de la reutilización, por parte del Ministerio. del Interior, imágenes que les conciernen a los efectos de diseñar un procesamiento algorítmico”, advierte la comisión. "Esta anticipación y priorización de la información proporcionada a las personas garantizaría una mayor transparencia y lealtad pública". Y en este caso, si el Gobierno no estuviera obligado a informar a las personas en virtud del artículo 14.5 a) del RGPD, la CNIL recomienda que proporcione a las personas información general que contenga al menos el lugar y la fecha de los hechos en cuestión y el propósito de la reutilización. . “En cualquier caso, la CNIL insiste en la necesidad de proporcionar información comprensible y accesible para que los interesados ​​puedan conocer las condiciones precisas en las que sus datos pueden ser recogidos y con qué fines. ". Si bien la CNIL constata que el ministerio ha realizado, de conformidad con la ley, un estudio abstracto de impacto en materia de protección de datos (AIPD) de los riesgos y ventajas de los dispositivos que se probarán, subraya que estos estudios de impacto deben completarse. cuando los Dispositivos son elegidos y puestos en funcionamiento, antes de su despliegue operativo.

Se espera un informe de evaluación a finales de año

“El uso de cámaras aumentadas está autorizado por el representante del Estado en el departamento o por el prefecto de policía de París. La autorización sólo se concederá si el uso de cámaras ampliadas es proporcional a la finalidad perseguida”, explicó también el despacho de abogados Alain Bensoussan a finales de junio de 2023. “La CNIL debe ser informada trimestralmente sobre las condiciones de realización del experimento de la cámara ampliada. Luego, el Gobierno deberá presentar al Parlamento, antes del 31 de diciembre de 2024, un informe de evaluación sobre la implementación de la experiencia.

DSA se hace cargo hoy de los servicios digitales en la UE