Sistemas de reconocimiento facial: ¿Beneficio o amenaza?
Si bien la tecnología habilitó una serie de herramientas indispensables, existen ciertos márgenes que despiertan la preocupación de los organismos que defienden los derechos humanos. En este contexto, Amnistía Internacional lanzó una campaña mundial para concientizar y reclamar la prohibición del uso de sistemas de reconocimiento facial. Según la ONG, esta tecnología atenta contra el derecho a la privacidad, el derecho a la igualdad y a la no discriminación.
El caso COMPAS
El portal ProPublica publicó una investigación en 2016 que demuestra la ineficacia de los medios virtuales a la hora de procesar datos. Se analizó el sistema COMPAS, una herramienta utilizada en Estados Unidos para filtrar los datos de acusados de crímenes y calcular su probabilidad de reincidencia.
Estas evaluaciones de riesgo fueron utilizadas para definir el tipo de sentencias del sistema judicial. Pero luego de cotejar diez mil casos de criminales en Florida, la investigación demostró que los algoritmos del sistema arrojaban resultados falaces en base a estereotipos raciales.
