IBM frena reconocimiento facial preocupado por el racismo

IBM deja de trabajar en el reconocimiento facial por preocupaciones de derechos humanos. Cree que se puede abusar de la tecnología para hacer perfiles raciales y vigilancia. La reacción al reconocimiento facial entre los gobiernos se está extendiendo a los pesos pesados corporativos. El jefe de IBM Arvind Krishna ha enviado una carta (a través de Axios y CNBC) al Congreso revelando que la compañía ha abandonado su negocio de reconocimiento facial de "propósito general". La compañía "se opone firmemente" al uso de la tecnología para la vigilancia, el perfil racial y "las violaciones de los derechos humanos y libertades básicas", según Krishna. En cambio, sugirió que ahora era el momento de un "diálogo nacional" sobre no sólo cómo debería utilizarse el reconocimiento facial, sino si debería utilizarse o no en absoluto. El Director General sostuvo que la IA era una "herramienta poderosa" para la aplicación de la ley, pero que su uso debía mantenerse bajo control con pruebas auditadas para detectar sesgos. También presionó por una tecnología que mejorara la responsabilidad y la transparencia, como las cámaras corporales. La carta de Krishna fue parte de un llamado más amplio al Congreso para impulsar una mayor responsabilidad de la policía y reformas de conducta, incluyendo algunas que ya eran parte de la recientemente introducida Ley de Justicia en la Policía de 2020. La medida se produce en medio de las protestas por la brutalidad policial y la discriminación, y no mucho después de que el reconocimiento facial de Clearview AI planteara cuestiones de privacidad y prejuicios. Desde entonces, Clearview ha recibido numerosas órdenes de cese y desistimiento y está en el centro de una serie de demandas por privacidad. En enero también se ordenó a Facebook que pagara 550 millones de dólares para resolver una demanda colectiva por su uso ilegal de la tecnología de reconocimiento facial. Más de un informe ha indicado que los sistemas de reconocimiento facial pueden ser sesgados contra los no blancos y las mujeres, en particular si los datos de capacitación incluyen relativamente pocas personas de esos grupos. Y si bien algunos sistemas de reconocimiento facial sólo pueden correlacionar los rostros con los datos disponibles públicamente, existe la preocupación de que esto pueda utilizarse para el seguimiento y la generación de perfiles que podrían usarse para intimidar a las personas o limitar de otro modo su privacidad en el mundo real. En 2018, las investigaciones realizadas por Joy Buolamwini y Timnit Gebru revelaron por primera vez el grado de sesgo de muchos sistemas comerciales de reconocimiento facial (incluidos los de IBM). Este trabajo y los estudios posteriores del par condujeron a la crítica generalizada de estos algoritmos y a los continuos intentos de rectificar el sesgo. Como señaló la CNBC, es relativamente fácil que IBM se eche atrás cuando el reconocimiento facial no era un factor importante para sus resultados. El zumbido de los medios de comunicación puede ser tan importante como cualquier otra cosa. Sin embargo, IBM sigue siendo una compañía importante, y con frecuencia trabaja con los gobiernos. Esto podría estimular a otros proveedores a seguir el ejemplo, e incluso podría hacer que algunos posibles clientes abandonen el reconocimiento facial por completo.