Microsoft quiere que se regule la tecnología de reconocimiento facial
Por:
Julieta Schulkin
Jueves 19 de
Julio 2018
El presidente de la compañía, Brad Smith pide responsabilidad a las empresas que desarrollan este tipo de sistemas
Mediante un comunicado subido al blog de Microsoft y firmado por su presidente Brad Smith, la compañía de Redmond (Washington) pidió regulación para la tecnología de reconocimiento facial. "Todas las herramientas se pueden usar para el bien o para el mal. Incluso una escoba puede usarse para barrer el piso o golpear a alguien en la cabeza", señala en relación con los usos abusivos o poco éticos que podrían hacerse.
En este sentido plantea que el reconocimiento facial puede ocasionar serios problemas que van directo al "corazón" de las protecciones fundamentales de los derechos humanos, como la privacidad y la libertad de expresión.
Smith asegura que esto aumenta la responsabilidad de las empresas tecnológicas que desarrollan productos con reconocimiento facial. Pide una regulación gubernamental cuidadosa y el desarrollo de normas sobre usos aceptables.
"Vivimos en una nación de leyes, y el Gobierno necesita jugar un papel importante en la regulación de la tecnología de reconocimiento facial. Como principio general, parece más sensato pedirle a un gobierno electo que regule las empresas que pedir a las empresas no elegidas que regulen tal gobierno", escribió el presidente de Microsoft.
El reconocimiento facial está en todas partes. En una red social como Facebook, en donde el sistema puede detectar rostros y etiquetarlos, y en sistemas de seguridad. Por ejemplo, la policia de China está probando actualmente gafas con esta tecnología para identificar sospechosos.
La preocupación por los inmigrantes en los Estados Unidos
Según Smith, una de sus mayores preocupaciones por el avance de los sistemas de reconocimiento facial está vinculada a la polémica del posible uso de la tecnología por el Servicio de Inmigración y Control de Aduanas de Estados Unidos (ICE, por sus siglas en inglés).
Microsoft tiene un contrato con la entidad pero aclaró que no se está aplicando esta tecnología. "Tampoco hemos trabajado con el gobierno de Estados Unidos en ningún proyecto relacionado con la separación de niños de sus familias en la frontera, una práctica a la que nos oponemos enérgicamente", asegura Smith.
La compañía no está sola en esta posición. Un grupo de empleados de las empresas Amazon y Salesforce se opuso a su contrato con ICE, planteando los mismos problemas relacionados con las autoridades de inmigración y el uso de estos productos por parte de estas agencias.
Uno de los mayores peligros de la inteligencia artificial y aprendizaje de máquina aplicado al reconocimiento facial, es el sesgo. "Se han encontrado sesgos en el rendimiento de varias tecnologías de reconocimiento de rostros alineados. Las tecnologías funcionaron con mayor precisión para hombres blancos que para mujeres blancas y fueron más precisas en la identificación de personas con piel más clara que de color", asegura Smith.
La propuesta: reconocimiento facial al Congreso
"¿Qué rol queremos que este tipo de tecnología tenga en la sociedad cotidiana?", pregunta Smith. En Microsoft creen que el Congreso puede abordar los problemas vinculados a la tecnología de manera efectiva.
¿Cómo lo haría? A través de una Comisión de expertos bipartidista para evaluar la mejor forma de regular el uso de la tecnología de reconocimiento facial en los Estados Unidos.
"Esto debería basarse en el trabajo reciente de académicos y en el sector público y privado para evaluar estos problemas y desarrollar principios éticos más claros para esta tecnología", asegura Smith.
Sin embargo, la necesidad de un liderazgo gubernamental no exime a las compañías de tecnología de sus propias responsabilidades éticas. "Nos corresponde a quienes trabajamos en el sector de la tecnología continuar el importante trabajo necesario para reducir el riesgo de sesgo en la tecnología de reconocimiento facial. Nadie se beneficia del despliegue de la tecnología de reconocimiento facial inmaduro que tiene mayores tasas de error para las mujeres y las personas de color", dice Smith.
En este sentido plantea que el reconocimiento facial puede ocasionar serios problemas que van directo al "corazón" de las protecciones fundamentales de los derechos humanos, como la privacidad y la libertad de expresión.
Smith asegura que esto aumenta la responsabilidad de las empresas tecnológicas que desarrollan productos con reconocimiento facial. Pide una regulación gubernamental cuidadosa y el desarrollo de normas sobre usos aceptables.
"Vivimos en una nación de leyes, y el Gobierno necesita jugar un papel importante en la regulación de la tecnología de reconocimiento facial. Como principio general, parece más sensato pedirle a un gobierno electo que regule las empresas que pedir a las empresas no elegidas que regulen tal gobierno", escribió el presidente de Microsoft.
El reconocimiento facial está en todas partes. En una red social como Facebook, en donde el sistema puede detectar rostros y etiquetarlos, y en sistemas de seguridad. Por ejemplo, la policia de China está probando actualmente gafas con esta tecnología para identificar sospechosos.
La preocupación por los inmigrantes en los Estados Unidos
Según Smith, una de sus mayores preocupaciones por el avance de los sistemas de reconocimiento facial está vinculada a la polémica del posible uso de la tecnología por el Servicio de Inmigración y Control de Aduanas de Estados Unidos (ICE, por sus siglas en inglés).
Microsoft tiene un contrato con la entidad pero aclaró que no se está aplicando esta tecnología. "Tampoco hemos trabajado con el gobierno de Estados Unidos en ningún proyecto relacionado con la separación de niños de sus familias en la frontera, una práctica a la que nos oponemos enérgicamente", asegura Smith.
La compañía no está sola en esta posición. Un grupo de empleados de las empresas Amazon y Salesforce se opuso a su contrato con ICE, planteando los mismos problemas relacionados con las autoridades de inmigración y el uso de estos productos por parte de estas agencias.
Uno de los mayores peligros de la inteligencia artificial y aprendizaje de máquina aplicado al reconocimiento facial, es el sesgo. "Se han encontrado sesgos en el rendimiento de varias tecnologías de reconocimiento de rostros alineados. Las tecnologías funcionaron con mayor precisión para hombres blancos que para mujeres blancas y fueron más precisas en la identificación de personas con piel más clara que de color", asegura Smith.
La propuesta: reconocimiento facial al Congreso
"¿Qué rol queremos que este tipo de tecnología tenga en la sociedad cotidiana?", pregunta Smith. En Microsoft creen que el Congreso puede abordar los problemas vinculados a la tecnología de manera efectiva.
¿Cómo lo haría? A través de una Comisión de expertos bipartidista para evaluar la mejor forma de regular el uso de la tecnología de reconocimiento facial en los Estados Unidos.
"Esto debería basarse en el trabajo reciente de académicos y en el sector público y privado para evaluar estos problemas y desarrollar principios éticos más claros para esta tecnología", asegura Smith.
Sin embargo, la necesidad de un liderazgo gubernamental no exime a las compañías de tecnología de sus propias responsabilidades éticas. "Nos corresponde a quienes trabajamos en el sector de la tecnología continuar el importante trabajo necesario para reducir el riesgo de sesgo en la tecnología de reconocimiento facial. Nadie se beneficia del despliegue de la tecnología de reconocimiento facial inmaduro que tiene mayores tasas de error para las mujeres y las personas de color", dice Smith.
Con información de
infobae
