Microsoft controla la tecnología de reconocimiento facial y de voz de IA

Microsoft controla la tecnología de reconocimiento facial y de voz de IA
Microsoft controla la tecnología de reconocimiento facial y de voz de IA

El plan de Microsoft para eliminar el análisis de emociones de IA de Azure y restringir la forma en que sus clientes usan las herramientas de reconocimiento facial y de voz es la última respuesta de un gigante tecnológico a las críticas generalizadas sobre la capacidad de discriminación y sesgo de las tecnologías.

El proveedor enmarcó la decisión en varias publicaciones de blog del 22 de junio como una actualización significativa del “Estándar de inteligencia artificial responsable” que lanzó públicamente por primera vez a principios de 2001 y un reconocimiento del potencial de los sistemas de inteligencia artificial para la conversión de voz a texto y el reconocimiento facial para “exacerbar prejuicios y desigualdades sociales”.

El competidor de Microsoft, Meta, la empresa matriz de Facebook, hizo un movimiento similar en noviembre de 2021 al eliminar las capacidades de reconocimiento facial basadas en IA de la plataforma de redes sociales, pero no eliminó la tecnología por completo de su cartera.

Al explicar su nueva política, Microsoft citó evidencia de que las tasas de error de voz a texto para algunas personas negras y afroamericanas casi duplican las de los usuarios blancos de la tecnología.

El proveedor también destacó la falta de consenso científico sobre la definición de emociones y problemas con el análisis emocional facial de IA relacionado con la privacidad y la realización de inferencias entre grupos demográficos y regiones.

“Es una confirmación de que la capacidad de usar el reconocimiento facial para hacer cosas como identificar emociones u otras cosas, ya sea género, edad o antecedentes raciales, en realidad es bastante difícil de hacer con un nivel de precisión decente”, dijo Merritt Maxim, analista de Investigaciones Forrester.

Sin embargo, Maxim señaló que, al igual que Meta con Facebook, Microsoft, aunque explica con gran detalle la razón de su nuevo enfoque con algunas de sus herramientas de IA, no ha dejado de desarrollar tecnología de reconocimiento facial y de voz.

Al menos por el momento, Microsoft se está tomando un tiempo en esto y dice: ‘Echemos un vistazo a la tecnología’.

merritt maximAnalista, Forrester

“Creo que están respondiendo a las preocupaciones de los consumidores, y eso en general es algo bueno. Pero no significa el fin del reconocimiento facial y, por lo tanto, tampoco significa el fin de los posibles abusos o sesgos”, dijo. “Pero al menos por el momento, Microsoft se está tomando un tiempo en esto y dice: ‘Echemos un vistazo a la tecnología’”.

La nueva política de acceso limitado de Microsoft a las tecnologías de inteligencia artificial afecta principalmente a las herramientas basadas en la nube en la línea de productos de Azure Cognitive Services del proveedor, que incluyen Face API, Computer Vision, Video Indexer y Custom Neural Voice.

El proveedor dijo que eliminaría del servicio Face API las capacidades que infieren estados emocionales e identifican atributos como el género, la edad, la sonrisa, el vello facial, el cabello y el maquillaje.

Además, a partir de ahora, los nuevos usuarios deben presentar una solicitud a Microsoft para usar las capacidades de reconocimiento facial en sus herramientas de imagen de IA, y el proveedor determinará si las aplicaciones brindan un “beneficio social y de alto valor para el usuario final”. Los usuarios existentes tienen un año para aplicar.

Un usuario de alto perfil de Face API es Uber, que ha utilizado la herramienta desde 2020 para mostrar a los pasajeros imágenes de los rostros de los conductores que los conductores cargan periódicamente y se comparan con sus fotos archivadas.

Los críticos han acusado al gigante de los viajes compartidos de usar un algoritmo racialmente sesgado para el sistema de reconocimiento facial, alegando que no reconoce con precisión a las personas con piel más oscura.

Mientras tanto, la tecnología de voz Custom Neural Voice permite a los usuarios crear una voz sintética que suena casi idéntica a la fuente original, según Microsoft. Los usuarios incluyen AT&T con su experiencia de video Bugs Bunny en la tienda y Progressive Insurance con su voz sintética que se asemeja a la de la vocera ficticia, “Flo”.

Microsoft dijo que restringirá el acceso de los clientes al servicio para garantizar que las aplicaciones sean aceptables y cumplan con la nota de transparencia y el código de conducta de Microsoft para Custom Neural Voice.

La retirada del gigante tecnológico de las tecnologías basadas en IA, a menudo controvertidas, en particular las herramientas de análisis facial para las emociones, es prudente, dijo Mike Gualtieri, otro analista de Forrester.

“Es más una indicación de lo bueno que se ha vuelto el reconocimiento facial, o la visión por computadora, de la IA que están retirando algo de eso”, dijo Gualtieri. “A veces funciona inquietantemente bien, pero también tiene fallas que producen resultados inexactos que llevan a las personas a sacar conclusiones incorrectas sobre una persona”.

The article is in English

Tags: Microsoft controla tecnología reconocimiento facial voz

.

PREV Bungie acusa al presunto estafador de derechos de autor de ‘Destiny 2’ con una demanda de 6,2 millones de libras esterlinas
NEXT Parti Generator de Google se basa en 20 mil millones de entradas para crear imágenes fotorrealistas