Microsoft reafirma su prohibición a los departamentos de policía de EE. UU. de utilizar IA generativa para el reconocimiento facial a través de Azure OpenAI Service, su plataforma empresarial basada en la tecnología de OpenAI.
Las actualizaciones en los términos de servicio de Azure OpenAI Service prohíben explícitamente las integraciones con este servicio para el reconocimiento facial por parte de la policía estadounidense. Esto incluye integraciones con modelos actuales y futuros de análisis de imágenes de OpenAI.
Restricciones adicionales
Se prohíbe el uso de la tecnología de “reconocimiento facial en tiempo real” en cámaras móviles (cámaras corporales y de tablero) para identificar a personas en entornos no controlados.
La restricción de reconocimiento facial se extiende a cualquier organismo policial a nivel mundial.
¿Por qué estos cambios?
Estos cambios surgen tras el anuncio de Axon, fabricante de tecnología para cuerpos policiales y militares, de un nuevo producto que utiliza el modelo de texto generativo GPT-4 de OpenAI para resumir audio de cámaras corporales. Expertos advierten sobre los peligros potenciales de este tipo de tecnología, como la invención de hechos (“alucinaciones”) y sesgos raciales introducidos por los datos de entrenamiento.
¿Qué tan estricta es la prohibición?
- La prohibición completa del uso de Azure OpenAI Service solo se aplica a la policía de EE. UU., no a nivel internacional.
- No cubre el reconocimiento facial realizado con cámaras fijas en entornos controlados (aunque los términos prohíben cualquier uso por parte de la policía estadounidense).
Microsoft y OpenAI: Una relación complicada con la seguridad
Esta postura refleja el enfoque reciente de Microsoft y OpenAI hacia los contratos de defensa y aplicación de la ley relacionados con la IA.
OpenAI colabora con el Pentágono en proyectos de ciberseguridad, alejándose de su anterior restricción de proporcionar IA a las fuerzas armadas.
Microsoft ha propuesto utilizar la herramienta de generación de imágenes de OpenAI, DALL-E, para ayudar al Departamento de Defensa (DoD) a desarrollar software para operaciones militares.Azure OpenAI Service y el gobierno
En febrero, Azure OpenAI Service se integró a Azure Government de Microsoft, ofreciendo funciones adicionales para agencias gubernamentales, incluida la policía. Microsoft se comprometió a someter el servicio a “autorización adicional” del Departamento de Defensa para apoyar sus misiones.
Actualización: Tras la publicación, Microsoft aclaró que la prohibición se aplica solo al reconocimiento facial en EE. UU., no a todo el servicio para los departamentos de policía.
¿Qué opinás? Dejá tu comentario sobre el uso de la IA por parte de la policía y las preocupaciones de privacidad asociadas