En Reino Unido, los funcionarios gubernamentales están aprovechando la inteligencia artificial (IA) y algoritmos complejos para tomar decisiones en una variedad de áreas, desde la distribución de beneficios hasta la aprobación de licencias de matrimonio. Sin embargo, una investigación realizada por The Guardian ha revelado que algunas de estas herramientas pueden generar resultados discriminatorios.
Por ejemplo, el Departamento de Trabajo y Pensiones (DWP) utiliza un algoritmo que ha llevado a la pérdida de beneficios para varias personas de manera incorrecta, según un miembro del Parlamento. Además, la Policía Metropolitana utiliza una herramienta de reconocimiento facial que comete más errores al reconocer rostros negros que blancos en ciertos escenarios. Por su parte, el Ministerio del Interior utiliza un algoritmo para identificar matrimonios falsos, el cual ha seleccionado de manera desproporcionada a personas de ciertas nacionalidades.
Los expertos advierten que si los datos muestran evidencia de discriminación, es probable que la IA también genere resultados discriminatorios. A pesar de esto, el Ministro de Hacienda del Reino Unido, Rishi Sunak, ha elogiado recientemente el potencial de la tecnología para transformar los servicios públicos, desde ahorrar tiempo en la planificación de lecciones para los maestros hasta ayudar a los pacientes a obtener diagnósticos más rápidos y precisos en el Servicio Nacional de Salud (NHS).
Sin embargo, el uso de la IA en el sector público no está exento de controversias. En Países Bajos, por ejemplo, las autoridades fiscales utilizaron la IA para detectar posibles fraudes en beneficios de atención infantil, pero cometieron numerosos errores en las decisiones, sumiendo en la pobreza a decenas de miles de familias y fueron multadas por €3,7 millones.
Esto ha generado preocupación entre los expertos en el Reino Unido, ya que los funcionarios están utilizando algoritmos mal comprendidos para tomar decisiones que pueden cambiar vidas sin que las personas afectadas siquiera lo sepan. Además, preocupa la abolición de una junta asesora gubernamental independiente que supervisaba el uso de la inteligencia artificial en el sector público.
Shameem Ahmad, director ejecutivo del Proyecto de Ley Pública, señala que la IA tiene un gran potencial para el bien social, pero no se pueden ignorar los riesgos. Por su parte, Marion Oswald, profesora de derecho en la Universidad de Northumbria, añade que hay falta de coherencia y transparencia en la forma en que se está utilizando la IA en el sector público.
En un intento por abordar estas preocupaciones, la Oficina del Gabinete ha lanzado un estándar de informes de transparencia algorítmica, que alienta a los departamentos y autoridades policiales a revelar voluntariamente el uso de la IA en decisiones que podrían tener un impacto en el público en general. Sin embargo, solo seis organizaciones se han adherido a este nuevo estándar de transparencia hasta ahora.
La investigación de The Guardian revela que al menos ocho departamentos de Whitehall utilizan la IA de alguna manera, siendo algunos más dependientes que otros. Por ejemplo, el NHS ha utilizado la IA en varios contextos, incluyendo la identificación de pacientes en riesgo durante la pandemia de coronavirus. El Ministerio del Interior utiliza la IA para la lectura de pasaportes en aeropuertos y para ayudar en la presentación de solicitudes de pasaportes. También utiliza una herramienta de cribado de matrimonios falsos que ha mostrado un sesgo hacia ciertas nacionalidades.
Aunque tanto el DWP como el Ministerio del Interior afirman que las decisiones finales las toman las personas y que sus procesos automatizados son justos, muchos expertos temen que los algoritmos sesgados conduzcan a decisiones sesgadas. Esto se debe a que los funcionarios solo pueden revisar los casos que se les señalan y a menudo tienen tiempo limitado para hacerlo.
En resumen, aunque la inteligencia artificial tiene el potencial de mejorar los servicios públicos en el Reino Unido, su uso en el sector público plantea preocupaciones de discriminación y falta de transparencia. Los expertos piden una mayor supervisión y regulación para garantizar que la IA se utilice de manera ética y justa.