La Ambición de Whitehall por Reducir Costos con IA Presenta Riesgos
Un evento estilo Dragons’ Den esta semana, donde las empresas de tecnología tendrán 20 minutos para presentar ideas sobre cómo aumentar la automatización en el sistema de justicia británico, es uno de los numerosos ejemplos de cómo el gobierno laborista, con problemas de financiamiento, espera que la inteligencia artificial (IA) y la ciencia de datos puedan ahorrar dinero y mejorar los servicios públicos.
En medio de advertencias de críticos que afirman que Downing Street ha estado "bebiendo Kool-Aid" sobre la IA, el Departamento de Salud y Atención Social anunció esta semana un sistema de alerta temprana de IA para detectar servicios de maternidad peligrosos después de una serie de escándalos. Wes Streeting, el secretario de Salud, expresó que quiere que una de cada ocho operaciones se realice mediante un robot dentro de una década.
Una y otra vez, los ministros están recurriendo a la tecnología para afrontar crisis agudas que antes podrían haberse gestionado contratando más personal o invirtiendo más dinero.
El impulso por digitalizar el gobierno, liderado por el primer ministro Keir Starmer y su secretario de Ciencia y Tecnología, Peter Kyle, ha acercado al gobierno a las principales empresas tecnológicas de EE. UU. Google, Microsoft, Palantir, IBM y Amazon asistieron a una mesa redonda del Ministerio de Justicia el mes pasado. Starmer y Kyle no están solos. Países como Singapur y Estonia han estado adoptando cada vez más la IA en la entrega de servicios públicos.
Jeegar Kakkad, director del Instituto Tony Blair para el Cambio Global – una de las organizaciones que abogan por un mayor uso de la tecnología y que está parcialmente financiada por empresas tecnológicas – expuso el argumento así: "Nuestros sistemas están rotos. No pueden seguir el ritmo de la demanda. Tienes un par de opciones: seguir intentando hacer que un sistema roto funcione con enfoques tradicionales – más dinero, más inmigrantes para llenar la brecha en la fuerza laboral – o utilizar tecnología."
"Creo que la respuesta es la tecnología, pero debemos asegurarnos de que tengamos agencia en cómo diseñamos estos sistemas, que sean diseñados por humanos y que establezcamos reglas."
Kyle ha enfatizado recientemente que el gobierno está haciendo todo lo posible para permitir que las grandes empresas tecnológicas prosperen en Gran Bretaña. En la Semana de la Tecnología de Londres el mes pasado, informó a los ejecutivos sobre regulaciones y políticas de planificación diseñadas para mejorar la operatividad de sus negocios, diciendo: “Todo esto suma a un gobierno que está de su lado”.
En lo que respecta a la inyección de tecnología en los servicios públicos, los ministros enfrentan una elección: “construir o comprar”. La tentación a menudo es emitir contratos a empresas privadas para lograr el impacto más rápido y más grande. Para las empresas tecnológicas, hay un gran pote de ingresos en juego. El valor de los contratos de tecnología del sector público británico ascendió a £19.6 mil millones el año pasado, desde £14.4 mil millones en 2019, según Tussell, que investiga los contratos gubernamentales.
Pero introducir IA y automatización en los servicios públicos es más arriesgado que utilizarla para ayudar a los conductores a navegar por carreteras congestionadas o recomendar canciones a los amantes de la música. Cuando los ciudadanos interactúan con los servicios públicos, a menudo están en su estado más vulnerable.
Por ejemplo, la semana pasada, el Instituto Ada Lovelace, un organismo de investigación independiente, descubrió que el 59% del público estaba preocupado por la idea de que la IA se utilizara para evaluar la elegibilidad para el bienestar, en comparación con el 39% de las personas que estaban preocupadas por el uso de tecnología de reconocimiento facial en la policía.
Y el público también está mostrando signos de preocupación sobre las motivaciones de las empresas tecnológicas privadas. La misma encuesta encontró que el público era significativamente menos propenso a confiar en las empresas privadas para entregar tecnología que podría evaluar la elegibilidad para el bienestar o predecir el riesgo de cáncer que en las organizaciones gubernamentales (aunque los gobiernos son menos confiables que académicos y organizaciones sin fines de lucro).
El instituto instó a los parlamentarios a lanzar una revisión del "rol de las empresas tecnológicas y de los organismos financiados por ellas en la conformación de la política y la narrativa mediática sobre los beneficios de la IA en el sector público; y la efectividad de las medidas existentes que buscan abordar los conflictos de interés y las dinámicas de la ‘puerta giratoria’ entre el gobierno y el sector tecnológico".
Señaló: “En un momento en que la IA se ofrece como solución a una amplia gama de problemas del sector público, el público está preocupado por las motivaciones de la participación del sector privado. El público espera transparencia y que la IA en el sector público priorice a las personas sobre el lucro”.
Comments ()