En los últimos meses, nos hemos sumergido en una cantidad de blogs y artículos sobre inteligencia artificial (IA). Como organización, somos cómplices tanto de generar contenido sobre este tema como de consumirlo con avidez. Desde la perspectiva del Equipo del Sector Público, estamos en un momento emocionante para explorar la IA generativa, especialmente con la Cumbre Internacional sobre la Seguridad de la IA en Bletchley Park. Este evento podría ser la oportunidad de oro para que el Reino Unido recupere su posición en el ranking de E-Government de la ONU.
IA en acción: Desmitificando la tecnología emergente
La semana pasada (al momento de escribir este blog), Kiran Stacey, corresponsal político de The Guardian, redactó un artículo sobre el uso de la IA en los departamentos gubernamentales y el NHS. Desde puertas electrónicas y reconocimiento facial hasta detección de fraudes y matrimonios falsos, las referencias en el artículo son solo el inicio de la adopción generalizada de la IA en el sector público. Este no es un simple panegírico sobre los beneficios de la automatización; es una advertencia sobre los riesgos de sesgo y discriminación que a menudo se mencionan al hablar de la IA generativa. En nuestra discusión sobre la IA generativa durante el Leeds Digital Festival, la ética fue el centro de atención. Panelistas, incluyendo a Katherine Holden de techUK y Richard Irvine del Consejo de la Ciudad de Leeds, destacaron la necesidad de límites sólidos para reducir el riesgo de sesgos en los resultados de los servicios públicos. Aquí puedes explorar la discusión completa:
El rostro humano de la tecnología: Lecciones de escándalos pasados
El artículo también narra la historia de las autoridades fiscales holandesas que, al utilizar la IA para identificar beneficios para el cuidado infantil, causaron dificultades financieras significativas para miles de familias. Estos casos nos recuerdan el peligro de depositar demasiada confianza en la tecnología. Recordamos el escándalo Horizon, donde empleados de la Oficina de Correos fueron acusados injustamente debido a discrepancias en el software contable Horizon proporcionado por Fujitsu.
Cultura de asimetría de la información y el camino hacia soluciones
Según Danny Bluestone, fundador de Cyber-Duck, el escándalo Horizon fue posible debido a una cultura de asimetría de la información. Su artículo destaca que la introducción exitosa de tecnologías complejas requiere la presencia adecuada de partes interesadas. Esto implica no solo tener profesionales esenciales de DDaT disponibles, sino también un liderazgo que comprenda la urgencia de involucrar y empoderar a equipos multifuncionales durante el proceso de toma de decisiones.
El Gobierno a la vanguardia: Abordando la asimetría de la información
El Gobierno está dando pasos significativos para superar los riesgos de la asimetría de la información. Programas para mejorar las habilidades de liderazgo en el ámbito digital han estado en marcha durante algún tiempo y, en lo que respecta a déficits de habilidades más agudos, campañas de reclutamiento de DDaT, cambios en la estructura salarial de DDaT y esquemas de asignación temporal buscan desesperadamente cerrar la brecha La creación de centros de conocimiento como el Centro de Inteligencia Artificial de Defensa (DAIC) del MOD también facilita el flujo de conocimientos con la industria y la academia.
Lecciones de Leeds: Comunicación activa de riesgos y recompensas
Volviendo a nuestra discusión reciente sobre la IA generativa, aprendimos que el Consejo de la Ciudad de Leeds ha adoptado un enfoque proactivo hacia la tecnología. La integración de habilidades internas en el ámbito del aprendizaje automático e inteligencia artificial ha brindado a Richard Irvine y su equipo la oportunidad de explorar y capitalizar las últimas innovaciones en el campo de la inteligencia artificial generativa. Sin embargo, reconocen la necesidad de comunicar activamente los riesgos y recompensas de estas tecnologías al personal no técnico.
Desafío continuo: Asimetría de la información en el Sector Público
Es ingenuo suponer que cada organización del sector público puede abrazar la tecnología emergente de la misma manera. Esto presenta el riesgo de asimetría de la información en todo el sector, perjudicando a las organizaciones menos capaces de mejorar rápidamente y resultando en instituciones líderes trabajando en silos.
Mirando al futuro: Gobernanza, seguridad y ética de la IA
Es esencial que las organizaciones se involucren completamente con la gobernanza, seguridad y ética de la IA generativa. A través de organizaciones como Socitm, estamos viendo el desarrollo alentador de recursos compartidos en este espacio. También es crucial que líderes y profesionales de la tecnología participen activamente, compartan hallazgos y analicen casos de uso. Proporcionar espacios para compartir este trabajo es esencial para mitigar el riesgo de mal uso de la IA.
Conclusión
A medida que nos sumergimos en el flujo de documentos previos a la cumbre internacional, es crucial dirigir nuestra atención no solo a las discusiones teóricas sobre normas internacionales, sino también a los estudios de caso prácticos y las historias que ilustran el camino desde la concepción hasta la implementación de la inteligencia artificial. Estaré vigilante ante estas narrativas y celebraré los éxitos tangibles a medida que los descubra. Únete a nosotros mientras exploramos este fascinante viaje hacia un futuro donde la tecnología y la ética convergen.