¿GOBERNANZA TECNOLÓGICA GLOBAL?

¿Cómo gobernamos la velocidad, el alcance y el impacto de los sistemas inteligentes autónomos en las actuales formas de organización política, económica, social y cultural?

“Nunca antes ha habido un momento más prometedor, o de mayor peligro”. Con estas palabras el fundador del Foro Económico Mundial, Klaus Schwab, inauguraba el Foro de Davos de 2016, dedicado plenamente a la Cuarta Revolución Industrial.

Las anteriores revoluciones industriales –la de la mecanización y el vapor, la de la producción en masa y la electricidad, y la de la automatización y computación– dieron lugar a cambios en los sistemas de gobernanza, así como resistencias y nuevas necesidades de adaptación y mitigación. La actual Cuarta Revolución Industrial afronta los mismos retos, aunque con un apunte distinto que, sin embargo, hace de ella una etapa única y diferenciada. En esta nueva era industrial, las tecnologías ya no solamente acompañan al ser humano u optimizan su trabajo, sino que se fusionan con la actividad humana –e incluso en ocasiones en el cuerpo humano–, desintegrando las fronteras entre las esferas física, digital y biológica. En esta industria 4.0, los sistemas ciberfísicos adquieren tal grado de inteligencia autónoma que son capaces de tomar decisiones descentralizadas por sí mismos.

¿Es posible crear un marco de gobernanza tecnológica global? La respuesta no es tanto qué se gobierna, sino cómo gobernar. La Cuarta Revolución Industrial no se define como un conjunto de tecnologías emergentes, sino como la transición de estas tecnologías que ya venían de la Tercera Revolución Industrial hacia nuevos sistemas basados en infraestructura digital y la convergencia de esferas que hasta ahora habían estado separadas.  Así, la clave no es gobernar la robótica, la computación cuántica, la inteligencia artificial (IA), el Internet de las cosas, la nanotecnología o la biotecnología, sino cómo gobernar la velocidad, el alcance y el impacto, sin precedentes en la historia, de los sistemas inteligentes autónomos en las formas actuales de organización política, económica, social y cultural.

Las dinámicas de la Cuarta Revolución Industrial requieren un sistema de gobernanza que aborde las responsabilidades, limitaciones y oportunidades de los tres pilares que llevan hacia adelante el camino de esta era industrial: las tecnologías y sus sistemas per se; los actores encargados de su gestión, regulación y despliegue (públicos y privados); y las personas y comunidades destinatarias. En la actualidad existe toda una serie de enfoques, mecanismos e instrumentos de gobernanza tecnológica. Sin embargo, y pese a su rigor, legitimidad y valor a la hora de aunar voces de distintos sectores y niveles geográficos y compartir experiencias y prácticas, todas estas propuestas varían significativamente entre sí tanto en su grado de desarrollo institucional como en la falta de coherencia e integración entre ellas en dos sentidos. A nivel vertical, falta cohesión en las medidas e instrumentos de los distintos niveles de gobierno (global, regional, estatal, subestatal y local) y de las entidades corporativas. A nivel horizontal, las propuestas son distintas por países, disciplinas, departamentos e incluso dominios tecnológicos específicos.

Abordar una revolución industrial cuya naturaleza no entiende de fronteras físicas y permea en todas las capas de la sociedad a un grado tan acelerado, volátil e impredecible no puede llevarse a cabo efectivamente mediante propuestas, instrumentos y medidas dispersadas. Es en la construcción de una arquitectura global en donde se encuentra la solución más accionable y efectiva. Accionable porque, ante un escenario en donde todos los actores involucrados no estarían dispuestos a aceptar normas globales vinculantes, un marco de gobernanza permitiría desarrollar otros instrumentos tales como principios, procesos de toma de decisión y acuerdos institucionales –como la creación de comités internacionales de supervisión o evaluación– que sí podrían tener mayor cabida. Efectiva porque el impacto de estos instrumentos globales, aunque no sean vinculantes, sí tendría un efecto disuasorio elevado al influir en cambios de comportamiento y en la creación de expectativas comunes gracias a un acercamiento en las formas de proceder, las prácticas de toma de decisión y las culturas organizativas, tanto públicas como privadas.

Un marco de gobernanza plural

En primer lugar, los instrumentos. Un marco de gobernanza tecnológica global podría no lograr el máximo resultado posible –leyes internacionales comunes–, pero sí garantizar que, en un mundo fragmentado por regulaciones distintas, los actores tengan incentivos a formar parte de una arquitectura global que reduzca sus costes de transacción y de tiempos, así como garantice adaptar sus servicios al nuevo camino que busca un capitalismo más consciente, sostenible y cohesionado, y que se proclamó como “stakeholder capitalism” en el Foro de Davos de 2020. Asimismo, permitiría a los países con menor grado de capacidad tecnológica no quedar desplazados de una cadena de valor tecnológica que, en caso de seguir fragmentada, sería monopolizada por unos pocos Estados y sus industrias. Estos países tendrían voz a la hora de definir protocolos globales y, en consecuencia, redefinirían indirectamente las estrategias corporativas de las empresas, puesto que éstas deberían adaptar sus servicios de responsabilidad social corporativa a un número mayor de realidades, en mayor o menor medida.

En segundo lugar, existe el dilema entre una gobernanza transversal o específica a cada tecnología. Mientras que la primera permitiría el establecimiento de límites mínimos y máximos comunes, con un protagonismo importante del rol del Estado a través de los “bienes públicos digitales”, el segundo modelo daría pie a una mayor profundización y detalle, con un liderazgo mayor del sector privado. Sin embargo, lo cierto es que no son excluyentes. Una estructura de gobernanza transversal necesitará estar compuesta de diferentes secciones y áreas, dentro de las cuales puede haber comisiones expertas especializadas en tecnologías específicas.

Esto lleva al tercer aspecto del marco de gobernanza global: si la tecnología debe ser gobernada vertical u horizontalmente. En ocasiones es difícil crear un idioma común para culturas organizativas y sectores distintos (el nivel horizontal). También existe el riesgo de que, en una estructura vertical, se produzcan decisiones centralizadas en el nivel más alto de la jerarquía, dejando a actores con menor capacidad tecnológica con poco margen de maniobra para tener voz en estas decisiones. De ahí, que un marco de gobernanza global acompañado por estructuras regionales de canalización de demandas y creación de medidas de confianza (al modo de otros regímenes internacionales ya existentes) sea una propuesta intermedia entre la homogeneización y la estandarización. Esto permitiría, dentro de un marco global de toma de decisiones, evaluación y protocolos comunes, adaptar estos principios globales a las particularidades de cada región. Por ejemplo, América Latina y el Caribe es la región del mundo más afectada por el cibercrimen y combatirlo es una de sus prioridades puesto que afecta a la mejora económica y social a través de la digitalización, mientras que la Unión Europea pone el foco en la vertebración territorial transfronteriza europea mediante clusters de innovación, como el “European 5G Corridors”.

El cuarto aspecto a considerar para un posible marco de gobernanza tecnológica global es si éste debe priorizar medidas ex ante o ex post. Las medidas ex ante suponen que este marco global se centraría en prevenir riesgos tecnológicos sobre la sociedad o el propio mercado a través del establecimiento de mecanismos de protección, como por ejemplo ralentizando el despliegue de esas tecnologías cuando se sabe que pueden suponer riesgos altos o todavía inciertos. Un ejemplo de ello es la prohibición del uso de sistemas de reconocimiento facial, salvo excepciones de interés público significativo, o la categorización de dos tipos de riesgos (alto y bajo) de las aplicaciones de IA, en el Libro Blanco de Inteligencia Artificial publicado por la Comisión Europea en febrero de 2020. Al contrario, las medidas ex post significarían que una arquitectura global se encargaría de gestionar los riesgos una vez éstos aparezcan: a través de reparaciones o compensaciones a las personas afectadas, o a través de incorporar nuevos mecanismos de resiliencia al haber aprendido de los errores y adaptarse a nuevos eventos adversos o crisis.

Ambos tipos de medidas son necesarios en la gobernanza tecnológica. Sin embargo, el límite radica en que, de la misma forma que ocurre con otros regímenes internacionales, no todos los Estados estarían dispuestos a rendir cuentas en el plano internacional. En este sentido, las medidas ex post tendrían un grado mucho menor de éxito que las medidas ex ante en un marco global. Prevenir riesgos tecnológicos también podría despertar quejas acerca de que está fomentándose una competencia desleal y reprimiendo la capacidad de innovación de aquellos países y empresas que se quedaron atrás en las primeras fases de desarrollo tecnológico de la Industria 4.0.

Es en este momento donde entra la cuestión de quiénes forman parte de esta gobernanza global. La propia naturaleza de la Cuarta Revolución Industrial, que no entiende de fronteras físicas, alienta a los Estados a no ser los únicos protagonistas del orden internacional. También entran a formar parte las diversas expresiones de la sociedad civil, la industria, y otros niveles gubernamentales, como el regional-continental, el subestatal y el local (las ciudades y la vertebración con las zonas rurales). Y no solamente entran actores ya existentes, sino que además se necesita crear nuevas figuras jamás pensadas hasta ahora, como es el caso del embajador tecnológico, la aparición de nuevos departamentos en los Ministerios de Asuntos Exteriores, o nuevas estrategias de comunicación interdepartamental entre agencias que no hubieran visto la necesidad de hacerlo, como las de seguridad y defensa junto con las de desarrollo sostenible, asuntos sociales, y política industrial, fiscal y financiera.

En cualquier caso, es indudable que un marco global va a despertar reticencias. Lo claro es que ni una excesiva homogeneización ni una excesiva dispersión son buenos acompañantes. Es necesario encontrar un espacio intermedio que garantice la competición como forma de avanzar en innovación, pero sin dejar atrás ni demasiado por delante a unos actores u otros. La forma en que la convergencia de los espacios digital, físico y biológico permean el día a día de las personas, comunidades, países, procesos y productos es enorme. La búsqueda de un marco global no es una tarea de esencialismos: no es necesario buscar que todos los actores sean iguales. El valor de un marco de gobernanza tecnológica global es garantizar que los objetivos económicos de la Industria 4.0. vayan de la mano de los objetivos sociales de respeto a los derechos fundamentales, no discriminación y proporcionalidad.

Hasta el momento ha habido desarrollos a favor de la gobernanza tecnológica global completos y detallados. La profesora Mariana Mazzucatto ya apuntaba en sus mission-oriented policies (o MOPs) la necesidad de aunar voces, de distintos sectores y voces, con el fin de garantizar la seguridad política, económica y social de un país mediante proyectos con enfoque misión-país con enfoque de largo plazo y orientados a la innovación y la mejora de las condiciones de vida. La Unión Internacional de Telecomunicaciones promueve “AI4Good” –IA para el bien social–, empresas privadas como Microsoft promueven coaliciones corporativas como la “Digital Geneva Convention” para garantizar que sus aplicaciones se usarán con fines no dañinos, y coaliciones de gobiernos, exdiplomáticos y académicos fomentan garantizar el llamado “núcleo público de Internet”.

Naciones Unidas inauguró en 2019 el primer Panel de Expertos de Alto Nivel para desarrollar su primera Hoja de Ruta para la Cooperación Digital, que enmarca cinco eje claves: construir una economía y sociedad digitales inclusivas; desarrollar las capacidades tanto humanas e institucionales; proteger los derechos humanos y garantizar la agencia humana; promover confianza, seguridad y estabilidad en materia digital; y fomentar la cooperación digital global. Todavía quedan retos por resolver, como en qué dirección se orientarán las cibernormas, las normas de mercado interior y política de competencia de cada región o país con respecto a la presencia de empresas tecnológicas extranjeras, o la competición entre diferentes órganos internacionales de estandarización de datos.

La hoja de ruta de Naciones Unidas podría representar el primer esfuerzo por dotar a la comunidad internacional de un marco global y totalizador de la gobernanza tecnológica global. No es una tarea sencilla, pero del esfuerzo común dependerá el futuro y presente de la nueva era de interdependencia tecnológica y digital.

Fuente: Raquel Jorge Ricart- ESGlobal