Este artículo está reservado para nuestros miembros.
Pablo Nemitz es Asesor Principal en la DG Justicia y Protección del Consumidor de la Comisión Europea y Profesor de Derecho en el Colegio de Europa. Está considerado como uno de los expertos más respetados de Europa en libertad digital y ha liderado el trabajo sobre el Reglamento General de Protección de Datos de la UE. La traducción al inglés de su ensayo. El imperativo humano: poder, democracia y libertad en la era de la inteligencia artificialen coautoría con Matthias Pfeffer, se publicará en junio de este año.
Voxeurop: ¿Es la Inteligencia Artificial (IA) una oportunidad para la democracia o una amenaza para ella?
Pablo Nemitz: Las voces alarmistas están reemplazando cada vez más al optimismo ingenuo sobre la IA. Tanto Elon Musk como Bill Gates han dicho que la IA es como la energía nuclear, una oportunidad y un riesgo existencial. En su libro Human Compatible, Stuart Russel, autor del libro de texto más vendido sobre IA, describe el problema de controlar la IA. Él establece un paralelo con la energía nuclear: no podemos estar seguros de que la inteligencia artificial general no se logrará mañana. Hubo un tiempo en que todos los principales científicos pensaban que dividir el átomo era imposible. Todo esto exige que la democracia tome el control de esta tecnología, de acuerdo con el principio de precaución probado por el tiempo.
Los ingenieros y desarrolladores responsables no estarán en desacuerdo. Ni el individuo ni la democracia pueden ser controlados y manipulados por la IA. Por el contrario, los individuos y la democracia deben seguir controlando la IA. Que podamos hacer de la IA una oportunidad para la democracia depende de muchos factores. En primer lugar, la disposición de quienes desarrollan la IA para servir a la democracia y no solo para obtener ganancias. En segundo lugar, la voluntad de invertir en IA diseñada específicamente para empoderar a los actores democráticos, desde parlamentos y gobiernos, partidos políticos, medios de comunicación, sindicatos, ONG e iglesias hasta individuos, para contribuir de manera más activa y constructiva al funcionamiento de la democracia.
¿Debería la UE regular la IA y, de ser así, cómo y en qué dirección? ¿La Ley de IA aborda los principales problemas relacionados con la IA y su uso?
No podemos dejar esta tecnología solo a la autorregulación y la ética. Al igual que los productos químicos, los automóviles y la energía nuclear, por nombrar solo algunos ejemplos, esta tecnología es lo suficientemente importante como para requerir una ley que defina su dirección y límites. La Ley de IA será un importante precedente que confirmará la primacía de la democracia en tiempos de rápido desarrollo tecnológico. Los llamados baratos a la autorregulación y la ética en lugar de una ley vinculante y exigible están desactualizados, porque el poder y la velocidad del desarrollo tecnológico simplemente requieren la ley para garantizar que se sirva el interés público y que todos, incluidos aquellos que no quieren jugar, en realidad está sujeto a reglas que se pueden hacer cumplir.
No podemos ignorar el importante tema del poder cuando hablamos de IA. Sin una ley vinculante, el poder de la tecnología para dar forma a la sociedad está únicamente en manos de quienes la desarrollan y la poseen. Si la sociedad estuviera organizada de esta manera, la democracia no funcionaría ni podríamos garantizar el respeto de los derechos fundamentales. El mercado interior de la UE también necesita una regulación, porque sin una ley a nivel de la UE, pronto tendríamos una fragmentación de la legislación en 27 Estados miembros y, por lo tanto, ningún mercado interior de alta tecnología que funcione. El Ley de IA de la UE aborda muchas cuestiones importantes relacionadas con el desarrollo y el uso de la IA y, como todo en democracia, será un acto de compromiso, un compromiso en la dirección correcta entre diferentes visiones políticas del mundo.
Según el proyecto de ley actual, las herramientas de IA se clasificarán según su nivel de riesgo percibido: de mínimo a limitado, alto e inaceptable. Las áreas de preocupación podrían incluir la vigilancia biométrica, la difusión de información errónea o el lenguaje discriminatorio. ¿Esto tiene sentido?
El enfoque de la regulación basado en el riesgo es un buen comienzo. Pero es limitada porque reduce la legislación a un taller de reparación de fallas de mercado y riesgos tecnológicos creados en el sector privado. Entonces, si solo tuviéramos una regulación basada en el riesgo, la democracia estaría abandonando la aspiración de que las personas, a través de la democracia, moldeen sus sociedades y la forma en que quieren vivir. Dicho esto, la Ley de IA forma parte de un paquete holístico de legislación de primera generación con el que la UE está dando forma a las nuevas realidades digitales. Se encuentra al lado de la Ley de Servicios Digitales (DSA), el Ley de Mercados Digitales (DMA), el Reglamento General de Protección de Datos (GDPR) y la legislación de protección al consumidor, por nombrar solo algunas leyes ya vigentes. Ahora necesita ser adoptado rápidamente para crear hechos.
Recibe lo mejor del periodismo europeo directamente en tu bandeja de entrada todos los jueves
Las más de 3.000 enmiendas en el Parlamento Europeo demuestran que la democracia tiene mucho que decir sobre la IA y su regulación. Y eso que funciona bien en Europa. Creo en la voluntad de compromiso para aprobar leyes y demostrar que la democracia puede funcionar. Con este espíritu, creo que la Ley de IA, junto con otras leyes ya vigentes que también se aplican a la IA, es una buena primera pieza de legislación democrática sobre inteligencia artificial, vinculante tanto para el sector privado como para el público. Podemos estar orgullosos de que Europa esté una vez más a la cabeza en este importante tema de anteponer la democracia a las nuevas tecnologías.
¿Podemos confiar en los gigantes tecnológicos, ingenieros y magnates de Silicon Valley para la autorregulación de la IA? El reciente llamar por algunos de ellos para detener el desarrollo de Ai va en la dirección correcta o deberían intervenir los gobiernos (y la UE). Si hubiera una regulación mundial, para h…