¿Puede la Unión Europea prevenir una distopía de la inteligencia artificial?

Por

Ursula von der Leyen

La presidenta de la Comisión Europea, Ursula von der Leyen, quiere controles más estrictos sobre la inteligencia artificial

Thierry Monasse / Getty Images

Un plan de la Unión Europea para regular la inteligencia artificial podría hacer que las empresas que infrinjan las reglas propuestas sobre vigilancia masiva y discriminación sean multadas con millones de euros. El proyecto de ley, filtrado antes de su publicación oficial a finales de este mes, sugiere que la UE está intentando encontrar una «tercera vía» en la regulación de la IA, entre el mercado libre de Estados Unidos y la autoritaria China.

Tal como está redactado actualmente, las reglas prohibirían la IA diseñada para manipular a las personas «en su detrimento», llevar a cabo una vigilancia indiscriminada o calcular «puntajes sociales». Gran parte del lenguaje es lo suficientemente vago como para que las regulaciones cubran toda la industria publicitaria o nada en absoluto. En cualquier caso, los militares y cualquier organismo que garantice la seguridad pública están exentos.

Anuncio publicitario

Se permitirían algunas actividades de «alto riesgo», sujetas a controles estrictos, incluidas medidas para evitar que se introduzcan prejuicios raciales, de género o de edad en los sistemas de IA. Como posibles objetivos, la legislación menciona sistemas para automatizar el reclutamiento laboral, asignar lugares en escuelas, colegios o universidades, medir puntajes de crédito o decidir el resultado de las solicitudes de visa. Las empresas infractoras podrían recibir una multa de hasta 20 millones de euros, o el 4% de la facturación global.

En cierto modo, la noticia no es una sorpresa, ya que la presidenta de la Comisión Europea, Ursula von der Leyen, prometió introducir urgentemente una legislación sobre IA cuando fuera elegida en 2019. Pero Lilian Edwards, de la Universidad de Newcastle, Reino Unido, dice que los proyectos de ley afectará a la industria de la tecnología. «Aplaudo la ambición, pero no se puede imaginar que se lleve a cabo en este estado», dice.

Edwards compara el enfoque con la forma en que la UE regula los productos de consumo, que deben cumplir con ciertos requisitos para ser importados. «Eso es mucho más difícil de hacer con la IA, ya que no siempre es un producto simple», dice. «Te diriges inexorablemente hacia una guerra comercial con Silicon Valley o una aplicación débil».

China y los EE. UU. Ya han logrado grandes avances en la implementación de la inteligencia artificial en una variedad de industrias, incluida la seguridad nacional y la aplicación de la ley. En China, el movimiento diario de los ciudadanos en muchas ciudades se supervisa mediante el reconocimiento facial y hay muchos ensayos públicos y privados de una «puntuación de crédito social» que finalmente se implementará en todo el país. Estos puntajes pueden reducirse por infracciones, como jugar juegos de computadora durante demasiado tiempo o cruzar la calle con un semáforo en rojo para peatones, y pueden aumentarse donando a organizaciones benéficas. Si su puntaje cae demasiado bajo, es posible que se le niegue el viaje en tren o se le avergüence en las listas en línea.

Mientras tanto, en los EE. UU., Donde se encuentran muchos gigantes tecnológicos, se adoptó un enfoque de regulación ligero y de libre mercado. animado por Donald Trump administración, mientras que el actual presidente Joe Biden no ha adoptado una postura pública firme.

Daniel Leufer de Access Now, uno de los grupos que anteriormente ha asesorado a la UE sobre IA, dice que Europa ha tenido durante mucho tiempo una estrategia para tomar una tercera vía entre los EE. UU. Y China en materia de regulación tecnológica, y dice que el borrador de la legislación es prometedor.

Pero advierte que hay «grandes banderas rojas» en torno a algunos elementos del proyecto de ley, como la creación de una Junta Europea de Inteligencia Artificial. “Tendrán una gran influencia sobre lo que se agregue o se quite de la lista de alto riesgo y la lista de prohibiciones”, dice, lo que significa que exactamente quién se sienta en la junta será clave.

La UE ha tenido éxito en el pasado a la hora de influir en la política tecnológica mundial. Su Reglamento general de protección de datos, introducido en 2018, inspiró leyes similares en países no pertenecientes a la UE y en California, el hogar de Silicon Valley. Sin embargo, en respuesta, algunas empresas estadounidenses simplemente han bloqueado el acceso de los clientes de la UE a sus servicios.

Queda por verse si el Reino Unido seguirá a la UE en la regulación de la IA ahora que ha abandonado el bloque. El Departamento de Estrategia Empresarial, Energética e Industrial del Reino Unido dijo Científico nuevo que el gobierno ha formado un panel independiente llamado Regulatory Horizons Council para asesorar sobre qué regulación se necesita para reaccionar a las nuevas tecnologías como la IA.

Más sobre estos temas: