Ley de Inteligencia Artificial: Europa marca el camino en IA centrada en el ser humano

El pasado jueves, el Parlamento Europeo demostró su liderazgo en la regulación de la Inteligencia Artificial (IA) al adoptar su posición negociadora sobre la Ley de Inteligencia Artificial, con 499 votos a favor, 28 en contra y 93 abstenciones. Este es un hito significativo en la creación de un marco legal que garantiza una IA centrada en el ser humano, digna de confianza y que protege la salud, la seguridad, los derechos fundamentales y la democracia de los ciudadanos europeos.

¿Qué busca esta legislación?

La ley se esfuerza por evitar riesgos y establecer obligaciones para los proveedores y los usuarios de herramientas basadas en IA, teniendo en cuenta el nivel de riesgo que puede presentar la inteligencia artificial. Las normas prohíben explícitamente los sistemas de IA que presentan un riesgo inaceptable para la seguridad de las personas, tales como los utilizados para sistemas de puntuación social, o aquellos que tienen usos intrusivos y discriminatorios. Entre los ejemplos destacan los sistemas de reconocimiento emocional, sistemas de identificación biométrica remota, sistemas de categorización biométrica y otros.

La perspectiva de alto riesgo

Una atención especial se centra en la IA de alto riesgo. La ley ha incluido una clasificación de las aplicaciones que pueden afectar significativamente al medio ambiente, la salud, la seguridad o los derechos fundamentales de las personas. Estos incluyen sistemas de IA utilizados para influir en los votantes y en los sistemas de recomendación utilizados por las plataformas de redes sociales.

Todo el mundo nos mira hoy. Mientras que las grandes tecnológicas alertan sobre las consecuencias de sus propias creaciones, Europa ha tomado la iniciativa y propuesto una respuesta concreta a los riesgos que empieza a general la IA.

Obligaciones para la IA de uso general

La nueva legislación también establece requisitos para los proveedores de modelos de IA fundacionales, que tendrán que evaluar y mitigar los posibles riesgos antes de comercializar sus productos en la UE. Este punto es especialmente relevante para sistemas de IA generativa, como ChatGPT, que tendrán que cumplir con requisitos adicionales de transparencia.

Apoyar la innovación y proteger los derechos individuales

Para impulsar la innovación en IA y apoyar a las pequeñas y medianas empresas, la nueva ley tiene en cuenta los proyectos de investigación y los componentes de IA suministrados con licencias de código abierto. También se busca facilitar a los ciudadanos la presentación de reclamaciones sobre estos sistemas y obtener explicaciones sobre decisiones generadas por sistemas de alto riesgo que podrían perjudicar nuestros derechos fundamentales.

La Ley sobre inteligencia artificial marcará el rumbo a nivel mundial para el desarrollo y gobernanza de esta herramienta.

¿Y ahora qué?

Ahora empiezan las negociaciones con el Consejo Europeo sobre la forma definitiva del texto. Se acerca la hora de los penaltis. Esta es una etapa crucial para marcar el futuro de la IA en suelo europeo.

La adopción de la Ley de Inteligencia Artificial representa un gran paso adelante para Europa, poniéndonos a la vanguardia de la regulación de la IA. Pero esta es solo una pieza del rompecabezas.

¡Seguimos atentos!