El Parlamento Europeo aprobó la innovadora Ley de Inteligencia Artificial (IA), lo que marca un paso fundamental hacia la regulación de las tecnologías de IA y al mismo tiempo fomenta la innovación y salvaguarda los derechos fundamentales.
La Ley de IA, negociada con los Estados miembros en diciembre de 2023, obtuvo un apoyo abrumador de los eurodiputados, con 523 votos a favor, 46 en contra y 49 abstenciones.
En esencia, la Ley de IA tiene como objetivo salvaguardar los derechos fundamentales, la democracia, el estado de derecho y la sostenibilidad ambiental, al tiempo que impulsa a Europa a la vanguardia de la innovación en IA.
Brando Benifei, coponente de la Comisión de Mercado Interior (S&D, Italia), destacó el carácter histórico de la legislación durante el debate plenario, afirmando: “Finalmente tenemos la primera ley vinculante del mundo sobre inteligencia artificial, para reducir riesgos, crear oportunidades , combatir la discriminación y aportar transparencia. Gracias al Parlamento, se prohibirán en Europa las prácticas inaceptables de IA y se protegerán los derechos de los trabajadores y los ciudadanos. La Oficina de IA se creará ahora para ayudar a las empresas a empezar a cumplir las normas antes de que entren en vigor. Nos aseguramos de que los seres humanos y los valores europeos estén en el centro mismo del desarrollo de la IA”.
Ley de IA: protección de los derechos y prohibición de aplicaciones nocivas
La Ley de IA está diseñada para defender los derechos fundamentales, la democracia, el estado de derecho y la sostenibilidad ambiental, particularmente frente a aplicaciones de IA de alto riesgo. Al mismo tiempo, pretende impulsar a Europa a la vanguardia de la innovación en IA. Al establecer obligaciones claras basadas en los riesgos e impactos potenciales de la IA, el reglamento busca lograr un equilibrio entre seguridad e innovación.
Aparte de esto, una de las disposiciones clave de la Ley de Inteligencia Artificial es la prohibición de determinadas aplicaciones de IA que suponen una amenaza para los derechos de los ciudadanos. Esto incluye la prohibición de los sistemas de categorización biométrica basados en características sensibles, así como la extracción no selectiva de imágenes faciales de Internet o secuencias de CCTV para crear bases de datos de reconocimiento facial.
Además, la ley prohíbe el reconocimiento de emociones en los lugares de trabajo y las escuelas, la puntuación social, la vigilancia predictiva basada únicamente en la elaboración de perfiles de personas y la IA que manipula el comportamiento humano o explota vulnerabilidades.
Controles más estrictos para el cumplimiento de la ley
La legislación impone controles estrictos sobre el uso de sistemas de identificación biométrica (RBI) por parte de las fuerzas del orden, permitiendo su despliegue sólo en situaciones estrictamente definidas con salvaguardias estrictas.
Por ejemplo, la RBI “en tiempo real” sólo puede utilizarse en condiciones específicas, como tiempo y alcance geográfico limitados, y con autorización judicial o administrativa previa. Los sistemas de IA de alto riesgo, que tienen el potencial de causar daños significativos a la salud, la seguridad, los derechos fundamentales y la democracia, están sujetos a obligaciones claras, que incluyen evaluación de riesgos, transparencia, precisión y supervisión humana.
Si bien el uso de sistemas de identificación biométrica por parte de las fuerzas del orden está restringido, se prevén ciertas exenciones en situaciones estrictamente definidas, como las búsquedas selectivas de personas desaparecidas o la prevención de ataques terroristas. Se requieren salvaguardias estrictas, incluida la autorización judicial o administrativa, para los sistemas de identificación biométrica en tiempo real.
Los sistemas de IA de alto riesgo, identificados por su daño potencial a la salud, la seguridad, los derechos fundamentales y la democracia, están sujetos a obligaciones claras. Estos incluyen la evaluación y reducción de riesgos, la transparencia, la precisión y la supervisión humana. Los ciudadanos tienen derecho a presentar quejas sobre los sistemas de inteligencia artificial que afectan sus derechos y a recibir explicaciones sobre las decisiones tomadas por dichos sistemas.
Los sistemas de IA de uso general deben cumplir requisitos de transparencia, incluido el cumplimiento de la ley de derechos de autor de la UE y la publicación de resúmenes detallados de los datos de capacitación. Los modelos de IA más potentes enfrentan requisitos adicionales, como evaluaciones de modelos e informes sobre incidentes.
Apoyando la innovación y las PYMES
La Ley de Inteligencia Artificial también enfatiza los requisitos de transparencia para los sistemas de IA de uso general (GPAI), garantizando el cumplimiento de la ley de derechos de autor de la UE y resúmenes detallados de los datos de capacitación. Además, se establecerán a nivel nacional medidas para apoyar la innovación, como entornos de pruebas regulatorios y pruebas en el mundo real, para facilitar el desarrollo de soluciones innovadoras de IA por parte de las pymes y las nuevas empresas.
Ley de IA: el camino a seguir
Mientras el reglamento se somete a controles finales y espera el respaldo formal del Consejo, se prevé que sea adoptado antes de que concluya la sesión legislativa. Tras su publicación en el Diario oficial, la ley entrará en vigor veinte días después y se espera su plena implementación en un plazo de 24 a 36 meses.
La aprobación de la Ley de Inteligencia Artificial supone una respuesta directa a las propuestas ciudadanas de la Conferencia sobre el Futuro de Europa (COFE). Aborda preocupaciones críticas como reforzar la competitividad, garantizar la confiabilidad y fomentar la innovación digital, al tiempo que se defienden los derechos fundamentales y la transparencia.
Dragos Tudorache, coponente del Comité de Libertades Civiles (Renew, Rumania), comentó: “La UE ha cumplido. Hemos vinculado el concepto de inteligencia artificial a los valores fundamentales que sustentan nuestras sociedades. Sin embargo, aún queda mucho por hacer más allá de la propia Ley de IA. La IA nos obliga a reevaluar el contrato social en el centro de nuestras democracias, nuestros paradigmas educativos, los mercados laborales e incluso la conducción de la guerra. La Ley de IA sirve como piedra angular para un novedoso modelo de gobernanza centrado en la tecnología. Nuestro enfoque ahora debe centrarse en traducir esta legislación en acción”.
La aprobación de la Ley de Inteligencia Artificial significa un momento crucial en los esfuerzos de la UE por regular la IA. Navega por un camino lleno de matices, esforzándose por fomentar la innovación y al mismo tiempo salvaguardar los derechos fundamentales en una era definida por la transformación digital.
Descargo de responsabilidad para los medios: este informe se basa en investigaciones internas y externas obtenidas a través de diversos medios. La información proporcionada es sólo para fines de referencia y los usuarios asumen toda la responsabilidad por su confianza en ella. Cyber Express no asume ninguna responsabilidad por la exactitud o las consecuencias del uso de esta información.
Relacionado
Fuente Original The Cyber Express
