La Comisión Europea ha propuesto la creación de un marco jurídico sobre la inteligencia artificial, un nuevo plan coordinado con los Estados miembros, junto con nuevas normas sobre maquinaria, con el objetivo de garantizar la seguridad y los derechos fundamentales de personas y empresas a la vez que se refuerza la excelencia en materia de IA.
El nuevo Reglamento sobre la inteligencia artificial propuesto por la Comisión Europea abordará una serie de normas flexibles referentes a los riesgos específicos que plantean los sistemas de IA y se aplicará directamente de la misma forma en todos los Estados miembros.
Siguiendo un planteamiento basado en el riesgo, aquellos sistemas de IA considerados una clara amenaza para la seguridad, los medios de subsistencia y los derechos de las personas serán denominados de riesgo inadmisible y, por lo tanto, prohibidos.
Reglamento sobre la inteligencia artificial
Los sistemas considerados de alto riesgo, abarcan las tecnologías de inteligencia artificial empleadas en infraestructuras críticas que pueden poner en peligro la vida y la salud de la ciudadanía, en formación educativa o profesional que pueden determinar el acceso a la educación y la carrera profesional de una persona, o en aplicación de las leyes que pueden interferir con los derechos fundamentales.
También se incluyen las empleadas en componentes de seguridad de los productos, empleo, gestión de trabajadores y acceso al trabajo por cuenta propia; en servicios públicos y privados esenciales; en gestión de la migración, el asilo y el control de fronteras, y en administración de justicia y procesos democráticos.
Todos estos sistemas de IA de alto riesgo estarán sujetos a obligaciones estrictas antes de que puedan comercializarse: procedimientos de evaluación y mitigación de riesgos, alta calidad de los conjuntos de datos que alimentan el sistema para minimizar los riesgos y los resultados discriminatorios, registro de la actividad para garantizar la trazabilidad de los resultados, documentación detallada sobre el sistema y su finalidad para que las autoridades evalúen su conformidad, información clara y adecuada al usuario, medidas apropiadas de supervisión humana para minimizar el riesgo, y alto nivel de solidez, seguridad y precisión.
Alto riesgo y riesgo limitado
En especial, se consideran de alto riesgo y estarán sujetos a requisitos estrictos todos los sistemas de identificación biométrica remota. Su uso estará sujeto a la autorización de un órgano judicial u otro organismo independiente, y a los límites adecuados en materia de duración, alcance geográfico y las bases de datos exploradas.
En cuanto a la categoría de riesgo limitado, tiene obligaciones específicas de transparencia. Por último, la de riesgo mínimo o nulo abarca la inmensa mayoría de sistemas de IA y el proyecto de Reglamento no interviene en ella.
En términos de gobernanza, la Comisión Europea propone que las autoridades nacionales de vigilancia del mercado controlen las nuevas normas, mientras que la creación de un Comité Europeo de Inteligencia Artificial facilitará su aplicación e impulsará la creación de normas. Además, se proponen códigos de conducta voluntarios y espacios controlados de pruebas para facilitar la innovación responsable.
Plan de coordinación sobre la excelencia en inteligencia artificial
La Comisión también ha propuesto la actualización del plan coordinado sobre la IA, que empleará la financiación asignada con cargo a los programas Europa Digital, Horizonte Europa, el Plan de Recuperación y Resiliencia y la Política de Cohesión.
La finalidad es crear las condiciones propicias para el desarrollo y la implantación de la inteligencia artificial mediante el intercambio de conocimientos y la inversión en capacidades informáticas críticas. También persigue impulsar la excelencia a través de la creación de una asociación público-privada, la movilización de capacidades de investigación, desarrollo e innovación, y la puesta a disposición de las pymes y administraciones públicas de instalaciones de ensayo e innovación digital.
De la misma manera, este plan pretende velar por que la IA esté centrada en las personas y sea una fuerza a favor del bien social, así como fomentar el liderazgo estratégico en sectores y tecnologías de gran impacto, tales como el medio ambiente, la salud, el sector público, la movilidad o la robótica.
Próximos pasos
El nuevo Reglamento sobre máquinas define los requisitos sanitarios y de seguridad de las máquinas, garantizará la integración segura de los sistemas de IA en la maquinaria en general y aportará una mayor claridad jurídica, por lo que fomentará la innovación.
El próximo paso corresponde al Parlamento Europeo y a los Estados miembros, que tendrán que adoptar las propuestas de la Comisión. Una vez adoptadas, los Reglamentos serán aplicables directamente en toda la Unión Europea.
Fuente: eSMARTCITY,
Artículo de referencia: https://www.esmartcity.es/2021/04/23/nuevas-propuestas-comision-europea-favorecer-excelencia-confianza-ia,
