Madrid, EFE.- Por lo que permite, y por lo que prohíbe, el Reglamento europeo de Inteligencia Artificial que hoy entra en vigor es fundamental para las personas, pero es también, según los expertos, trascendental para las empresas que utilizan sistemas basados en esta tecnología emergente, que se deben adaptar al nuevo marco y que se enfrentan a sanciones millonarias si incumplen.
Es la primera ley del mundo que regula una tecnología presente ya en todos los ámbitos de la sociedad y que está generando numerosos beneficios, pero que arrastra también múltiples riesgos que este reglamento quiere atajar, y para ello regula su uso en función del riesgo que suponga para las personas o para la sociedad.
Frente a quienes alertan de que la Unión Europea pierde el tren de las tecnologías más disruptivas e innovadoras como la inteligencia artificial ante gigantes como Estados Unidos o China, el reglamento europeo pone el foco en la importancia de impulsar y robustecer a la industria europea y en la necesidad de estimular las inversiones y la innovación en este campo en todos los países europeos.
También te puede interesar leer:
Inteligencia Artificial y su uso inadecuado para delinquir
Del riesgo “mínimo” al inaceptable
La nueva ley europea, en vigor desde hoy pero que tiene todavía un recorrido de varios años hasta completar su despliegue, incide en la importancia de que los sistemas de inteligencia artificial que se utilicen en la UE sean seguros y respeten los derechos de las personas y establece diferentes niveles de riesgo: los mínimos, los limitados, los altos y los “inaceptables”, que serán -los dos últimos- los más estrechamente vigilados.
Entre los usos expresamente prohibidos destacan los sistemas de categorización biométrica por creencias políticas, religiosas, filosóficas, o por raza u orientación sexual, y aunque la norma pretende poner coto a los abusos y garantizar la seguridad y la adecuada protección de los datos personales de las personas, durante los últimos días y ante la entrada en vigor de la norma los expertos han puesto el acento en las importantes repercusiones que la norma va a tener para las empresas y muchos de los servicios que prestan a los ciudadanos.
La consultora CE Consulting, especializada en el asesoramiento a pequeñas y medianas empresas, ha observado que la norma europea va a tener un impacto fiscal sobre muchas empresas, importantes implicaciones laborales para garantizar la formación de los empleados en el ámbito de la IA, y va a requerir un profundo conocimiento jurídico para evitar las sanciones y asegurar la adecuada gestión de los datos y de la privacidad.
Víctor Millán, abogado especialista en esta materia de esta consultora, ha apuntado a EFE que las empresas tratarán de realizar todo tipo de estrategias de optimización fiscal, y con ese objetivo buscarán incentivos fiscales y subvenciones para el desarrollo e implementación de sistemas de inteligencia artificial, o invertirán en formación y reciclaje profesional para que sus empleados se adapten a los cambios tecnológicos y asegurar un uso “seguro y ético” de éstos.
A su juicio, la nueva ley presenta para las empresas “desafíos y oportunidades”, porque fomenta la innovación “responsable” e incentiva a las empresas a desarrollar tecnologías basadas en la inteligencia artificial “siempre que sean éticas y seguras”, pero establece un marco regulador “riguroso”.
Sesgos algorítmicos, discriminación y falta de transparencia
La consultora tecnológica internacional Entelgy, presente en varios países de Europa y América, ha observado que aunque la mayoría de la población conoce la existencia de este nuevo reglamento europeo, sólo un porcentaje mínimo -que cifra en el 7 por ciento- conoce cómo le va a afectar la nueva regulación.
La empresa ha corroborado cómo la inteligencia artificial ha avanzado a pasos agigantados, transformado la sociedad y generado grandes oportunidades, pero también las preocupaciones sobre privacidad, seguridad y ética que genera, debido a la proliferación de aplicaciones sin una supervisión adecuada que exponen vulnerabilidades como los “sesgos algorítmicos”, la discriminación o la falta de transparencia.
Ha incidido esta consultora en las implicaciones para las empresas proveedoras de IA, que deben modificar sus procesos para cumplir la nueva norma, lo que va a suponer hacer evaluaciones exhaustivas de riesgos y asegurar la conformidad con los requisitos técnicos y de transparencia e incorporar principios éticos y de seguridad en todas las fases del desarrollo de sistemas de IA.
Los responsables de esta empresa han valorado que el nuevo reglamento europeo, al garantizar la protección de los derechos fundamentales y mejorar la seguridad de las aplicaciones de IA, va a fomentar la confianza de los ciudadanos en las tecnologías emergentes, y han augurado que la influencia de la norma se extenderá a todo el mundo ya que todas las empresas que operan a nivel global deberán adaptarse a este marco para operar en el mercado europeo, lo que incentivará la adopción de prácticas más responsables en todo el mundo.
Líneas rojas, lagunas y fallos
En el mismo sentido, la empresa Enreach, especializada en servicios de comunicaciones como la automatización de los servicios de atención al cliente, ha incidido en cómo la inteligencia artificial puede ser un aliado perfecto de las empresas para atender a sus clientes a través de múltiples disciplinas como el “aprendizaje automático”, el “procesamiento del lenguaje natural” o la IA generativa.
Esta compañía ha observado que, de acuerdo con la nueva norma, los sistemas de IA que impliquen niveles de riesgo “mínimos” se pueden usar libremente; los de riesgo “limitado” -como los “chatbots” que simulan una conversación y proveen respuestas automáticas- requieren que se informe de su uso; y los de “alto riesgo” sólo se podrán usar en el territorio UE si respetan los valores y derechos europeos y estarán estrictamente vigilados.
La Federación de Consumidores y Usuarios CECU ha valorado las “líneas rojas” que incluye el Reglamento, aunque considera no protege adecuadamente a las personas porque tiene “lagunas y fallos” y deja fuera de la regulación la mayoría de los algoritmos que se usan en la actualidad y que permiten discriminar a unas personas frente a otras o los que permiten hacer un perfilado de los consumidores.