La rápida evolución de la inteligencia artificial ha llevado a Chile a dar un paso crucial en la regulación de esta tecnología. Inspirados por el reciente proyecto de ley aprobado por el Parlamento Europeo, el gobierno chileno ha presentado su propia propuesta para regular el uso de la IA en el país.

La iniciativa, enviada al Parlamento el pasado jueves, define la inteligencia artificial como un “conjunto de sistemas basados en máquinas que infieren, a partir de información de entrada, determinada información de salida, que puede consistir en predicciones, contenidos, recomendaciones o decisiones capaces de influenciar espacios físicos o virtuales”. Este proyecto de ley representa un hito pionero en América Latina y responde a la necesidad de establecer una política regulatoria clara en nuestro territorio.

El proyecto chileno adopta una estrategia similar a la legislación europea al establecer categorías de riesgo para los diferentes sistemas de inteligencia artificial. Se clasifican herramientas en categorías que van desde riesgo inaceptable hasta sin riesgo evidente, lo que permite una regulación adaptada a la complejidad y potencial impacto de cada aplicación de IA.

La normativa europea sobre Inteligencia Artificial establece medidas concretas para salvaguardar los derechos fundamentales de los ciudadanos y ciudadanas en el uso de esta tecnología. Por ejemplo, se prohíben diversas aplicaciones de inteligencia artificial que podrían vulnerar los derechos individuales, como la categorización biométrica basada en características sensibles o la manipulación del comportamiento humano. 

La categorización biométrica basada en características sensibles se refiere al uso de datos biométricos, como el rostro, la voz, la huella dactilar o el ADN, para clasificar a las personas en función de características personales consideradas sensibles o privadas. Esto podría incluir la identificación racial o étnica, la orientación sexual, el estado de salud o las creencias religiosas. Un ejemplo concreto sería el uso de sistemas de reconocimiento facial para categorizar a las personas según su raza o género, lo cual podría conducir a discriminación y violaciones de los derechos individuales.

Por otro lado, la manipulación del comportamiento humano se refiere a la utilización de técnicas de inteligencia artificial para influir en las acciones y decisiones de las personas de manera deliberada y a menudo oculta. Esto podría manifestarse en la personalización de contenido en redes sociales para fomentar ciertos comportamientos o creencias, como el consumo excesivo de ciertos productos o la participación en determinadas actividades políticas. Un ejemplo sería el uso de algoritmos en plataformas de redes sociales para mostrar contenido diseñado específicamente para generar emociones intensas y mantener la atención del usuario, lo que puede influir en su comportamiento y percepción del mundo.

La normativa europea también impide el uso del reconocimiento de emociones en entornos laborales y educativos, así como la aplicación de sistemas de puntuación ciudadana que puedan comprometer la privacidad y la libertad de las personas.

A modo de ejemplificar lo anterior, en China se utilizan sistemas de reconocimiento de emociones por IA en entornos laborales. Una empresa tecnológica desarrolló un sistema para monitorizar los rasgos faciales de los empleados y determinar sus estados emocionales; utiliza algoritmos avanzados que analizan los movimientos de los músculos faciales y otras señales biométricas para clasificar las emociones de los individuos en diversas escalas. Por ejemplo, puede detectar si un empleado se encuentra estresado, feliz, frustrado o cansado durante su jornada laboral. Esta tecnología plantea preocupaciones sobre la invasión de la privacidad y la libertad de los trabajadores, ya que sus emociones son monitoreadas constantemente sin su consentimiento explícito. Aunque la empresa que desarrolla este sistema cuenta con clientes prominentes como Huawei, China Mobile y PetroChina, no está claro si estas compañías han adquirido el sistema para implementarlo. Este ejemplo destaca cómo el uso de la inteligencia artificial en entornos laborales puede generar dilemas éticos y sociales relacionados con la privacidad y el consentimiento de los empleados.

En cuanto al uso de sistemas de identificación biométrica por parte de las fuerzas de seguridad, la normativa europea establece estrictas excepciones para evitar abusos. Estos sistemas sólo pueden ser utilizados en situaciones específicas y bien definidas, como la búsqueda de personas desaparecidas o la prevención de actos terroristas, y siempre con autorización judicial o administrativa previa.

El Reglamento Europeo sobre Inteligencia Artificial marcó un hito significativo en la regulación de esta tecnología a nivel mundial. La importancia de este proyecto radica en su capacidad para adaptar los principios fundamentales de regulación de la IA a la realidad y necesidades de distintos países, asegurando un equilibrio adecuado entre la innovación tecnológica y la protección de los derechos individuales. 

Chile y su Propuesta de Regulación de uso de IA

Chile propone un enfoque en la clasificación de riesgo desde el uso que se le da a la tecnología, de esta manera se quiere dar agilidad al mercado y a la innovación tecnológica. Al unirse al esfuerzo global de legislar sobre la inteligencia artificial, nuestro país demuestra su compromiso con un futuro digital seguro y ético para todos sus habitantes.

La Ministra de Ciencia, Tecnología, Conocimiento e Innovación, Aisén Etcheverry, subraya la importancia de esta legislación para la competitividad del país. “Las regulaciones pueden inhibir o habilitar el comercio”, enfatiza, destacando la necesidad de un marco normativo que permita el desarrollo tecnológico mientras protege los derechos y valores fundamentales de las personas.

El proyecto de ley se fundamenta en principios clave, como la transparencia, responsabilidad, ética y seguridad. Se busca garantizar la transparencia a través de estándares claros y requisitos que aseguren la rendición de cuentas en caso de errores. Además, se establecen límites éticos y de ciberseguridad para proteger los datos personales, y se implementan pautas para prevenir el sesgo y la discriminación, asegurando que los sistemas de IA sean justos e imparciales.

La importancia de la legislación sobre inteligencia artificial radica en su capacidad para establecer un marco normativo claro y equitativo en un contexto donde la tecnología desempeña un papel cada vez más prominente en nuestras vidas. Al regular la IA, se protegen los derechos individuales y colectivos, asegurando que su implementación se realice de manera transparente y ética. 

Además, estas regulaciones proporcionan un entorno propicio para la innovación y el desarrollo tecnológico, promoviendo la competitividad y el progreso sostenible en un mundo digitalizado. En última instancia, la legislación sobre inteligencia artificial busca garantizar que la tecnología beneficie a la sociedad en su conjunto, sin comprometer valores democráticos y fundamentales.

En un contexto más amplio, la regulación de la inteligencia artificial también tiene implicaciones significativas para la industria insurtech. Las empresas de seguros están cada vez más integrando tecnologías de IA en sus procesos para mejorar la precisión en la evaluación de riesgos y la personalización de servicios. Una legislación clara y robusta en materia de inteligencia artificial proporcionará un marco seguro y confiable para la innovación en este sector en constante evolución.

Fuentes:
DF
La Tercera
Noticias Parlamento Europeo
https://www.businessinsider.es/