Aprobada en el Senado Ley de Inteligencia Artificial con medidas para compensación de derechos de autor

Agencia Brasil - El Pleno del Senado aprobó este martes (10) el marco regulatorio para el uso de la inteligencia artificial en el país. El texto pasa ahora a votación en la Cámara de Diputados.

El proyecto establece los principios fundamentales para el desarrollo y uso de la IA. Define que la tecnología debe ser transparente, segura, confiable, ética, libre de sesgos discriminatorios y respetuosa de los derechos humanos y los valores democráticos. El proyecto también exige que se consideren el desarrollo tecnológico, la innovación, la libre empresa y la libre competencia.

Además de enumerar los sistemas de IA considerados de alto riesgo, el proyecto de ley prohíbe el desarrollo de ciertos tipos de tecnologías de IA que causen daños a la salud, la seguridad u otros derechos fundamentales.

El texto, por ejemplo, prohíbe a los Poderes Públicos crear sistemas que clasifiquen o jerarquicen a las personas en función de su comportamiento social para el acceso a bienes y servicios o políticas públicas “de forma ilegítima o desproporcionada” o sistemas de IA que faciliten el abuso o la explotación sexual de niños, niñas y adolescentes.

Alto riesgo

El proyecto también define los sistemas de IA de alto riesgo como aquellos que pueden causar daños a las personas o a la sociedad, como los sistemas de control de tráfico y las redes de suministro de agua y electricidad.

También se consideran de alto riesgo los sistemas de IA utilizados en la educación y formación profesional para determinar el acceso a instituciones educativas o supervisar a los estudiantes, así como los sistemas utilizados para reclutar trabajadores o promover empleos. 

Los sistemas de IA para “la asignación de tareas y el seguimiento y evaluación del desempeño y el comportamiento de las personas en las áreas de empleo, gestión de trabajadores y acceso al autoempleo” también se consideran de alto riesgo.

Otros ejemplos incluyen sistemas de IA para priorizar servicios públicos esenciales, como los bomberos y la atención médica. El texto también menciona los sistemas de inteligencia artificial utilizados por el sistema judicial para investigar delitos o aquellos que suponen un riesgo para las libertades individuales o el Estado de derecho democrático.

Los sistemas de IA en el ámbito sanitario, como los que se utilizan para ayudar en el diagnóstico y los procedimientos médicos, y para el desarrollo de vehículos autónomos en espacios públicos, son otros ejemplos de sistemas de inteligencia artificial de alto riesgo enumerados por el proyecto.

Grandes tecnológicos

Durante los debates del Senado, se quitó el dispositivo que consideró de alto riesgo los sistemas de IA utilizados por las plataformas digitales, las llamadas big tech, para la producción, análisis, recomendación y distribución de contenidos.

Según el relator, senador Eduardo Gomes (PL-TO), la retirada de este artículo fue un acuerdo entre las bancadas para hacer que el proyecto de ley 2.338 de 2023, de autoría del presidente del Senado, Rodrigo Pacheco (PSD-MG), avance en la votación.

El texto fue aprobado en una votación simbólica en la comisión temporal creada para analizar el tema.

* Con información de Agência Senado