¿En qué consiste la ley 'preventiva' sobre la IA que debaten en Brasil?

El Senado de Brasil votará este jueves un proyecto de ley para regular el uso de la inteligencia artificial, una propuesta del legislador Rodrigo Pacheco (Partido Social Democrático), presidente de la Cámara, que la considera un marco legislativo sólido para regular las tecnologías digitales y los medios de comunicación, "brindando seguridad jurídica en este segmento", según afirmó a Globonews.

La iniciativa busca definir los límites del uso de la inteligencia artificial y los permisos necesarios para su utilización, para lo que se establece una serie de prohibiciones, sanciones, excepciones y un sistema regulatorio.

Conductas prohibidas

Entre las conductas que la nueva legislación prohibirá a las plataformas responsables de la Inteligencia Artificial (IA) se encuentran:

• Las técnicas para inducir comportamientos que causen daño a la salud, la seguridad o los derechos fundamentales.
• La explotación de las vulnerabilidades de los usuarios.
• La evaluación por parte del Gobierno de los ciudadanos, a través de su comportamiento social y personalidad, al ofrecer servicios y políticas públicas.
• La evaluación de los rasgos de personalidad, características o conductas pasadas, sean estas delictivas o no, de individuos o grupos, con la finalidad de evaluar su riesgo de cometer delitos, infracciones o reincidir.
• La producción o difusión de material de abuso y explotación sexual infantil.
• El uso de IA como armas autónomas que seleccionan y atacan objetivos sin intervención humana.

Entre los usos que sí estarán permitidos destaca la identificación biométrica remota en tiempo real únicamente para capturar prófugos, ejecutar órdenes de aprehensión o frenar delitos flagrantes penados con más de dos años de privación de libertad; así como para reunir pruebas en investigaciones policiales con autorización judicial cuando no exista otro medio.

Hasta 50 millones de reales de sanción

La normativa preverá un sistema de sanciones que incluirá multas de hasta 50 millones de reales (8,34 millones de dólares) o el 2 % de los ingresos, en el caso de una persona jurídica, por cada violación cometida por las empresas de tecnología. También se contempla:

• La suspensión parcial o total, temporal o definitiva del desarrollo, suministro u operación del sistema de IA:
• La prohibición del tratamiento de determinadas bases de datos.
• La prohibición, o restricción, de participar del régimen de sandbox regulatorio (un mecanismo que otorga exenciones regulatorias a las empresas para probar nuevos productos o servicios) por hasta cinco años.

Procedimientos de alto riesgo autorizados

El texto también contempla la autorización de algunos procedimientos considerados de alto riesgo, entre los que se encuentra la evaluación de la credibilidad de las pruebas en investigaciones penales. Otras excepciones serían las siguientes:

• La gestión migratoria y el control de fronteras para evaluar el riesgo de ingreso de una persona o grupo.
• Las aplicaciones en el sector salud para asistir en diagnósticos y procedimientos médicos.
• Los controles de tráfico, redes de suministro de agua y electricidad.
• La información para el acceso a cursos técnicos y universidades.
• Los criterios para acceder a beneficios, como la revisión de registros en programas sociales como el Bolsa Familia.
• El reclutamiento, selección, filtrado o evaluación de candidatos en el entorno laboral.

Organismo regulatorio

La ley creará un organismo regulatorio, el Sistema Nacional de Regulación y Gobernanza de la Inteligencia Artificial (SIA), que será coordinado por la Autoridad Nacional de Protección de Datos (ANPD), y que vigilará especialmente los procedimientos de alto riesgo que puedan impactar negativamente en el ejercicio de los derechos y libertades de los ciudadanos.

Si el proyecto finalmente es aprobado por el Senado, deberá pasar a la Cámara de Diputados.