Esta normativa adaptará la legislación española al reglamento europeo de IA, ya en vigor. Tras su aprobación como proyecto de ley, será enviada a las Cortes para su tramitación definitiva.

Implicaciones para las empresas industriales

El nuevo marco legal puede afectar a múltiples áreas dentro del sector industrial, lo que hace esencial un seguimiento detallado de su evolución.

Entre los usos empresariales que podrían verse impactados se incluyen chatbots, técnicas comerciales y de marketing basadas en IA, procesos de selección y control presencial, así como sistemas de seguridad en productos industriales.

Prácticas prohibidas en el uso de IA

El anteproyecto establece una serie de usos de la IA que quedarán prohibidos, tales como:

• Uso de técnicas subliminales (imágenes o sonidos imperceptibles) para manipular decisiones sin consentimiento, causando perjuicio a la persona.
• Explotación de vulnerabilidades relacionadas con edad, discapacidad o situación socioeconómica para alterar comportamientos con posibles perjuicios.
• Clasificación biométrica de personas según raza, orientación política, religiosa o sexual.
• Puntuación de individuos o grupos basándose en comportamientos sociales o rasgos personales para negarles servicios o beneficios.
• Inferencia de emociones en centros de trabajo para evaluar promoción o despido, salvo razones médicas o de seguridad.

.
Sistemas de alto riesgo

Se consideran sistemas de alto riesgo aquellos que puedan afectar la seguridad de productos industriales como máquinas, ascensores, equipos de protección, aparatos a gas, juguetes y productos sanitarios, entre otros. También los sistemas utilizados en biometría e infraestructuras críticas.

Estos sistemas deberán cumplir requisitos como gestión de riesgos, supervisión humana, documentación técnica, gobernanza de datos, transparencia y calidad.

Ejemplos de infracciones graves

Las infracciones más severas incluyen:

• No comunicar incidentes graves de IA o incumplir órdenes de las autoridades de vigilancia.
• No aplicar supervisión humana en sistemas de IA biométrica en entornos laborales.
• No etiquetar correctamente contenidos generados con IA que muestren deepfakes de personas en situaciones falsas.
• No incorporar el marcado CE en sistemas de IA de alto riesgo, lo que indicaría conformidad con la normativa.