Freno por ley a los desmadres de la Inteligencia Artificial: control humano obligatorio y multas contra los montajes sexuales

Óscar López ha detallado que la futura ley exige responsabilidad a los proveedores de inteligencia artificial: "Establece algo esencial que está en todos los debates de la inteligencia artificial, que es la obligatoriedad de la supervisión humana de los modelos". El titular para la Transformación Digital ha recordado que el presidente del Gobierno, Pedro Sánchez, fue el primero en reclamar, en el Foro de Davos celebrado hace dos años, la responsabilidad de los directivos que desarrollan la IA, la supervisión humana, la transparencia de los algoritmos, la protección de los menores y la privacidad de los datos. López ha indicado que ese es el camino que luego siguieron otros países y que el proyecto de ley responde a esa filosofía. El ministro para la Transformación Digital y de la Función Publíca, Óscar López, durante la rueda de prensa posterior al Consejo de Ministros | Pool Moncloa/Borja Puig de la Bellacasa La norma adapta a la legislación una clasificación de inteligencia artificial en función del riesgo y establece un régimen de sanciones, una gobernanza del modelo, unas autoridades de confianza y un buen uso en la Administración. El Reglamento europeo de IA, impulsado por la presidencia española, establecía ocho prohibiciones relacionadas con las técnicas subliminales, la explotación de vulnerabilidad, la clasificación biométrica, la puntuación social, la vigilancia predictiva, el reconocimiento de emociones, el 'scrapping' (extracción) de rostros o la identificación en tiempo real. El ministro ha recalcado que, a petición de España, la UE acordó el pasado 7 de mayo dos nuevas prohibiciones: que los sistemas de inteligencia artificial generen 'deepfakes' (suplantaciones de identidad realistas) sexuales y que hagan pornografía infantil, lo que supone "un avance muy importante en la protección de los menores y, muy especialmente, de las niñas, las principales víctimas". La norma establece un marco de gobernanza mediante la designación de autoridades encargadas de supervisar su cumplimiento. El organismo central es la Agencia de Supervisión de Inteligencia Artificial (AESIA), con sede en A Coruña (Galicia). El ministro ha indicado que existen, además, una serie de autoridades de vigilancia del mercado. Por ejemplo, el Banco de España supervisará lo relacionado con el sistema financiero, la Agencia Española de Protección de Datos lo que tenga que ver con los datos, y el Consejo General del Poder Judicial lo concerniente a la justicia. Otra de las aportaciones de la ley señaladas por Óscar López es el impulso del buen uso de la IA en el sector público estatal: "Hemos subido el listón de autoexigencia y, además de redoblar la exigencia sobre los modelos de inteligencia artificial y de transparencia que pueda usar la Administración Pública, se impulsa la figura del delegado de IA". La norma también determina cómo articular la gobernanza de los entornos de pruebas ('sandbox') y establece medidas para facilitar a los proveedores de IA el cumplimiento de la legislación.