El Senado de la República presentará esta semana la primera Ley de Inteligencia Artificial en México, una propuesta legislativa que busca sancionar penalmente conductas como la manipulación electoral mediante algoritmos, la creación de deepfakes sexuales sin consentimiento y el uso de sistemas autónomos letales sin supervisión humana.
El proyecto fue elaborado tras 10 meses de trabajo entre legisladores de Morena, Partido Acción Nacional, Partido Verde Ecologista de México, Partido Revolucionario Institucional, Partido del Trabajo y Movimiento Ciudadano, en lo que representa uno de los esfuerzos regulatorios más amplios sobre tecnología en el país.
Faltas leves, graves y “gravísimas”
La iniciativa establece tres niveles de infracción: leves, graves y gravísimas. Esta última categoría aparece por primera vez en una legislación mexicana para identificar las conductas de mayor impacto social y riesgo institucional.
Entre las faltas gravísimas se contemplan el uso de inteligencia artificial para manipulación cognitiva, política o electoral con fines ilícitos; operar sistemas autónomos letales sin control humano; implementar vigilancia masiva sin sustento legal; introducir malware o puertas traseras en sistemas de IA; así como proveer herramientas destinadas al fraude, la extorsión o la suplantación de identidad.
Las infracciones graves incluirán operar sistemas sin certificación, negarse a auditorías oficiales o destruir registros algorítmicos.
Blindaje contra violencia digital de género
Uno de los apartados centrales del proyecto se enfoca en la protección frente a la violencia digital. La propuesta prohíbe de forma expresa la generación o difusión de deepfakes sexuales sin consentimiento.
Además, establece que cuando las víctimas sean niñas, niños o adolescentes, cualquier supuesto consentimiento será jurídicamente inválido. También se sancionarán campañas automatizadas de odio por razones de género, la alteración de imágenes para acosar o extorsionar mujeres y el diseño de herramientas orientadas al ciberacoso.
Nuevas instituciones para regular la IA
La ley contempla la creación de una nueva estructura institucional encabezada por la Autoridad Nacional de Inteligencia Artificial, organismo que fungirá como regulador central del sector.
Asimismo, propone la Estrategia Nacional de IA como hoja de ruta de desarrollo tecnológico, un Fondo Nacional para el Desarrollo de la IA para impulsar innovación y el Sistema Nacional de Certificación de la IA, encargado de validar estándares de seguridad y transparencia.
Regulación según el nivel de riesgo
El modelo propuesto distingue entre sistemas de alto riesgo y herramientas de uso limitado. Aquellas aplicaciones con impacto potencial en derechos humanos, seguridad nacional o estabilidad democrática deberán registrarse obligatoriamente, someterse a auditorías y obtener certificaciones.
En contraste, las herramientas personales o de bajo impacto solo estarán sujetas a principios generales de seguridad y transparencia.
La coordinación del proyecto estuvo a cargo del senador Rolando Zapata, y se prevé que la próxima semana inicie su proceso formal ante el pleno del Senado.