El uso de la inteligencia artificial en México cada vez es más común y fácil de acceder en la actualidad. Es por eso que, de acuerdo con un reporte de Excélsior, el Senado de México ya estaría alistando la primera ley para regular la IA,.
Una propuesta que no solo busca crear nuevas instituciones, sino que también contempla una serie de sanciones por mal uso de la IA para los malos usos de esta tecnología.
Deepfakes, violencia digital y manipulación política como eje central
Uno de los ejes centrales de la iniciativa de regulación de la IA es la protección frente a situaciones de violencia digital en México, especialmente contra mujeres y menores de edad.
Para esto, la ley plantea que serán consideradas como prácticas prohibidas todas aquellas que tengan como objeto o efecto causar daños graves a mujeres o niñas, incluyendo la creación o difusión de deepfakes sexuales sin consentimiento. Todo esto, además de las siguientes prácticas:
- Sistemas de manipulación cognitiva sin consentimiento
- Vigilancia masiva sin base legal
- Sistemas diseñados para fraude o suplantación de identidad con IA
- Mal uso de la IA para desinformación electoral o manipulación política
El texto también señala que se castigará a las personas que hagan uso de esta tecnología para la manipulación de imágenes, audios o videos con el fin de humillar, extorsionar o acosar a otras personas, además de la automatización de campañas de odio o la difamación basada en cuestiones de género.
Nuevas instituciones, certificaciones y vigilancia de la IA
Es muy importante señalar que con esta nueva ley no solo se busca castigar a las personas que hagan mal uso de la IA, sino también construir un sistema completo de gobernanza tecnológica, ya que dentro de las propuestas se encuentran también los siguientes puntos:
- Creación de una autoridad nacional de Inteligencia Artificial
- Generación de una nueva estrategia nacional de IA
- Nuevo fondo nacional para el desarrollo de la IA
- Sistema de certificación para el uso de estas tecnologías
Además de estos puntos, el documento también señala que los sistemas que sean considerados como de “alto riesgo” deberán estar sujetos aevaluaciones, auditorías y una supervisión constante por parte de estas instituciones.
Incluso se habla sobre poder establecer infracciones graves para quienes no cumplan con requisitos técnicos, como omitir evaluaciones de alto impacto algorítmico o manipular los registros técnicos.
Clasificación de infracciones por uso indebido de IA
Dentro de la iniciativa que será presentada el día de mañana miércoles 22 de abril, se busca prohibir algunas prácticas que se realizan con este tipo de herramientas, como las que anteriormente ya hemos mencionado. Aunque también el documento habla sobre la clasificación de las infracciones ordenadas en tres partes:
- Leves: aquellas donde la empresa que desarrolla la IA omite algunas actualizaciones que no afectan a la seguridad del sistema
- Graves: cuando no se proporciona información técnica estrictamente indispensable, requerida conforme a los procedimientos previstos en esta ley, para auditorías y supervisión
- Gravísimas: cuando las personas físicas o morales realicen alguna de las prácticas prohibidas por esta iniciativa, las cuales pueden ser castigadas con cárcel por uso indebido de IA.
Esta nueva iniciativa es parte de las medidas que ha estado intentando implementar el gobierno de México para poder regular el uso de la IA.
Falta de regulación de la IA en México y necesidad de una ley
Otra de las partes que se señalan en el documento de la iniciativa es que en México existe una fragmentación normativa y, a la vez, una ausencia de un marco integral para la regulación de este tipo de tecnologías, lo cual provoca que exista una inseguridad jurídica tanto para los ciudadanos como para las empresas.
Dicha iniciativa también reconoce que el uso de la inteligencia artificial ya no es solamente experimental, sino que se trata de una infraestructura transversal que impacta sobre las decisiones de diferentes sectores como lo son el área de la salud, seguridad y economía, entre muchas otras más.
Deja un comentario