En el Congreso del Estado de Querétaro se ingresó una iniciativa para regular el uso de la Inteligencia Artificial (IA) y sancionar cuando ésta se manipule para vulnerar la intimidad de las personas.
El uso de la IA se ha difundido en el mundo, debido a que automatiza procesos y reduce el tiempo humano dedicado a ciertas actividades. Una de sus innovaciones más populares es la Inteligencia Artificial generativa que crea, en segundos, textos, imágenes, videos, o incluso, el audio simulado la voz de una persona.
En este sentido, la bancada del Partido Acción Nacional (PAN) en el Congreso de Querétaro ingresó una reforma al Código Penal del Estado para sancionar la manipulación de imágenes, audios o videos de contenido íntimo y sexual que se hayan generado con herramientas de la IA, sin el consentimiento explícito de la otra persona.
Lee más en:
Apuestan empresas en el Bajío por Inteligencia Artificial: KPMG
Legislación de la Inteligencia Artificial, una discusión necesaria
Desde que surgió la IA generativa, se ha puesto en discusión la necesidad de una regulación al respecto. La Unión Europea ya emitió la Ley de Inteligencia Artificial. De acuerdo con datos del Parlamento Europeo, la nueva legislación establece que los sistemas de IA deberán ser supervisados por personas para evitar resultados perjudiciales.
Asimismo, señala que tendrán que existir requisitos de transparencia con el uso de IA generativa, como el ChatGPT. Por ejemplo, quienes lo usen, tienen que revelar que el contenido se generó con esta tecnología, así como diseñar un modelo que evite generar contenidos ilegales.
En México, la discusión para legislar sobre la IA avanza a pasos más lentos. Desde febrero del 2024, el Instituto Nacional de Transparencia, Acceso a la Información y Protección de Datos Personales (INAI) exhortó a que su desarrollo, se realice garantizando el derecho humano a la privacidad y a la protección de datos personales.
Esto debido a que la legislación mexicana en la materia de protección de datos, no considera la privacidad en el entorno digital.
Josefina Román Vergara, Comisionada del INAI, habló al respecto, al participar en el foro “La protección de datos personales, una proyección hacia el futuro: Inteligencia artificial y derechos digitales”. En éste señaló que es importante asegurarse de que la información no se concentre de manera indebida en “manos equivocadas”.
Asimismo, se dio a conocer que el INAI presentaría una iniciativa al respecto en el Congreso de la Ciudad de México, con lo que podría ser la primera legislación en Latinoamérica en la materia.
¿Qué sanciones se impondrían en Querétaro por la manipulación de la Inteligencia Artificial?
La legisladora panista, Leonor Mejía, expuso que si bien ya están tipificados la difusión de contenido sexual e íntimo, sin consentimiento, con esta iniciativa de reforma se amplía el marco legal para incluir la manipulación con la IA.
Las sanciones propuestas irían de tres a seis años, así como multas económicas de entre 900 a mil 900 Unidades de Medida y Actualización (UMA). Es decir, de entre 100 mil a 214 mil pesos, los cuales servirían para la reparación del daño a las víctimas.
Sin embargo, Mejía expuso que esta reforma no busca limitar el desarrollo de la IA, sino establecer límites en su uso cuando se ejerce para cometer violencia digital.
Pues, según datos del Instituto Nacional de Estadística y Geografía (INEGI), tres de cada diez mujeres de entre 12 y 29 años han sido víctimas de violencia en esta modalidad.
Lee más en:
La inteligencia artificial cuántica, el nuevo ingrediente secreto de la revolución digital
