Debido a que la Inteligencia Artificial (IA) puede ser empleada por delincuentes para manipular y engañar a la niñez y a los adolescentes, la Suprema Corte de Justicia de la Nación (SCJN) declaró constitucional que la ley en México proteja el derecho de las infancias a vivir una vida libre de violencia ejercida a través de IA.
Con esta ley se podrán crear políticas públicas más modernas y preventivas en materia de nuevas tecnologías e infancia, así como creación de nuevas regulaciones que protejan a niños y adolescentes.
De acuerdo con la ministra Margarita Ríos Farjat, la IA presenta riesgos específicos y potencialmente graves, ya que puede ser utilizada para generar y difundir material de explotación sexual infantil muy realista (deepfakes) o también puede ser usado por la delincuencia organizada para engañar a niños y adolescentes.
La Ley de los Derechos de Niñas, Niños y Adolescentes fue promulgada por Zacatecas pero impugnada por el Poder Ejecutivo federal al señalar que la entidad no explicó qué se entendía por violencia con inteligencia artificial; sin embargo, la SCJN consideró que no se vulneran los principios de legalidad y seguridad jurídica.
Algunas ministras de la Corte dijeron que es su obligación proteger los derechos de niñas, niños y adolescentes y prevenir daños sicológicos, sociales y físicos ocasionados por el uso malintencionado de la tecnología, en este caso, de la IA.
