提议对利用人工智能制作性别假影像者处以最高八年监禁
墨西哥国会的莫雷纳党议员伊尔玛·胡安·卡洛斯提出了一项提案，旨在对利用人工智能工具改变或操纵他人照片以达到性目的的人处以最高八年监禁。
该提案建议在《联邦刑法》第199条增添一段，目的是对利用人工智能生成被称为深度伪造（deepfakes）内容并侵犯他人性隐私的人处以四至八年的监禁和400至1000天的罚款。
该项目已提交至司法委员会，此外还包括对那些操纵图像使其看起来裸体或涉及明确性行为的人，以及对那些明知故犯而分发、销售或储存这些图像的人进行惩罚。
现行立法未考虑新的数字攻击形式
这位立法者指出，尽管墨西哥在打击数字暴力方面取得了一定进展，例如通过所谓的奥林匹亚法，但现行规定并未涵盖所有由新兴技术促成的攻击形式。
伊尔玛·胡·卡洛斯希望将性图像操纵纳入犯罪行列，使其刑罚与已存在的针对请求或传播未成年人或弱势群体性内容的处罚相当。
根据这位议员的说法，改革旨在使法律框架能够应对当前现实，并向这些行为发出“明确拒绝”的信号，以便为受害者提供正义。
她还指出，近年来，滥用数字技术以影响个人的完整性、隐私和尊严的行为有所增加，尤其是对女性、儿童和青少年的影响。
“利用人工智能或数字工具操纵个人图像的案例激增，暴露出法律上的严重空白，使得这些行为得以逍遥法外，”这位立法者表示。
深度伪造是什么以及为何引发担忧
深度伪造是利用人工智能生成或操纵的看似真实的图像、视频或音频。尽管最初用于娱乐或视觉效果，但其使用已扩展到制作看似真实的虚假内容，包括性内容。
尽管这些内容是人工生成的，但对受害者的影响可能是真实的，包括情感伤害、社会污名、敲诈以及暴力的正常化。
国际研究警告深度伪造对未成年人的影响
一项由联合国儿童基金会主导的国际研究与ECPAT和国际刑警合作，发现至少有120万名儿童在包括墨西哥在内的11个国家报告在过去一年中受到了包含明确性内容的深度伪造图像的影响。
在某些情况下，这一数字相当于典型教室中每25名儿童中的一名。
使用人工智能的相关风险
该国际机构警告称，人工智能技术使得没有技术知识的人能够生成高度逼真的虚假内容。所提到的开发包括：
利用人工智能制作和传播儿童性虐待材料的增加。
青少年使用人工智能工具为同龄人制作虚假性图像。
难以区分面临直接身体风险的受害者和受到数字生成内容影响的受害者。
对儿童和青少年的记录影响
该分析还指出，即使没有使用受害者的真实图像，儿童和青少年仍会面临持续的影响。报告的后果包括情感孤立、心理伤害、社会污名、学业和个人影响，以及因虚假内容创作而导致的敲诈或威胁。
此外，研究中引用的调查显示，甚至有多达三分之二的儿表示担忧，认为人工智能可能被用于伪造他们的图像或视频以达到性目的。
