新华社南京10月9日电：“1秒生成统一照片”？ AI怎么可以换衣服呢？新华社《新华透视》记者刘宇轩，用户只需上传自己的生活照片，一键生成军警制服个人照片……《新华透视》记者调查发现，一些人工智能工具开启了“换装”功能，吸引了不少军警迷。但时有不法分子利用“AI伪装”功能，伪装成军人或警察身份，迷惑民众，亟需警惕。人工智能生成的统一照片被滥用。记者以“人工智能替代军装”为关键词，在各短视频平台上搜索了多个相关应用。 AreApps以“穿电子军装很好玩”、“AI让童年梦想成真”等亮点吸引用户。有网友表示“你只需上传日常生活照片，“秒变兵”。看到坦克、阅兵的背景，感觉自己的“参军梦想”实现了。目前流行的AI工具提供的AI绘图功能，也可以根据用户要求实现AI改造。但有些人可能会欺诈或非法使用“AI易装”，可能会产生负面影响。相关专家在观看多部AI服装视频后指出 指出不少士兵换装视频不符合《解放军内务条例》规定的着装规范。有的混合了兵役标准，有的使用了假奖章，还有的混合了不同国家军装的元素。江苏大学管理学院党委书记、教授马国建表示，一些网民正在利用人工智能来匹配军装和不同国家的制服。耳鼻喉科国家。有些人将人们低着肩膀、拿着香烟或酒精饮料的照片和视频与军装或警察制服的照片和视频结合起来。这与我国军队和警察应有的形象相矛盾，不适当地消耗了军队和警察的形象。个别网民利用人工智能为人们生成假的警察证明和军事任命书。今年3月，安徽省黄山市屯溪区的一名网民利用人工智能技术合成身着军装的人物照片，发布到社交平台上，通过在表格上发布虚假信息，声称自己经军委批准被任命为黄山陆军师司令员，试图博取流量。该行为造成不良社会影响，江某受到当地公安机关的处罚。一些犯罪分子利用“AI伪装”今年4月，江苏省江阴市人民法院就一起冒充军人诈骗案作出判决。网友陆某并非现役军人，但他从网上盗取军事训练照片，发布到短视频平台，获得大量点赞后，利用人工智能将自己的照片或个人头像与自己的军人照片进行匹配。 制服并花钱伪造军人身份证，将自己摇身变成“少校”。他以“交通事故”、“我租车去见老板”等借口，骗取了自己信任的6名女子3万多元。法院以冒充军人罪、诈骗罪判处其有期徒刑两年。今年7月，江苏常州的唐阿姨就遇到了一场精心组织的活动。 骗局。骗子通过AI视频联系受害人。视频中，受害人身穿制服，带有public安全标志威胁老年人支付大笔“押金”，因为他们“卷入了一起事件”。幸好警方及时发出警告，震慑了老人，才避免了他的财产损失。如果不进行平台修改，改变统一照片的“门槛为零”。记者会浏览社交平台，从有网友看到的AI变装视频下方的小程序链接进入视频，必要时上传三张脸部清晰照片。经过10多分钟的AI合成，系统生成了一段军装变装视频。在此期间，平台和小程序没有要求上传身份信息，也没有警告合成视频不得用于非法区域。 9月1日起施行的《人工智能生成的合成内容展示办法》要求清晰展示合成内容由人工智能生成的抽动内容。然而，记者使用了多个AI伪装应用程序，结果，用户合成并发布的视频没有被标记，很容易引起混乱。 AI变装技术降低了伪造身份的技术门槛。记者在某购物平台使用“AI+军装照片”关键词时，发现有卖家出售各兵种模板素材、军衔警服等。据店老板介绍，这些资料全部可以拍下来，不到1块钱。记者拍下照片后，店家立即发送了网盘链接。该链接包含数十个 P-Picture 军装模板文件。用户可以通过PS或AI根据自己想要的风格和级别更换头像。记者尝试将人工智能生成的军装照片和肖像照片运用到多张照片上。北京维恒律师事务所律师王高峰表示，一些第三方软件和内容平台缺乏研究，允许虚假内容传播，这可能会损害公众对军队和执法职业的信任和尊重。江苏省政府咨询室特约研究员丁宏表示，人工智能降低了个人信息造假的技术门槛。一段人工智能生成的警察抓捕视频被发布到网上，并附有一份涉嫌传播违法有害信息的所谓警方报告。这些内容容易误导公众，造成不必要的恐慌，扰乱正常的社会秩序。国家网信办近日公布了一个经典执法案例。该应用程序由浙江省的一家公司运营，提供 cambface c 等图像处理功能视频中的hange、摄影中的面部变化以及摄影和舞蹈的配音。用户可以更改上传的照片和视频中角色的脸部。但未按照规定落实安全评估要求，相关深度合成内容未明确标注，存在较大安全风险，违反《互联网信息服务深度合成管理规定》、《生成人工智能服务管理暂行办法》等规定，信息化部责令该平台下架该应用。加强审核审查，防止滥用人工智能伪装 《人工智能合成内容标签管理办法》明确，服务提供者在提供人工智能合成内容下载、复制、导出等功能时，必须确保文件包含明确的标签，满足要求。任何组织和个人不得恶意删除、篡改、伪造、掩盖按照本办法生成的合成内容的标签。国家网信办等10部门今年发布的《互联网军事信息传播管理办法》规定，互联网军事信息服务提供者和用户使用深度合成、生成式人工智能等新技术新应用，不得损害人民军队形象。王高峰等法律专家建议，人工智能开发商应在算法设计方面接受更严格的合规审查，相关部门应规范警察、军队标识等机密信息的使用。我们在您的指导下进行严格的管理和审查。平台应严格执行《人工智能生成合成内容标注办法》丁洪建议，加快相关立法进程，加强刑事司法协调。有关部门应尽快明确涉及军警的人工智能图像的使用范围、责任分工和法律影响，特别是故意诽谤军人和警察形象的行为。 必须依法严肃查处有关人员和利用机会进行诈骗活动，形成法律威慑。人工智能工具和内容平台的开发者必须对可能影响国家安全、造成社会危害的行为承担共同责任。马国建呼吁公众提高公众对军人、警察等职业形象重要性的认识，普及相关知识，引导公众自觉抵制、举报虚假内容和非法应用。 AI生成的合成内容识别方式加强广告宣传，降低公众被误导或欺骗的风险。