据证券日报，中国互联网协会5月24日发布公告称，伴随着深度合成技术的开放开源，深度合成产品和服务逐渐增多，利用“AI换脸”“AI换声”等虚假音视频进行诈骗、诽谤的违法行为屡见不鲜。广大公众需提高警惕，加强防范。事实上，近段时间AI行业发展乱象引发关注，如何保障人工智能的健康、可持续发展正被业界广泛探讨。受访专家普遍认为，“AI换脸”技术的滥用给金融机构敲响了警钟，其复杂性、隐蔽性、突发性对机构的科技识别及运用提出了更高的要求。