2025年国家公务员考试申论热点：防止生成式人工智能成为诈骗“新武器

热点背景

生成式人工智能技术基于迁移学习和人工神经网络，使用深度学习模型，传输和处理现有文本、图像和音视频信息，自动创建出新内容、新方法和新方案。随着生成式人工智能技术的发展，诈骗形式从线下诈骗、电话诈骗扩展到网络诈骗。常见的网络诈骗包括以下几种形式：网络购物诈骗，诈骗者使用虚假网站、虚假商品和虚假促销信息，诱骗消费者购买商品，通过虚假支付链接欺诈消费者；网络投资诈骗，诈骗者以高收益低风险为诱惑，通过虚假网站参与虚拟货币投资、股票期货等投资活动，骗取消费者钱财；网络视频诈骗，诈骗者利用提前录制的真人视频和盗录的视频影像，合成为欺诈视频，向视频被盗录者的好友借钱，开展诈骗行为。

防止生成式人工智能成为诈骗新工具是一项系统工程，存在三大监控治理难点。一是全链路信息监管难。诈骗者通过短信、电话、互联网等通信渠道，与受害者联系，基于获取的个人信息和事前准备好的诈骗脚本，骗取受害者的信任，诱导受害者使用银行转账、网上支付、手机支付等方式向指定账户转款，并快速完成资金转移，获取非法经济利益。二是个人信息保护难。诈骗分子通过非法渠道窃取或购买个人信息，包括身份证信息、电话号码、家庭住址、网络账号、银行卡账号等，精准获取社会上各行各业人员的个人信息，为实施诈骗构建个人信息基础数据库。三是智能生成产品识别破解难。诈骗分子基于开放数据流和获取的个人信息，使用深度合成技术，篡改图片或者视频信息，对原始信息进行深度伪造，获得人工智能生成产品，通过“换脸”“换声”等方式实施违法犯罪行为。因此，要坚持目标导向和问题导向，在全链路信息监管、个人信息保护和智能生成品鉴别技术上深耕细作，建立健全政策法规，切实将发展与安全相结合，持续推动科技创新，不断增强防诈能力。