网信办：整治利用生成式AI制作发布涉未成年人有害信息行为

中央网信办发布《关于开展“清朗·2023年暑期未成年人网络环境整治”专项行动的通知》称，即日起，开展为期2个月的“清朗·2023年暑期未成年人网络环境整治”专项行动。

通过开展专项行动，集中整治网上涉未成年人突出问题，全面压缩有害信息隐形变异的生存空间，坚决遏制侵害未成年人权益的违法行为，进一步提升学习类APP、儿童智能设备等专属产品服务信息内容安全标准，有效解决网络沉迷问题，营造有利于未成年人健康安全成长的网络环境。

针对未成年人用户数量较大、对未成年人具有显著影响的网站平台以及儿童智能设备，从深从细全面整治，从严从重处置处罚，持续净化网络生态。重点聚焦以下7方面问题:

1.有害内容隐形变异问题。一是以谐音词、变体字、表情符号等形式传播色情低俗、赌博迷信等内容;二是利用视频剪辑、影视二创、动漫改编等方式集中展示涉未成年人血腥暴力等画面;三是通过外链、浮窗、二维码、账号信息等进行色情引流;四是儿童智能设备自带及第三方APP，语音、文字搜索结果中存在涉黄涉暴内容。

2.网络欺凌问题。一是使用网络烂梗对未成年人进行侮辱谩骂;二是对未成年人进行“人肉搜索”，恶意传播泄露未成年人隐私的欺凌视频;三是通过恶意P图、编造谣言等，诋毁未成年人。

3.隔空猥亵问题。一是借“个性交友”“童星招募”“有偿收图”等名义，诱骗或胁迫未成年人进行在线裸聊、作出淫秽动作、提供裸照视频等;二是通过群组、私信等渠道向未成年人发送色情图片、淫秽语言;三是在涉未成年人账号、文章页面发布低俗色情跟帖评论，诱导不良交友或实施性引诱。

4.网络诈骗问题。一是以“内部人员”“含泪转让”等名义向未成年人虚假售卖演唱会门票，实施网络诈骗;二是以免费游戏装备、投票返现、盲盒抽取、粉丝抽奖等名义诱导未成年人加入群聊，诱骗转账汇款;三是诱骗未成年人提供社交账号、支付密码等用于网络诈骗活动。

5.不良内容问题。一是发布校园主题剧情演绎类视频，以偏激方式丑化学校形象，鼓噪师生矛盾，美化顶撞老师等行为;二是渲染家长“压迫”“压榨”孩子，恶意编造虚假家庭矛盾等内容;三是诱导吸烟、饮酒、纹身、旷课等不良行为;四是通过虚假摆拍鼓吹“霸凌风”“家暴妆”等畸形审美，传播以强凌弱、以暴制暴等不良内容。

6.网络沉迷问题。一是诱导未成年人长时间观看直播短视频;二是利用算法向未成年人集中推送诱导沉迷内容，形成信息茧房;三是通过聊天交友、虚拟空间装饰等娱乐功能诱导未成年人消费;四是向未成年人违规提供网络游戏账号租售服务，教授未成年人破解防沉迷系统、绕过青少年模式。

7.新技术新应用风险问题。一是利用“AI换脸”“AI绘图”“AI一键脱衣”等技术生成涉未成年人低俗色情图片视频;二是利用所谓“阅后即焚”的密聊软件诱骗未成年人提供个人信息，诱导实施违法行为;三是利用生成式人工智能技术制作发布涉未成年人有害信息。