当前位置: 首页 > 体育 > 电竞

用AI大模型判断擦边(bian):抖音狙击新型低俗诱导(dao)打赏8.8万人(ren)次被处(chu)罚

2025-11-14 15:10:13
来源:
电竞资讯11月14日(ri)称 抖音集团今日发文,在直播业态发展背景下,直播间(jian)不(bu)仅成为主播展示自我的舞台,也创造了大量新兴岗位,成为(wei)带(dai)动灵活(huo)就业的“蓄水池”。随着各平台治理动作的专业化、常(chang)态化,直播(bo)发(fa)展(zhan)初期的乱象问题多数得到了有效(xiao)遏制,行业已进入优质、合规的(de)发展(zhan)阶段。与此同时,部分违规主播、作弊团(tuan)伙及黑灰(hui)产也开(kai)始变更(geng)作弊手段,与平台打(da)起“游击战”,以(yi)更隐蔽的(de)方式逃避处罚。

2025 年以来,8.8 万人次在(zai)抖音直播因(yin)低俗诱导(dao)打赏(shang)被处罚,11.7 万个账号(hao)因色情违规被(bei)无限期回收直播权(quan)限。

抖音集团表示,“低俗(su)擦(ca)边”违规一直存(cun)在(zai)变(bian)体多、界定难等问题,自 2024 年打着“语音助眠”旗号(hao)进行低俗直播(bo)形式冒头,此类“软色情”违规成为各平台违规治理的重点。在严格治理下,这类违规团伙开(kai)始利用剧(ju)情演绎、弹幕(mu)互动等新形式进行低(di)俗内容输出,或采用特定拍摄手法、场景(jing)搭建等方式,渲染烘(hong)托低俗不良(liang)氛围,极大增加了监管或(huo)治(zhi)理(li)难度。

相较于过往(wang)在直播(bo)间闪(shan)现二维码导流至站外淫秽色情网站,当下的色情黑产也同样有(you)了更隐(yin)蔽的链路。他们通过在各(ge)种资料区、图片、主播着(zhe)装上展现网址或关键词等信息以导(dao)流站外,或在导流中跨多个平(ping)台中转,甚至篡改 IP 地(di)址,使(shi)用“黑话”沟通,规避平台审核。

对此,抖音直播持续迭代治理(li)策略和手段(duan)。针对较隐(yin)晦的软色(se)情导(dao)流场景,平台启用(yong)了多模态(tai)大模型,综合判断直播间画面、声音、口(kou)播内容和用户举报等,分辨直播间是(shi)否有擦边(bian)风险(xian),实现风险快速拦截。另一方面,平台(tai)不断完善举报链路,在 30 分钟内(nei)处置举报风险,并结合用户反馈更新大模型样本,达到长(zhang)效化治理的效(xiao)果。

针对(dui)色情导流黑产,平台搭建(jian)了“事前黑产(chan)防范,事中隐晦内容识别断播封禁,事后防止回流”的治理链路。针对高危场景,前置风险识(shi)别并阻(zu)断;在风险(xian)发生时,通过内容大模型、异常行为检测等能力,做(zuo)到实时(shi)断播。针对较隐晦(hui)的导流线下场景,则主要通过用户举证做(zuo)好风险主播的防回流策略,并将涉(she)嫌违法(fa)的(de)线索上报相关主管(guan)部门(men)。

2025 年以来,抖音共封禁“软色情”直播间 66 万个,无限期回收 11.7 万个涉色(se)情违规账号的直播权限。

平台对于主播的管理核(he)心,则是“长效观察、有效识别”。平台在针对直(zhi)播间违规内容做单次处罚的基础上,结合主播日常直播行为来增(zeng)减其账号健康分,通过主播的长期表现进(jin)行评判,多次违规仍(reng)不整改的主播,最终将(jiang)被永久回收直播权限。

对于(yu)利用(yong)低俗直播(bo)刺激、诱导打赏的违规(gui)主播(bo),平台则(ze)在健康分基础上,重点加(jia)强对诱导消费类违规主(zhu)播的“经济(ji)”管理力度,对(dui)违规(gui)场次(ci)进行资金冻结、提现考核、延迟结算等。

2025 年(nian)至今,用(yong)户对诱导打赏的举报率同比减少 74%;超(chao)过 40 万主(zhu)播因违规诱导打赏被扣除(chu)健(jian)康分;共(gong)有 8.8 万人次因涉低俗直(zhi)播诱导打赏(shang)被处(chu)以限(xian)制违规场次收益提现、关闭礼物(wu)收入功能、禁止使用 PK 功(gong)能等处(chu)罚,五千个账号被无限期回(hui)收直播权限(xian)。

此类精细化手(shou)段,还运用在了团播的治理上。近两年来,以互动性(xing)强、观赏度(du)高为特点的团(tuan)播逐(zhu)渐(jian)兴起,成为用户喜(xi)闻乐见的直播(bo)形式。然而,一些账号却借(jie)团播(bo)玩起“翻牌选妃(fei)”“蒙面摸人”等低俗花样,或使用“跪爬”“嘶喊哭泣”等引人不适(shi)方式,进行拉票(piao)或诱导用户打赏互动。

今年 7 月 30 日,抖音升级《抖音直(zhi)播团播内容(rong)管(guan)理规范》,并发布《抖音直播团播机构管(guan)理规范》。对存在违规行为的团播账号,平台将根据违规程度实施阶梯式处罚,对旗下违规主播占比高,或存在侵犯(fan)主播合法(fa)权益等不当经(jing)营行为的公会,平台(tai)将(jiang)予以扣减公会健(jian)康分、限制经营能力等处置,情(qing)节严重的,平台将终(zhong)止合作关系。今年以来,抖音直播因各类(lei)低俗诱导打赏(shang),共清退公会 113 家(jia)。

抖音集团还表(biao)示,不管是何种直播形式,若涉嫌违法,平台均将第一时间(jian)上报相关部门并配合线(xian)下打(da)击。今(jin)年 1 月,抖音直播(bo)在日常治理中发现,有(you)黑产批量购(gou)买、注册抖音账号,将账号头像(xiang)修改为(wei)隐晦的第三方平台联系(xi)方式,引(yin)导用户下载涉色情违法类 App,在 App 内进行色情违(wei)法活(huo)动。平台(tai)立即无限期回收相关账号(hao)权限并上报(bao)线索,最终 4 名犯罪嫌疑人被(bei)依(yi)法刑事拘留。

2025 年初(chu),平台发(fa)现 2 个以承诺线(xian)下卖淫为由诱导用户消费打赏的团伙,利用(yong)短视频发布美女视频和虚假定位,诱(you)导不同城市的用户进(jin)入直播间;再通过隐晦文案(an)、背景、签名等多个场(chang)景发布隐晦交友信息,引导用户站外添加其他社交软件。抖音直播第一时间对相关账号进行封禁,并将线索上报给当地(di)公安机关。截至目前,警(jing)方共抓(zhua)捕 21 人,其中 16 人被刑(xing)事拘留。

抖音集团公告(gao),2025 年以(yi)来,已有 68 名违法犯罪嫌疑人因(yin)传播淫秽色情被刑(xing)拘。抖音直播相关负(fu)责人表(biao)示,平台将持续(xu)加强技术投(tou)入与(yu)治理力度,打击低俗直播、引诱打赏行为,致力于营(ying)造一个健康清朗的网络直播生态。

最新(xin)资讯
最新录像
最新集锦
热词推荐
PqVbW