2025/03/18 17:56:14 1,298次浏览

基于大模型在实际应用中的快速普及,人们逐渐发现这些模型可能会生成有害、带有偏见或不准确的内容。用户可能会要求模型生成带有仇恨、误导或暴力的内容,甚至通过对模型的“越狱”攻击(即通过特定输入诱导模型生成不良内容)来迫使其输出有害信息。这种内容的传播可能对个人和社会带来严重的后果,因此,开发一种稳健的有害内容识别和分类模型成为一种紧迫需求。

传统的有害内容分类方法往往依赖于单一的标注者来为每个数据实例提供标签,这样的单一视角难以反映人类多样化的判断标准,导致分类模型对不同语境的适应性差。此外,在仅使用经验风险最小化方法训练的模型中,存在虚假特征干扰的问题,即模型可能会利用一些表面特征来预测有害内容,而非识别其深层次的因果关系。这会导致在数据分布发生变化时模型性能严重下降。例如,某些用语可能在训练集中表现为非有害,而在实际情境下却可能包含有害信息。

为了解决上述问题,北京邮电大学本科校友、美国普渡大学硕士毕业生、美国西北大学博士生程泽磊和所在团队提出了一种新颖的双层优化框架,通过引入“软标签”技术,将多标注者的标注信息整合进模型训练中,并结合群体分布稳健优化技术来优化模型训练时的损失函数,以增强模型对不确定分布风险的鲁棒性。这个方法的创新点在于根据输入样本来动态调整标注者的标注信息在“软标签”中的权重,使得模型在处理不同分组数据时表现出稳健性。此外,团队还在理论上证明了该双层优化算法的收敛性,从而保证了模型在处理复杂语境和分布变化时的稳健性和高效性。

图 | 程泽磊(来源:程泽磊)

审稿人指出该方法在分类准确性和稳健性方面均优于现有方法。具体而言,模型在平均准确率和最差分组准确率(即模型在最具挑战性的情境下的表现)上均超越了基线方法。此外,审稿人还强调该研究通过整合多标注者的视角,在多样化语境下实现了更高效的有害内容分类,这种方法有助于提升人工智能模型在不同文化和语言背景下的适应性。这些优势让该方法不仅在技术上领先,也为构建更加公平的人工智能系统奠定了基础。

该成果主要应用于增强大模型的内容安全性,具体应用包括:

内容安全监管:社交媒体、评论平台和其他在线内容平台可以应用此类稳健的有害内容检测系统,从而在自动检测和屏蔽有害内容时提高准确性,避免误伤非有害内容。

人工智能客服系统:企业的自动客服系统可以引入该技术,实时监测并过滤潜在有害信息,防止用户遭受恶意信息侵害的同时,提升用户体验。

教育和咨询服务:在教育和在线学习平台中,该技术可以帮助识别和过滤潜在有害或误导性内容,确保教育环境的健康和安全。

政府和政策监督:此技术能够用于政府监管平台,以实时监测和分析公众舆论,尤其是涉及仇恨言论、虚假信息和恐怖威胁等内容,从而更好地应对内容安全问题。

而本次研究主要经历了以下几个阶段:

研究团队基于第三方安全公司的大模型有害内容数据,首先识别出大模型在有害内容分类领域的不足,包括标注数据的多样性不足、模型对分布变化的敏感性等问题,并对已有的稳健优化技术进行调研。

在调研基础上,团队提出了基于双层优化的软标签整合方法,旨在增强分类模型的分布鲁棒性,并结合群体分布稳健优化来调整模型在不同分组间的权重,以优化其在不确定环境下的表现。

团队使用PyTorch框架开发了实验模型,并在第三方提供的数据集和公开的HateXplain数据集上验证了其效果。

通过多次实验,团队进一步对模型参数进行调整,确保其在不同情境下的稳健性,并通过对比分析展示了该方法在处理分布变化和多标注数据方面的优越性。

在实验验证后,团队证明了算法的收敛性,并将研究结果整理成论文,被机器学习顶级会议NeurIPS’2024接收。

在研究过程中,团队对多标注者的数据整合方式进行了多次尝试,发现了许多意料之外的现象。例如,人类标注者对于一些职场道德有关的回复不是很敏感,另外受到文化背景的影响,对于特定的俚语用词不是很敏感。大模型(如GPT-4 Turbo、Claude-2等)对于不同文化背景的内容的标注表现出较强的分类能力,但在对逻辑较为复杂的有害内容判定上不如人类标注者。这些现象引发了团队对不同标注者之间权重分配策略的深入思考,最终启发了研究人员提出了基于群体分布稳健优化的方法。

团队计划进一步拓展该研究的应用场景,具体包括以下几个方向:

多模态内容检测:研究团队计划将该方法扩展到多模态内容上,以处理不仅包含文本,还包含图片、视频等多种媒介的有害内容。这一领域的挑战在于不同媒介间的信息交互复杂性,因此需要在算法上进行创新。

模型公平性优化:团队将致力于进一步优化模型的公平性,通过定期检测和缓解潜在的标注偏见,以确保系统在多样化背景下的公正性和准确性。这包括定期审查标注数据,更新模型参数等措施。

其他安全应用扩展:该框架具有通用性,可用于其他安全相关任务,如通过人类反馈调整大模型对特定响应的反馈评分,从而提高模型在应对不确定性情境下的表现。

ag凯发_凯发一触即发

西北大学提出双层优化框架,增强模型对不确定分布风险的鲁棒性
西北大学提出双层优化框架,增强模型对不确定分布风险的鲁棒性

古法金饰销量随着金价一路暴涨

「活动」sfFjdwYpxFst4ZS2

201.71MB
版本V3.26.38
下载美女裸体❌开腿真人安装你想要的应用 更方便 更快捷 发现更多
喜欢 51%好评(9人)
评论 16
西北大学提出双层优化框架,增强模型对不确定分布风险的鲁棒性截图0 西北大学提出双层优化框架,增强模型对不确定分布风险的鲁棒性截图1 西北大学提出双层优化框架,增强模型对不确定分布风险的鲁棒性截图2 西北大学提出双层优化框架,增强模型对不确定分布风险的鲁棒性截图3 西北大学提出双层优化框架,增强模型对不确定分布风险的鲁棒性截图4
详细信息
  • 软件大小: 1.70MB
  • 最后更新: 2025/03/18 17:56:14
  • 最新版本: V6.61.7
  • 文件格式: apk
  • 应用分类:ios-Android 动漫❌❌爆乳❌❌3d游戏
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 5.54以上
应用介绍
一,丝袜❌美女扒开内衣国产漫画,国产精品㊙️果冻传媒潘甜甜换脸
二,国产91♥️长靴在线播放00,女女les✅免费视频网站
三,无尽❌狂揉胸❌巨乳视频,jennie被爆❌自慰流水日本
四,纲手被❌吸乳脱内内小说,美女全身裸露㊙️无遮挡色哟哟
五,Free❌❌❌日本viodeo,日本㊙️奶头大屁股
六,克洛琳德裸体被❌羞羞漫画,扒掉乳罩㊙️虐胸打胸吸奶,美女裸露放屁㊙️网站黑桃TV
七,3D裸体美女被❌到高潮视频
【联系ag凯发_凯发一触即发】
客服热线:134-2881-646
加载更多
版本更新
V7.5.17
18🈲🍆🍆🍆🍆网站漫画
  • 韩漫㊙️未删减男同

    足控吃脚❌Xx

    成人扒开🍑41看片

    8.76MB
    103好评

    不知火舞裸体㊙️无遮挡

  • 野原美伢被强❌在线观看

    免费❤成人黄动漫视频

    脱裤子❌打屁屁实游

    6.09MB
    185好评

    女生❌到爽

  • 18🈲A片视频日本动漫

    同桌脱👙让我玩

    肉肉写🉐很细致

    13.78MB
    310好评

    巨胸动漫美女❌3d

  • 不用收费涩涩18🈲️网站入口

    爆❌Av流水羞羞漫画

    足控吃脚❌Xx免费

    53.13MB
    270好评

    美女全身裸露被❌的嗷嗷大叫网站

  • 🔯黄🔯色情视🔯频小便

    麻豆国产🍆茄子在线

    全彩成人18🈲H视频入口

    71.98MB
    700好评

    XXNX16👙中国免费,榴莲

  • 大美女🐻100%露出奶头免费视频

    米塔被❌脱脱内内动漫

    免费看大雄把静香强❌禁

    83.38MB
    331好评

    女学生露出🐔🐔给别人摸电影

  • 91丨九色熟女❤️在线

    裸体八神重子被❌吸乳羞羞

    ❤UOCO2❤福利姬风险

    23.19MB
    109好评

    雏田被鸣人❌❌拔萝卜的游戏

  • 老板脱👙让员工摸🐻

    ㊙️韩H漫画免费羞羞电影

    芒果视频♥成人app

    50.31MB
    925好评

    玖辛奈被扒开腿坐做❌在线看

  • 羞辱调教扒开🍑女仆

    漫画被❌到爽🔞

    动漫女人裸体㊙️照的照片

    83.16MB
    566好评

    免费yy6029高清影院理❤

  • 杨幂裸乳被爆❌白浆的视频

    成人扒开🍑伸进🍌❌91男同

    巨乳❌拔萝卜❌自慰游戏

    83.93MB
    755好评

    男男gAy🔞www.网站

  • 动漫美女裸体㊙️无

    国产做受❌❌❌直播

    貂蝉被❌到爽羞羞漫画网站

    32.09MB
    622好评

    19⭕⭕⭕⭕XXXX老头

  • 男人扒开女人㊙️腿桶爽

    116美女写真禁18❤️

    永久免费🔞🔞🔞未满网网站

    26.50MB
    270好评

    动漫美女露小奶头❌网站

  • 美女隐私㊙️露屁股

    把👙脱了给我揉🐻视频

    初音未来被❌到爽

    65.68MB
    748好评

    古力娜扎被❌视频无码网站

  • 女被❌c🐻黄扒衣服好爽免费

    国产做受❌❌❌高潮软件

    少萝裸体🔞🔞🔞网在线视频

    54.95MB
    758好评

    银狼扒开腿狂❌黄漫

  • 原神❌18同人网站

    白丝校花🌸扒开自慰网站

    欧洛伦被❌到爽🔞高潮痉挛动漫

    57.46MB
    684好评

    明日香被扒开腿猛❌ 网站视频

  • 女帝汉库克被❌❌

    91♥️丝袜一区二区

    不知火舞被扒开腿做❌同人漫

    24.25MB
    357好评

    白丝少萝❌疯狂喷水自慰

  • 神里绫华疯狂❌自慰喷水爽

    18🈲大尺度未删减电视剧无打码

    高清乱码🔞❌♋破解版网站

    13.72MB
    314好评

    AV➕无码➕高潮➕绿帽社

  • 做受❌❌❌高潮AAAA

    校花露出🐻强迫我们揉作文

    雷电将军被❌18禁ADN31D

    84.06MB
    212好评

    男生㊙️jiji高清

  • 火影忍者鸣人❌井野

    唐三❌❌小舞流出来

    尼亚州AZ㊙️一区二区三

    45.19MB
    730好评

    用🐤蹭女生🐻

  • 男生裸体❌开腿玩小玩具

    女性隐私㊙️黄ww网站

    扒开美女❌❌ 动漫视频

    10.30MB
    180好评

    无尽❌大胸❌触手樱花

  • 中国美女🔞无遮挡

    动漫芙裸体❌开腿网站

    男的下面越大🌿女的越爽动漫

    44.20MB
    363好评

    国产做❌❌❌高潮A片

  • ❤️禁漫画Bl大全网站

    崩铁涩涩同人❌18禁

    杨颖张开腿被❌视频视频

    91.83MB
    209好评

    Gαy♂yαoi动漫男男

  • 直男体育生打✈️高清

    furry❤♂R18

    动漫❌吸乳羞免费网站中国字幕

    30.40MB
    901好评

    91在线无码精品㊙️入口景甜

  • 99国产精品欲AV🍑🍒软件

    日本动漫❌❌爆乳

    ❌❌❌免费裸体视频网站蘑菇视频

    30.13MB
    542好评

    免费看女人隐私❌视频

  • 崩坏白露被❌狂揉大胸

    纲手被爆❌自慰爽羞羞游戏

    妲己被狂❌无码流出小说

    29.80MB
    129好评

    原神纳西妲被❌黄漫视频

  • 免费➕无码➕国产在瑜伽

    91在线无码精品㊙️3D

    云璃被扒开腿坐做❌同人

    70.11MB
    454好评

    国产➕高潮➕白浆➕喷集合

  • 男人扒拉女人的㊙️桶到爽女爆❌喷水❌洗澡❌视频软件 title="免费无遮挡🔞视频网站用片海" class="0v5366j9r7414 app-list-img" src="https://t11.baidu.com/it/u=1040017057,165456434&fm=30&app=106&f=JPEG?w=312&h=208&s=15B07D95426079116A1494FD03009032"">

    日本变态挠脚心㊙️免费

    13禁🍆🍑🔞❌❌❌有风险

  • 91丨国产丨白浆㊙️女朋友裸体❌开腿羞羞免费看片 title="18🈲🍆🍑无套直日本" class="0v5366j9r7414 app-list-img" src="https://t10.baidu.com/it/u=3070224572,165461829&fm=30&app=106&f=JPEG?w=312&h=208&s=C6000AAC4838BAC8463F54AC0300A00B"">

    小🐔🐔伸进🈲🔞🔞措奇

    男生撕开美女👙👙暍奶碧蓝

  • 把小🐥🐥放进女人的🍑视频18🈲🈲🈲🈲片 title="无尽❌裸体❌屁股❌欧美" class="0v5366j9r7414 app-list-img" src="https://t12.baidu.com/it/u=1041590673,165100299&fm=30&app=106&f=JPEG?w=312&h=208&s=D7383EC642E1D8EA0A87937F0300C078"">

    爱妻艺❌❌❌

    卡戴珊裸体㊙️照片

{{.转码Keywords}} 类似软件

猜你喜欢

相关攻略
包含 饿了么 的应用集
包含 饿了么 的应用集
评论
  • 女人疯狂❌喷水自慰爽软件 8天前
    火影涩涩同人3D❌18禁
  • 无限流无遮挡🔞视频网站 0天前
    美女COS❌爆乳❌无遮挡
  • 精品爆乳❌二区调教网站 3天前
    巨胸动漫被爆❌挤奶
  • 仙踪林Xx乂❌HD女 1天前
    国外美女撒尿❌❌❌荒野求生
  • 开襟爆乳被乱❌ 9天前
    国产➕麻豆➕张老师
  • Hk416被❌吸乳脱内内 1天前
    美女💯%无挡挡
  • 3D黄漫❌18禁漫画视频 9天前
    亚洲㊙️AV无码一区二区两年半
  • 裸体裸乳被🍑韩国无码视频 6天前
    🔞男生🍆❌男生🍑里无套
  • 班长张开腿让我❌了一节课软件 7天前
    扒开美女❌狂揉❌下部,视频
  • 花木兰同人❌黄漫免费 6天前
    99在线无码精品㊙️入口亚洲