鸿儒私塾纪念馆 取消中小学 开放克隆人
2023年10月1日星期日
🇨🇳 🇹🇼 🇭🇰
MIT、哥大等发布全新「密度链」:别用GPT-4搞摘要新智元 |2023-10-01
声明: 本消息或因风格和篇幅原因进行过编辑,但消息未经核实,也不代表我们的立场、观点和思想,且不可理解为是我们的建议。[ 使用条款 ]
赞助信息
00:00
00:00
用密度链提示逐步改善GPT-4摘要中的实体密度,只需三步即可获得「人类级摘要」!
ChatGPT发布后,文本生成技术得到飞速发展,大量NLP任务都面临被完全攻克的窘境,尤其是对于缺乏标准答案的「文本摘要」任务来说更是如此。
但如何在摘要中包含「合理的信息量」仍然十分困难:一个好的摘要应该是详细的,以实体为中心的,而非实体密集且难以理解。
为了更好地理解信息量和可理解性之间的权衡,麻省理工学院、哥伦比亚大学等机构的研究人员提出了一个全新的「密度链」(Chain of Dense)提示,可以在不增加摘要文本长度的前提下,对GPT-4生成的实体稀疏(entity-sparse)摘要进行迭代优化,逐步添加缺失的重要实体。
点
击
图
片
看
原
图
论文链接:
https://arxiv.org/pdf/2309.04269.pdf
开源数据:
https://huggingface.co/datasets/griffin/chain_of_density
从实验结果来看,用CoD生成的摘要比由普通提示生成的GPT-4摘要更抽象(abstractive),表现出更多的融合性(fusion)以及更少的lead bias
点
击
图
片
看
原
图
在对100篇CNN DailyMail文章进行人类偏好研究后可以发现,人类也更倾向于选择实体更密集的摘要结果,与人工编写摘要的实体密度相近。
赞助信息
您的观点至关重要点击朱笔,直抒胸臆
0 0
ⓘ
ⓘ
ⓘ
ⓘ
ⓘ
ⓘ
ⓘ
Pixfuture: super cool 15
© 2023 八阕之地™ by Towards Digital Group反馈意见 | 隐私政策 | 使用条款
123456
订阅:
博文评论 (Atom)
没有评论:
发表评论