当前位置:YY分类目录 » 站长资讯 » 资讯文章 » 站长新闻 » 文章详细 订阅RssFeed

Table-GPT:针对多样化表格任务的表格调优GPT 培训AI更擅长处理表格数据

来源:网络 浏览:25次 时间:2023-10-26

10月17日 消息:表格-GPT比开箱即用的模型更擅长处理表格!表格在文件、网页、电子表格、数据库等各种文档中随处可见。它们以结构化、关系方式呈现信息,通常比自由文本更容易让人类解析和分析,但当前AI系统对表格的理解和推理能力有限。

image.png

论文地址:https://arxiv.org/pdf/2310.09263.pdf

研究表明,当前的语言模型如GPT-3对于表格的理解能力不足,因为它们主要是根据自由文本数据进行培训的,而表格数据的结构和关联性与文本不同。

为了改进AI在表格任务上的性能,研究人员提出了表格调整技术。这种技术的核心思想是继续在合成的表格任务数据上对标准语言模型进行预训练。这包括两个主要阶段:任务合成和数据增强。通过任务合成,研究人员生成了多样化的任务-表格数据集,包括各种表格任务类型。数据增强进一步提高了培训数据的多样性。

将这些多样化的任务-表格数据输入到预训练过程中,生成了名为Table-GPT的增强模型。实验证明,Table-GPT在各种表格任务中表现出更好的性能,包括理解、推理和洞察。

此外,Table-GPT在处理新任务和不同测试集时也表现出色。这一技术为AI系统提供了更强的表格理解和推理能力,有望在各个领域提高数据处理和分析效率。