语义解析方法、装置、电子设备及存储介质
技术领域
本公开涉及人工智能
技术领域
,特别涉及自然语言处理和深度学习等领域的语义解析方法、装置、电子设备及存储介质。背景技术
语义解析(Text-to-SQL)是语言理解的核心技术,旨在自动地将自然语言问题转换成可与数据库交互的结构化查询语言(SQL,Structured Query Language)查询语句。
其中,可基于输入的问题和对应的数据库,生成可执行的SQL查询语句。目前,在生成SQL查询语句时,不同的SQL从句参考的信息是相同的,从而导致数据库中与输入的问题匹配度高的元素会被多个文法大概率选中,而应该被选中的元素却未被选中,进而降低了生成的SQL查询语句的准确性等。
发明内容
本公开提供了语义解析方法、装置、电子设备及存储介质。
一种语义解析方法,包括:
对输入的问题与对应的数据库进行编码;
根据编码结果生成结构化查询语言SQL查询语句,其中,针对任一SQL从句,分别进行以下处理:
确定出所述问题中与所述SQL从句对应的问题片段;
根据所述问题片段生成所述SQL从句。
一种语义解析装置,包括:编码模块以及生成模块;
所述编码模块,用于对输入的问题与对应的数据库进行编码;
所述生成模块,用于根据编码结果生成结构化查询语言SQL查询语句,其中,针对任一SQL从句,分别进行以下处理:确定出所述问题中与所述SQL从句对应的问题片段;根据所述问题片段生成所述SQL从句。
一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如以上所述的方法。
一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使计算机执行如以上所述的方法。
一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现如以上所述的方法。
上述公开中的一个实施例具有如下优点或有益效果:在生成SQL查询语句时,不同的SQL从句分别选择对应的问题片段进行参考,从而克服了现有技术中存在的问题,提升了生成的SQL查询语句的准确性等。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1为本公开所述语义解析方法实施例的流程图;
图2为本公开所述某一SQL查询语句对应的树的示意图;
图3为本公开所述数据库的示意图;
图4为本公开所述语义解析方法的整体实现过程示意图;
图5为本公开所述语义解析装置实施例500的组成结构示意图;
图6示出了可以用来实施本公开的实施例的示例电子设备600的示意性框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
另外,应理解,本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。
图1为本公开所述语义解析方法实施例的流程图。如图1所示,包括以下具体实现方式。
在步骤101中,对输入的问题与对应的数据库进行编码。
在步骤102中,根据编码结果生成SQL查询语句,其中,针对任一SQL从句,分别按照步骤103-步骤104所示方式进行处理。
在步骤103中,确定出问题中与该SQL从句对应的问题片段。
在步骤104中,根据确定出的问题片段生成该SQL从句。
可以看出,上述方法实施例中提出了一种基于片段对齐思想的语义解析方式,在生成SQL查询语句时,不同的SQL从句可分别选择对应的问题片段进行参考,从而克服了现有技术中存在的问题,提高了生成的SQL查询语句的准确性等。
生成的SQL查询语句通常为一个文法序列,所述文法序列可以表示为一棵树,树的深度优先遍历得到的序列就是所述文法序列。
图2为本公开所述某一SQL查询语句对应的树的示意图,如图2所示,假设SQL查询语句为:珠海的人口密度(SELECT population/area(km2)FROM T1 WHERE name=‘珠海’),其中的T1表示数据库中的表1,即关于中国城市(China Cities)的表格。
图3为本公开所述数据库的示意图。如图3所示,除上述表1外,数据库中还可进一步包括表2(T2)等,即数据库中可包括多个不同的表格。
针对输入的问题,可首先将其与对应的数据库进行编码。如可将输入的问题与对应的数据库拼接在一起,进行编码。
如何进行编码不作限制,比如,可采用长短期记忆网络(LSTM,Long Short-TermMemory)模型或基于转换器(transformer)框架的模型来进行所述编码。其中,基于transformer框架的模型可以是基于预训练模型进行微调(fine-tuning)后得到的模型。所述预训练模型可为任意常用的预训练模型。
进一步地,可根据编码结果生成SQL查询语句。其中,针对任一SQL从句,可分别确定出输入的问题中与该SQL从句对应的问题片段,进而可根据确定出的问题片段生成该SQL从句。
为此,本公开的一个实施例中,可对输入的问题进行切分,从而得到至少两个问题片段。每个问题片段通常都具有比较完整的语义。
另外,不同的问题片段中可以有部分内容发生重复。比如,输入的问题为:给出价格高于2006年生产的任何葡萄酒的葡萄酒名称(Give the names of wines with pricesabove any wine produced in 2006),其中可包括以下问题片段:给出葡萄酒名称(Givethe names of wines)、价格高于任何葡萄酒的葡萄酒(wines with prices above anywine)以及2006年生产的葡萄酒(wine produced in 2006)。
相应地,针对任一SQL从句,当需要确定出输入的问题中与该SQL从句对应的问题片段时,可从所述至少两个问题片段中选出该SQL从句对应的问题片段。
如何对输入的问题进行切分以及如何选出SQL从句对应的问题片段不作限制。比如,作为一种可能的实现方式,可预先进行模型的训练,使得模型学习到如何对输入的问题进行切分以及如何选出SQL从句对应的问题片段。这样,在训练完成后,针对任一输入的问题,模型即可根据学习到的能力对其进行切分,并可选出不同的SQL从句分别对应的问题片段。
在对模型进行训练时,可以人工对输入的问题进行切分,以得到若干个问题片段,或者,也可以采用自动切分加人工修正的方式,或者,还可以完全地让模型自己去学习如何进行切分等。
对于任一SQL从句来说,其对应的问题片段即为与该SQL从句最为对齐的问题片段。
每个SQL从句分别对应一个子树,如图2所示,其中包括选择(Select)和过滤(Where)等SQL从句,可以看出,每个SQL从句分别对应一个子树。
本公开的一个实施例中,不同的SQL从句可对应不同的问题片段。假设包括共3个问题片段和3个SQL从句,为便于表述,分别称为问题片段1、问题片段2和问题片段3,以及SQL从句1、SQL从句2和SQL从句3,假设SQL从句1对应的问题片段为问题片段1,那么SQL从句2对应的问题片段将会是问题片段2或问题片段3,假设为问题片段3,那么SQL从句3对应的问题片段则为问题片段2。
也就是说,一个问题片段被选择过,则不会被再次选择,从而保证输入的问题中的各问题片段都能被使用过,避免了丢失问题中的信息,进而提升了后续生成的SQL查询语句的准确性等。
针对任一SQL从句,在确定出其对应的问题片段后,可根据对应的问题片段生成该SQL从句。
本公开的一个实施例中,针对任一SQL从句,可将该SQL从句对应的问题片段作为主要参考对象,将输入的问题中的其它问题片段作为辅助参考对象,结合主要参考对象以及辅助参考对象生成该SQL从句。
本公开的一个实施例中,将该SQL从句对应的问题片段作为主要参考对象,将输入的问题中的其它问题片段作为辅助参考对象的具体方式可为:设置该SQL从句对应的问题片段的权重高于输入的问题中的其它问题片段的权重。
假设共存在三个问题片段,为便于表述,分别称为问题片段1、问题片段2和问题片段3,以图2中所示的Select这一SQL从句为例,在确定出其对应的问题片段后,假设为问题片段1,那么可将问题片段1的权重设置为高于问题片段2和问题片段3的权重,相应地,在生成该SQL从句时,可主要参考问题片段1,但可同时结合问题片段2和问题片段3,这样,既重点关注了问题片段1中的信息,又同时兼顾了问题片段2和问题片段3,从而确保了生成的SQL从句的准确性等。
如何生成SQL从句不作限制,比如,可采用基于语法解码的树生成算法。针对任一SQL从句,可基于对应的问题片段等,完成该SQL从句的生成,包括生成其中的文法和数据库元素等。
基于上述介绍,图4为本公开所述语义解析方法的整体实现过程示意图。
如图4所示,可对输入的问题与对应的数据库进行编码,比如,可采用LSTM模型或基于transformer框架的模型来进行所述编码。其中,假设输入的问题为“合肥常住人口比珠海多多少(How many more people are there in Hefei then in Zhuhai)”。
如图4所示,还可对输入的问题进行切分,得到至少两个问题片段,得到的问题片段的数量视实际情况而定。
如图4所示,可进一步生成SQL查询语句时,其中,针对每个SQL从句,可分别进行以下处理:首先确定出与该SQL从句对应的问题片段,即从所述至少两个问题片段中选出该SQL从句对应的问题片段,之后可根据确定出的问题片段生成该SQL从句。不同的SQL从句可分别对应不同的问题片段。
具体地,针对每个SQL从句,可将该SQL从句对应的问题片段作为主要参考对象,将其它问题片段作为辅助参考对象,比如,可设置该SQL从句对应的问题片段的权重高于其它问题片段的权重,进而可结合主要参考对象以及辅助参考对象生成该SQL从句。
通过上述处理后,针对输入的问题“How many more people are there in Hefeithen in Zhuhai”,可得到最终的SQL查询语句如下:
SELECT a-b FROM
(SELECT population FROM T1 WHERE name=‘Hefei’)a,
(SELECT population FROM T1 WHERE name=‘Zhuhai’)b。
后续,可执行得到的SQL查询语句,从而得到输入的问题对应的答案。
图4所示过程的具体实现请参见前述相关说明,不再赘述。
需要说明的是,对于前述的方法实施例,为了简单描述,将其表述为一系列的动作组合,但是本领域技术人员应该知悉,本公开并不受所描述的动作顺序的限制,因为依据本公开,某些步骤可以采用其它顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定是本公开所必须的。
以上是关于方法实施例的介绍,以下通过装置实施例,对本公开所述方案进行进一步说明。
图5为本公开所述语义解析装置实施例500的组成结构示意图。如图5所示,包括:编码模块501以及生成模块502。
编码模块501,用于对输入的问题与对应的数据库进行编码。
生成模块502,用于根据编码结果生成SQL查询语句,其中,针对任一SQL从句,可分别进行以下处理:确定出问题中与该SQL从句对应的问题片段;根据确定出问题片段生成该SQL从句。
针对输入的问题,编码模块501可将其与对应的数据库进行编码,如可将输入的问题与对应的数据库拼接在一起,进行编码。
进一步地,生成模块502可根据编码结果生成SQL查询语句。其中,针对任一SQL从句,可分别确定出输入的问题中与该SQL从句对应的问题片段,进而可根据确定出的问题片段生成该SQL从句。
为此,生成模块502还可对输入的问题进行切分,从而得到至少两个问题片段,相应地,针对任一SQL从句,可从所述至少两个问题片段中选出该SQL从句对应的问题片段。
对于任一SQL从句来说,其对应的问题片段即为与该SQL从句最为对齐的问题片段。
不同的SQL从句可分别对应不同的问题片段。也就是说,一个问题片段被选择过,则不会被再次选择。
针对任一SQL从句,在确定出其对应的问题片段后,可根据对应的问题片段生成该SQL从句。具体地,针对任一SQL从句,可将该SQL从句对应的问题片段作为主要参考对象,将输入的问题中的其它问题片段作为辅助参考对象,进而可结合主要参考对象以及辅助参考对象生成该SQL从句。
其中,将该SQL从句对应的问题片段作为主要参考对象,将输入的问题中的其它问题片段作为辅助参考对象的具体方式可为:设置该SQL从句对应的问题片段的权重高于输入的问题中的其它问题片段的权重。
如何生成SQL从句不作限制,比如,可采用基于语法解码的树生成算法。针对任一SQL从句,可基于对应的问题片段等,完成该SQL从句的生成,包括生成其中的文法和数据库元素等。
图5所示装置实施例的具体工作流程请参照前述方法实施例中的相关说明,不再赘述。
总之,采用本公开装置实施例所述方案,提出了一种基于片段对齐思想的语义解析方式,在生成SQL查询语句时,不同的SQL从句可分别选择对应的问题片段进行参考,从而克服了现有技术中存在的问题,提高了生成的SQL查询语句的准确性等。
本公开所述方案可应用于人工智能领域,特别涉及自然语言处理和深度学习等领域。
人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科,既有硬件层面的技术也有软件层面的技术,人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术,人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术以及机器学习/深度学习、大数据处理技术、知识图谱技术等几大方向。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图6示出了可以用来实施本公开的实施例的示例电子设备600的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字助理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图6所示,设备600包括计算单元601,其可以根据存储在只读存储器(ROM)602中的计算机程序或者从存储单元608加载到随机访问存储器(RAM)603中的计算机程序,来执行各种适当的动作和处理。在RAM 603中,还可存储设备600操作所需的各种程序和数据。计算单元601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
设备600中的多个部件连接至I/O接口605,包括:输入单元606,例如键盘、鼠标等;输出单元607,例如各种类型的显示器、扬声器等;存储单元608,例如磁盘、光盘等;以及通信单元609,例如网卡、调制解调器、无线通信收发机等。通信单元609允许设备600通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元601可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元601的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元601执行上文所描述的各个方法和处理,例如本公开所述的方法。例如,在一些实施例中,本公开所述的方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元608。在一些实施例中,计算机程序的部分或者全部可以经由ROM 602和/或通信单元609而被载入和/或安装到设备600上。当计算机程序加载到RAM 603并由计算单元601执行时,可以执行本公开所述的方法的一个或多个步骤。备选地,在其他实施例中,计算单元601可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行本公开所述的方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决传统物理主机与虚拟专用服务器(VPS)中,存在的管理难度大,业务扩展性弱的缺陷。服务器也可以为分布式系统的服务器,或者是结合了区块链的服务器。云计算指的是通过网络接入弹性可扩展的共享物理或虚拟资源池,资源可以包括服务器、操作系统、网络、软件、应用和存储设备等,并可以以按需、自服务的方式对资源进行部署和管理的技术体系,通过云计算技术,可以为人工智能、区块链等技术应用、模型训练提供高效强大的数据处理能力。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。