一组相关XML数据文件的数据类识别方法
2014-10-11李赛男余金山
李赛男,余金山
(华侨大学 计算机科学与计算学院,福建 厦门361021)
可扩展标记语言(extensible markup language,XML)数据绑定是指将数据从一些XML文件中取出,通过程序表示这些数据的过程.即把数据绑定到计算机能够理解且可以操作的某种内存结构中[1],大多数是绑定到类对象实例上.XML数据绑定隐藏了XML数据的具体结构,方便程序直接使用XML文档中的数据内容,使得XML数据能够直接转换为可处理的业务数据[2].目前,将XML数据绑定到Java对象的框架有 XStream,JAXB,XMLBeans,Castor和JiBX[2-6].这些 XML绑定框架的关键是XML数据对应数据类的获得,即根据XML模式文件按一定规则生成的,或用户自己编写绑定映射规则再字节码生成.它们可以很好地对遵循同个XML模式文件约束的一组XML文件进行XML数据绑定.但要解决来自相同应用系统中,遵循不同XML模式文件的XML文件的数据绑定,会有数据类冗余、生成类系统庞大等问题.基于此,本文提出一种从一组相关XML数据文件的数据类识别方法.
1 XML结构特点及相关定义
1.1 XML结构特点
每个XML文档有且仅有一个根元素,它是所有其他元素的父元素,而所有元素都可拥有子元素、文本内容和属性.从元素的嵌套关系可以看出XML文档是一棵文档树.相应地有一种抽象数据结构——文档对象模型(document object model,DOM).DOM将XML文档中各种类型的数据映射到相应的类型对象,构建出树形结构[7],分成文档节点、元素节点、文本节点、属性节点、处理指令节点、注释节点、文档类型节点、文档段节点、符号节点、CDATA段节点、实体节点和实体引用节点等12类.
XML文档可以分为以数据为中心和以文档为中心两大类.以数据为中心的XML文档常被用于机器的使用,而以文档为中心的XML文档则主要是为人类而设计的.文中涉及的XML数据文档均属于以数据为中心的XML文档.它着重于文档中的数据,而非文档格式.具有结构化的数据、数据粒度大小适中、很少或没有混合内容,以及文档顺序不重要等特点.故在考虑设计实现问题解决方案时,需要考虑的DOM节点对象只有属性节点、元素节点和文本节点.
1.2 XML模式节点定义
XML文档模式描述一类XML文档中数据的结构关系和类型信息,在内存可表现为一个树图.树节点对应元素节点、属性节点,节点的附加信息有元素或属性的名称、重数、数据类型等.将模式树图中的模式节点进行分类,以建立XML模式到数据类之间的映射,并定义如下6个模式节点类型.
1)属性型.该模式节点对应XML文档中的属性节点.
2)属性类元素型.该模式节点对应XML文档中的元素节点,而该元素节点没有子元素节点或只包含文本节点,没有属性.
3)List类元素型.该模式节点仅包含一个子模式节点,而该子模式节点是非属性类节点且对应元素节点的重数大于1.
4)包装类元素型.该模式节点包含多个属性类节点和一个非属性类节点的子模式节点.在多XML文件环境下,包装类元素型的模式节点有两种类型:一种是包含一个非属性类型的子模式节点,但具有多套不同的属性类型的子模式节点组;另外一种是只有一个属性类型的子模式节点组,但包装多套非属性类型的子模式节点.
5)包装类属性集型.用于组织包装类元素型模式节点下的属性类型的模式节点.
6)实体类元素型.该分类设置为非属性类型的模式节点类型的默认值,除前面5种类型节点外,剩下的模式节点就属于实体类元素节点.实体类元素型模式节点中有一类节点具有明显特征,即该模式节点有子模式节点且这些子模式节点均属于属性类型.
上述6类模式节点类型中,属性型和属性类元素型统称属性类型.至此,模式节点中包含的信息可以确定有:模式节点类型、模式节点名称、数据类型、映射到类的属性名称、重数、子模式节点列表、所属XML文件标识名、根节点标识、文本标识等.
2 XML模式抽取
文中描述的是从一组相关XML数据文件识别实体类的方法,其总体思路是先得到XML文档的数据模式,再将XML数据模式映射到实体类.方法的第一步是得到XML文档的数据模式,即为每个XML数据文件建立一个XML模式树图,并填充模式树图中每个模式节点的信息.在抽取XML模式时,需要判断模式树图中的模式节点的类型.预定义的6种模式节点类型中,属性型、属性类元素型、List类元素型根据其说明的特征可以很容易判断出来,包装类属性集型不需要判断,而是最后再生成并填进模式树图的.
第一种类型包装型模式节点具有一个非属性类型和多套不同属性类型的子模式节点组.对于这种类型,模式节点下的属性类型的子模式节点的相似度超过阈值A则为实体类元素型,否则为包装类元素型.第二种类型包装类元素型模式节点具有一个属性类型的子模式节点组和多套单个非属性类型的子模式节点.对于这种类型,模式节点下的属性类型的子模式节点的相似度超过阈值B,并且非属性类型的子模式节点的相似度低于阈值C则为包装类元素型,否则为实体类元素型.
在同一个应用系统环境下,从多个XML文档生成的多个XML模式树图中会有相同名称的实体类元素型模式节点.因此,可利用它们的子模式节点的余弦距离进行基于密度聚类,把属于同一个聚类簇的模式节点的子模式节点合并当做同一个模式节点进行处理,以此避免模式节点映射成数据类时生成冗余的数据类.
对XML数据文档进行模式抽取,有如下5个主要步骤.
步骤1 把XML数据转换为DOM树.
步骤2 先根遍历DOM树,从中获得相关模式信息,创建相应类型的模式节点,并构建初步的模式树图,具体流程如图1所示.输入XML数据文档的DOM元素节点,输出结果是相应的模式节点,且能判断出相应的节点类型.最先获得元素节点的名称用于设置模式节点名,再判断元素节点是否符合属性元素型模式节点的特征,即元素节点没有属性且没包含子元素.符合特征,则根据元素文本内容判断其数据类型用于设置模式节点的数据类型,并返回属性元素型模式节点.处理元素节点及其属性列表创建的默认类型的模式节点,并设置模式节点的重数信息和文本标识等.最后再判断当前模式节点是否仅包含一个子模式节点,该子模式节点是非属性类节点且对应的元素节点的重数大于1,如果是,则将节点类型设置为List类元素型.
图1 初步构建模式树图的流程Fig.1 Process of the preliminary constructing pattern tree diagram
步骤3 对分布在不同XML模式树图中的同名模式节点进行相似度分析,识别包装类元素型和实体类元素型,并对实体类元素型模式节点进行聚类来完成合并工作,具体流程如图2所示.先进行一个快速优化的判断,即如果输入的模式节点列表只有一个模式节点,且该模式节点只包含一个多重的默认类型的子模式节点或一个List类元素型子模式节点,则把该模式节点的类型设置为包装类元素型后结束;否则,接着根据输入的模式节点列表建立属性和非属性类节点的Base,以此计算出模式节点列表中每个模式节点的属性类和非属性类节点向量.如果非属性节点列表为空,则说明该模式节点一定是实体类型;否则,计算属性类和非属性类节点向量列表的相似度A和E.根据两次条件判断模式节点是否属于包装类元素型,如果是,则将模式节点设置为包装类元素型;不是,则将属性类和非属性类节点向量合并得到模式节点向量列表,再对模式节点向量列表使用余弦距离进行聚类.把聚类得到聚类簇中模式节点的子节点合并成新的子模式节点列表,并替换簇中模式节点的子模式节点列表.另外,为区别同名的不同实体类节点的模式节点,在模式节点名称后加上序列数1,2,….
步骤4 从所有的模式树图中识别创建不重复的包装类属性集型模式节点.将所有模式树图中包装类元素型模式节点下的属性类子节点打包到一个新建的包装类属性集型模式节点的子模式节点列表中,再将此新建的模式节点替代原来的属性类子节点,插入到包装类元素型模式节点下作为新子模式节点.包装类属性集型模式节点是可以重用的,但必须保证包装类元素型模式节点下的每个属性类型模式节点的名称和重数是相同的.
步骤5 后根遍历所有模式树图,填充模式节点中剩余的模式信息.包括映射到类的属性名称的设置,数据类型的设置.List类元素型和包装类元素型模式节点需要添加子模式节点的数据类型添加泛型信息,包装类属性集型和实体类元素型需要确定映射的数据类的类名.
将一组相关XML数据文档经过5个步骤处理后得到完整的XML模式树图.图中的每个模式节点包含了完整的模式信息,作为XML数据模式映射到实体类的输入数据.
图2 模式树图的模式节点的进一步分类流程Fig.2 Further classification process of the mode pattern tree node
3 XML模式树图到类的映射
从一组XML数据文件中识别数据类的最后步骤是,将XML模式树图中的模式节点按照一定规则映射到数据类.把识别出的模式节点特征信息存储在模式节点的类型信息中,在XML模型到类层次的映射过程会根据模式节点类型,将模式节点映射成不同类型的数据类.
映射规则有如下8个方面:1)模式节点的模式节点名称映射成数据类的类名;2)模式节点的子模式节点映射成数据类的成员变量,该子模式节点映射到类字段名称映射成成员变量名,子模式节点的数据类型映射成成员变量的数据类型;3)如果是模式节点的文本标识,则新增一个名为_value,类型为字符串的成员变量;4)如果子模式节点的重数大于1,则需将用集合类类名包装原数据类型作为其数据类型;5)若成员变量的数据类型是泛型,则还需在该成员变量之前添加注解的配置信息说明具体的泛型信息;6)给每个数据类的成员变量生成setter和getter;7)将包装类属性集节点类型、实体类元素节点类型和包装类元素节点类型的模式节点分别生成放在vo.attribute包中的属性类、放在vo.entity包中的实体类和放在vo.wrapper包中的包装类;8)包装类元素节点类型的模式节点映射成的包装类是预先定义的泛型类ListWrapper〈S,T〉和SingleWrapper〈S,T〉.这2个包装类的只有2个成员变量分别对应包装类属性集节点类型的子模式节点和非属性类节点类型的子模式节点.
经过上述映射规则,得到数据类从一组XML数据文件中识别出的数据类.XML模式到类层次映射方法和目前XML绑定框架的模式编译器生成类文件的映射规则不同的是,还要根据模式节点的类型进一步区分映射成不同类型的类,如集合类、泛型类、实体类等,以减小生成类系统的规模.
4 应用实例
将提出的一组相关XML数据识别方法应用在一个Last.FM OpenAPI的数据实体类代码生成器的实现中.该代码生成器先从网络上抓取每个Last.FM OpenAPI返回的XML数据,得到一组相关XML数据文件;然后,使用文中方法获得识别出的数据类的元数据;最后,在结合类模板输出类定义代码源文件.该代码生成器从网络上获取的Last.FM OpenAPI返回的XML文件有131个,使用文中方法输入预定义的阈值A、阈值B、阈值C是经验估计值,分别是70%,70%,30%.经过计算,最终识别出47个实体类,38个属性类,总共85个类.如果使用传统的数据绑定框架对131个XML文件进行数据类生成,最终得到的数据类最少有131个.使用文中方法生成类的个数比之前的方法降低35%,而且生成的实体类和实体一一对应没有存在冗余.该代码生成器的结果说明,文中提出的方法可以较好地解决当前XML绑定框架类中生成器产生的类冗余和生成类系统规模过大的问题.
5 结束语
提出从一组相关XML数据文件的数据实体类识别的方法.该方法能有效解决当前XML绑定框架在绑定一组来自同一个应用框架下,遵循多个XML模式文件的XML文件时产生的类冗余和生成类系统规模过大的问题.但该方法存在的不足是,区别包装类元素型和实体类元素型的模式节点中的相似度阈值是预先给定的,后续工作需采用启发式及回归模型[10]对相似度阈值进行调整确定.
[1] MCLAUGHLIN B.Practical data binding:Get your feet wet in the real world[EB/OL].[2004-05-20].http:∥www.ibm.com/developerworks/xml/library/x-pracdb1/index.html.
[2] 焦春芳,罗晓沛.基于Castor的数据绑定技术[J].计算机工程与设计,2008,29(17):4550-4553.
[3] 吴翔,饶若楠.连接 XML与对象的桥梁——XMLBean[J].计算机工程,2004,30(增刊1):69-71.
[4] BANGALORE R.Use XStream to serialize java objects into XML[EB/OL].[2008-07-23].http:∥www.ibm.com/developerworks/xml/library/x-xstream/.
[5] SIMEONI F,LIEVENS D,CONNOR R,et al.Language bindings to XML[J].IEEE Internet Computing,2003,7(1):19-27.
[6] 许晖.应用XML实现Java对象序列化技术简述[C]∥第七届中国Java技术及应用交流大会文集.北京:[s.n.],2004:73-78.
[7] 李青山,陈平.对象层次上的XML数据绑定模型的研究[J].西安电子科技大学学报,2001,28(6):768-771.
[8] 庞剑锋,卜东波,白硕.基于向量空间模型的文本自动分类系统的研究与实现[J].计算机应用研究,2001,18(9):23-26.
[9] 李桂林,陈晓云.关于聚类分析中相似度的讨论[J].计算机工程与应用,2004(31):64-66.
[10] ZHANG Yi,CALIAN J.Maximum likelihood estimation for filtering thresholds[C]∥Proc of the 24th Annual International ACM SIGIR Conference on Research and Development in Information Retrieval.New York:ACM Press,2001:294-302.