学习分析能够支持学习设计决策吗?
2023-08-26郭婉瑢冯晓英宋佳欣
郭婉瑢 冯晓英 宋佳欣
[摘 要] 学习分析的最终目标在于支持学习设计决策,在实践层面更好地促进基于证据的教学改进。研究通过对设计分析视角下的学习分析研究进行系统性文献综述,分析了学习分析支持学习设计决策的层次、方法及路径。研究结果表明,学习分析尚不能完全支持学习设计决策,可以通过基于学习理论提出设计分析框架、关注研究变量的阶段性和连续性、选择理论驱动的技术方法三方面助力学习分析支持学习设计决策。为了更好地促进学习分析支持学习设计决策,需要解决设计分析的堵点问题,打通学习设计与学习分析的闭环,双向赋能为教学改进提供循证基础。
[关键词] 学习分析; 学习设计; 设计分析; 系统性文献综述
[中图分类号] G434 [文献标志码] A
[作者简介] 郭婉瑢(1994—),女,甘肃兰州人。博士研究生,主要从事学习设计与学习分析、教师专业发展等研究。E-mail:gwr31010067@mail.bnu.edu.cn。
一、引 言
在新一代信息技术革命的背景下,教育教学实践已经由传统基于经验的教学改进向基于证据的教学改进转变[1],而学习分析领域的深入发展为促进基于证据的教学改进提供了抓手,能够通过整体性的方法和数据为改进学习、教学、组织以及決策提供见解[2-3],最终服务于学习设计决策,这个过程能够有效为教育教学的改进提供证据。
(一)学习分析支持学习设计决策的发展脉络
自2011年第一届学习分析与知识国际会议(LAK)举办以来,学习分析领域经历了从“学习分析技术”到“学习分析”再到“学习分析学”的发展脉络[4],而通过学习分析支持学习设计决策一直是学习分析贯穿始终的核心目标。研究从学习分析支持学习设计决策的视角,梳理了学习分析的发展脉络,发现其历经了以下四个阶段。
阶段一:准备探索阶段(2011—2012年),强调学习分析技术的开发。注重学习分析技术的开发和应用,探索学习分析的技术研发和发展策略。该阶段对学习分析领域的研究处于准备和探索期,尚未对学习分析支持学习设计决策予以较多关注。
阶段二:整合应用阶段(2013—2014年),立足学习与分析领域的整合应用。由于学习与分析的进一步整合,有学者开始提出学习设计影响学习分析的观点[2],也逐步衍生出学习分析难以有效支持学习设计决策的一系列问题[5]。
阶段三:多元发展阶段(2015—2018年),着眼学习分析的跨学科融合和多模态分析。旨在发挥学习分析学科领域的多样性和多模态优势,拓展理解和改进学习设计决策的视角。例如,有研究通过学习者、环境和学习活动中的多模态数据来预测学习者当前的学习状态,给予及时的学习设计决策支持[6-7]。
阶段四:融合深化阶段(2019年至今),聚焦学习分析与学习设计领域的融合发展。学习分析领域意识到,在理论基础缺位的情况下收集、分析、解释和预测学习数据,会导致数据驱动的研究难以深入理解教育教学的理念和要素[8-9],因此,学习分析开始回归教育的本质属性。实践层面表现为开始反思能否通过学习分析实现基于证据的教学改进,研究层面逐步开始反思学习分析研究能否真正支持学习设计决策,其中一些学者认为学习分析有效支持学习设计决策需要打通学习设计与学习分析闭环[10-11],设计分析的概念也应运而生。
(二)设计分析的概念内涵
目前对于设计分析的内涵理解有狭义和广义两种,在目标、数据、与学习分析的关系界定上均有所不同(见表1)。狭义上的设计分析只关注设计态的分析,指采用学习分析的技术方法,对学习设计的过程要素进行分析,提出对学习设计决策的建议,本质上是通过对学习设计方案的分析,支持学习设计的改进和优化。例如,埃尔南德斯等人提出的AL4LD框架[11],框架中的设计分析层是对设计分析狭义概念的延展。
广义上的设计分析既关注设计态的分析,也关注实施态的分析[12-13],指采用学习分析的技术方法,对学习设计、学习过程、学习结果的过程数据进行分析,提出对学习设计决策以及教学实施过程的综合改进建议,本质上是通过对设计态和实施态的分析,支持基于证据链的全过程教学改进,打通学习设计与学习分析的闭环。
为了让理论研究更好地服务于实践层面的教育教学决策,不仅需要对学习设计方案本身进行改进,更需要实现以学习设计为起点的、基于全过程证据链的教学改进。因此,既需要关注设计态,也需要关注实施态,需要解决的关键问题是如何打通学习设计与学习分析闭环,而设计分析为打通闭环提供了方法论。为解决目前研究与实践层面的关键问题,研究通过系统循证的逐层剖析,综述学习分析支持学习设计决策的层次、效果和方法路径,为打通学习设计与学习分析闭环,促进基于证据的教学改进指明方向。
二、 学习分析支持学习设计决策的分析框架
学习分析对学习设计决策的支持度有很大差异,而这个差异主要体现在两个维度上:一是学习分析对学习设计的解释力度,二是学习分析对学习设计的分析粒度。根据学习分析支持学习设计决策的强弱程度,研究构建了如图1所示的分析框架。
(一)解释力度
解释力度指学习分析的结果能否转换或表征为学习设计决策的方法或策略,能否为学习设计的改进和优化提供明确的路径,其强弱水平取决于学习设计决策意见的具体程度,解释力度强的研究能够更好地为学习设计决策提供证据[14]。
(二)分析粒度
研究中通常以学习设计的分层嵌套关系为划分依据,因此,分析粒度从粗到细包括了学习环境、学习活动、学习策略等。细粒度的学习活动与粗粒度的学习活动相比,能够更细致地在微观层面挖掘学习规律[15],提升学习分析对学习设计决策的支持度。
三、 研究方法和过程
(一)研究问题
本研究旨在通过系统性文献综述(Systematic Review)法,以设计分析为视角,探究学习分析研究能否支持学习设计决策。研究问题包括:(1)学习分析研究能否支持学习设计决策,支持的效果如何;(2)学习分析研究是如何支持学习设计决策的;(3)如何打通学习设计与学习分析的闭环。
(二)研究方法与过程
研究对国际学习分析领域核心期刊和会议论文进行检索、筛选和评估。研究过程包括计划、检索文献、评估文献质量、抽取数据、整合数据、撰写综述六个具体的步骤[16]。
1. 检索文献
目前,设计分析视角的学习分析实证研究数量比较有限,因此,为了更加全面、准确地定位相关主题的高质量文献,研究借鉴系统性文献综述期刊筛选方法[17],选取五种关注学习分析主题的国际核心期刊作为文献来源,包括Internet and Higher Education、Computers & Education、International Journal of Computer-Supported Collaborative Learning、British Journal of Education Technology、Interactive Learning Environments。此外,学习分析与知识国际会议(LAK)是学习分析领域最具影响力的研究论坛之一,为学习分析领域产出了诸多前沿的研究成果[18],因此,本研究将LAK会议论文作为另一重要来源进行文献筛选。最终,全文共获取到2019—2021年间的期刊论文1310篇,LAK会议论文220篇。
2. 评估文献质量
为确保样本文献与研究问题的高度相关性,本研究根据研究问题制定了文献纳入标准,包括采用实证研究方法、研究主题是“学习分析”、研究关注的“学习分析”基于“设计分析”视角、研究对“设计分析视角的学习分析”进行准确描述四项标准。对检索到的文献进行两轮甄别,最终纳入样本文献105篇。
3. 抽取与整合数据
为整合设计分析视角的学习分析研究成果,需要抽取样本文献的关键信息。本研究基于研究问题,主要从学习分析支持学习设计决策的层次、理论基础、研究变量、技术方法等维度对其进行编码分析。
四、 学习分析支持学习设计决策的三个层次
针对研究问题1,研究根据分析框架将样本文献划分为如图2所示的三个层次,回答学习分析研究支持学习设计决策的效果问题。
(一)层次一:学习分析作为学习设计决策的间接证据
层次一的研究共计23篇文献,这一层次研究主要在表征、分析、预测学习者的学习过程,对于学习设计的改进建议通过基于研究结论的演绎,缺少基于学习理论或分析框架的合理证据,往往需要基于经验的二次解释才能为学习设计服务。例如,有研究借助各类方法技术挖掘各类学习要素与学习效果之间的关系[19],应用各类数据预测学习效果或表征学习者的学习过程等[20-22],研究者对研究结果的解释视角具有很强的主观性。
因此,该层次研究解释力度较弱,对学习设计的分析粒度是局部的,学习分析对学习设计决策的支持度也较弱。研究结果也难以在实践中进行复制和重用,只能为学习设计决策提供间接的证据。
(二)层次二:学习分析驱动的局部学习设计决策
层次二的研究共计73篇文献,总体占比最高,研究解释力度从适中到弱均有,对学习设计的分析粒度从局部到整體均有覆盖,因此,学习分析对学习设计决策的支持度也相对适中,能够提供支持学习设计决策的局部证据。根据学习设计要素的粒度可以把层次二研究细分为以下三类:
1. 学习分析驱动的学习环境设计变化
这类研究有学习环境与学习设计要素对应的分析框架,能够解释学习环境设计的变化规律,为学习环境整体设计提供改进建议。例如,有研究把不同情境下的学习投入行为对应到学习活动的层面,对比不同学习情境中的学生投入度的差异,提出学习环境的设计决策建议[23]。
2. 学习分析驱动的学习活动调整
这类研究针对某一类型学习活动与学习设计要素对应的分析框架,能够呈现细粒度的学习活动的设计路径,分析学习者在学习活动中的行为模式、认知发展等,从而为某一类型的学习活动提供改进建议。例如,有研究分析了学习者的课前学习模式,证明了不同课前学习模式下学生学习轨迹的差异,并基于课前学习模式提出了课前准备环节的具体设计建议[24]。
3. 学习分析驱动的学习策略选择
这类研究针对某一学习策略下学习者的学习效果,通过语义或行为模式的编码呈现学习者的学习路径,从而为基于学习策略的细化活动设计提出建议。例如,有研究探究社会调节学习策略对学习者的影响,通过对比学习者行为序列模式的差异,提出基于社会调节学习策略的细化活动设计建议[25]。
以上学习分析驱动的研究只关注局部学习设计决策,能够深入发掘某一要素学习设计的规律,对某一类环境、活动和策略的设计决策提供更准确且真实的证据。但该层次的学习分析研究对学习设计决策的支持度差异较大,原因是这一类研究只能为学习设计决策提供某一类环境、活动、策略的局部支撑,分析粒度差异较大,缺乏对学习设计决策的整体性支持。
(三)层次三:学习分析促进学习设计的直接决策
层次三的研究共计9篇文献,占比最少,解释力度较强,对学习设计的分析粒度是整体性的,因此,学习分析对学习设计决策的支持度相对较强,能够提供支持学习设计决策的直接证据。研究者从不同视角探索了学习分析如何直接支持学习设计决策,例如:有研究构建了学习设计的分析模型和分析层框架[11,26];也有研究构建了情境化的学习分析设计理论模型[27],证明与学习情境相联结的学习分析可以直接促进学习设计决策。
该层次研究的优点在于学习设计的解释力度较强,强调学习设计与学习分析活动/要素直接的对应和联结,理论框架和分析框架包括整体性的学习设计要素,能够在学习过程中提供直接的学习设计决策,为打通学习设计与学习分析的闭环提供方法路径。但是由于研究框架的复杂性,研究的实证部分并不能完全支持研究框架的验证,很难深入挖掘某一学习设计要素的规律。
五、 学习分析支持学习设计决策的方法路径
对样本文献的分析发现,理论基础、研究变量和技术方法是影响学习分析支持学习设计决策的关键因素。针对研究问题2,分析出以下学习分析支持学习设计决策的方法路径:
(一)路径一:遵循学习理论,提出明确的设计分析框架
对研究文献分析发现,学习分析对学习设计决策支持度越高,学习理论与研究的关系越紧密,支持度高的研究不仅明确强调学习理论的指导作用,并能够基于学习理论提出研究操作性层面的设计框架。层次一无学习理论基础的研究最多,占总研究文献的72%;层次二中有52.7%的研究文献有明确的学习理论基础,并在此基础上提出了研究的设计框架,但是没有学习理论基础的研究文献仍占28.4%;层次三的研究虽然总体较少,但其中62.5%的研究文献均有明确的学习理论基础,且基于学习理论基础提出了设计分析框架。
因此,理论基础能够为数据的选择和解释提供有效支撑[28]。基于学习理论的学习分析研究能够保障研究与实践的一致性,同时也有助于识别数据痕迹和学习结果之间有意义的模式和关联[8],决定需要研究哪些问题来改进学习,如何解释分析结果,从而为学习设计决策提供可行的建议;而基于学习理论的设计分析框架,增强了学习分析支持学习设计决策的操作性,能够决定选择什么数据和分析方法,如何分析,从而为研究提供设计和分析的指南,提升学习设计决策的准确性[29]。因此,为了增强学习分析对学习设计决策的支持度,学习分析需要摆脱数据陷阱,以学习理论为本位,构建明确的学习设计分析框架,让学习分析研究回归支持学习设计决策的核心目标。
(二)路径二:关注研究变量的阶段性和连续性,强化学习分析的情境特征
研究变量能够决定学习变量的表征方式和支持学习设计决策的粒度。对样本文献进行分析,发现学习分析对学习设计决策支持度越高,越能够细粒度地表征学习过程,强调学习分析变量的阶段性和连续性,能够关注不同学习环境、教学设计和时间段的学习变化,将研究重点由群体差异转移到个体的动态过程上,操作层面可以通过表征研究变量的阶段性和连续性,强化学习分析的情境特征来实现。
1. 学习分析变量的阶段性
有62篇研究文献从不同维度上凸显了研究变量的阶段性特征,集中表现在以下几个方面:
其一,学习设计的阶段性:研究会区分不同学习阶段的学习设计特征,把学习活动要素表征的阶段性特征纳入评价范围,分类讨论不同阶段的学习设计与要素的关系。例如,有研究考虑课前、课中、课后的学习设计要素与学习结果的关系[30],或者考虑更细粒度的每周的学习设计要素与学习结果的关系[31]等。
其二,学习过程的阶段性:研究会针对每一学习周期的学习过程进行分析。例如,有研究针对开学到期中周期、期中到期末周期两个阶段表征学习者的行为表现或认知特征[32]。
其三,学习行为的阶段性:这类研究会挖掘某一类学习活动的序列模式表征学习者行为。例如,有研究应用顺序挖掘表征不同类型学习者的行为模式和特征[25,33],通過行为序列更细粒度地表征学习活动的阶段特征。
2. 学习分析变量的连续性
有11篇研究文献体现了研究变量的连续性特征,主要体现在学习过程的连续统一结构。这类研究会将学习过程定义为一系列连续且动态的行为过程,提炼和拆分学习过程的不同阶段以及每个阶段对应的行为特征,对学习分析变量进行细粒度的表征。例如:有研究把工程设计中的自我调节学习表征为计划、表现、自我反思三个连续的阶段和观察、构思、分析、重新构思、评估五个连续行为的结构,表征自我调节学习过程的连续性特征[34];抑或将学习过程表征为个体学习、组内知识构建和组间知识构建三个连续的部分,突出表现集体认知的连续和循环过程[32]。
(三)路径三:选择理论驱动的技术方法,追溯学习过程的动态变化
在研究方法方面,样本覆盖了质性研究、定量研究和混合研究三种实证研究方法,分析发现,定量研究仍然是学习分析最常用的研究方法。如图3所示,学习分析主要采用了语义分析、描述性统计、推断性统计三类定量研究类型和11种定量研究的具体的技术方法,支持学习设计决策效果越好的研究,会侧重于选择语义分析,或者几种定量研究类型相融合的方法。
技术方法决定了支持学习设计决策分析结果的表征方式和准确性。文献分析发现,对学习设计决策支持度较高的学习分析研究,其技术方法呈现出由数据驱动转向理论驱动的趋势,倾向于采用分析语义特征、学习者纵向剖面特征以及学习演变过程的技术方法,一定程度上突破数据的限制,为学习设计决策提供更直接且细粒度的证据。
1. 趋势1:分析主题语义特征的技术方法
研究的技术方法开始关注学习过程的主题语义特征,如数据分析方法有认知网络分析、文本主题模型分析、社会认知网络特征分析等。
首先,关注学习过程主题语义的数据分析方法改变了通过外显行为数据分析学习特征的方式,直接通过学习者的认知网络结构或者主题内容结构进行分析,有效增强学习设计与数据之间的关联,能够对学习过程作出更深入的评价。其次,技术方法突破了传统内容分析人工语义编码的限制,能够量化话语元素之间的复杂时间关系和主题分类[35-36],提供对学习过程新的理解,从而提供更细致的学习设计决策支持。
2. 趨势2:分析学习者纵向剖面特征的技术方法
研究逐渐从以变量为中心的技术方法向纵向以学习者为中心的技术方法转变,比较典型的数据分析技术方法有潜在转换分析、潜在剖面分析等。
以学习者为中心的纵向剖面分析能够挖掘个人学习轨迹随时间推移的变化过程,识别和分类具有共同学习行为模式或同一特征的学习者[24,34],提升对学习过程的理解,从而提供更加细致的学习设计原则或干预措施,进而改进教学。
3. 趋势3:分析学习演变过程的技术方法
研究的学习分析技术方法关注捕捉学习相关变量的演变过程,典型的技术方法有过程挖掘、顺序挖掘、状态转移分析、生存分析、共现分析和(隐藏)马尔可夫模型等。
首先,这类技术方法能够弥补当前静态数据分析的方法和技术(例如频率分析等)的不足,提供对学习过程新的解释视角,并且有可能改变学习过程的概念[37],例如,有研究表征了学生随着时间的推移展现的不同学习行为、不同类型学习者的行为模式[33,38];其次,这类技术方法能够以整体视角分析学习行为之间的复杂关系,把学习过程和方法视为一系列细粒度行为的组合,从而提供更精准的学习设计决策建议。
六、 结论与展望
根据本研究提出的设计分析概念内涵和学习分析支持学习设计决策的路径结果,进一步提炼了基于证据教学改进的要素和关键环节,构建了设计分析视角支持基于证据的教学改进的系统模型(如图4所示),以期深化对设计分析要素关系的认识。
基于证据的教学改进包括了设计分析的设计态和实施态两部分,这个过程既包括了设计分析的狭义概念(设计态),即对学习设计方案本身的分析和优化,明确了研究分析的要素,需要有明确的学习理论基础支撑,进而为实施态研究提供了整体设计框架,也拓展到设计分析的广义概念(设计态和实施态),即学习过程和学习结果的分析,再到学习设计的反馈优化,打通学习设计与学习分析的闭环。根据本研究提出的方法路径,学习分析研究可以从研究变量、数据和技术方法三点着力,促进学习分析支持学习设计决策,而这个过程能够解析学习过程和学习结果要素,在理论基础的支撑下为学习设计的反馈优化提供解释框架。
(一)结论
研究基于设计分析视角,对2019—2021年105篇学习分析领域的高水平实证研究成果展开系统性文献综述,根据学习分析支持学习设计决策的层次分析,发现学习分析能够在一定程度上支持学习设计决策,也有少数研究能够直接支持学习设计决策,但是总体而言,学习设计与学习分析闭环尚未打通。
这是因为学习设计与学习分析闭环存在堵点,导致在具体操作层面,研究在理论基础、研究变量和技术方法上很难达到平衡。一方面,有清晰的学习设计与学习分析理论框架的研究存在“虎头蛇尾”的现象,虽然对学习设计与学习分析之间的关系有清晰的操作框架,但无法根据理论框架和设计框架做深入的实证验证;另一方面,对学习设计决策精准的研究能够通过多种技术方法对学习设计的局部决策做支撑,但是缺乏理论层面的操作框架,很难整体上支持学习设计决策。
(二)未来展望:打通学习设计与学习分析闭环的着力点
产生以上现象的本质原因在于学习分析与学习设计闭环仍然存在堵点,例如,在数据层面尚未打通学习分析与学习设计的数据壁垒,在教学实践层面缺少对教师学习设计与学习分析环节的支持等,但其中核心堵点在于如何在设计层面建立学习设计与学习分析的强连接。因此,建议未来从以下两方面着力解决堵点问题:
着力点一:解决学习设计难以适应学习分析的表征结构的堵点。一方面,质性的、经验性的学习设计缺少通用的表征方式,限制了学习设计的构建、验证以及传播;另一方面,现有的学习设计表征结构和学习分析量化数据挖掘之间存在不兼容的地方,例如:学习分析对于交互网络、认知网络的分析结果如何对应到学习设计上,对于学习活动认知负荷、注意力水平的测量如何对应到学习设计上?未来可以考虑构建学习设计的分类框架和细粒度的学习设计表征框架,记录学习活动的时间、序列、难度、交互等特征,促进学习设计与学习分析展开有效对话。
着力点二:解决学习分析指标难以评估学习设计的堵点。由于学习环境的设计难以控制,学习分析的数据表征只能依赖系统已生成的指标,如学生的交互水平、登录时长、讨论质量等,而这些指标并不能与学习设计直接对应,很难通过学习分析的数据分析结果判断哪些活动能够促进或者阻碍有效的学习,也无法提供学习活动如何组织和持续的证据,因此,也无法有效发挥学习分析对学习设计的解释和改进作用。未来可以考虑建立与学习设计数据兼容的数据特征体系和设计驱动分层嵌套的学习分析方法体系,在海量的数据中识别和提取有意义的特征,选择匹配的学习分析方法,为学习设计精准决策的落地提供可能。
综上所述,为了打通学习设计与学习分析的闭环,需要从解决两者之间的堵点着力。学习设计与学习分析的发展应该同频共振,未来要将学习设计作为学习分析的设计框架,增强学习分析的解释性和操作性;要将学习分析作为学习设计的解释框架,增强学习设计的严谨性和可行度,双向赋能打通学习设计与学习分析的闭环。
[参考文献]
[1] 牟智佳,高雨婷,武法提. 基于证据的教师增值评价:走向智能时代的教学效能评测[J]. 电化教育研究,2022(5):17-25.
[2] LOCKYER L, HEATHCOTE E, DAWSON S. Informing pedagogical action: aligning learning analytics with learning design[J]. American behavioral scientist, 2013,57(10):1439-1459.
[3] SIEMENS G, LONG P. Penetrating the fog: analytics in learning and education[J]. Educause review,2011,46(5):31-40.
[4] 吳永和,李若晨,王浩楠.学习分析研究的现状与未来发展——2017年学习分析与知识国际会议评析[J].开放教育研究,2017(5):42-56.
[5] TERVAKARI A, KUOSA K, KORO J, et al. Teachers' learning analytics tools in a social media enhanced learning environment[C]// 2014 International Conference on Interactive Collaborative Learning. Dubai, United Arab Emirates: Institute of Electrical and Electronics Engineers Inc., 2014: 355-360.
[6] CUKUROVA M, LUCKIN R, MILLAN E, et al. The NISPI framework: analysing collaborative problem-solving from students' physical interactions[J]. Computers & education, 2017,116:93-109.
[7] SPIKOL D, RUFFALDI E, DABISIAS G, et al. Supervised machine learning in multimodal learning analytics for estimating success in project-based learning[J]. Journal of computer assisted learning, 2018,34(4):366-377.
[8] GASEVIC D, KOVANOVIC V, JOKSIMOVIC S. Piecing the learning analytics puzzle: a consolidated model of a field of research and practice[J]. Learning: research and practice,2017,3(1):63-78.
[9] MANGAROSKA K, GIANNAKOS M. Learning analytics for learning design: a systematic literature review of analytics-driven design to enhance learning[J]. Institute of electrical and electronics engineers (IEEE),2019,12(4):1-19.
[10] LAW N, LI L, HERRERA L F, et al. A pattern language based learning design studio for an analytics informed inter-professional design community[J]. Interaction design and architecture,2017(33):92-112.
[11] HERNANDEZ-LEO D, MARTINEZ-MALDONADO R, PARDO A, et al. Analytics for learning design: a layered framework and tools[J]. British journal of educational technology,2019,50:139-152.
[12] KENNEDY G, CORRIN L, LOCKYER L, et al. Completing the loop: returning learning analytics to teachers[C]//31st Annual Conference of the Australian Society for Computers in Tertiary Education. Dunedin, New Zealand: Australasian Society for Computers in Learning in Tertiary Education (ASCILITE),2014:436-440.
[13] KOEDINGER K R, STAMPER J C, MCLAUGHLIN E A, et al. Using data-driven discovery of better student models to improve student learning[C]//16th International Conference on Artificial Intelligence in Education. Memphis, TN, United States: Springer Verlag,2013:421-430.
[14] WILEY K J, DIMITRIADIS Y, BRADFORD A, et al. From theory to action: developing and evaluating learning analytics for learning design[C]//10th International Conference on Learning Analytics and Knowledge: Shaping the Future of the Field. Frankfurt, Germany: Association for Computing Machinery,2020:569-578.
[15] NGUYEN Q, RIENTIES B, TOETENEL L. Unravelling the dynamics of instructional practice: a longitudinal study on learning design and VLE activities[C]//7th International Conference on Learning Analytics and Knowledge. Vancouver, BC, Canada: Association for Computing Machinery,2017:168-177.
[16] 黃甫全,游景如,涂丽娜,曾文婕. 系统性文献综述法:案例、步骤与价值[J]. 电化教育研究,2017(11):11-18,25.
[17] HSU Y C, HUNG J L, CHING Y H. Trends of educational technology research: more than a decade of international research in six ssci-indexed refereed journals[J]. Educational technology research and development, 2013,61(4):685-705.
[18] 陈雅云,郭胜男,马晓玲,吴永和. 数智融合时代学习分析技术的演进、贡献与展望——2021学习分析与知识国际会议(LAK)评述[J]. 远程教育杂志,2021(4):3-15.
[19] SHER V, HATALA M, GA?譒EVI■ D. Analyzing the consistency in within-activity learning patterns in blended learning[C]//10th International Conference on Learning Analytics and Knowledge: Shaping the Future of the Field. Frankfurt, Germany: Association for Computing Machinery,2020:1-10.
[20] DOLECK T, LEMAY D J, BRINTON C G. Evaluating the efficiency of social learning networks: perspectives for harnessing learning analytics to improve discussions[J]. Computers & education, 2021,164:1-11.
[21] ZHANG S, CHEN H X, WEN Y, et al. Exploring the influence of interactive network and collective knowledge construction mode on students' perceived collective agency[J]. Computers & education,2021,171:1-18.
[22] VRZAKOVA H, AMON M J, STEWART A, et al. Focused or stuck together: multimodal patterns reveal triads' performance in collaborative problem solving[C]//10th International Conference on Learning Analytics and Knowledge: Shaping the Future of the Field. Frankfurt, Germany: Association for Computing Machinery,2020:295-304.
[23] LIMA F D B, LAUTERT S L, GOMES A S. Contrasting levels of student engagement in blended and non-blended learning scenarios[J]. Computers & education, 2021,172(3):1-13.
[24] SUN Z R, XIE K. How do students prepare in the pre-class setting of a flipped undergraduate math course? A latent profile analysis of learning behavior and the impact of achievement goals[J]. The internet and higher education,2020,46(1):1-13.
[25] HWANG G J, WANG S Y, LAI C L. Effects of a social regulation-based online learning framework on students' learning achievements and behaviors in mathematics[J]. Computers & education,2021,160(6):1-19.
[26] YAN H X, LIN F H, KINSHUK. Including learning analytics in the loop of self-paced online course learning design[J]. International journal of artificial intelligence in education, 2021,31(4):878-895.
[27] SHIBANI A, KNIGHT S, SHUM S B. Contextualizable learning analytics design: a generic model, and writing analytics evaluations[C]//9th International Conference on Learning Analytics and Knowledge. Tempe, AZ, United States: Association for Computing Machinery,2019:210-219.
[28] REIMANN P. Connecting learning analytics with learning research: the role of design-based research[J]. Learning: research and practice,2016,2(2):130-142.
[29] BERNACKI M L, CHAVEZ M M, UESBECK P M. Predicting achievement and providing support before stem majors begin to fail[J]. Computers & education, 2020,158(6):1-19.
[30] WANG F H . On the relationships between behaviors and achievement in technology-mediated flipped classrooms: a two-phase online behavioral PLS-SEM model[J].Computers & education, 2019, 142:1-12.
[31] WANG F H . Interpreting log data through the lens of learning design: second-order predictors and their relations with learning outcomes in flipped classrooms[J].Computers & Education, 2021,168:1-18.
[32] ZHANG S, CHEN J, WEN Y, et al. Capturing regulatory patterns in online collaborative learning: a network analytic approach[J]. International journal of computer-supported collaborative learning,2021,16(1):37-66.
[33] XING W L, TANG H T, PEI B. Beyond positive and negative emotions: looking into the role of achievement emotions in discussion forums of MOOCs[J]. The internet and higher education,2019,43:1-9.
[34] LI S, CHEN G, XING W, et al. Longitudinal clustering of students' self-regulated learning behaviors in engineering design[J]. Computers & education, 2020,153(3):1-15.
[35] SUN M, WANG M H, WEGERIF R, et al. How do students generate ideas together in scientific creativity tasks through computer-based mind mapping?[J]. Computers & education,2022,176:1-16.
[36] HUJALA M, KNUTAS A, HYNNINEN T, et al. Improving the quality of teaching by utilising written student feedback: a streamlined process[J]. Computers & education,2020,157:1-15.
[37] AZEVEDO R. Issues in dealing with sequential and temporal characteristics of self- and socially-regulated learning[J].Metacognition learning, 2014,9(2):217-228.
[38] TSAI M J, WU A H. Visual search patterns, information selection, and information anxiety during online information problem solving[J]. Computers & education, 2021,172(11):1-15.
Can Learning Analytics Support Learning Design Decisions?
—A Systematic Literature Review of Learning Analytics from A Design
Analysis Perspective
GUO Wanrong, FENG Xiaoying, SONG Jiaxin
(Laboratory of Learning Design and Learning Analysis, Beijing Normal University, Beijing 100875)
[Abstract] The ultimate goal of learning analytics is to support learning design decisions and better facilitate evidence-based instructional improvement at the practice level. This study analyzes the levels, methods, and pathways of learning analytics to support learning design decisions through a systematic literature review of learning analytics research from the perspective of design analysis. The research results suggest that learning analytics cannot yet fully support learning design decisions, and learning analytics can be helped to support learning design decisions by proposing a design analysis framework based on learning theory, focusing on the stages and continuity of research variables, and choosing a theory-driven technical approach. In order to better facilitate learning analytics to support learning design decisions, it is necessary to solve the blockage problem of design analytics, open the closed loop of learning design and learning analytics, and provide an evidence-based foundation for instructional improvement by two-way empowerment.
[Keywords] Learning Analytics; Learning Design; Design Analysis; Systematic Literature Review