从+AI到AI+谈企业如何应用ChatGPT技术
2023-05-14吴敏达
吴敏达
AI无处不在,它可以画画、创作并与人们谈论复杂的话题。越来越多的企业正在从+AI(数据集成+分析)过渡到AI+(预测、自动化和机器学习)。企业的AI采用率和能力自2017年以来翻了一番,而作为数字化转型战略一部分的AI预算已从2018年的5 %增长到2022年的52 %。
随着ChatGPT的横空出世,其已成为主要新闻文章的标题,“一时洛阳纸贵,一试难求”。越来越多的企业正在认识到他们可以通过AI获得价值和转型的新方式,开始思考如何利用ChatGPT技术重新定义生产力,产生业务价值。
然而当企业逐步深入调研ChatGPT的能力和技术之后,就会产生疑虑和不安。首先是安全性,由于ChatGPT是公有云的服务,如果企业需要使用,需要用企业的数据去Fine-Tuning(微调)预训练模型,而很多企业数据是敏感和需要保护的。同样在使用ChatGPT服务的时候也要考虑安全的问题。
其次是准确性和权威性,ChatGPT的答案并不总是完全准确、相关或公正,因为它们是由AI生成的。虽然它能够提供一些非常有创意的响应,但它会让企业或品牌面临风险,因为没有一致的、可扩展的方法来确定所提供的答案是否正确。
最后,企业AI需要考虑AI治理、定义政策并在整个AI生命周期中建立问责制,以确保模型遵守公平、可解释性、稳健性、透明度和隐私的原则,而这也是ChatGPT目前缺失的。以下从行业知识和技术实践2个角度来进行探讨,看看企业如何能够扬长避短,利用ChatGPT技术助力企业级AI。
场景与流程
行业知识和技术实践是企业级AI成功的关键因素。ChatGPT技术在企业应用同样如此,选择合适的场景,采用受控的企业流程,通过开放的架构,才能让ChatGPT技术在企业安全落地。
ChatGPT是以GPT 3.5为基础衍生出来的应用,目的是用来展示GPT的能力。ChatGPT的技术支撑是大规模语言模型,也就是大家耳熟能详的LLM,LLM属于基础模型的范畴,基础模型是在广泛的未标记数据集上训练的模型,这些数据可用于不同的任务,只需最少的微调。基础模型和LLM支撑了生成式AI,通过从现有数据中学习来创建原创内容。
ChatGPT和LLM是AI领域令人激动的创新,会直接加速对话AI的应用,客户服务(利用AI来进行互动和交谈)是企业最重要的AI应用场景之一。以ChatGPT为代表的生成式AI擅长响应与问题相关、可以处理小众不常见的话题,但也可能会编造事实不正确的答案。而目前企业级对话AI更擅长对高价值问题的回答,非常具体和准确,因此引入ChatGPT的技术,可以完善企业级对话AI的能力。
理解、传递和应用业务流程是企业级AI的重要部分,AI需要理解、应用和处理这些流程。尽管ChatGPT是在大量基于文本的数据上进行训练的,但它并不“理解”企业所需的特定业务流程,它不会对模棱两可的问题进行澄清,而是对问题的含义进行“最佳猜测”。例如:用户询问业务场景“我如何支付账單?”,ChatGPT会详细说明支付账单的过程。但企业级AI需要弄清楚用户想支付什么账单以及支付方式。这些问题特定于企业或流程,对话的结果是交易处理结果,而不仅仅是基于文本。ChatGPT不支持针对企业系统执行交易的能力。而IBM Watson Assistant和IBM Watson Discovery帮助中国客户构建的企业级AI都是围绕特定业务场景来训练优化语言模型,并集成企业自动化业务流程。Watson Assistant可以根据客户信息和上下文触发业务流程并用于对话控制,通过使用开箱即用的Webhook和触发API与业务系统集成来实现自动化任务。
企业级AI需要控制对话,Watson Assistant是企业级对话AI市场的领导者,可以实现tell me,show me和do it for me,与企业系统和应用程序集成或完全自动化业务流程。Watson Assistant最新的功能“旅程”,可以在对话中逐步直观地指导用户应用的复杂过程,通过视频、文本和图像提供交互式帮助和支持。
持续改进增强对话机器人的性能和用户体验是企业级AI非常重要的内容。在引入ChatGPT技术后,依然需要企业级AI最佳实践和方法论来保证成功。IBM Watson Assistant提供了持续改进对话机器人和衡量指标,可用于日常交付以提高对话机器人效率的完整方法论、技巧、操作方法和模板。企业级对话AI建议综合关注4个指标:净推荐值(NPS)、客户满意度、遏制率和一次性问题解决率。仅仅看净推荐值和客户满意度并不能全面了解对话机器人的成功与否,遏制率是用户不选择人工的百分比,回访率是看用户在一周内是否使用了任何渠道重新寻求帮助,遏制率低和回访率高意味着对话机器人并没有达到满意的自助服务效果。
在企业级AI中,ChatGPT背后的AI基础模型技术除了前面谈到的客户服务业务场景,也可以用于数字化劳动力、IT运营和网络安全等。Red Hat和IBM正在利用该技术为Ansible注入新的功能,Project Wisdom将让任何人都可以更轻松地使用AI生成的建议编写Ansible Playbook。Project Wisdom将能够根据用户输入,生成以Ansible语法编写自动化内容,实现与AI进行结对编程。IBM已经构建了一系列企业AI工具、应用程序和解决方案,现在正利用最新的AI基础模型技术优化结果和适合企业使用。我们将技术和咨询服务结合到一个经过验证的框架中,解决客户和企业最紧迫的业务问题。
Watson能力的演进
自2020年以来,IBM Watson产品一直在使用基础模型(Foundation Models)为其开箱即用的特定任务模型提供支持。通过使用基础模型,准确性明显超过上一代模型,而且仍然具有成本效益。借助预训练的基础模型,Watson可以使用更少的标注语句训练一种新语种,从而更快地实现多语种支持。
由于Watson服务不仅支持公有云,而且支持本地化部署,企业客户可以使用企业行业领域数据来调整基础模型并创建自定义模型并保证安全性。
Watson Assistant正在用生成式AI来实现更好的对话体验和更快的构建。
会话式搜索:利用Watson Assistant的对话增强功能来抽取搜索的内容,在没有预先构建的对话流时也能够生成可信会话响应。
个性化响应:根据用户的会话或上下文数据,让Watson Assistant调整响应以适应每个独特客户的个性化体验。
更快更轻松地编写对话:自动生成对话流,进行复审后部署。
更快更容易编写“旅程”:轻松生成产品导览,以快速显示用户如何处理复杂的任务。
我们正处于AI的转折点,对于大型语言模型的快速技术进步和ChatGPT背后的技术感到非常兴奋。Legalmation是IBM利用类似技术的企业级AI案例,Legalmation利用IBM Watson Discovery生成早期阶段的诉讼草稿,并为律师和律师助理节省时间。在不到2 min的时间内起草了回复,成本降低80 %。另外,通過和GPT语言生成的服务为IBM Watson Assistant客户提供扩展其对话式AI功能的能力。Watson Assistant可以根据用户查询,通过Watson Discovery检索内容,然后采用生成式预训练Transformer技术,根据检索到的内容、查询和对话的完整上下文生成响应。这是利用GPT技术的一种积极方式,因为企业仍然能够在生成的响应中获得上下文和企业行业知识。企业级AI需要多种方案的组合来产生业务价值,ChatGPT背后的技术将是其中的一部分。
下面是Watson与GPT技术的生成式AI结合的例子。
左边是Watson Assistant没有预设答案,会自动调用Watson Discovery实时搜索用户问题,可以找到知识文档中相关内容并返回结果,但不能使用这些内容生成自然的对话语言答案。而且Watson Discovery可以提供多个搜索结果,但无法将不同的搜索结果的信息结合起来,提供一个连贯的答案。右边则增加了生成式AI的能力,这时生成的答案直接响应用户所提出的问题。另外使用对话上下文来回答第2个问题:第2个问题没有明确提及“劳务派遣公司基本情况表”,但会根据上下文给出正确答案,因为它在上一个问题中已被提及。整个过程无编码即可完成,只需要把行业文档交给WatsonDiscovery,将生成式AI指向Watson Discovery,最后将它们与Watson Assistant模板连接在一起。
AI治理也是非常重要的方面。IBM发布了AI的信任和透明原则,这是如何构建IBM产品、IBM如何利用AI的指导,IBM Watson承诺不会利用客户数据来训练模型。同样这也是ChatGPT技术如何助力企业AI的需要关注的。
来自AI的洞察力正在从根本上改变我们的工作方式,ChatGPT虽然不完美,但正在为我们的科技未来指明方向。在+AI阶段,AI针对传统应用去产生价值,通过+AI赋能。IBM正在帮助企业将AI付诸行动,通过AI和自动化重塑工作流程,自动化端到端企业流程,用AI驱动的决策代替日常重复的任务来提高生产力,个性化员工和客户互动。
在+AI阶段,企业从智能设备等消费领域获得标签训练数据。使用互联网规模应用的消费者生成了足够的训练数据,可用于推荐引擎、语音和视觉应用。而在AI+时代,利用基础模型,可以使用未标注的数据进行训练,从而使企业有机会通过未标注的数据来获取业务价值。比如,工业4.0可以使用在正常操作期间生成的传感器数据来优化设备维护,IT供应商可以通过基础模型降低IT运营成本。
IBM正在帮助企业创建特定行业的基础模型,一起迎接AI+时代的到来!