消除人工智能中的“智能”风险

陈凯艳 钟滨

人工智能（Artificial Intelligence），英文简称AI，是一种模拟和模仿人类智能的技术，旨在使计算机具备理解、学习、推理和决策等智能能力。它通过分析大量的数据，使用机器学习和深度学习算法，以及其他相关技术，来实现人类智能的某些方面。人工智能技术在各个领域有广泛应用，包括医疗保健、金融服务、交通运输、制造、娱乐等。它为人类带来了许多便利和创新，但也引发了一些伦理和社会问题，需要相关人士探索解决方案。企业人力资源管理是指一种系统化的方法，通过合理规划、组织、领导和控制企业内人力资源的活动，确保组织能够招募、发展和留住合适的员工，以支持实现企业目标。近年来，人工智能技术在企业人力资源管理中发挥着重要的作用，如表1所示，企业利用人工智能技术可以提高效率、减少人为错误，并为人力资源决策提供数据支持。

人工智能技术的潜在风险

人工智能技术所具有的“智能”的优势，给企业人力资源管理带来了许多机遇和便利，然而，辩证地看，优势也可能成为劣势，甚至会给企业带来一些风险。

●数据隐私安全性问题

企业引入人工智能技术后，会加深对人工智能技术的依赖。如果技术出现故障或不稳定，可能导致管理系统瘫痪或做出错误的决策，给企业带来损失。人工智能技术在人力资源管理中需要处理大量员工数据，包括个人信息、绩效评估数据等。这就带来了数据隐私和安全风险，如果不加以妥善保护，可能导致数据泄露和滥用等问题。例如，某些恶意程序可以利用AI算法，通过机器学习造成系统意外操作。

●不公平和歧视风险

人工智能技术的应用可能存在不公平和歧视的风险，例如在招聘中，算法可能会基于历史数据产生偏见，从而影响候选人的选拔结果，企业需要审慎考虑算法设计和数据采集。再比如，某些机器学习模型可能会将某些群体排除在外，从而做出不平等的决策。

●人机协同与沟通问题

人机协同需要机器具备足够的知识和技能来执行任务，然而，机器的知识和技能仍然有限。因此，当面对复杂或新颖的任务时，机器可能无法提供足够的帮助，从而限制了人机协同的效果。由于机器无法像人类一样理解和适应任务的复杂性和变化性，任务分配和协调可能变得困难，导致效率降低和冲突出现。

●对员工心理的影响

人工智能会取代一些低技能、低附加值的工作，使得一部分人失去工作。例如，在工厂里，机器学习技术可能会自动化取代重复性的工作，导致一些工人失业。另外，一些需要高度专业知识和技能的工作，如医生、律师和会计师等，也可能会被自动化和机器人所取代，使得这些行业的从业人员面临失业的风险。这会引发部分从业者心态上的变化。

消除“智能”风险

●消除数据隐私安全性风险

当我们讨论数据隐私时，首先需要明确的是：隐私的定义是多元和复杂的，它在不同的文化、法律体系和个人价值观中有着不同的含义和界定。在一些文化中，隐私被视为一种基本人权，而在其他文化中，它可能被视为次要考虑。这是一项复杂的任务，需要采取综合性的措施。大体上可采取以下4种措施：（1）采取数据加密、匿名化、访问权限控制等措施来保护数据的隐私。（2）在开发人工智能应用程序时，必须要考虑安全需要，选用合适的密码学算法（例如区块链技术）并建立完整的防御机制。对人工智能系统进行安全性评估和测试，包括漏洞分析、攻击测试等，以确保系统在面对潜在威胁时具有强大的安全性能。（3）建立相关的法律和监管框架，明确规定人工智能技术使用的范围、限制和责任。（4）提高企业和员工的安全意识和技能，包括员工培训、用户教育等。（5）强化企业的责任感，企业和开发者应该承担对他们所创建的人工智能系统的责任，并遵守相关的道德和法律规定。

●消除不公平和歧视风险

1.提升透明度和可解释性：确保人工智能系统的决策过程是透明和可解释的。这有助于员工理解系统如何做出决策，并可以检查系统是否存在不公平和歧视的倾向。

2.保证数据质量和多样性：确保训练人工智能系统的数据集具有高质量和多样性。如果数据集存在偏见或不平衡，可能会导致系统在做出决策时对某些群体不公平。

3.强化监测和审查机制：建立监测和审查机制来发现和纠正人工智能系统的潜在不公平和歧视问题。

4.鼓励多元化团队参与：在开发和应用人工智能技术的过程中，重视拥有多元化的团队和参与，以避免偏见和歧视的产生。

5.持续改进反馈机制：针对员工和用户的反馈，持续改进人工智能系统，纠正和消除不公平和歧视的问题。

●解决人机协同与沟通问题

1.明确各自的角色和优势：人类具有创造力、情感和社交能力，擅长灵活思维、复杂决策和创新等任务；而机器则擅长处理大量数据，执行精确任务和高速计算等。

2.建立紧密的沟通与协调机制：沟通包括人与机器之间的双向交流，以及机器之间的信息共享与传递。为此，企业可以通过设计友好易用的用户界面、采用自然语言处理技术实现交互式对话等方式，促进人与机器的有效沟通，实现更高效的协同工作。

3.保障合作关系的安全和可靠：在数据共享与传递过程中，需要采取相应的安全措施，保护敏感信息和隐私。同时，还要建立合理的监控和检测机制，及时发现和修复潜在的安全漏洞和问题。

4.为员工提供必要的培训：这有助于提高人机协同的效果和效率。

●消除员工焦虑心理

AI如此出色，这让不少员工产生了深深的焦虑——不知何时自己会被淘汰。当然，我们可以采取积极的措施来应对这些挑战，提高自己在职场和生活中的适应能力。

1.保持学习：通过参加在线课程、讲座和实际项目，不断提升自己的专业技能。这样，员工就能更好地适应不断变化的工作环境，结合AI找到新的职业发展机会。因此，员工要把终身学习纳入工作计划并贯彻落实。

2.培养多样化的技能：学会跨领域的技能将有助于员工在不同的行业和领域中找到新的发展机会。这样，员工就能在不断变化的市场中保持竞争力。年轻人的优势就是“年轻”，有大量的时间去接触更多的新鲜事物，在AI的协助下员工可以探索更多领域，探索无限的技能。

3.保持积极的心态：我们应该将变革视为机遇，而不是威胁。尝试找到新的兴趣点和发展方向，并从中寻找新的挑战和成就。其实AI的出现带给企业更多的是机遇，这需要全人类共同开发，让我们的工作和生活更加“智能”。

作者单位 江西理工大学