采购领域使用人工智能面临伦理道德挑战

将AI应用于采购领域

加利福尼亚大学(以下简称加州大学)拥有10个校区、6个学术健康中心、众多研究机构和庞大的图书馆网络，涵盖约5,700栋建筑。当前，该校正积极在采购领域测试AI的应用潜力。加州大学系统采购部首席采购官兼副校长Paul Williams强调：“在正式推出前，加州大学正严密监控AI对其利益相关者可能产生的各种影响，以确保其正面效应的最大化。”Bf5esmc

Williams表示：“在探讨将AI应用于采购领域时，作为一个拥有大量敏感数据的公共机构，我们对数据的保护格外重视。这些敏感数据涉及学生信息、研究资料、知识产权或医疗数据等。我们既要充分利用AI技术，通过自动化处理和分析庞大的数据集，以更快速地理解学校的支出情况或合同的细节与影响，从而提升决策效率和准确性。同时，我们也必须谨慎行事，确保在采用AI工具时不会泄露任何信息，严格把控潜在的信息泄露风险。”Bf5esmc

加州大学在2023-2024年度的预算总额为471亿美元，其中员工工资与福利占据了该预算的主要部分。根据目前的运营预算，水电费、设备购置与维护，以及其他日常开销等，合计约为100亿美元。Bf5esmc

采购协议和合同的制定与管理通常由采购部门与法务部门协同负责。目前，AI在供应链合同领域的应用已逐渐显现，加州大学正积极评估其在该领域的潜力。Bf5esmc

Williams以加州大学的标准条款和条件为例表示，一旦合同内容发生任何变动，AI系统便可迅速介入，评估已更改的条款，并给出相应的风险评分。例如，当合作伙伴调整运费或运费折扣时，相较于赔偿条款或安全限制的调整，AI会判定前者的风险程度较低。“因此，我们正在探讨引入AI进行此类风险评估与分析。”Bf5esmc

他进一步表示，这是一个至关重要的用例，因为加州大学的众多遗留合同都是基于特定情境或校区需求进行个别谈判的。“借助人工智能，我们现在能够评估与同一供应商签订的多份合同。通过将这些合同集中起来，让AI基于我们预设的参数进行评估，能够快速分析并确定哪一份合同最为有利。”Bf5esmc

加州大学正自研AI工具

Williams明确指出，鉴于潜在用户群体的广泛多样性和加州大学内部人才资源的丰富性，大学系统及其校区正致力于内部研发AI工具。Bf5esmc

加州大学推动AI技术发展不仅会关注数据保护，也会深入评估AI对员工可能产生的多方面影响。他阐述道：“我们会全面考量AI对员工工作体验的正反两面的效应。同时，我们始终将减少偏见作为核心议题。由于AI及其工作原理尚处于形成初期，且它的发展速度迅猛，一旦开始使用它并形成趋势，调整将变得异常困难。因此，我们必须提前预见可能引发错误的因素，并将隐私保护、问责机制，以及减少偏见置于首要位置。”Bf5esmc

Williams与众多业界专家持相同立场，坚信AI不会全面取代人类劳动力。相反，他认为特定任务的自动化将释放人类的创造力，使他们能够更专注于高层次的战略规划和决策制定。Bf5esmc

AI技术确保合规与安全

作为一所公立学府，加州大学严格遵循各州及政府的法规要求。Williams解释说，这正是AI在其中发挥关键作用的领域之一。加州大学时常面临公共记录请求的挑战，例如，需要验证学校的各项合同是否都使用了恰当的“无障碍”条款表述，这里的“无障碍”特指确保视障、听障等人士能够无障碍地访问和使用校园内的建筑物及相关系统。通过AI技术的应用，加州大学能够更高效、准确地处理这些请求，确保合规性并提升服务效率。Bf5esmc

他解释道：“尽管现有的基础工具允许我们搜索合同数据库，但这种检索方式存在局限性，可能导致遗漏部分合同。原因在于，当系统尝试匹配特定词汇时，若输入的词汇与数据库中实际使用的词汇不完全吻合，系统便可能错过关键信息。例如，如果合同文本中使用了‘accessible(可访问的)’一词，而我们搜索时输入的是‘accessibility(无障碍性)’，系统可能无法识别出包含‘accessible’的合同。然而，通过运用AI技术，我们只需简单表述‘展示所有与无障碍性相关的合同’，由于AI具备自然语言处理能力，它将全面检索并呈现所有相关的合同。”Bf5esmc

网络安全无疑是当下亟待关注的重大问题，但在大学环境中，安全的概念所涵盖的范围更为深远和广泛。Williams认为，自互联网诞生之初，安全问题便如影随形。如今，随着人工智能技术的迅猛发展，信息的搜索和使用变得更为迅速便捷，但这同样为安全领域带来了新的挑战。他补充道，这些挑战并非仅局限于采购层面，而是触及到更广泛的安全议题。对于大学而言，信息安全已成为采购部门必须面对的首要担忧。Bf5esmc

在Williams的构想中，AI在数据分析领域之外展现出了更大的潜力和价值。他提到：“AI在评估和谈判合同条款方面具有显著的应用前景。设想一下这样的场景——你首先明确列出你的核心目标、限制条件，以及那些不可妥协的事项，供应商也会进行类似的阐述。随后，你将加载你的标准条款和条件，双方的AI将基于这些信息进行智能谈判，并最终提出一个建议性的合同草案。”Bf5esmc

不过，他也强调称，尽管AI在这一过程中发挥着关键作用，但人类的参与和监督仍然是不可或缺的。过度依赖AI可能带来未知的风险，因此，在利用AI技术的同时，仍需保持审慎和警觉。Bf5esmc

小结：

Williams总结道：“作为采购部门的负责人，我深感我们在培养员工严谨审核AI结果方面的努力仍有不足。我们借助自有AI试图解决的另一个棘手问题是，信息防护的构建如同大脑中的突触连接，一旦建立，便会迅速扩展并与其他突触交织成网，而现如今，这样的‘突触’已经遍布各个角落。”Bf5esmc

本文翻译自《国际电子商情》姊妹平台EPSNews，原文标题：Use of AI in Procurement Raises Ethics IssuesBf5esmc