本文来自微信公众号“DI数智观察”。
生成式AI为企业创新开辟了广阔的空间，也成为了CIO们的心头好。但是在实际应用中，采用生成式AI并没有想象得那么容易，诸如技术债务、数据泄露等问题，都在束缚企业采用生成式AI的手脚。如何驾驭生成式AI，已经成当前CIO们不能不考虑的问题。
本文总结了走在前沿CIO们总结的七个要点。
1
ONE
推到IT战略的C位
在当前的起步阶段，生成式AI已经开始改变企业，并深刻影响着IT战略。正确实施生成式AI被认为是以更低成本生产更高质量产品的有效工具。
医药连锁Walgreens的CIO Neal Sample认为，现在已经不必再去考虑AI是否会对企业的整体业务产生积极影响，而是要考虑影响的程度和速度。
代码生成是生成式AI最具潜力的应用场景之一。生成式AI可以用来自动化生成各种类型的代码，大幅提高生产效率，并加快IT迭代速度。GitHub通过微软Copilot来自动化生成大量代码，使其效率提升了55%。
代码测试平台Sonar的CIO Andrea Malagodi表示，生成式AI最起码可以通过自动化将软件开发人员从繁琐、重复的任务中解放出来，从而专注于更具创造性和高级别的工作。因此他认为，投资生成式AI关系到IT团队的成长、生产力和满意度的提升。
网络安全公司Palo Alto Networks的CIO Meerah Rajavel补充说，人工智能在将代码测试左移方面发挥了重要作用，可以协助进行单元测试、调试，以及在软件开发周期的早期识别配置错误。
代码生成并不是唯一从最新AI浪潮中受益的领域。无代码自动化平台公司Workato的CIO Carter Busse表示，除在IT领域外，AI还有助于客户支持、提高生产力和推动跨团队的创新。
云数仓公司Snowflake的CIO兼首席数据官Sunny Bedi预测，员工生产力将受到最大的影响。他预见，未来所有员工将与AI副驾驶密切合作，协助提供个性化新员工入职体验、协调内部沟通和对创新想法进行原型设计等。他补充说，通过利用语言模型的开箱即用功能，企业还可以减少在搜索、文档提取、内容创建与审核和聊天机器人等操作中对第三方的依赖。
2
TWO
处理不断增加的技术债务
但是与此同时，生成式AI也加速了技术债务积累的速度。
软件行业分析公司RedMonk的首席分析师和联合创始人Stephen O’Grady认为，单从代码的加速生成这一点，就可预测技术债务将会增加。
技术债务的产生关键原因在于生成式AI模型的实际应用方式，而不是模型本身。Walgreens的Sample提醒，在将AI模型应用于现有技术生态系统时，存在更高的技术债务积累风险，例如在使用旧技术栈时修改连接性和集成生成式AI模型。
但是从另一个角度来看，如果适当使用生成式AI可以通过重写传统应用程序和自动化积压任务来消除旧的技术债务。
CIO们不应该因此盲目行动，而是在拥有正确的云环境和战略之后再进行。企业管理软件公司Hyland的CIO Steve Watt表示，如果组织过早地实施生成式AI，现有的技术债务可能会继续增长，或者在某些情况下变成长期存在的问题。他建议制定一个计划来解决现有的技术债务，以确保新的人工智能驱动的项目不会崩溃。
起初，企业在尝试人工智能和大语言模型时可能会增加技术债务。但Busse同意，从长远来看，语言模型可减少技术债务，这取决于AI能否有效地应对不断变化的需求。他认为，将AI嵌入到业务流程中，能够更快地适应流程变化，从而减少技术债务。
3
THREE
确保代码质量过硬
与此同时，AI生成代码质量也受到质疑，突出的表现是代码变更和代码重用的增加。Red Monk的O'Grady分析说，AI生成的代码质量将取决于许多因素，包括部署的模型、当前的用案，以及开发人员的技能。
“就像人类开发人员一样，人工系统会持续输出带有缺陷的代码。”他说。
微软研究最近在评估了22个模型后发现，这些模型在基准测试中通常表现不佳，暗示了训练设置中存在基本盲点。报告解释说，虽然AI助手可以生成功能正常的代码，但它们不能始终超越功能的正确性去考虑其他方面的问题，如效率、安全性和可维护性，更不用说遵守代码约定了。
对此，Sonar的Malagodi认为，如果代码质量不好，即便生成速度变快了，但是对效率的提升也没有太大帮助。因此他敦促CIO和CTO们采取必要措施，确保AI生成的代码是干净的；这意味着代码是一致、有目的、可适应和负责任的，从而产生安全、可维护、可靠和可访问的软件。
模型本身的质量问题也可能导致输出的代码不理想。云技术智能平台Snow Software的CIO Alastair Pooley认为，数据质量、模型架构和训练过程的问题都可能导致不达标的结果。
“训练不充分的模型或意外的边界情况可能会导致质量较低的输出，带来运营风险并影响系统可靠性。“他说，”这些都需要对输出和质量进行持续的审查和验证。“
Palo Alto Networks的Rajavel补充说，人工智能就像任何其他工具，最终的结果取决于用户使用的工具和方式。如果没有采取适当的人工智能治理措施，模型可能会生成不符合产品架构和预期结果的低质量成果。此外，在她看来，根据当前任务选择适当的AI模型也非常关键，因为没有一种模型适用于所有情况。
4
FOUR
各个击破其他不良后果
在部署生成式AI时，除了IT债务和代码质量之外，还要考虑一系列潜在的不良后果。其中可能包括数据隐私和安全、算法偏见、工作岗位替代，以及AIGC带来的伦理问题。
网络犯罪分子已经开始利用生成式AI技术来实施大规模执行攻击，因为它能够制作出以假乱真的网络钓鱼活动和传播虚假信息。攻击者还可能将目标锁定生成式AI工具和模型本身，导致数据泄露或篡改输出结果。
“生成式系统可能会加速攻击者实施攻击的速度，”Red Monk的O'Grady说，“对许多企业来说，最大的担忧是从封闭供应商系统中窃取私人数据。”
除了模型本身的问题外，成本也是CIO们不能不考虑的因素。但是很多CIO容易在生成式AI上不自觉，或者不必要地花费大量资金，其原因可能是使用错误的模型，没有算好可能会产生的成本，或者没有有效地使用它们。
Salesforce的Perez表示，人工智能本身并非没有什么风险；它需要从头开始构建，并由人类来控制，从而确保从最基本的用户到最有经验的工程师，每个人都能信任其产出成果。在他看来，生成式AI的应用还有问题悬而未决，那就是AI开发和维护的所有权问题——因为这给IT团队带来了满足创新需求的压力，而许多IT工作者缺乏足够的时间来实施和训练AI模型和算法。
生成式AI带来的另外一个备受关注的话题是AI将取代人类劳动力。但是目前对于生成式AI对IT团队就业的影响还没有定论。
O'Grady认为这确实是个潜在的问题，但影响有多大目前还难以预测。但是Walgreens的Sample并不认为AI对人类构成生存威胁。相反，他对生成式AI改善员工生活的潜力持乐观态度，认为AI将使人们不必从事可以自动化的重复任务，从而专注于更高级别的工作。
5
FIVE
多管齐下缓解对AI的担忧
尽管AI的价值已经被广泛认可，但是很多人还是会对AI应用成果产生怀疑和担忧。应对AI带来的大量担忧需要采取多种方法。
对于Perez来说，生成式AI的质量取决于这些模型所接受的数据质量和可信度——要想获取高质量、值得信赖的人工智能，就需要高质量、值得信赖的数据。然而数据往往存在错误，这就需要工具来集成不同来源、不同格式的非结构化数据。他强调，要超越“人在环路中(human in the loop)”的方法，让人类在更大程度上掌控局面。在他看来，人工智能是一个值得信赖的顾问，但不是唯一的决策者。
为了保证软件质量，还需要进行严格的测试，以检查AI生成的代码是否准确无误。为此，Sonar的Malagodi鼓励企业采用“边写边清理”的方法，包括静态分析和单元测试，以确保进行适当的质量检查。他认为，当开发人员专注于清洁代码最佳实践时，他们可以确信他们的代码和软件是安全、可维护、可靠和可访问的。
Snowflake的Bedi说，与任何新技术一样，最初的热情需要用适度的谨慎来调和。因此，IT领导者可以先考虑有效地使用人工智能助手，比如作为能够检测架构漂移的可观察性工具，或者支持应用需求的准备工作。
6
SIX
全生命周期的AI应用治理
Snow Software的Pooley建议CIO在创新和风险之间取得平衡，并强调要采用控制和指导方针，避免这些工具被滥用而导致数据暴露。同时他也认为，就像采用其他许多新技术一样，如果出现问题，CIO会发现自己要承担责任。
诸如建立标准、规范等应对AI带来风险的措施，有赖于监管机构等部门的推进，但是企业内部应该率先制定指导原则来管理这种快速发展的技术。Walgreens就已经着手定义一个围绕AI的治理框架，考虑的因素包括公平性、透明性、安全性和可解释性等。
Workato的Busse同样主张在AI出现后制定内部制度，优先考虑安全和治理。他建议通过培训教育员工，制定内部操作手册，并建立AI实验的批准流程。
Snow Software的Pooley指出，许多公司已经成立了人工智能工作组，以更好地发挥生成式AI的价值并规避其风险。一些关注安全的组织甚至采取了更为严格的措施。例如，为了防止数据泄露，许多公司更倾向于采用本地系统。
Salesforce的Perez表示：“CIO应该带头确保他们的团队获取正确的培训和技能，以便识别、构建、实施和使用生成式AI，从而使组织受益。”他介绍，Salesforce的产品和工程团队在人工智能输入和输出之间建立了一个信任层，以最大限度地降低使用这种强大技术带来的风险。
有目的地使用人工智能和对其进行治理同样重要。很多企业在没有清楚地了解人工智能的作用，以及如何最大程度地让业务受益的情况下，就急于实施人工智能。必须清楚地了解，人工智能并不能解决所有问题。
因此Hyland公司的Watt认为，清楚地了解该技术能够解决哪些问题，不能解决哪些问题，是最大限度地利用它的基础。
7
SEVEN
关注对业务的积极影响
大语言模型将重塑各行各业，这一观点已经基本上成为共识。CIO们已经预见到它将带来切实的业务成果，比如用户体验。
Salesforce的Perez说，生成式AI将使公司能够为他们的客户创造以往没法想象的体验，而且AI已经不再只是一种供小众团队使用的工具——每个人都将有机会利用它来提高生产率和效率。
用户体验的提升不仅限于外部客户。Palo Alto Networks的Rajavel补充说，内部员工体验也将因此受益。她预测，仅仅是支持公司员工在内部页面上即时获取答案，基于内部数据训练的AI副驾驶就能将IT故障申请工单减少一半。
Sample表示，Walgreens通过生成式AI驱动的语音助手、聊天机器人和短信功能改善了客户体验，在减少电话量的同时提高了客户满意度。这样，团队成员可以更好地专注于店内客户。此外，该公司还正在部署生成式AI来优化店内运营，如供应链、店内空间和库存管理，帮助领导者做出关于业务收支的决策。
随着企业对生成式AI的潜力和挑战有了更深入的理解，我们可以期待一个更加智能和高效的未来。生成式AI也有望成为未来企业竞争力的关键。CIO们需要继续在创新与风险之间寻找平衡，确保AI技术在推动业务创新发展的同时，实现技术的可持续性和安全性。
