有人说 AI 已经取代了 DevOps。但 DevOps 并没有消失，它实际上在 AI 时代比以往任何时候都更加重要。

人工智能正在改变软件交付生命周期 （SDLC）。AI 正在帮助编写代码、优化代码、审查代码、调试代码等。然后是代码本身：SaaS 产品正在将 AI 整合到摘要功能、聊天功能和各种形式的分析中。

最后，AI 还有其他影响，尤其是生成式 AI （GenAI） 对 SDLC 的影响，例如非确定性 AI 输出的可观察性。幻觉可以加入 “off by one errors” 并缓存失效作为许多编程笑话中的笑点。

但是，AI 并没有真正改变的是 DevOps 的需求：更快、更频繁地将更高质量的代码交付到生产环境的做法。根据 DORA 的 DevOps 现状报告，有四个经过统计验证的指标可以描述软件交付性能：变更提前期、部署频率、变更失败率和失败部署恢复时间。我们再回到这些。

根据 Google Trends 的数据，对“DevOps”一词的兴趣在 2022 年 3 月达到顶峰。在前 10 年稳步增长之后，现在正在逐渐下降。另一方面，自 2022 年 11 月 ChatGPT 推出以来，AI 的兴趣呈爆炸式增长。巧合？我认为不是。

从表面上看，可以推断 AI 已经取代了 DevOps。但是，正如一位睿智的数据科学家曾经说过的那样，相关性并不等于因果关系。AI 以某种方式取代或消除了对 DevOps 的需求吗？几乎不。事实上，情况恰恰相反。

DevOps：你必须达到一定水平才能驾驭AI

我曾经做过一次演讲，谈到 DevSecOps 是如何发音为“DevOps”的，因为“Sec”是无声的。我争辩说，如果你真的正确地执行 DevOps，你的 “更高质量的代码 ”的安全漏洞就会减少，你 “更快、更频繁 ”的部署能力包括对仍然存在的任何漏洞进行修补和补救。事实上，如果没有强大的 DevOps 实践，组织在生产中通常会存在猖獗的已知漏洞。

相同的 DevOps 适用于 AI。为什么？因为 AI 需要高频代码更新、自动化质量流程和快速修复方法。看看 Hugging Face（AI 的 GitHub），你就会看到基础模型是如何迅速发展的。用于再训练或检索增强生成 （RAG） 的数据集会不断更新。提示工程是迭代的，可以触发 AI 代码库中的更改。

换句话说，如果您还没有弄清楚“常规”非 AI 代码的 DevOps，那么您在实施 AI 时将面临更多挑战。DevOps 趋势没有“跨越式”。如果您想高频率地部署模型更新，请从熟悉的非 AI 代码库开始。

而这只是 DevOps 中“更快、更频繁”的部分。能够提供“更高质量”的 AI 代码同样至关重要。没有人希望 AI 代码容易受到提示注入。每个人都希望 AI 模型经过测试和调整。如果您确保 AI 代码有效且安全的做法与快速交付更新不一致，那么您的 AI 要么过时，要么 AI 损坏。因此，请确保您拥有代码质量实践，使您能够自信地快速部署代码。

（题外话：MLOps 呢？AIOps 呢？是的，MLOps 已经发展到将 DevOps 原则应用于机器学习模型的生命周期。MLOps 有一些重大进步，可以帮助您将 DevOps 实践扩展到 AI。但让我们面对现实吧：MLOps 不是您开始的地方。MLOps 是您基于 DevOps 基础进行构建以支持运行 AI 工作负载的一部分。然而，AIOps 与使用 AI 和 ML 来协助 IT 运营联系在一起。这对于处理软件堆栈上下产生的大量数据很有用，但它与在生产环境中作 AI 本身不同。

案例研究：边缘 AI 需要边缘 DevOps

DevOps 和云是共同成长的。云中计算的聚合和抽象是对 DevOps 自动化的重要补充。整个生态系统围绕“云原生”工具如雨后春笋般涌现，其中大部分支持实现 DevOps 成果。DevOps 实践在许多组织中已经成熟，围绕将代码部署到云来实施。

许多工作负载已迁移到云中。特别是，面向用户的应用程序已从笨拙的本地部署转变为产品驱动的 SaaS。在任何 SaaS 应用程序的背后，您都会找到一些业内最优秀的 DevOps 从业者。企业一直在努力追赶数字宠儿，许多大型银行和媒体公司现在都拥有 DevOps 思想领导力。

但是，有一整类软件无法迁移到云或数据中心。而且会有更多编写的软件必须在边缘运行。为什么？因为在边缘（石油钻井平台、工厂车间、运输船只，甚至零售店）生成的数据可能成本太高、速度太慢，无法一直发送回云进行处理。

例如，考虑一家工厂的整个装配线上都有摄像机来扫描生产缺陷。将所有这些数据发送到云的成本高昂。接下来，考虑在关键阀门上装有压力传感器的石油钻井平台。当数据被发送到云端、进行分析并发送回命令以解决问题时，阀门可能已经发生了灾难性的故障。

边缘的数据强度为 AI 用例提供了很大的潜力。它们可能看起来与云中的 AI 不同 ，但最近的一项调查发现，90% 的 CIO 正在增加对边缘 AI 的投资 。回到我们之前的例子：工厂可以使用 AI 来分析摄像头馈送，并立即对有缺陷的零件采取纠正措施。能源公司可以在当地分析来自钻井现场的数据，以立即检测即将发生的故障或优化钻井作。这些只是边缘和 AI 共同成长的几种方式。

几乎自相矛盾的是，边缘 DevOps 并没有跟上云中 DevOps 的步伐。这是因为许多 “云原生” 实践和工具都基于一组假设，而这些假设在边缘领域并不成立。提供丰富的计算、功能和存储。相对稳定且高带宽的连接。服务器机架周围的物理安全性。将为 DevOps 构建的基于云的系统分叉到边缘环境是行不通的。

这在边缘造成了一个难题。边缘拥有这样的 AI 前景，但缺乏 DevOps 的成熟度，无法快速、频繁地将高质量代码部署到边缘。我们如何克服这个问题？从基础开始：

• 不要像对待云一样对待边缘。 拥抱边缘的现实，即使您正在推动类似云的体验。Edge Native 不是云原生。
• 将 DORA 指标用于边缘代码。 以您目前在四个关键指标上的位置为基准。您在这些指标方面的改进是关键绩效指标。
• 采用平台方法。 不要在边缘一次解决一个工作负载。每个工作负载都会带来 “朋友” （尤其是安全性和连接性）。AI 也不例外：您可能拥有 Python、TensorFlow、PyTorch、Docker 等。确保对堆栈的所有组件和所有层进行求解。
• 始终随身携带可观察性 。不要盲目飞行。无论是应用程序代码、单个模型还是 AI 代理，都有办法了解代码在生产中的行为。观察模型与观察代码不同;您需要测量推理时间、GPU 利用率以及推理请求计数和成功率。
• 不要忘记安全性。 您的边缘 AI 应用程序不仅需要在 Zero Trust 环境中工作，而且如果它们运行的设备被盗，还需要表现得当。安全飞地和地理围栏等功能至关重要。
• 添加 MLOps。 边缘 AI 需要 MLOps 来管理应用程序中使用的 ML/AI 模型，包括从数据集收集和训练到模型版本控制、打包和监控模型性能的所有内容。一旦您拥有坚实的 DevOps 基础，MLOps 就会引入其他特定于 AI/ML 的实践和模式，例如特征存储、模型注册表和数据集存储。

DevOps 并未消失，但在 AI 时代，它比以往任何时候都更加重要。衡量 DevOps 成功和健康状况的指标仍然是 AI 部署的有用路标。在 DevOps 实践不擅长的地方（例如边缘），在引入 AI 之前，请先强化 DevOps。