AI 正在经历一个变革性的时刻，并导致技术的可能性发生深刻的变化。它有能力释放世界各地社区、公司和国家的潜力，带来有意义和积极的变化，从而改善数十亿人的生活。同样，随着这些技术的进步，它们有可能极大地改进我们识别、解决和减少安全风险的方式。
我们正处于人工智能之旅的关键时刻
生成式人工智能的突破正在从根本上改变人们与技术互动的方式。在 Google Cloud，我们致力于帮助开发人员和组织掌握这些发展的最新动态。这就是为什么我们最近为我们的 Google Cloud AI 产品组合宣布了新的生成 AI 功能，并承诺推出一系列负责任地将生成 AI 注入我们产品的产品。
人工智能原则是这项工作的核心。我们是最早引入和推进负责任的 AI 实践的公司之一，这些原则是我们对依赖我们的产品安全地建立和发展业务的全球客户的持续承诺。请阅读我们关于 AI 实践原则的博客，了解更多信息。
我们使用 AI 解决现实世界问题的经验的好处之一是，当新技术成为主流时，我们可以更好地帮助确保新技术的安全。与此同时，我们正在利用最近的 AI 进步提供独特、最新且可操作的威胁情报，提高跨攻击面和基础设施的可见性。我们知道，提高网络安全不再是一个人类规模的问题，我们很高兴能继续共同努力，为即将到来的事情做好准备。
我们的工作植根于一个基本原则:AI 可以对安全生态系统产生重大的永久影响，但前提是我们 对我们的部署方式采取大胆和负责任的态度 。我们将这项投资视为数字免疫系统——当我们从以前的数字健康风险中学习并适应时，我们的系统就会更好地防范、预测和预测未来的攻击。为了最大限度地发挥 AI 技术的优势并最大限度地降低风险，我们采取了三管齐下的方法来保护、扩展和发展。
1. 安全:帮助组织自行部署人工智能系统
我们正在帮助组织部署安全的人工智能系统。我们对待人工智能系统的方式与我们看待其他安全挑战的方式相同:我们采用行业领先的安全功能（通常对用户不可见），并在默认情况下提供安全保护，以确保我们的用户安全。这包括技术控制、合同保护和第三方验证或证明。
此外，我们还有用于机器学习的标准化平台和工具，这些平台和工具集成了 Google 的数据保护、访问控制和变更管理工具。Vertex AI是我们用于训练和部署 ML 模型和 AI 应用程序的机器学习平台，它允许客户在没有代码的情况下训练模型，并且需要最少的专业知识来解决广泛的建模问题，包括消除常见错误、最大限度地减少错误配置和减少攻击面。Vertex AI 补充了我们控制数据收集和分类的强大数据治理平台，我们致力于对机器学习数据承担与传统数据处理相同的数据责任。
2. 规模:利用人工智能的力量实现更好的安全成果
我们将继续推出尖端的、人工智能驱动的产品和服务，以帮助组织大规模实现更好的安全成果。从历史上看，安全社区对威胁采取了一种反动的方法。尽管这些努力很重要，但它们是不可持续的。在当今动态的威胁环境中，组织难以跟上攻击的速度和范围，这常常让防御者感到自己被打败了。
虽然 AI 技术不能为所有安全问题提供一站式解决方案，但我们已经看到一些早期用例出现，说明 AI 如何帮助平衡安全竞争环境:
检测异常和恶意行为;
自动化安全建议;和
提高安全专家的工作效率。
以下是我们目前如何在我们的产品中使用人工智能来帮助人类减轻难以置信的动态系统的安全负担的一些例子:
Gmail的人工智能垃圾邮件过滤功能每分钟可拦截近 1000 万封垃圾邮件。这可以防止 99.9% 的网络钓鱼尝试和恶意软件到达您的收件箱。
Google 的 Safe Browsing是一项行业领先的服务，它使用直接在 Chrome 网络浏览器中运行的 AI 分类器来警告用户注意不安全的网站。
IAM 推荐器使用 AI 技术分析使用模式，以推荐更安全的 IAM 策略，这些策略是为组织的环境量身定制的。一旦实施，它们可以使云部署更加安全、更具成本效益，并具有最佳性能。
Chronicle Security Operations和Mandiant Automated Defense使用集成推理和机器学习来识别关键警报、抑制误报并生成安全事件评分以帮助减少警报疲劳。
Breach Analytics for Chronicle使用机器学习来计算 Mandiant IC-Score，这是一种基于数据科学的“恶意”评分算法，可过滤掉良性指标并帮助团队专注于相关的高优先级 IOC。然后将这些 IOC 与存储在Chronicle中的安全数据进行匹配，以查找需要进一步调查的事件。
reCAPTCHA Enterprise和Web Risk使用无监督学习模型来检测被劫持和虚假账户集群，以帮助加快分析师的调查时间并采取行动保护账户，并将风险降至最低。
Cloud Armor Adaptive Protection使用机器学习自动检测第 7 层的威胁，这有助于检测和阻止有史以来最大的 DDoS 攻击之一。
这些功能共同帮助组织采用 Google 的 AI 并将其应用于他们运营的任何地方应对安全挑战。
3. 进化:采用未来状态的思维方式以领先于威胁
我们也在不断发展以领先于威胁。AI 技术带来了新的安全风险，我们正在努力了解这些风险，以更好地保护 AI 部署免受潜在攻击。我们的基本假设是攻击者会寻找这些技术并尝试使用它们来规避防御，我们正在朝着未来的状态发展。这包括推进重要主题的进展，如后量子密码学和如何检测通过合成语音逃避语音验证的努力，保持对机器学习和人工智能系统的对抗性攻击的研究与客户合作开发解决典型人工智能交互和风险的最佳实践、工具和威胁模型。
例如，早在 2011 年，我们就开始使用机器学习来检测内部网络上的潜在攻击者。今天，通过对 AI 的投资，我们能够检测到我们自己的红队试图攻击我们的内部系统，并且我们将继续与研究团队合作，对最新的 AI 开发成果进行红队攻击。
一个连续的循环
总之，我们的方法加强了前线智能与 AI 驱动的云创新相遇的连续循环。在与开发人员、组织和更广泛的安全社区合作以推进大胆和负责任的 AI 功能时，我们将继续重新审视和探索这个主题。
