了解如何使用 TensorFlow 将“负责任的 AI”实践整合到您的机器学习工作流程中
TensorFlow 致力于通过与机器学习社区分享一系列资源和工具,推动负责任的 AI 开发进程。
什么是负责任的 AI?
AI 的发展正在创造新的机遇,以解决具有挑战性的现实世界问题。同时,它也对如何构建惠及所有人的 AI 系统提出了新的问题。
推荐的 AI 最佳实践
设计 AI 系统时,应遵循软件开发最佳实践,并采取以人为本的
机器学习方法
公平性
随着 AI 对各行各业和社会的影响日益扩大,致力于构建公平且包容所有人的系统至关重要。
可解释性
理解并信任 AI 系统,对于确保它们按预期工作非常重要。
隐私
使用敏感数据训练模型时,需要保护隐私的安全措施。
安全性
识别潜在威胁有助于保持 AI 系统的安全可靠。
机器学习工作流程中的负责任的 AI
“负责任的 AI”实践可以融入到机器学习工作流程的每一个步骤中。以下是每个阶段需要考虑的一些关键问题。
我的机器学习系统是为谁服务的?
真实用户体验您系统的方式,对于评估其预测、建议和决策的实际影响至关重要。请确保在开发过程的早期阶段就征求不同类型用户的意见。
我使用的数据集具有代表性吗?
您的数据采样是否足以代表您的用户(例如,产品面向全年龄段用户,但您只有老年人的训练数据)和现实场景(例如,全年使用,但您只有夏季的训练数据)?
我的数据中是否存在现实世界/人类偏见?
数据中隐含的偏见可能会导致复杂的反馈循环,从而强化现有的刻板印象。
我应该使用什么方法来训练模型?
使用能将公平性、可解释性、隐私和安全性融入模型本身的训练方法。
我的模型表现如何?
在广泛的用户、用例和使用场景中,评估真实世界中的用户体验。首先通过内部测试(dogfooding)进行测试和迭代,并在发布后持续跟进。
是否存在复杂的反馈循环?
即使整体系统设计经过深思熟虑,基于机器学习的模型在应用于真实、实时的动态数据时,也极少能达到 100% 的完美。当在线产品出现问题时,应考虑它是否与现有的社会不公现象有关,并评估短期和长期解决方案将如何对其产生影响。
TensorFlow 的负责任 AI 工具
TensorFlow 生态系统提供了一套工具和资源,旨在帮助解决上述问题。
定义问题
使用以下资源,在设计模型时充分考虑“负责任的 AI”。
构建和准备数据
使用以下工具检查数据是否存在潜在偏见。
构建和训练模型
使用以下工具,利用隐私保护、可解释技术等方式来训练模型。
评估模型
使用以下工具调试、评估和可视化模型性能。
部署和监控
使用以下工具跟踪和交流模型背景及细节。
社区资源
了解社区正在做什么,并探索参与其中的途径。