问题描述
在DevOps中，通常重要的主题之一是如何自动创建和交付软件工件。然而，随着数据科学的兴起，出现了一种新类型的工件 – 代表训练过的神经网络或其他机器学习模型的巨大二进制文件。这样的文件可能会有几个GB的大小，而且目前尚未标准化其创建方法，这可能会使组织回到持续集成之前的时代。然而，这些二进制文件有其版本，并且伴随着大量的训练数据（语料库）也在迅速增长。
在这种情况下，如何使用DevOps方法来处理这一新挑战，是否有最佳实践可遵循？
解决方案
请注意以下操作可能会因版本差异而有所不同，如有需要请自行适配。
使用工件仓库进行管理
一种最常见的方法是使用工件仓库（Artifact Repository）来管理这些训练过的神经网络或其他大型二进制文件。工件仓库是DevOps中管理工件的推荐工具，它可以很好地应用于这种情况。虽然工件的大小可能会在特定工件仓库中受到某些上限的限制，但这更多是技术或策略性的限制，而不是基本的原则性问题。
以下是如何在这种情况下使用工件仓库的步骤：
1. 首先，选择一个适合的工件仓库工具，比如JFrog Artifactory、Nexus Repository等。
2. 创建一个新的存储库，用于存放这些训练过的模型二进制文件。
3. 将模型文件上传到工件仓库中。你可以使用工件仓库提供的API或客户端工具来完成这一步骤。
4. 在上传时，可以为每个模型文件添加版本号，以便在需要时能够轻松地管理和访问不同版本的模型。
5. 使用工件仓库提供的功能，你可以管理这些模型文件的访问权限、版本历史以及其他与工件相关的操作。
应用DevOps方法来处理模型创建过程
在处理这些模型的创建过程时，同样可以采用DevOps方法来确保其高效、可重复和可验证。以下是一些可应用的最佳实践：
– 规范模型说明: 确保每个模型都有相应的规范说明，就像软件源代码一样，以便能够跟踪模型的变化历史。
– 自动化构建过程: 将模型的创建过程自动化，以确保能够重复地构建相同的模型，避免人工干预带来的错误。
– 验证和测试: 类似于软件开发中的质量保证（QA），对模型进行验证和测试，确保其在各种情况下都能正常工作。
– 持续集成和交付: 将模型的构建和交付过程纳入持续集成（CI）和持续交付（CD）流程，确保每次更新都能自动地进行构建、测试和交付。
需要强调的是，模型的大小并不会影响DevOps方法的适用性。就像之前可以成功地将大型软件交付纳入DevOps流程一样，类似的方法也可以应用于大型模型的创建和交付过程中。
使用DVC（Data Version Control）
另一个值得考虑的解决方案是使用DVC（Data Version Control），这是一个针对数据科学项目的开源版本控制系统。它在管理数据文件（以及代码）方面表现出色，可以管理输入、输出（模型）以及中间结果等。
DVC的特点包括：
– 可以管理大小为100GB等大型文件，不依赖于专有的存储或格式。
– 完全开源，可以与各种网络存储（如S3、GCP云存储、SSH、FTP等）兼容，作为服务器保存数据文件。
使用DVC的步骤如下：
1. 安装并配置DVC工具。
2. 创建一个新的DVC存储库。
3. 将模型文件和相关数据添加到DVC存储库中。
4. 使用DVC工具来管理模型文件的版本、数据文件的关联以及其他相关操作。
请注意，不同的解决方案适用于不同的情况，你可以根据组织的需求和实际情况选择合适的方法来管理和交付大型模型二进制文件。