如果您正在考虑将您的团队或组织大规模地转移到人工智能，那么您可能需要检查并准备对底层基础设施进行投资——数据容量、处理能力、工具和相关资源。
当全世界都在争论人工智能的效率和风险时，支持基础设施的问题却没有得到足够的重视。目前的许多系统似乎还没有准备好处理人工智能的工作负载。
在最近的一项调查中，76%的高管认为他们目前的基础设施“将无法扩展以满足即将到来的需求”——也就是人工智能和相关的分析工作负载。此外，日立万代(Hitachi Vantara)对1288名高管进行的调查还发现，60%的人表示，他们简直被自己管理的数据量“压垮”了。该报告的作者预测，到2025年，大型组织将存储超过65pb的数据。(就在不久之前，1tb还是一个巨大的负载。)
日立的数据反映了人工智能基础设施研究所(AIII)的发现，该研究所发现，只有26%的团队对他们目前的人工智能/机器学习基础设施“非常满意”。当然，大型科技公司拥有庞大的预算、员工和能力来实现人工智能。AIII报告的作者指出，这些公司的团队“从零开始构建自己的AI/ML基础设施，因为市场上没有任何东西支持他们的努力。”
他们补充说，最近，“我们看到了新工具和平台的快速扩散，这些工具和平台使企业和中小型企业能够从智能革命中受益。然而，构建适合特定公司需求的正确AI/ML基础设施仍然是一个重大挑战。”
以简单的原始存储容量为例。日立的调查发现，数据存储需求可能在两年内翻一番。这些数据将何去何从?这是云，对吧?保持这种想法，调查的作者警告说。他们指出，云计算是解决方案的一部分，“但不是灵丹妙药”。到2025年，大约27%的数据中心工作负载将在公共云上，另外21%的数据中心工作负载将位于同一位置。大约一半的数据中心工作负载(49%)将留在公司内部，要么在更传统的内部部署系统中，要么在私有云中。
更复杂的是，IT主管估计他们无法控制流经企业的一半以上的数据。这是收集和存储的“暗数据”，但从未使用过，可能占所有数据的近一半。
不仅仅是数据容量需要加强，工具也很重要。AIII报告指出:“任何人工智能/机器学习团队的成长都是一个过程，在每个阶段你都需要不同的工具。”“在任何早期阶段，只有几个顶尖的数据科学家，你的工具需求要简单得多。但随着团队的成长，您需要更新、更好的工具来应对这种增长。传统的企业IT考虑因素，如基于角色的访问控制和安全性，以及持续的监控和维护，突然变得重要起来。”
随着人工智能的快速发展而产生的额外需求是功能存储，以及数据版本控制和血统的可见性。“有些人发现数据版本和沿袭太晚了，在监管或公开错误突显出对它的需求之后。这三名作者表示。“随着团队的成长和跨gpu的内部资源调度竞争，这变得至关重要。在每个阶段，新的必备工具都会迅速浮出水面。”
AIII的作者指出，大型科技公司“从零开始构建自己的工具，因为市场上没有任何东西可以支持他们的需求，但这种方法对其他没有开发人员的企业来说基本上是遥不可及的。”“这也是不可持续的，因为这些工具的技术债务和维护很快就会成为一场噩梦，即使商业工具开始绕过内部构建的系统。”
AIII的分析师“预计，未来5年，越来越多的科技公司将用商业或开源替代方案取代部分自制堆栈。我们预计，大多数处于早期主流阶段的企业不会制作自己的工具，而是专注于编写更小的工具，以缩小堆栈模块之间的差距。”
