AI缓存服务

        人工智能是当今计算机发展的重要方向之一。人工智能类工作需要大量数据对模型进行学习,数据量越大,得到的模型就越准确。因此,人工智能类工作具有很高的IO需求。

        我们的项目面向人工智能类负载,希望通过优化缓存和存储的机制,能够提高IO性能,增加AI job的整体训练性能。人工智能类负载具有自身独特的缓存模式,不适合一般性的缓存算法,需要基于人工智能负载的特点进行专门优化。此外,因为数据量较大,即使是分布式云缓存,也很难缓存所有数据,因此需要分布式存储的与缓存进行配合。

        最后,面向人工智能的服务器通常有大量用户同时运行,不同用户之间如何权衡效率与公平也是重要的研究角度。