OctoML是一个帮助企业优化和部署机器学习 (ML) 模型的平台,在 C 轮融资中筹集了 8500 万美元。
虽然无数公司都在尝试利用人工智能来改善他们的业务和利润,但将人工智能项目从试点阶段过渡到现实世界的生产场景并非易事。事实上,麦肯锡在其2020 年人工智能状况报告中发现,来自各行各业的受访者中,只有 16% 的深度学习已经超越了试点阶段——而这最终就是 OctoML 的全部意义所在。
从试产到量产
OctoML 于 2019 年在西雅图成立,帮助公司将 ML 模型部署到生产环境。它通过自动定制模型以适应目标硬件平台、云提供商或边缘设备来实现这一点,无需手动重写或重新架构——换句话说,它节省了大量的时间和资源。该公司已经巩固了与 AMD、Arm 和高通等主要硬件公司的正式合作伙伴关系。
OctoML 建立在开源Apache TVM之上,这是一个用于中央处理单元 (CPU)、图形处理单元 (GPU) 和机器学习加速器的机器学习编译器框架——它使机器学习工程师能够在任何硬件上运行更高效的计算。也许最值得注意的是,OctoML 是由 Apache TVM 的创建者创立的,其中包括首席执行官 Luis Ceze。
“不断增长的 ML 硬件后端生态系统和各种模型正在产生大量的手动工作,以在部署前优化和微调模型,”Ceze 在一份新闻稿中指出。“这导致成本飞涨,生产时间显着延迟,并阻碍了资源受限边缘设备中的新用例。”
简而言之,OctoML 希望通过消除障碍和提高对更广泛用户的可访问性来帮助 AI 项目取得成功。这可能意味着资源较少的小型工程团队,或者像丰田这样希望更好地利用现有资源的大型企业。
在此之前,OctoML已从其主要投资者 Tiger Global Management、Addition、Madrona Venture Group 和 Amplify Partners那里筹集了约 4700 万美元,并在银行中筹集了 8500 万美元,该公司表示,它有充足的资金来扩大其投资名单。硬件供应商和云提供商之间的合作伙伴关系。
“我们的生态系统工作是由我们对公司的愿景驱动的,即让尽可能多的开发人员在任何地方和任何设备上都可以使用 ML,”Ceze 解释说。