ChatGPT背后的开源AI框架Ray,现在值10亿美元( 二 )


机器学习从业者通常可以在自己的笔记本电脑上运行使用有限数据集的小型模型,例如预测用户购买产品的简单模型 。然而,像这样的超大型模型,笔记本电脑是行不通的,这些模型需要大量服务器来训练 。
使用大量设备训练一个模型要面对一个重要挑战 —— 在不同硬件上协调训练 。而 Ray 恰好解决了这个难题,它为从业者提供了一种将不同硬件作为一个单元来管理的机制,用于确定什么数据去哪里,处理故障等等,硬件种类横跨谷歌云、AWS 和其他处理相同问题的产品组合 。此外,Ray 还将其他语言中的一个关键编程概念「actor」扩展到 ,众所周知是机器学习程序的首选语言 。
作为一个分布式计算框架,Ray 有两个关键优势,分别是位置感知(-aware)和任务分配(task ) 。如下图所示,Ray 能够横向扩展系统,以支持高吞吐量的细粒度任务,同时保持容错和低延迟任务调度 。
Ray 为训练大模型消除了巨大的复杂性,为该公司腾出更多时间和精力专注于模型的关键能力 。
新一代 AI 需要新的开发工具,Ray 只是一系列迅速兴起的下一代机器学习工具中的一个,这些工具正在迅速颠覆 AI 的开发方式 。例如,的 JAX 框架也获得了巨大关注,JAX 有望成为谷歌核心机器学习工具的支柱,已经在和Brain 被广泛采用 。
类似地,由和支持的初创公司开发了一个名为 Dask 的并行计算框架 。
近来大型语言模型正在释放更多潜力,这些新型机器学习工具将为业内科技巨头和初创公司构建更强大的语言模型 。
【ChatGPT背后的开源AI框架Ray,现在值10亿美元】推荐阅读:入门: 最全的零基础学Python的问题| 零基础学了8个月的Python| 实战项目 |学Python就是这条捷径干货:爬取豆瓣短评,电影《后来的我们》 | 38年NBA最佳球员分析 |从万众期待到口碑扑街!唐探3令人失望| 笑看新倚天屠龙记 | 灯谜答题王 |用Python做个海量小姐姐素描图 |碟中谍这么火,我用机器学习做个迷你推荐系统电影趣味:弹球游戏| 九宫格| 漂亮的花 | 两百行Python《天天酷跑》游戏!AI: 会做诗的机器人 | 给图片上色 | 预测收入 | 碟中谍这么火,我用机器学习做个迷你推荐系统电影小工具: Pdf转Word,轻松搞定表格和水印! | 一键把html网页保存为pdf!|再见PDF提取收费! | 用90行代码打造最强PDF转换器,word、PPT、excel、markdown、html一键转换 | 制作一款钉钉低价机票提示器! |60行代码做了一个语音壁纸切换器天天看小姐姐!|年度爆款文案