作为2021年度人气作者No.11的掘金用户,我非常惭愧,因为整个2022年,我都没好好在掘金上发表更多文章,在此,我先向各位掘友,尤其是喜欢我的文章的掘友们诚挚地道歉~~
那么,可能有掘友好奇,2022年,我一整年都在干什么呢?其一,因为公司内部组织架构调整,加上原领导的离职,让我在忙于解决工作上的问题的同时,还不得不去适应新领导的做事风格,这样的状态一直持续到下半年才有所好转。其二,到了下半年09月,我突然有了一个新奇的想法:做一个完全不同于现有市面上OS的全新的OS,我给它起名Rhodes。Rhodes来源于希腊罗德岛,它是希腊十二群岛的首府,因此,我也期望Rhodes这个全新的OS可以统领整个OS生态的颠覆性发展。
这就是我整个忙碌的2022年。时至今日,Rhodes已经从一个懵懂的小孩,经历一次又一次的蜕变,逐渐长大,而作为一手抚养他成长的我,今天想给大家分享Rhodes这几次的蜕变过程,让大家对他有更多,更全面的了解。
2022年09月,回顾云计算从微服务、ServiceMesh、再到Serverless的发展,尤其是后两者的发展速度,让我不得不感叹云计算的发展之快。而反观OS,我们的操作系统却持续十几年的三家独大:Windows、Linux和MacOS。难道我们的操作系统不会有更大的、颠覆性的发展了吗?这时,我突发奇想,将ServiceMesh和OS统一,竟然发现OS也可以采用Mesh结构重新组织底层模块和应用,而且模块之间协作合理,模块自身职责和边界清晰。一瞬间,我的大脑跳出:Wonderful!我意识到,这个想法将改变整个OS生态!
于是,从2022年09月到12月,我开始完善思路,一边整理思路,一边着手撰写论文《Rhodes: A Next-Generation OS based on Resource Governance Model》,为了得到测试数据,我还必须实现最简单的基础模块,就这样,终于,在2022年10月下旬,我将论文的预印本发表在了IEEE官方预印本平台:Techrxiv。后面通过不断的思考,陆陆续续完善了论文,目前该论文已经更新到了第5个版本。最近,偶然打开论文链接,竟然下载量已经突破400。说实话,我挺意外的。。。
之前该论文还被Techrxiv官方Twitter账号主动推送了,我也挺意外的!
感兴趣的同学们可以访问该链接:doi.org/10.36227/te…,查看和下载论文。
2022年12月,ChatGPT🔥了,随之带来的算力成本问题,愈演愈烈。原本我还在依据论文内容,不断迭代Rhodes,但是,此时,警觉的我在想,算力是不是和Rhodes也有关系,Rhodes是不是可以解决算力成本问题?于是,我开始分析我论文中提到的模型,并思考我有什么办法通过Rhodes解决算力成本问题。如果说上面的论文通过全新的模型提升了OS模块的扩展性,那么,Rhodes通过底层存储和计算模型的颠覆,也应该可以解决算力成本问题。而后者的优先级更高,因为AI大模型的算力问题的解决迫在眉睫!因此,我决定调整方向,开始全力攻坚Rhodes的存储和计算模型。
2022年12月下旬到2023年02月,可以说,对我来说是最难受、最艰难的一段时间。因为没有人从软件层面解决算力问题,大家都习惯性从芯片角度解决算力问题,我不得不独自摸索、思考,也许有同学会说,既然没有人做,是不是方向就错了?我们知道,如果一个方向没有人做,要么方向就是错的,要么就是这个方向难度太大,大家没有找到更好的方法。而我更相信是后者,因为我们的大脑就这么大,为什么能够连接和高效处理千亿个神经元呢?与此同时,通过芯片模拟人类大脑,这个难度可想而知!但是,软件就不同了,我们可以用软件模拟任何超现实的模型。
一个人探索是孤独的,寂寞的,曾经尝试了无数次方案,都失败了,我差点就要放弃了。但是,我即将放弃的一刻,我突然想到为什么尝试很多方法都失败了,是不是方法所用的最基础数学理论本身就有局限性,导致基于它的方法也一定不会成功。于是,我想是不是应该从颠覆传统数学理论开始,重构全新的方法论,使用该方法论去解决算力问题。
终于,柳暗花明,2023年02月,Rhodes的第一个里程碑到来了,Rhodes实现了百万级用户数据的小容量存储,使用2KB容量存储了原本Linux需要1GB存储的用户数据。存储的容量减少了52w倍。
随后,我不断完善小容量存储模型,使其可以应对更多的场景。基于这个目标,我开始研究AI大模型训练所使用的数据结构,从此,我知道了模型使用大量的token构成矩阵,来描述一篇文章,于是,我完善Rhodes的存储模型,适配矩阵结构,终于,在2023年05月,完成token大矩阵的小容量存储,使用4KB存储了原本需要11GB存储的300w token。这意味着我们可以把百万字的文章全部缓存到CPU中,利用CPU完成大模型的计算,这是对GPU的挑战,革命性的颠覆。
Rhodes还在不断迭代,下一步我会专注计算模型的设计与实现,努力突破,尤其是突破传统的基础理论,真正将Rhodes带向更高的高度,使其成为全球算力体系中最为璀璨的一颗明珠。我也衷心期望Rhodes给我们带来的不仅是算力的革命,更是基础学科的跨越式进步~~