从 CodeAnywhere 和 Shift 到 Daytona
Swyx: 好的,我们现在在录音室,嘉宾是 Daytona 的 CEO Ivan Burazin。欢迎。
Ivan: 感谢邀请。
Swyx: Ivan,我们认识很久了。
Ivan: 很久了。
Swyx: 我甚至都不知道你是怎么发现我的,是你主动联系我的吗,为了 Shift 大会。
Ivan: 是我主动联系你的。原因是我们当时正在思考——我是 CodeAnywhere 的联合创始人之一,那是第一个基于浏览器的 IDE,所以我们很长一段时间都在想,localhost 应该消亡。然后你写了那篇文章。
Swyx: 《localhost 的终结》(End of localhost)。
Ivan: 然后我就因为那篇文章联系了你,接着我们就聊了。当时我其实在做另一份工作,正在学习相关知识,我是开发者体验(developer experience)的主管,而你在这方面非常精通。我当时其实联系了包括你在内的几个人,问应该怎么做?在这个时间点,关键的事情是什么等等。你人很好,接了我的电话,我还记得当时我和你通电话迟到了。
Swyx: 我不记得了。
Ivan: 我记得,因为我当时和我……我在想当时是女朋友还是已经是妻子了,我不确定。不过是同一个人,这很好。我迟到了是因为我们当时在意大利度假,然后我因为什么事耽搁了。我感觉很糟糕,而你人很好,对此很包容。
Swyx: 我人好的原因是我对别人也经常迟到,所以这就像是,咱们谁也别说谁,是的。所以为了那些不知道的人介绍一下,InfoBip Shift,你过去做了这整个事情,那基本上是我创办 AI Engineer 大会的灵感来源之一,我想我必须感谢你给了我那个推力,让我觉得,“哦,原来你是可以举办并销售会议的?”
Ivan: 我记得你一开始让我给你顾问股份,但我当时太专注于我们在做的事情,就拒绝了,我本应该接受的。所以抱歉了,兄弟。不过不管怎样。
Swyx: 我们又不是风险投资(venture backed)支持的。
Ivan: 不,这不重要。
Swyx: 是的。不管怎样,我觉得你令人印象深刻的地方在于,CodeAnywhere 是你一直试图打造的东西,你把它搁置了一段时间,然后在 InfoBip 之后又回到了它。给我们讲讲这个故事吧,讲讲创立 Daytona 的故事和起源。
Ivan: 当然。真的很久以前,我和我的联合创始人就在一起了。我这么说,我已经说过很多次了,我们就像是结婚了,然后离婚,然后又复婚了。有些人在实际问我,我的联合创始人是不是我的伴侣。他们以为是字面意思。不是字面意思,但我们已经一起创办了多家公司。就如你所说,我们经历了一个转变,从 CodeAnywhere 转到了名为 Shift 的会议,然后再回到 Daytona。我们最初在 2000 年代初开始堆叠服务器,做虚拟化(virtualization)、路由器等,在底层基础层面做这些事情,那是一家服务公司,后来我们把它卖掉了,为了专注于我联合创始人真正发明的东西,也就是第一个基于浏览器的 IDE,我说是第一个。在我们之前其实还有 Heroku。他们做了很短一段时间,直到他们变成了 Heroku。但除了他们,我们是唯一的一家,它叫做……
Swyx: 还有 Cloud9。
Ivan: Cloud9 稍微晚于我们出现。还有 Replit,那是我们停止做的时候出现的,Replit 出来了,从那以后他们一直很成功,这很棒。还有 Nitrous.io。当时确实有几家,但都太早了。但有趣的是,我们当时,因为没有 VS Code,没有 Kubernetes,而且 Docker 也是在我们刚开始时才出现的——或者我不确定当时它是否已经公开了。所以我们必须自己构建整个技术栈的一切,那是我们带入并在今天 Daytona 中一直使用的关键经验。所以那非常早。大约有 300 万人使用了 CodeAnywhere。它稍微偏向天使投资(angel-backed),而不是风险投资。我们最终把钱还给了所有人,因为它没有达到那种规模。但是,三年前,我们开始了与 Daytona 类似的事情,虽然不是我们今天的样子,但它是为人类工程师自动化开发环境,基本上是 CodeAnywhere 的底层技术栈。然后我们在去年一月份经历了一次艰难的转型(hard pivot),转向了沙箱(sandbox)。所以我们现在就在这里。
Swyx: 历史性的转型,是的,这属于那种情况,我独立投资了 CodeAnywhere,但也投资了 E2B,然后你们两家都转型做了同样的事情,我就觉得,“操。”
Ivan: 你投资了,你投资了 Daytona。你投资了 Daytona。但你是第一个……如果我们没有拿到你的支票,我们就不会做这件事。
Swyx: 不可能。
Ivan: 不,当时的情况是,“我们必须先把他拉上船,”你就是那个让我们起飞的助推器。
Swyx: 不是,因为你把我放在了你的融资演讲稿(pitch deck)上,老兄。我当时想,“天哪,如果我不投资,这就是在给我下套啊。”
Ivan: 那是因为那用了你的名言。就像我们……
Swyx: 是的。是“localhost 的终结”。
Ivan: 我们围绕 localhost 的终结以及谁对此感兴趣做了大量研究。
Swyx: 不,那是,我写了那篇博客文章,然后那个领域的每一家公司都联系了我,然后每个收到这些融资演讲稿的 VC 也不得不打电话给我,和我讨论。
Ivan: 但它终于发生了。
Swyx: 真的超级有趣。
Ivan: 它终于发生了。
Swyx: 它终于发生了。
Ivan: 是的,它终于……
Swyx: 它终于发生了,可能是非人类用户(non-human users)。是的,所以今天的 Daytona 是什么?给我们一个快速的描述。我正穿着你们的衬衫。
今天的 Daytona 是什么:为 AI Agent 提供可组合计算机
Ivan: 你正穿着衬衫。是的。
Swyx: 上面写着,我觉得你们的品牌建设非常好。非常一致。“运行 AI 代码”(Run AI Code)。再简单不过了。
Ivan: 完全正确,但我们可能得改掉它了。
Swyx: 噢,糟糕。
Ivan: 这也只是我们所做事情的一个子集。不幸的是,我们真的很喜欢它,“运行 AI 代码”超级简单。人们对它有不同的解释。我想我们已经送出了 5000、6000 件这种衬衫。人们骄傲地穿着它们,因为它实际上并没有营销我们自己。
Swyx: 是的,Daytona 写在背面。
Ivan: 它营销在背面。它是在向那个人本身营销,所以我认为我们在那一点上做得非常好。但它也只是我们所做事情的子集,因为人们想到“运行 AI 代码”时,他们只想到这些小的,比方说隔离区(isolates),代码执行盒子,你发送一些代码,你得到一个输出。而今天的 Daytona 本质上是为 AI agent 提供的可组合计算机(composable computers)。也就是,市场称之为沙箱(sandbox),但这可能会引起误导。
Swyx: 所有这些。所有的这些。
Ivan: 是的,完全正确,因为它可能会引起误导,因为人们通常认为沙箱是一个演示或测试环境,而不是生产级环境。但 Daytona 所做的是,如果你想想你面前的笔记本电脑或那边的电脑,或者我妻子是个建筑师,所以她有一台装有 3D 显卡的 Windows 电脑来进行 3D 渲染。作为人类,我们有不同的电脑或不同组合的电脑。我们坚信,今天以及未来的 agent 将需要所有这些不同组合的电脑来执行不同类型的任务。所以我们基本上通过 API 提供这些。
Swyx: 是的,为了给人们——我试着把所有的顿悟时刻或惊叹时刻提前,好让人们保持参与并点赞订阅。市场正在爆炸式增长,对吧?你们报告了 74% 的月环比增长,而且,它已经增长了一段时间了。它一直是这样(向上)的势头。每一个——不仅仅是你们。每一个。
Ivan: 每个人都是,是的。
Swyx: 可以说是计算提供商(compute provider)。我不知道你是否同意我用“计算提供商”这个词。
Ivan: 没问题。
Swyx: 是的。所以像是主要由产品驱动(PLG-driven)的有机增长,但企业级业务也做得超级好,我想把时间倒回去年一月,你们进行转型的时候。所以你们显然很早预判了这个市场,并做好了定位,你们现在是市场领导者之一。但究竟是什么洞察让你们做出了转型的决定?
转型:从人类开发环境到 Agent 沙箱
Ivan: 促使我们做出这个转型的洞察发生在那个季度之前,也就是 2024 年底。当时我们——基本上,我们做了一个演示,和——我没记错的话我们讨论过这个,Devin 当时还没有公开。你当时实际上给了我 Devin 的访问权限。所以 Devin……
Swyx: 我给了吗?
Ivan: 是的,你给了我访问权限。
Swyx: 我觉得我本来不应该……
Ivan: 是的,完全正确。
Swyx: 是的,我……
Ivan: 所以这不重要。你……
Swyx: 是的。我给了大概三个朋友访问权限。
Ivan: 是的,或者是通了一次电话,你展示给我看了。这不重要。但是 OpenDevin 当时可用了,现在叫 OpenHands。所以我们当时觉得,“哦,这似乎是个新东西。这还没公开。让我们把用于人类自动化开发环境的东西拿过来,结合 OpenDevin,把它作为一个 SaaS 推出。”我们这么做了。并没有很多人注册并使用它,但是很多正在构建 agent 的人联系了我们,他们说:“嘿,我的 agent 需要一个计算沙箱运行时(runtime),”不管你想怎么叫它。我忘了当时叫什么了。然后我们就想,“哦,太棒了。这是一个新市场。这是我们的基础设施。这是我们的产品,冲吧。”然后我们很快就发现,人们并不喜欢我们构建的东西。它不能用。我记得刚开始我们做这个,为 agent 构建沙箱的时候和人们交流。人们会说,“哦,这有什么不同?这不就是一样的东西吗。我们有 EC2,我们有虚拟机(VM),我们有所有这些东西。”但我们发现我们给的每个人,大概二三十个人,他们都说,“不。”就像,“这不是我们需要的。这会出问题。”基本上,我和我的联合创始人并不怎么懂——因为我们是做基础设施的人。我们不是做 AI 的人。所以我基本上把这当成了自己的任务,去看了现存的每一个播客,包括所有这些等等,去跟上最新进展,阅读所有的博客,去理解正在发生什么。
Swyx: 你想提一下还有哪些资源是有用的吗?以防人们也在寻找。
Ivan: 总的来说我们——我看了几个播客,涉及不同的领域和类型。有你们的播客,No Priors,Bill Gurley 的播客在存在期间非常棒。
Swyx: BG2,是的。
Ivan: 是的,在它还在办的时候。所以有几个。20VC 从不同的动态角度来看很有趣,还有一些是不同动态的。另外还有 Red Points。
Swyx: 我们并不真正关注计算市场。
Ivan: 其实已经是了——抱歉?
Swyx: 你,你想要——你关注的是 agent 基础设施市场。
Ivan: 我当时关注的是 agent 市场和整个 AI 市场,并试图理解谁是玩家,人们的认知是什么,以及它是如何发展的。显然你还需要辅以其他方式,比如去参加会议、参加活动、参加见面会、阅读白皮书,做所有你必须做的事情来理解正在发生什么。当我们搞清楚了,当我们对自己必须构建什么有了一个概念时,就在除夕那天,真的是在除夕夜,我半靠直觉手敲(half vibe coded)了第一个 MVP(最小可行性产品),也就是今天 Daytona 的第一个版本。我大概凌晨 3 点才去睡觉。我当时在——我刚哄我还在襁褓中的女儿和妻子睡着,说了句新年快乐,然后就回去继续做这个。我把它发给了我的联合创始人兼 CTO,他早上看到了。他说:“这绝对是一坨垃圾。不要给任何人看这个,但想法是好的。”于是他花了两周时间,重新构建了它。
Swyx: 当时看起来是那样吗?听着,我——那只是个粗略的想法。
Ivan: 噢,甚至差远了。甚至一点都不沾边。它比那糟糕得多。但那是一个非常——它对应该是什么样子的看法很简陋。它能工作,但不理想。所以他就去深入研究了,这是他作为 CTO 的工作,然后他带着这个版本回来了。我们接着给所有在一季度前说过“这是垃圾”的人打电话。我们安排了这些通话,我们把它给了——我们只是向所有人演示了一下。所有的通话都超时了,每一个都是。原本是 15 分钟的通话,最后都聊到了 25、30 分钟之类。每个人都说,“我们需要,我们要访问权限。”当时没有登录界面,只有一个 API 密钥,因为它只是一个 beta 版或者 alpha 版。他们说,“哦,我们要访问权限。”我们说,“当然,没问题。好吧,非常感谢。”但到了第二天,如果我们没有发给他们,每一个,我们通话的每一个人都回来问,“我的 API 密钥在哪?”每个人都想要。我们当时就想,“卧槽。”这就是我们要找的。我从未感觉过——所以第一,关于你刚才说的理解,大多数人认为人类和 agent 的基础设施是一样的。我们在一个季度前明白这不是一回事。我们只是不知道正确的原语(primitive)是什么。然后当我们回来,我们可以谈谈那是什么,我们把它给了这些人,我从未见过,我从未经历过——我这辈子创办过多加公司。我从未经历过这种,如果你不给他们访问权限,人们真的会打电话找你要的情况。他们现在就想要访问权限。所以这就像是,好吧,他们不需要(以前的)那个。他们想要的东西似乎不存在,或者他们还没有找到,而他们真的想要我们所做的。然后当我们明白我们发现了某个重要东西时,当你思考这个市场的规模时,像为人类工程师和企业提供服务的市场是一个非常大的市场,想想 GitLab 或类似的公司。但未来将存在的每一个 agent 的市场就像是,那个市场是什么?它有多大?我们就想,“我们要全面投入到这上面。”所以那就是我们在旧产品和新产品之间做出切割的地方。
裸金属、有状态沙箱以及 Lambda + EC2 模型
Swyx: 是的。但当时它还不可组合(composable)吗?
Ivan: 它非常——它基本上就是一个 Linux 盒子,你可以改变它,你可以定义 CPU 数量、磁盘和 RAM。那就是你能做的,但你不能有多个操作系统,你不能在运行中调整它的大小,你不能添加 GPU,你不能做所有这些事情。它只是那个东西的第一个变体,是的。
Swyx: 它是从一开始就是裸金属(bare metal)的吗?
Ivan: 它从一开始就是裸金属的。所以我们立刻想到了一件有趣的事情,所以我们的……
Swyx: 给听众介绍一下背景,通常的做法是什么?
Ivan: 是的,基本上大多数提供商是在虚拟机之上运行它的。而且还有……
Swyx: Firecracker。
Ivan: 是的,他们在 Firecracker 和虚拟机上运行。所以我们也——我们可以得到——我们有多个隔离层,我们可以做到那一点。但通常的做法是,第一,机器的状态,或者说硬盘,不属于沙箱本身的一部分。另一件事是,它们并不被设计成永远存在。所以它们大多数是可抢占的(preemptible),它们有一个生命周期。所以我们当时的想法是,当我们要进入这个领域时,agent 会像人类一样,也就是说,在你完成工作之前你不想让你的笔记本电脑关机。你想合上盖子再打开盖子,它还是相同的状态。所以你——agent 也会想要那样,暂停然后回来。它们想要这两件事。但另外 agent 真的需要速度,对吧?它们能得到吗?所以当我们思考我们需要极其快的东西,如何让它变快,如何让它长时间运行并且是有状态(stateful)的。这就像是将 Lambda 和 EC2 结合起来,对吧?这两者结合在一起。我们不知道其他人是怎么做的,因为我们当时也不知道围绕这个有一个市场。它更像是,好吧,这就是我们需要的,他们需要的。我们看了看 Kubernetes,它不够好。我们看了看 Nomad,它无法实现这一点。所以我们在 CodeAnywhere 重写我们自己的调度器(scheduler)的经历,基本上就是我的 CTO 想出来的。他说,“哦,从那里的经验教训,”然后他把它带了过来。有趣的是,我们的第三位联合创始人看到它时,他说,“兄弟,这是什么?这像是 2008 年的东西。”就像,我们回到了过去,他说,“完全正确。”所以 Daytona 为什么像你在这个基准测试中看到的那样超级快,原因是我们本质上是在裸金属上运行。我们有自己的调度器,我们使用底层机器的底层磁盘、CPU 和 RAM,这意味着你的 IOPS 快得离谱,因为在 EBS 或类似东西之间没有网络。不仅如此,快照(snapshot)、时间点、模板,也都预加载在裸金属机器上。所以当你从一个模板或快照启动一个沙箱时,你本质上被引导到基于那个 NVMe 驱动器存放该快照的裸金属机器上,然后它字面意义上就直接开启了那台机器,而且它是本地的。没有网络延迟,上面什么都没有。所以,当从第一性原理思考一个 agent 的电脑应该是什么样的时候,这些就是我们想出来的独特性,这就是我们创造的东西。
基准测试、60 毫秒启动与 5 万个沙箱
Swyx: 是的。我也许应该,我不知道你是否认可这个,但有一个做计算 SDK 的人,你们在那上面表现得非常好,比如 TTI(Time to Interactive),对吧?这是个——这对你们来说是一个相关的基准测试吗?我不知道。
Ivan: 我不知道,而且它每天都在变。所以今天 RKL 是……
Swyx: 我不知道 RKL 是什么。从来没听说过。
Ivan: 是的。RK,是的,它在那里。
Swyx: 你们的速度,至少比下一梯队的性能快三分之一,而且,有很多其他更知名的名字启动得非常慢。
Ivan: 是的。我们在很长一段时间内都遥遥领先排在第一,现在沙箱有不同的定义,不同的隔离模式,不同的其他东西。所以 RKL 是真的在 S3 上运行它,包括数据,所以它是非常不同的,他们启动一个沙箱,为此启动一个容器(container),所以这是一种不同类型的东西。所以沙箱的定义是我们都需要达成共识的东西。但是是的,我们在启动和运行这些东西方面快得离谱。所以你甚至能在那里看到它只要 0.10 到 0.11,所以。
Swyx: 足够接近了。是的。你还需要什么呢,对吧?
Ivan: 是的。所以基准测试本身,所以,在这个里面,我不认为基准测试等同于市场占有率或收入或类似的东西。我在多个基准测试中看到了这一点,不仅是在沙箱方面,而是在一般的基准测试中。
Swyx: 这只是上牌桌的筹码(table stakes)。就像是……
Ivan: 完全正确。但这也没坏处。
Swyx: 只是粗略地检查一下。
Ivan: 就像你肯定得在那上面,你必须参与竞争,这样人们才会知道,哦,这绝对是顶尖之一。因为这只是客户关注的一个维度。还有其他的事情,比如你能连续启动多少个?功能集是什么,支持怎么样,人们看重很多不同的东西,但你绝对得在上面,在基准测试上。
Swyx: 人们连续启动的数量有多少?
Ivan: 所以我们有……
Swyx: 或者是并发,也就是并发量,对吧?
Ivan: 我们关注三个指标。第一个是启动一个的时间,所以我们启动一个的时间是 60 毫秒,包含网络延迟。所以从请求、启动到回复,60 毫秒,整个过程 60 毫秒。那是一个指标。但如果你想一次启动 50,000 个,我们现在大约需要 75 秒。所以并发启动 50,000 个大约需要 75 秒。其他一些,有关于这方面的公开数据,大概需要 2,000 秒,那就是 30 分钟。有不同的变体。然后还有一个是,启动一个的速度,启动多个的速度,以及你能持续保持多少个在运行状态。我们现在基本上可以增加的数量没有限制,因为我们拥有自己的金属服务器。但我们最大的客户每天大概运行 850,000 个,大概就是差不多不到 100 万个的样子,我们确实收到了 50 万个并发的请求,这真的是说有 50 万个 CPU 在某个地方运行。那是个很有趣的……
Swyx: 他们是按每 vCPU 秒来付费的。
Ivan: 按秒,是的。
Swyx: 或者别的什么。是的。好的,所以然后,另一件事是,休眠和恢复,因为所有这些状态恢复的事情,人们在上面运行的是什么样的负载,对吧?我们是如何——我们是通过内存的千兆字节(gigabytes),存储的千兆字节来衡量吗?还是像网络附加存储(network attached storage)。在所有这些特性中,哪些是成本高昂的?
负载经济学:CPU、RAM、网络和存储
Ivan: 最昂贵的是 CPU。
Swyx: 好的。是的,当然。
Ivan: 第二个,然后是 RAM,然后是磁盘。我们实际上不收费。
Swyx: 是做快照吗,对吧?
Ivan: 不,实际上是,快照是其中的一部分,但基本上是你的机器的硬盘大小。你是有 10 GB,20 GB,50 GB,还是其他的什么?然后是数据的传输。现在,在 Polychron,我们目前完全不收网络费用。
Swyx: 哦,你得,是的,你得解决这个问题。
Ivan: 是的。它占据了我们账单中越来越大的一部分,所以我们正在解决那个部分。显然,那是成本最低的,所以硬盘是最便宜的,所以基本上是 CPU、RAM,对我们来说网络,因为我们不向客户收费,然后是硬盘,就是这么划分的。但也有不同类型的负载,所以我们基本上把 Daytona 上的负载分为两类。一类是我们所说的后台 agent 或长时间运行的 agent。另一类,基本上是 RL(强化学习)和 eval(评估),我把它们归为一类。它们的使用模式非常不同,如果你看看一个后台的负载——我就直接说公司的名字,不特指。
后台 Agent vs. RL/评估:两种使用形态
Swyx: 是的,公开说,大家都在听。
Ivan: 是的。像一个后台 agent 就是 Cognition,Lovable,像 Harvey 这所有的这些东西。这些都是长时间运行的后台 agent。如果你看它们的使用模式,它们的使用模式和人类很相似,就是日出而作日落而息(follow the sun)。基本上,使用模式是在中午可能是最高的,午夜是最低的,然后周末会更低。工作日会更高。
Swyx: 是的,这是个有趣的问题。它有多全球化?它是非常以美国为中心的吗,还是?
Ivan: 美国占了很大一部分,但我们目前,我们有亚洲、欧洲和美国区域。
Swyx: 所以它相当全球化。
Ivan: 是的,相当全球化。我们到处都有。有趣的是我们的——我跟你稍微聊过这个。我们用户数排名第一的城市。
Swyx: 嗯。
Ivan: 是新加坡。
Swyx: 哦,哇。令人惊讶。
Ivan: 这是个有趣的现象,对吧?不是按收入算,只是按个人总数算。
Swyx: 真的吗?
Ivan: 只是一个有趣的现象。
Swyx: 新加坡,新加坡在 AI 采用率排行榜上的人口比例高得离谱。它大概只有七、八百万人口。但它却不断出现。
Ivan: 不,这非常有趣。我们当时非常震惊,我就想,“哦,这很有趣。”另外还有一个排在前面的。
Swyx: 我之所以通过新加坡做 AI 是有原因的。因为我来自那里。
Ivan: 我们在那里。我们也会去那里。有趣的是日本也在前列或者说东京在前列,而在所有的科技周期中它从来没有这样过。它从来没有过,所以他们能排在前面非常有趣。
Swyx: 我觉得日本人就是喜欢 AI。是的。它是那样,然后就是巴西。就是这样。
Ivan: 巴西一直都在里面。
Swyx: 我想。
Ivan: 即便是我看,如果你看 GitHub 的数据并且回顾 CodeAnywhere 的历史,一直都是美国、西欧,然后你会有印度、巴西、中国,它们会在那里。但是像新加坡就不在里面,特别是日本从来不在那个顶部的圈子里。
Swyx: 是的。奇怪的分布(Weird pockets)。
Ivan: 奇怪。是的,所以它非常全球化。
Swyx: 好的,所以实际上那,但这能帮助你们将负载分散到,所有时间?
Ivan: 有趣的是我们有那种负载,但如果你看研究人员的负载,它们非常不同。那是如果你给他们 10,000 或 50,000 或 100,000 个 CPU 在 ARMb 上的并发量,当他们发起一次运行,就是 100% 的占用。然后它就一直运行,然后它停下来。所以它非常,这种使用模式基本上就像是方波,对吧?而且它也不是日出而作日落而息的,因为人们会在睡觉前的午夜触发运行,然后醒来,所以它非常不可预测,你不知道它会在哪出现。所以这种使用的形态和我们以前遇到过的截然不同。而且有趣的是,当它是一种日出而作日落而息的模式时,即使你有一家高增长的公司,你也可以某种程度上预测你的使用模式并有足够的容量来应对,因为它是某种程度上,以一种你可以预测的方式增长。当你遇到公司在做像 eval 和 RL 这样的事情时,他们非常具突发性(spiky)。所以他们一进来,就像是,“我们先不用,然后我们能要 100,000 个吗?”对吧?然后再降回去。接着又是 100,000 个,再降回去。所以这是非常不同的,对吧?而且。
Swyx: 你们想把他们锁定在承诺量(commits)上所以。
Ivan: 是的,我们想。
Swyx: 是的,好的。
Ivan: 所以我们必须把他们锁定在某种承诺量上以准备那种容量,因为我们必须有,基本上我们必须有应对峰值的容量。对吧?所以现在,Daytona 的平均利用率是 15%,1 到 5(1-5%)。
Swyx: 我的天哪。
Ivan: 所以非常低。
Swyx: 因为它非常具突发性。
Ivan: 它非常具突发性,但我们能达到 90%。所以我们有这些情况。因此,作为一家公司我们现在正在研究的,就像 Cloudflare 那样,你可以像地理迁移一样把东西移来移去,但这对于日出而作日落而息的后台 agent 非常有效。但对于这个,就不行了。它是一种非常不同的形态。显然随着规模的扩大你会解决这些问题,但这是我们作为一个 agent 领域的计算提供商面临的一个有趣的新问题。当我们最近参加会议时,我们和比如 Neon 的 Nikita 以及。
Swyx: 我应该提一下。
Ivan: Parallel 的 Parag 之类的人交谈,每个人都有同样的问题。那就是使用情况非常具突发性,这是以前从未发生过的事情,你有这种类型的……以前总是,它的振幅没有这么高,对吧?所以这是一个非常有趣的用例和要解决的问题。
计算大会与尖峰式 Agent 基础设施
Swyx: 是的,我不知道我们还会不会再提到这个,但我们先聊聊那个大会。你们在勇士队的场馆办了个一千多人的大会,对不起,地点是哪?
Ivan: Chase Center(大通中心)。
Swyx: Chase Center。
Ivan: Chase Center。
Swyx: 我去了。非常令人印象深刻。显然你知道怎么办大会,你从中学到了什么?你把这些厉害的人物都聚到了一起。
Ivan: 我的。
Swyx: 你在寻找什么?
Ivan: 我举办这次计算大会(Compute Conference)的初衷是,把那些为 AI agent 构建基础设施的人聚在一起。因为当我思考我们在构建什么时,agent 是主要用户,agent 的人体工学(ergonomics)和使用模式是怎样的,所以我们可以这么做。我发现了一个还未被证实的理论:我们都面临着我刚才提到的那些问题。当我在台上讲话时,感觉我们都有相同的基础设施底层问题,那就是我们以前在人类计算或人类基础设施中从未遇到过的 spiky(尖峰式负载)工作负载,即不可预测的工作负载。这和我在与 Parag 或其他人交谈时的情况是一样的。
Swyx: Lynn。Nikita。
Ivan: Lynn,Nikita。尤其是 Lynn,我前几天也在和她聊。这是一个非常有趣的待解决问题。我可以提一下 Cloudflare,因为最近有很多关于他们如何解决这个问题的讨论:他们有很多地理节点(geos),基本上,随着用户在不同地方工作,根据你的服务层级,他们可以在这些地理节点之间调度你。这就是他们获得更高利用率的方式。但这某种程度上是可以预测的。你很少会遇到达到10个数量级的尖峰。比如你的某个客户呈现指数级增长。拿 Cloudflare 举例,那就是 10%、20% 或者类似的数据。我没有确切数据,我只是在评估。它肯定不会是 10 倍。那么你该如何解决这个问题呢?我们都在以不同的方式解决这个问题。所以我们有。
Swyx: 她也有同样的问题。
Ivan: 是的,我特别清楚 Neon 也有这个问题。因为我们讨论过如何解决这些尖峰负载之类的问题。所以对我来说,最有趣并真正内化的一点是,每一个以 agent 优先进行构建的人都在经历这种阶段,我们都在解决类似的问题,这非常。
Swyx: 让我深入探讨一下这个。好。比如 Neon,我碰巧知道他们非常倾向于 S3,他们完全押注于 S3。这样就能受益于 S3 的分布式基础设施。所以我猜 Neon 不需要太操心,而 Lynn 可能需要多操心一点,因为显然她在做 GPU 推理。给听众们说明一下,一年半前我们和她录过一期播客。你必须得操心。但是。
Ivan: Parag 肯定要操心,还有 Nikita。
Swyx: Parag 是 Parallel 的 CEO。
Ivan: Parallel,是的。
Swyx: 前 Twitter CTO。
Ivan: Twitter,是的。
Swyx: 他们在做搜索。
Ivan: 是的,他们在做搜索。
Swyx: 你和我都知道,但听众不知道。
Ivan: 是的,我们可以把它打在屏幕上,因为当我们交谈时。
Swyx: 我会把它放在屏幕上。
Ivan: 是的。
Swyx: 大家需要的话可以去查。
Ivan: 去查查。是的,但他们仍然有 CPU 和 RAM(随机存取存储器)的分配,你必须让这些资源保持运行。所以 CPU 和 RAM,你必须分配好并准备就绪。基本上有两种方法。第一种是你过度配置(over-provision)以应对突发流量;第二种是,我不知道有没有这个术语,即时计算(just-in-time compute),也就是当你的负载增加、使用量上升时,你可以向其他云提供商发出虚拟机(VMs)或裸金属服务器的请求,然后让它们运行起来。
Swyx: 这是在超过 100% 的时候,对吧?
Ivan: 是的。
Swyx: 就像你的溢出量。
Ivan: 你的溢出,比如泄漏(spillage)或者你怎么称呼它。
Swyx: 你可能会在这个上面亏钱,但这无所谓。
Ivan: 也不一定。这是一种更有成本效益(cost-effective)的做法,但速度会更慢。因为你基本上需要对请求进行排队,启动这些即时计算资源,把一切准备好,配置好,然后把工作负载转移过去。如果时间不那么重要,这没问题,你可以这么做。但如果你的客户,特别是进行 RL(强化学习)训练运行的客户,很多人来找我们是因为 GPU 比 CPU 贵得多。所以你希望你的 GPU 能够 100% 满负荷运行。因此当你在 CPU 上运行,当 CPU 周期停下来并准备启动下一个周期时,你希望这是瞬间完成的,这样你的 GPU 就不会闲置。如果你这个时候还需要去配置机器,你实际上是在让 GPU 等待,这就增加了我们的成本。所以你必须尝试解决这些问题。
RL 工作负载、声明式镜像与 Kubernetes 替代方案
Swyx: 是的,我们来谈谈不同的工作负载。你刚才说,几个月前,你们完全没有 RL 工作负载,而现在占到了 50%。
Ivan: 到这个月会是 50%,是的。
Swyx: 我们来谈谈它有多不同。比如我猜想,它很少有那种生成任意代码的动态代码生成。在这里,可能所有的代码都是相同的。你只是在进行并行运行或者类似的操作。
Ivan: 是的。所以你会有多个,取决于具体的运行,每次运行你都会有一个快照(snapshot)。在很大程度上,他们实际上使用了我们的 declarative image(声明式镜像)构建器,就像是“agent 需要这些依赖项和这些环境变量”。
Swyx: 这些。
Ivan: 是的,声明式镜像构建器。
Swyx: 这是一种非常模态化(modal)的东西。
Ivan: 是的。所以我们即时构建它,然后传播这个快照,你可以基于那个快照启动任意数量的沙箱(sandbox)。如果你需要做修改,模型可以自动化处理,或者也可以自动化。比如“现在为了下一次运行,我们需要安装这些东西或移除这些东西来完成任务”,然后它就去执行。所以是的,这似乎是他们更偏好的方式。我发现的最主要的原因,或者说,让我们退一步看。我们在那个环境中竞争的对手基本上是托管的 Kubernetes。比如 EKS、GKE 等等。那是绝大多数人运行的基础。任何尝试过 Daytona 以及 GKE、EKS 的人都会觉得,“我永远不想再回去了。”一直都是这样。这有几个原因。一个是人体工学。如果你使用 Kubernetes 来启动,你基本上必须管理与它的接口交互。尽管 Daytona 作为一个计算提供商,从消费角度来看,它更像 Twilio 和 Stripe,而不是 AWS。你有一个 API、一个 SDK,让这些东西启动和运行非常容易且无缝。这是其一。另一个是我们启动的速度,刚才提到了,速度要快得多,而且我们可以达到的规模也更大。我们还没讨论到功能特性,但一个有趣的功能是,我们的沙箱很难发生 OOM(内存溢出),因为我们可以动态地即时。
Swyx: 调整大小(Resize)。
Ivan: 调整大小,这在几乎任何其他技术上都是不可能的。有一些技术可以让你做到这一点,但这非常困难。所以我们实际上看到了这个,当时 Terminal Revenge 团队把我们带入了整个领域,所以感谢 Alex 和他的团队。
Swyx: 一个框架直接说“大家就用 Daytona 吧”,这种情况非常罕见。
Ivan: 是的,我想它某个地方是这么写的。
Swyx: 是的。我当时就在想,“这是什么?”
Ivan: 有好几个地方都提到了。所以 Daytona 特别地——我们只是顺着这个话题,我不知道哪里写着数据中心(Data Center)。
Swyx: 那里。
Ivan: 没关系。
Swyx: 有一个非常强烈的推荐,这很不寻常。
Ivan: 我们没有付钱给他们。
Swyx: 我知道。他们就是喜欢你们。
Ivan: 是的,他们喜欢我们。而且还有一点,Daytona 在底层有多个隔离集。客户不需要知道它们是什么。但基本上我们有 Docker,它是一个容器,并通过 Sysbox 进行了加固(hardened)。所以这是 Docker 的隔离,安全级别等同于虚拟机(VM),但它仍然是一个容器。这是默认设置,特别是对于这些训练工作负载,他们非常喜欢这种只是使用基本 Docker 容器的接口。并且我们支持在 Docker 中运行 Docker(Docker in Docker)。对于这些 RL 运行,如果你需要使用 Docker compose 或 Kubernetes,你可以在这些容器内部启动 K3S,这就解锁了大量在其他提供商那里无法运行的工作负载。所以仅仅在这一部分就更有趣了。我们向他们展示了我们可以做到,他们非常喜欢。他们指的是 General Catalyst 那些人。
Swyx: 那些人,是的。
Ivan: 还有 Harbor 的人。
Swyx: Harbor 的人,他们成立公司了吗?
Ivan: 据我所知,我不知道。
客户需求、Slack Connect 与计算机操作的押注
Swyx: 好的。非常明显,围绕这些东西有很多令人兴奋的事情和成功案例。告诉我们更多吧。这是一个呈爆炸式增长的工作负载,Harbor 采用了你们,这加速了发展。但是随着这种新工作负载的上线,你学到了什么?
Ivan: 我们学到了几件事,我们在开始时也聊到过。正如我们提到的,这是我们的发展主线,我们一路上与很多客户交谈,随着沟通的深入,我们不断添加更多的功能和工具集。有趣的是,可能是因为这个生态圈太小,或者是模型变得更聪明了,当我们看到一个用户提出某个需求时,如果在那个星期里有三到五个客户提出同样的需求,我们就会把它放进路线图中。这非常奇怪,发生过很多次。
Swyx: 因为他们都是朋友。
Ivan: 什么?
Swyx: 他们都是朋友。他们都在同一个群聊里。
Ivan: 是的,可能吧。他们会问,“你们能做这个吗?”我会觉得,“好的,这很有意思。我们会把它加到功能请求里。”然后下一个人也会问,“你们能做这个吗?”这总是一样的。所以我个人尽力参加尽可能多的所谓的“销售电话”。我在每一个 Slack 频道里。我们真的有差不多 1000 个 Slack Connect 频道。当你在所有的 Slack 频道里时,你会发现很多有趣的事情。你还能看到人们在公司间的流动。你看到他们离开一个 Slack 频道,进入另一个。这很有趣。另外我扯远一点,我觉得 Slack Connect 才是 LinkedIn 本该有的样子。你有一个列表。
Swyx: LinkedIn 收费让你使用自己的联系人,但 Slack 不会。Slack 是让你免费用。锁定效应更强,这很棒。
Ivan: 是的,非常棒。这是原因之一。
Swyx: 你会一辈子给 Slack 付钱。
Ivan: 完全正确。所以这很有趣。我们早些时候讨论过的比较新的一件事是,我们下了一个很大的赌注,在 computer use(计算机操作)上投入了大量资金。这在公众面前还没有被看到,我们还没有将它 GA(一般可用,General Availability),但我们有。
Swyx: 我能拉出什么东西来看看吗?
Ivan: 有一点关于计算机操作的内容。在上面一点。
Swyx: 哦,好的。
Ivan: 我们讨论过的以及公开看到的一个主题是人类模拟器(human emulator)。XAI 的 Elon 也公开谈论过这个。如果你看看今天的模型,它们实际上相当复杂,能够做很多工作,但它们仍然无法访问所有的工具。我坚信,agent 最有效的工作方式基本上是无头(headless)的,或者通过终端(terminal)等方式。但如果我们总体上看知识型工作,美国大约有 1 亿知识工作者,全球大约有 10 亿。知识工作者的薪水总额在美国大约是 10 万亿美元,全球是 50 万亿美元。
Swyx: 哇。
Ivan: 大概是这样。如果我们看其中五个最重要的领域,比如医疗保健、政府、金融服务等,大约占其中的 56%。假设是一半吧。所以在美国大约是 5 万亿美元,而大部分的工作实际上仍然锁定在 Windows 的传统应用程序(legacy apps)中,这种状况在很长一段时间内都不会改变。人们就是不会在那些应用上投资重写。有多少呢?我们的假设是这样的:在 RPA(机器人流程自动化)市场(这是一个类似但不完全相同的市场),如果这些白领工作者的工作有 25% 被自动化。如果一个 agent 更加复杂,能运行更多流程,解决更多问题,我们假设是 40%。如果你拿那个数字的 40% 来看,你基本上就能得到每年 10 万亿美元。
Swyx: 那是一个 TAM(总潜在市场)。
Ivan: 那是一个 TAM。那是模型的 TAM。不是我们特有的,但你的市场规模有那么大。为了能够做到这一点,你基本上必须给 agent 提供带有传统系统的计算机。所以计算机操作,要么是 Mac、Windows 或 Linux。我们显然也有 Linux,其他人也有。但特别是 Windows,是非常新的东西,目前的唯一选项是带有 Windows 的 EC2 或者在 Azure 上。这两者的启动时间都需要三到五分钟。我们创建了一个实际的沙箱,启动时间是按秒计算的,而不是毫秒,但你拥有时间点快照、分支(forking),你拥有沙箱所具备的所有功能,本质上希望能够帮你解锁所有这些价值。所以这就是我们的主要推动方向和押注,但我们也在留意倾听市场的下一个动向是什么。
RPA 回归:为什么 Agent 仍然需要计算机
Swyx: 是的,知识型工作、构建,以及下一波 RPA 的浪潮。在疫情期间,当 UiPath 上市时,我对 RPA 非常兴奋。那是一个非常热门的领域。它是不是东欧的公司?
Ivan: 是的,罗马尼亚的。
Swyx: 罗马尼亚的?是的,这可能是唯一的一家罗马尼亚大型独角兽企业。我认为,RPA 的复兴已经准备就绪,因为每个人都明白,没有人想去处理那些糟糕的应用程序,也没有人会重写它们。你只需进行远程操作和可编程操作。
Ivan: 如果你想解锁它,我自己之前的设置基本是这样的。上个月我在做一份董事会演示文档,我想,“好吧,我们就用自动化来做。”我们所有的数据都在 ClickHouse、PostHog 和 QuickBooks 里面,和其他人一样,我基本上把这些连接到了我的 Cloud code 之类的东西,让它去执行。它拉出了第一份报告,非常棒。它连接到了 Brex 和所有这些东西,把数据拉出来了,很好。然后我说,“现在把这个和那个拉出来。”但我一直得到那种设计得很像麦肯锡风格的报告,可里面的数据却显示“部分数据”。到处都是缺失的数据、部分数据。它无法访问所有的东西,我感到非常沮丧。所以我拿出了我带有 OpenClaw 的 Mac Mini 虚拟沙箱。我在我们公司给它分配了一个独立的账号,然后我去了所有这些服务,给它创建了一个只读账号,它就真的像你公司里的一个实习生一样。然后我会对它说,“现在去把这份报告做出来。”如果通过 MCP(模型上下文协议)或 API 无法获取全部信息,我会说,“去登录吧。”它就会登录网站,然后进去导出数据,端到端地完成这项工作。所以,即使是目前拥有 API 的服务,也并非所有的功能和数据都对外暴露。为了获得价值(我现在从中获得了巨大的价值),不幸的是,仍然必须使用计算机操作。因此我在上面花费了大量的 token,但我完成了工作。所以,如果连我们这样使用最热门工具的初创公司都仍然需要一个操作计算机的 agent,高盛想要完全实现无头操作还有什么指望呢?
Swyx: 是啊,为什么微软不这么做呢?
Ivan: 我很确定 Satya 昨天发了一篇帖子。
Swyx: 哦,好的。我看到了。
Ivan: 意思是“每个 agent 都需要一台计算机。”
Swyx: 我明白了,我明白了。
Ivan: 他们最近推出了一些东西。
Swyx: 是的,他们有 Microsoft Power Automate,我确信他们会推出自己的版本。
macOS 沙箱、苹果的限制与 Windows 的机遇
Ivan: 那个版本,是的。
Swyx: 你们会尝试做你们自己的版本。我一直都知道对 Mac 有需求,但我也知道托管 macOS 沙箱是很棘手的。
Ivan: 我们很快就会有 macOS 沙箱。macOS 沙箱的问题在于,我对此研究得很深,不知道这有多有趣。
Swyx: 不,很有趣。
Ivan: macOS 有这个问题。
Swyx: 是许可(licensing)问题对吧?
Ivan: 是许可问题。第一,你每台机器只允许运行两个并发的(parallel)虚拟机,这是其一。第二,你每 24 小时只能向一个不同的用户颁发许可。所以如果在理论上,我想按秒向你收费,我只收了你一秒钟的钱,但我必须让它在接下来的一整天里闲置。我不能让任何人再去使用它。所以定价会有所不同,意味着我们将不得不按 24 小时收费,但这甚至还不是最困难的事情。最困难的是,从安全的角度来看,他们允许你进行内存快照、暂停和恢复,但仅限于同一块物理硬盘、同一台物理机器上。而在 Windows 或 Linux 世界里,我可以在后台将你的快照从一台机器移动到另一台机器并管理负载,对吧?但在 macOS 里,如果你想这样做,你基本上必须。
Swyx: 是的,快照。
Ivan: 你的。
Swyx: 就像是。
Ivan: 物理机器。
Swyx: 你不能把它拆分。
Ivan: 你不能,你不能把它移来移去,而这一切从安全立场来说都是被写死的。我理解这其中的安全考量,但它让你无法进行这种 agent 类型的、能够真正实现大规模扩展的 agent 工作负载。
Swyx: 你需要在 macOS 上做一个靠直觉编码(vibe-coded)、无尘室(clean room)式的实现,然后你就能——就像 Clean OS 之类的东西。我不知道。
Ivan: 所以。我们有。
Swyx: 因为 Linux 最初就像是对 Unix 的无尘室重写。
Ivan: 好的。是的。
Swyx: 或者是类似的东西。对 macOS 来说也需要同样的东西。需要有人去做这件事。
Ivan: 会有人这么做的,也会有人弄些长运行(long-running)的 agent 跑几天来解决这些问题。但毫无疑问,我们非常接近于提供一些东西,因为人们确实想要它,但定价会有所不同,而且功能集会受到严格限制。
Swyx: 是的,不会有人用这个的。实验室可能会,实验室会用,因为他们想要自动化 macOS。
Ivan: 他们必须做 RL(强化学习)。他们又得做 RL。所以问题是对于 RL 部分,如果你在 macOS 上做 RL,然后下一代模型出来了,它就能够显著地使用这些工具。然后你实际上需要把它们运行在某个地方。所以你稍后必须拥有那个环境。如果苹果公司里有人在听的话,我真的觉得他们在搬起石头砸自己的脚,如果他们能像 Windows 和 Linux 那样启用 concurrency(并发)模型,他们本可以获得巨大规模的计算或许可收入。
Swyx: 是的。我确定他们以前听过这个。他们只是不在乎。也许有了新任 CEO 他们会改变主意。
Ivan: 是的。我们拭目以待。
Swyx: 拭目以待。
Ivan: 抱有很高期望。
Swyx: 抱有很高期望。
Ivan: 是的。
Swyx: 好的。但很明显,Windows 的市场机会是巨大的,你可以仅仅依靠 Windows 就走得很远。但你的客户两者都会想要。我觉得这很有趣,这就像是 agent 的终极应用(God application),对吧?OpenClaw 对你们来说有多重要?有没有带来显著的增长。
OpenClaw、Agent 实验室与 B2B2C 沙箱市场
Ivan: 对我们来说没有,因为我们。
Swyx: 因为你们已经。
Ivan: 我们的定位不同。尽管我们完全是 PLG(产品主导增长),我们也有个体开发者在使用,但使用 Daytona 的绝大多数用户可以说是 B2B2C 模式的。主要是 B2B 或 B2B2C。所以,在研究人员的世界里,这是 B2B,你在卖给实验室、新一代实验室之类的。但在长运行的 agent 方面,从规模化收入的角度来看,大多是 B2B2C。你有一个应用层的 agent 大规模地在使用你。
Swyx: 就像 Manus 那样。
Ivan: 就像 Manus、Lovable 那类的东西。
Swyx: 是的。我认为问题在于,B2B2C 基本上就是我一直称之为 agent 实验室(agent lab)的东西。你不是一个模型实验室,但你做了一个非常好的包装器(wrapper),它是一个平台,其他人可以注册使用,这样他们就不需要自己去编写那些代码了。是的,听起来这是一个比直接的 OpenClaw 市场好得多的市场。
Ivan: 我做过很多不同的事情。我们在日历上的职业经历之一 CodeAnywhere,当时非常是一个面向终端开发者的产品。那很棒,你可以获得很多开发者的喜爱,而且我觉得作为一家公司,我们也获得了很多开发者的喜爱。但这是不同类型的,是那些正在构建这些东西的人。再说一次,它更类似于 Twilio,因为作为一个个人,你不太会去运行 Twilio。我不知道有多少人还记得“去问你的开发者”那种广告牌。人们真的很喜欢 Twilio,但他们只是在“哦,我正在为某件事构建这个应用或服务”这种场景下使用它。所以我们非常直接地针对这一点。你也知道,我曾经在 Twilio 的一家竞争对手公司工作过,所以这可以说刻在我的 DNA 里了。
Swyx: 人们不知道 InfoBip 有那么大。
Ivan: 是的。
Swyx: 因为。
Ivan: 这是一家营收十亿欧元的公司。
Swyx: 他们都是美国人,他们会觉得“不管欧洲有什么,都不关我的事”。但它的规模是差不多大,还是更大?差不多大?
Ivan: 大概是一半大。
Swyx: 一半大?
Ivan: 是的,大概一半大。
Swyx: 那也。
Ivan: 依然非常庞大。每年几十亿营收。是的。
Swyx: 太疯狂了。
Ivan: 确实如此,所以这些都是非常有趣且能产生大量收入、粘性极高的业务。而当你的目标群体是终端开发者时,这会是一件非常难卖的事情,因为他们对价格非常敏感、非常有意识。而且这很难扩大规模。你的上限取决于有多少人愿意启动——首先要想要启动它,然后再启动多个这类东西。然而,如果你是在企业级市场,我们知道大家都在谈论自己花了多少 token,很多人现在说“如果这是我们公司的,尽你所能多花一点。”我们基本上就是在这个方向上发展。所以如果你考虑这种范式,你要卖给那些说“尽可能多花钱以产生生产力”的公司,相比之下,“我只是一个人,我有这么多的预算,我做这个是因为它好玩或者能帮到我。”我认为,这是一个完全不同的走向市场的策略(go-to-market strategy)。
作为 Agent 运行时的 MCP、CLI 和沙箱
Swyx:
是的,有很多讨论。我正在脑海中梳理对你们有利的因素,比如 MCP 与 CLI 的对比。显然你们更倾向于 CLI,这对你们非常有利。我觉得这可能只是九牛一毛,也可能是个巨大的趋势。我只是想确认这些是否是大的趋势。
Ivan:
这些对我们确实非常有利,正如你所说,因为每个...
Swyx:
它们只是九牛一毛,对吧?
Ivan:
我认为所有这些因素是结合在一起的。有很多因素会产生影响。正如你所说,OpenClaw 对我们来说影响没那么大,但 Anthropic 提供的 agent SDK 或者 Claude Code 就非常有趣。它之所以有趣,是因为很多——我们就叫它们应用层 agent 公司吧——它们实质上是觉得:“我可以创建这个新应用,这个新 agent。我只需要使用 Claude Code,把它放进沙箱里,然后我就有了一个面向人类的界面。”这使得更多的公司能够实际提供这种服务,然后它们就会引入沙箱。所以这很有趣。至于你提到的 MCP 与 CLI 的对比,MCP 是针对 API 的接口,而 CLI 则可以让你实际去执行操作。就是这样。这就是集成与针对某个对象实际运行脚本、数据或分析之间的区别。因此,能够很好地使用 CLI 使 agent 能够做更多事情。人们会调用沙箱,在 CLI 中运行,对数据进行分析,然后给你一个实际的结果,而不是仅仅从 API 数据源拉取数据。
Swyx:
是的,这基本上是一层间接抽象,就像 agentic search(智能体搜索)和 RAG(检索增强生成)的区别一样。
Ivan:
完全正确。
Swyx:
只要人们在工作流中引入更多 agent,你们就能获益。所以具体是什么其实不重要。我只是想梳理一下,人们还听说过哪些类似的情况,比如“这也是一个沙箱用例,那也是一个。”我有没有漏掉什么重要的用例?
Ivan:
人们提到的,也就是“计算机使用”(computer use)相关的东西,我认为可能是最有趣的。正如你所说,过去一年我们和很多人交流过。大家会问:“为什么要用沙箱?为什么需要这个?”而你的反应是:“我这个需要沙箱,那个需要沙箱。每一个东西我都需要沙箱。”我总是反反复复地说,你每天都在使用笔记本电脑,对吧?但那只是你一个人。顺便说一下,个人电脑(PC)市场和云计算市场总额差不多。每年大概在 1500 亿到 1800 亿美元左右。三大云服务提供商的规模大致等于苹果、惠普、联想等公司的总和。稍微少一点,但差不多是这个量级。现在想象一下,这个潜在市场有多大?现在世界上有多少人?最新的数据是多少?
Swyx:
算 80 亿吧。
Ivan:
80 亿。假设每个人可以有两台电脑,一台个人用,一台办公用。那就是两倍,也就是 160 亿。两年后、10 年后、100 年后会有多少 agent 在运行?对于每一个任务,它们都需要一个这样的环境。所以这个市场有多大?这个市场本质上是“无限”的。Dylan Patel 在会议上谈到过,他来自 SemiAnalysis,通常讨论 GPU。他也谈到 CPU 现在将成为瓶颈,因为它是约束条件。我们将无法继续增长,或者说我们将没有足够的沙箱,因为没有足够的 CPU 来执行任务。
Swyx:
是的。实际上我和 SemiAnalysis 的总裁 Doug Oliphant 做过一期很棒的播客。他们基本上表示,一开始是 GPU 短缺,然后蔓延到内存,现在是 CPU 短缺。
Ivan:
CPU 短缺,是的。
Swyx:
下一个会是什么?网络。如果你关注 GPU 网络,其实网络短缺已经有一段时间了。不过,现在“计算机使用”的规模确实非常疯狂,很酷。我的其他问题是,有一个非常重要的部分是你们的 open source(开源)属性,你们其实没必要这么做,你们的竞争对手也没这么做。很多人担心开源自己的项目,因为竞争对手可能会直接分叉(fork)。不知道你对作为一家开源公司有什么反思。
开源、信任与企业采购
Ivan:
是的。有很多反思。我们最初的产品是开源的。
Swyx:
是的,CodeAnywhere。
Ivan:
这么做其实对我们非常有好处。有句俗话说,发展得特别好的公司看自由现金流,发展得还可以的公司看 EBITDA,然后一路往下排。
Swyx:
最差的是看 GitHub 星星数。
Ivan:
GitHub 星星数。GitHub 星星数是最差的指标。我们就是一路滑到了看 GitHub 星星数的地步。我们最初就是看 GitHub 星星数。现在我们谈论的是收入,所以我们在这个层级上往上走了。所以我们开始...
Swyx:
没有利润。
Ivan:
是的,我们还没有利润,我们会达到的。但基本上在那时,我们关注 GitHub 星星数,这挺有用的。我们最初做的版本是,把核心部分剥离成独立的仓库,采用 Apache 2.0 协议,所以非常宽松。然后在企业端,我们会把这个核心与一个专有仓库打包在一起。这类似于开源核心(open core)模式,但那时候仓库分得很干净。当我们转型时,我们没时间重新思考这个问题,但我们有这个开源社区。如果不继续开源感觉很可惜,但我们仍然想增加一些限制。所以在新的沙箱产品中,我们采用了 AGPL v3 协议。这是一种捷径,它仍然是开源的,也是真正意义上的开源,企业如果愿意的话可以使用它,但你不能在不开源自己代码的情况下制造一个竞争产品。
Swyx:
这是三种主要方法之一。还有 BSL 和其他一些弹性许可证。
Ivan:
是的,还有一些其他的。纯粹的开源信仰者认为这不是完全的开源,我完全尊重这一点,这绝对是事实。但我们确实保留了它。Daytona 的本质上,除了今天在特性开关(feature flag)下的内容(比如 Windows 支持、GPU 支持等),其余部分都在这个开源协议下。所以一切都在那里,比如我们自己的调度器,都在那里。有些竞争对手对我说:“你们才是真正的开源,你们是来真的。大家真的能看到代码。”人们确实喜欢这样,这也起到了一点帮助作用,但它在促进我们云产品的使用方面比实际转化用户帮助更大。原因在于,当你集成 Daytona 时,你实际上可以把代码仓库发给你的 agent,这样它就有了更多的上下文。它会知道:“哦,好的。原来这是为什么,那是为什么。”
Swyx:
同样地,你也可以直接提供文档,效果也是一样的。好的。
Ivan:
我同意,公平地说,它今天其实并没有显著促进增长。我们和投资者以及其他人讨论过这个问题:“你如何将开源用户转化过来?”
Swyx:
老兄。
Ivan:
“从开源转化?”
Swyx:
关于开源商业模式的讨论真是众说纷纭。对于可能没有深入思考过这个问题的听众,很多人会说:“这是我们的免费层。如果你自己运行就免费,但当你准备认真投入使用时,请联系我们。”就我个人在 Temporal 的经验来看,这其实是打入一些最大型公司的市场策略(GTM)。我们可能无法通过他们的审查流程,也许是因为我们公司太年轻,或者技术栈的某些部分对他们不适用。但因为它是开源的,他们就会先采用,然后我们以后再解决商业化的问题。这就是从低端到高端的渗透。不知道你们是不是这样。
Ivan:
绝对是,历史上一直如此。我们在这次 AI 转型中发现的情况是——我们之前没谈过这个——Daytona 的客户涵盖了从独立开发者、YC 初创公司,到人们说的世界 500 强企业,我甚至可以说是世界前 5 强,世界上最顶尖的公司。
Swyx:
大型的新兴 AI 实验室。你跟我提过,我们会对他们保密。
Ivan:
所有那些巨头公司。因为市场需求太强劲了,我们能够绕过这些繁琐的流程。我不是说我们不遵守规则,我们通过了安全审计,通过了所有这些东西。但正如你提到的,像以前的 Temporal,或者旧版本的 Daytona,通常需要几个月的时间,最后往往会流失,因为他们觉得:“哦,你们公司太小了,我们不够信任你们。”而今天,我们看到这些大公司在推动我们,他们会推着我们往前走。通常你需要经过 procurement(采购)流程才能成为大公司的供应商,这可能需要两三个月。现在我们 5 天就能搞定。这并不是说我们有多伟大,我认为这更多是今天市场现状的标志。所以当你思考这个问题时,从走向市场(go-to-market)的角度来看,我们其实没有那么关注开源,因为我们现在创造的一切都是通过云产品的产品驱动增长(PLG)实现的,人们注册并在内部推动我们。
GitHub、Agent 优先的版本控制与 CI 瓶颈
Swyx:
这出于我个人的兴趣,我不知道你是否有答案,但你们在使用 GitHub 时有遇到问题吗?
Ivan:
遇到过,有一点,有一点。
Swyx:
说说看,说说看。因为我在想,取代 GitHub 需要什么条件?
Ivan:
有很多方面。我思考过这个问题,我在推特上谈过,也关注过一些项目。我个人还投资了一些。
Swyx:
是 Entire 吗?
Ivan:
不,我没投它。
Swyx:
没有?好吧。
Ivan:
是的,我在网上见过 Thomas 并交流过。所以我真的认为,这就是我的理由。因为我们有很多后台长时间运行的 agent,目前大多数都是写代码的 agent。大家都在构建 Lovable 或 Devin 的竞争品之类的东西。我们从客户那里看到的是,他们都在试图弄清楚如何进行版本控制。每个人的做法都不一样。有些人用了非常奇怪的方法。原因在于,原封不动地使用 GitHub 成本太高了。它不够快,无法满足他们的需求,也没有解决他们的问题。公平地说,GitHub 适用于你的内部循环(inner loop)之后,它是在你的笔记本电脑开发完成之后使用的阶段。
Swyx:
是的,GitHub 是外部循环(outer loop)开始的地方。
Ivan:
所以人们开始把 GitHub 用在沙箱上,而沙箱是内部循环,通常是在你的笔记本电脑上运行的。所以 GitHub 并不是为此设计的。我们遇到过最有趣的一个客户,他们会把沙箱里的整个代码库——我忘了时间间隔是多久——直接转储成一个 JSON 文件,然后推送到 S3。就这么简单。
Swyx:
自己做一个 Git。
Ivan:
但那甚至没有差异对比(diff),每次都是把整个东西全推上去。因为这样速度极快。没关系。然后他们会回去搜索,找到那个文件,修改它。因为都是文本文件和 JSON,体积非常小,网络成本很低,他们根本不在乎,就这么干了。我当时想,如果人们都这样做,这意味着需要一个针对这个问题的全新解决方案。所以对我来说,看看谁在构建这种 agent 优先的新工具非常有趣。我认为 Git 现有的形式在未来依然会存在,甚至 GitHub 也会存在,但将会有一套全新的东西出现。
Swyx:
是的,完全同意。Git 就像是用来触发 CI/CD 的部署制品。但在那之前,还需要一层类似 agent 协作层的东西。
Ivan:
是的。所以我认为这方面肯定会有所发展。但另一方面,现在 CI(持续集成)也存在问题。现在创建的 PR 数量多得疯狂,普遍都是这样。
Swyx:
甚至对你们也是,对吧?
Ivan:
每个人都在创建大量的 PR。然后所有这些都必须通过 CI,这就成了瓶颈。每个人都卡在这里。不仅是 GitHub Actions,你去看看任何一个 CI 供应商,如果你有很高的 PR 吞吐量,你都无法应对。我们正在交流的一家公司,他们每天产生 1000 个 PR。这意味着他们只能排队等待。
Swyx:
他们用什么,Buildkite?
Ivan:
我不知道他们用什么。
Swyx:
CircleCI?
Ivan:
随便什么吧。
Swyx:
从技术上讲,你们的技术可以用于 CI。
Ivan:
这就是我们讨论的内容。我们就是这么讨论的。
Swyx:
这是个严肃的讨论吗?
Ivan:
我们会看看进展如何。我们围绕这个话题已经有过好几次交流了。我们绝对不是一家 CI 供应商。
Swyx:
但还缺什么呢?
Ivan:
本质上...
Swyx:
什么都不缺。
Ivan:
你基本上可以用 Daytona 沙箱来代替你用于 GitHub Runners 的任何东西。
Swyx:
我唯一想说的是,也许 CI 机器应该是极其便宜的,也许是最低端的,因为它应该是非阻塞的,或者像后台任务一样。对 CI 来说,紧迫性没有那么重要。
Ivan:
但性能很重要。是的,性能很重要。
Daytona 的卖点:响应速度、支持与客户信任
Swyx:
好的,这很有趣。在结束 Daytona 的话题并进入更广泛的创始人见解之前,还有什么我们没谈到的关于 Daytona 的有趣细节吗?
Ivan:
关于 Daytona 有趣的事情,这里有...
Swyx:
如果你需要,我可以给你更多提示。
Ivan:
好啊,我很乐意听听更多提示。
Swyx:
好的。当初创公司评估你们时——你们合作了这么多知名客户,还有更多你们不能公开名字的,他们看到了你们的一堆竞争对手。虽然你们与很多竞争对手有差异化,但最终打动他们的是什么?
Ivan:
我们发现最能打动人的,其实更多是第一天之后(day two)的事情,而不是第一天的事情。我们一次又一次地看到这一点。我们有很多案例研究,还有很多正在准备发布。这些都是由第三方完成的,所以不是我们自己做的。看这些案例其实很有趣。我看过录像,因为是第三方在做,大家反而更坦诚。他们会告诉你:“哦,我们用过这个竞争对手,”或者“我们更喜欢那个竞争对手的某个方面,”诸如此类。人们最终选择回到我们这里,首要原因是我们有着令人难以置信的响应速度。
Swyx:
是指你们团队的服务吗?
Ivan:
是指团队,是的。这种极其迅速的响应一直是决定性因素。当然,我们可以讨论产品功能、广度、并发数、CPU 核数等等,但如果其他条件都一样,我发现响应速度绝对是一个巨大的差异化优势。我以前竟然不知道。
Swyx:
这完全是通过 Slack 进行的,还是 Slack 加上邮件?
Ivan:
也有邮件和电话,但绝大部分是在 Slack 上。我们遇到过客户说:“嘿,我们遇到问题了,能上 Huddle 聊聊吗?”我们基本上 5 分钟内就会加入。我已经这么做过好几次了。
Swyx:
等等,你们现在团队有多少人?
Ivan:
目前 25 个人。
Swyx:
你们是怎么做到这种级别的支持的?
Ivan:
我们很疯狂。我们不睡觉。007,你听说过这个新词吗?
Swyx:
007。我见过你的团队。他们非常出色,非常敬业,但你是怎么让团队做到这点的?这简直...
初创文化、家庭权衡与享受痛苦
Ivan:
其实...
Swyx:
连我都会觉得 Slack 让人精疲力尽。
Ivan:
是的,我们大家都对 Slack 感到精疲力尽。我们非常累。独特的地方在于——我不知道对我们来说算不算独特,但对于任何成功的连续创业者来说都是独特的——你能够把以前合作过的人拉过来,如果是第一次创业,你很难做到这一点。在 Daytona 的 25 个人中,我想大约有 13 个人是和我们共事了 7 年以上的。所以大家之间有着高度的信任,执行力极强,我们非常清楚自己签下的是什么样的任务。特别是这些人,在我们最初开始创业、还在为生计奔波拼搏的时候,他们就和我们一起工作了。所以留下来的都是这样的人。现在加入的新成员,几乎都是通过一度人脉关系进来的,也就是熟人介绍的,所以他们也融入了这个组织。我们也遇到过不太适应这种文化的人。这就是一种文化类型,它对在线状态、及时回复有很高的期望,而我自己是带头这么做的。如果你问任何一个工程师关于我的情况,他们会说:“你从来不睡觉。”我这样做并不是为了树立榜样,我天生就是这样的人。我得告诉你,我妻子可不欣赏这一点。我妻子一点都不欣赏。我跟她提到过 996,她说:“我倒是希望你能 996。”
Swyx:
这么看来那些(实行 996 的)中国人简直是在偷懒。
Ivan:
是的。所以,这是深植于我们公司的一种文化。这种文化一次又一次地显现出来,我们每天都会被提醒。我一开始并没有刻意去想要这样建立公司。这就是我目前建立这些东西的自然方式。
Swyx:
是的。好了,我们转换一下话题,聊聊创始人的事情。总体来说,我对你的平衡能力印象深刻,你有一个年轻的家庭。
Ivan:
两个孩子,是的。
Swyx:
现在有两个孩子了。
Ivan:
是的,现在两个了。
Swyx:
我遇到很多人,他们会说:“哦,我组建家庭了,我不能去创业了。”对于这样的人,你有什么建议?
Ivan:
每个人都有自己的想法。这很艰难,每天都很艰难。我的家人现在在这里,但我通常是在克罗地亚和旧金山之间飞来飞去。我们团队有很大一部分在克罗地亚。还有一部分团队在这里,旧金山的人数也在增长。所以我花了很多时间远离家人,这很难熬。这是你必须做出的牺牲。但开始做这件事之前,人们会说,在临终前,你会想念那些错过的时光。这也许是真的,但在进入这个阶段之前,我已经说过了,我知道这会很痛苦,而所有事情都必然伴随痛苦。顺便说一句,我深信做任何事都必须经历痛苦。去健身房会痛。减肥会痛。一切都必须经历痛苦,对吧?它确实如此。我们所有...
Swyx:
没有付出就没有收获。
Ivan:
字面意思就是这样,但你实际上必须去享受这种痛苦。如果你不享受这种痛苦,那它就不适合你。你逐渐习惯了这种痛苦。我很爱我的孩子们,我有一个女儿和一个儿子。女儿是老大,我爱她,她不在身边时我也会想念她,但这这就是我选择的路。为了我想实现的目标,我有一个计划和方向。现在,希望能在我妻子的支持下(她确实很支持我),我们能更好地协调生活,这样她就不用承担那么大一部分压力了。所以,如果你另一半能接受这种情况,你就可以去做。但即使他们接受了,你也必须接受自己不能时刻陪伴在他们身边的事实,对吧?
Swyx:
是的。这幅图是我对你们未来的设想,这个表情包。
Ivan:
是的,我...
Swyx:
这是你未来的孩子们。
Ivan:
是的,我想...
Swyx:
就是这个...
Ivan:
我们必须教育他们,他们并不富有。
Swyx:
因为爸爸构建了计算沙箱。
Ivan:
是的,你爸爸构建了计算沙箱。爸爸做了沙箱。爸爸做了沙箱。
Swyx:
构建了 Serverless 和 Kubernetes 在 agent 领域的精神继承者。还有其他热门话题或趋势吗?实际上你有很多犀利的观点,你最出名的是,当时你处于某种“奋斗逼”文化模式中,有人引用你的话说:“我都没听说过你,兄弟。快下线去过个圣诞假期吧。”你的回复是什么来着?
Ivan:
哦,我的回复是:“这就是为什么我不能休息。”
Swyx:
我觉得这非常符合你的风格。我手头没有原帖,找不出来了。但我认为这非常体现了那种文化。除了这些,你还有很多类似的有趣观点。对目前的初创生态系统还有什么看法吗?
SaaS Token 转售商、API 收入与初创公司的犀利观点
Ivan:
哦,是的,初创生态系统。这是最近的一个观点。我认为,这也是普遍的商业现象。我觉得这在推特上并没有传达得很好,至少有些人误解了它。我的观点是,市场正在给予那些转售 Token 的 SaaS 供应商溢价。我认为这是不对的。
Swyx:
为什么?
Ivan:
因为我认为——为什么我觉得这是不对的呢?因为如果你看看,首先,你的定价取决于它的成本,无论是在公开市场还是私募市场。读到这些数据的人会认为,现在的收入再加速等同于过去的 SaaS 收入,但这完全不是一回事。因为首先,在以前的 SaaS 模式中,你拥有典型的 SaaS 利润率和客户粘性等各种优势。而现在你在做的是说:“这是我的 agent,我有某种利润率。”但这其实糟糕得多,对吧?你现在的 SaaS 产品实质上是通过 Anthropic 或 OpenAI 等模型来提供服务的,然后我们作为一个社区却把这种增长称为“重新加速”。所以我认为这不仅是错误的,而且两者本质上是不一样的。组成结构不同。另一方面,回到我之前提到的 Kua 以及我是如何设置 OpenCloud 的。我根本就不需要你的 agent,因为现在我们面临的问题是,数据过去一直是孤立的,被锁在 ClickHouse、QuickBooks 里,到处都是信息孤岛。现在你给了我一个能提取这些数据的 agent,但数据依然是孤立的,对吧?所以我必须把那些数据拿出来,然后再找另一个 agent。
Swyx:
只要把数据暴露给我的 agent 就行了。
Ivan:
只要把数据暴露出来就行了。只要暴露出来,然后根据 API 消耗向我收费就可以了。你可以保留以前针对人类的基于席位的定价,但对于这个部分,向我收取 API 费用。随着 agent 数量的激增,本质上你的使用量会增加,如果你的产品有价值,你就能收更多的钱。这其中存在争议,因为有些产品确实有其内在价值,有的涉及数据库,有的不是,我们可以深入探讨。但有些真的很有价值,我实际上很震惊,第一个这么做的人竟然是 Benioff。
Swyx:
Salesforce,是的。
Ivan:
Sales...
Swyx:
Agentforce?
Ivan:
是的,大概三天前有一条推文,上面说 Salesforce 里的每个产品都已经通过 API 暴露出来了。
Swyx:
哇。
Ivan:
所有的东西。我当时就想,现在我明白为什么这个人能建立起...
Swyx:
这家伙真的是王者。
Ivan:
这太疯狂了。向他致敬,太棒了。就好像在说:“谢谢你。”我不知道他是否听取了我的或别人的建议,但谢谢有人这么做了。这就是世界的发展方向,如果你能通过 API 消耗实现真正的加速,那才是实打实的收入,才是真正的重新加速,价值正是来源于此。我认为,当人们明白没人会真正去大规模使用并为这些 agent 和 token 买单,这实际上不是一个长久的解决方案时,这将会是一盆冷水,估值会跌回来的。
Swyx:
是的。是的,显然我总体上认为你是对的,我也同意。但是人们都在试图成为一家 AI 公司。
Ivan:
绝对是的。我对这一点没有任何意见。必须要非常清楚,我不是在贬低任何正在构建这些东西的人。每个人都必须努力去实现收入、获得估值倍数、提高估值,做你必须做的事来进入下一个阶段。我完全同意这一点。但我们作为一个社区,现在却在说:“哦,这才是脱颖而出的神奇方法。”但这其实并不是真正发生的事情。
Swyx:
是的。最近甚至有家厨房电器公司也弄出了一些 AI 噱头。
Ivan:
还有那个做运动鞋的,叫 Allbirds。
Swyx:
Allbirds。不,Allbirds 转型做 GPU 了。这很正常。就像是,“我还有点钱,我要去买几张彩票”。你们会进入提供 GPU 的领域吗?
GPU 沙箱、数据中心与裸金属经济学
Ivan:
哦,是的,我们会。但不是为了推理。本质上,我们考虑的是 GPU 沙箱。所以,就像你电脑里有一块 GPU 一样,你在沙箱里也有一块 GPU。确实有需要 GPU 的工作负载。我总是回到 3D 渲染,因为这是最容易理解的。但是,如果你想在 CAD 或类似软件上进行任何类型的强化学习(RL),沙箱里就需要一块 GPU,所以这个功能现在也要推出了。
Swyx:
你们有自己的 data center(数据中心)吗?
Ivan:
自己的数据中心。我们目前在主机托管(co-location)提供商那里运行我们的 bare metal(裸金属)机器。在技术上,我们也可以在数据中心或我们自己的数据中心运行,我们的架构就是这样设计的。但在今天,从毛利率的角度来看,我们进入那个领域没有意义。你必须筹集大量资金,承担巨大的风险,仅仅为了换取个位数的利润率提升。所以今天这么做没有意义,但我们在底层架构上是支持这么做的。
Swyx:
是的。你们现在已经是这些供应商的大客户了。你看到任何机会了吗?
Ivan:
走着瞧吧。走着瞧。
Swyx:
是的。我看到很多人都在尝试做 bare metal(裸金属)。前几天我们和 Railway 聊过,他们也在采取非常相似的策略。
Ivan:
我认为他们正在建立或者已经拥有了自己的数据中心。
Swyx:
是的,他们有很大一部分自己的数据中心。但我确实认为,他们仍然在使用 Equinix 和所有那些设施。所以我觉得有趣的是,这个模式基本上没有改变。这基本上还是一个房地产模式。他们管理设施,然后你做其他的一切。我想知道在未来这个模式会如何改变,因为 AI 浪潮是一个重塑一切的机会。好的,基本上就是这些了。我没有其他话题了。如果你对计算市场、沙箱和 Daytona 有任何疑问,我认为这里是最好、最全面的起点。这行将何去何从,老兄?我们现在是 4 月,市场正以每月 75% 的速度增长。到年底我们能达到什么程度?
Agent 云:新的 AWS、新的 Stripe 还是其他形式?
Ivan:
这是一个疯狂的数字。我甚至有点害怕大声把它说出来。仅仅沙箱市场就非常庞大。我们普遍讨论过这个话题。整个基础设施市场正以每月 40% 左右的速度增长。每个人的月环比增长都是 40%。这也是一个犀利的观点:如果你没有以 40% 左右的速度增长,你就不算什么——市场就是这样。你如果不以这个速度增长,那你还不如别来上班了。我有一半是在开玩笑,但这就是趋势。那这何时是个头呢?我们拭目以待。我至少从 CPU 的角度来思考——GPU 的情况甚至更疯狂——从 CPU 的角度来看,有很大概率预先拥有这些 CPU 将成为一种走向市场的策略,这可能会成为现实。因为,你可能也和很多 GPU 供应商聊过,他们目前的增长完全受制于他们能拿到多少 GPU,对吧?
Swyx:
是的。这完全取决于英伟达那天决定“恩赐”多少。
Ivan:
这就是他们的增长上限,对吧?所以在 CPU 市场,无论是像 Railway,还是 Vercel,或者是做部署的,亦或是沙箱,这些依然是在消耗 CPU。所以各自都在以自身市场的速度增长。但它们目前还没有受到 CPU 数量的严重制约。因此我认为,对于我们在这个市场中的所有人,包括数据库也是如此,因为数据库也运行在 CPU 上,我们都必须尽可能快地增长,以便明天能从 Intel 或英伟达那里获得足够的 CPU,因为他们现在有 CPU 资源,而其他人以后可能会面临短缺。当我们触及那个天花板时,情况将会变得非常有趣。
Swyx:
好的。也许我可以换个说法:你们是潜在的下一个 Heroku,下一个 AWS,还是下一个……叫什么来着?专门做计算的下一个 Stripe?哪种比喻最合适?
Ivan:
这很有趣。对于类比……有人说是新的 Cloudflare,但新的 Cloudflare 也就是 Cloudflare 自己。
Swyx:
新的 Cloudflare。
Ivan:
实际上他们在 agent 方面做得非常好。
Swyx:
Cloudflare 垄断了网络领域。没人能抗衡,拜托。
Ivan:
不,他们确实做得很好。我想表达的是,他们的整个 agent 产品组合其实非常出色。我也应该指出,从技术上讲,我觉得他们把一切都限制在 Workers 之下。Workers 是他们的核心。但从走向市场的愿景角度来看,我认为他们实际上非常棒。我觉得他们真正理解了这个趋势,不像其他一些公司。回到你的问题:这将会是什么?每个人都在说要成为 AI agent 领域的 AWS。但对你的问题的回答是,它在某种意义上可能看起来更像 Stripe 而不是 AWS。所以将会出现一个专门为 agent 构建的云服务。这个云服务将拥有沙箱、网络搜索功能,以及专门为 agent 和其他用途设计的数据库,比如 SQLite、Neon 等等。为 agent 提供的新型基础设施原语远未结束。还有更多即将到来。人们觉得:“哦,没有别的东西了,这就够了。”实际上还有更多。对于接下来的原语,我们有一些想法。虽然我们现在没时间去做,但肯定还有更多为 agent 构建的原语。我认为将会出现一个把所有这些组合在一起运行的云服务。
Swyx:
是的。是的,OpenAI 提过 AI 云,Vercel 提过 AI 云,你们也有潜力成为众多潜在的 AI 云之一。我认为这是一个非常丰厚的终极奖赏。好的,谢谢你来参加节目。
Ivan:
感谢你的邀请。这是一次很棒的体验。
Swyx:
是的。好的,就到这里吧。
关于 token 成本的争论一直吸引着所有人的注意力。但自主 agent(autonomous agents)真正的投资回报率(ROI)底线,将由计算底层(compute substrate)决定:沙箱、网络带宽、重试带来的开销。Daytona 是首批押注部署环境(deployment surface)将成为持久护城河的公司之一。
如果在接下来的 12 个月里,大多数 agent 在被启动、失败后都需要重试 10 次才能完成一个任务,那么这层计算层在 LLM(大语言模型)之前就会把利润率吞噬殆尽。目前有人在生产环境中跟踪每个 agent 的基础设施成本吗?还是说这些成本依然被隐藏在通用的云账单里?
重试税(retry tax)正是目前还没有人单列出来的部分。当 Anthropic 在 4 月 8 日发布 Managed Agents(托管 Agent)时,Fastly 的股价在三个交易日内下跌了 18%,Akamai 下跌了 16%,Cloudflare 下跌了 13%。因此,即便财务团队仍将其掩盖在通用的云服务支出中,市场其实已经开始对这个底层成本进行定价了。只有当这种重试开销变得清晰且能够单独计费时,Daytona 的护城河才能稳固。
在一个季度内,强化学习与评估(RL/eval)的比重从 0 飙升到 50%,这是这里最具信息量的数据。这在 AI 基础设施领域等同于一种单一工作负载类型从某个客户群体的边缘用例变成了主流。这也解释了为什么他们选择带有自有调度器的 bare metal(裸金属)架构。在这个阶段,相比 MCP,主推 CLI 也是为了 agent 的人体工程学做出的正确选择。CLI 是可组合的、稳定的、文档齐全的,并且能够在各种规模的计算中良好运行,而 MCP 仍需要时间来适应生产环境的流量语义和标准化的错误契约。
值得注意的是,是什么把 RL/eval 的比重拉到了 50%:TerminalBench、GDPVal 和 Harbor 都假设存在一个“计算机”环境,所以研究界现在用来评估 agent 的标准,恰好也是产品实际搭载的工具包。CLI 胜出的部分原因在于这正是目前的基准测试所青睐的,而在编写这些测试时,MCP 还根本不存在。
大多数 AI 应用公司并不想成为基础设施公司,但一旦他们达到一定的规模,就会意外地成为其中一员。他们的利润率开始不仅取决于模型有多好,更取决于他们能以多高的效率调度和隔离工作。因此,一个积极的结论是:Daytona 让 AI 公司能够以软件的利润率去规模化扩展那些本质上类似人力的产品。