IOSG Ventures:同质化AI基础设施的出路在哪儿?
原文作者:IOSG Ventures
感谢来自 Zhenyang@Upshot, Fran@Giza, Ashely@Neuronets, Matt@Valence, Dylan@Pond 的反馈。
本研究旨在探讨对开发者而言哪些人工智能领域最为重要,以及在 Web3 和人工智能领域哪些可能是爆发的下一个机遇。
在分享新的研究观点之前,首先很高兴我们参与了 RedPill 总计 500 万美元的第一轮融资,也非常激动,期待接下来能够和 RedPill 共同成长!
TL;DR
随着 Web3 与 AI 的结合成为加密货币界的瞩目话题,加密世界的 AI 基础设施构建兴旺起来,但实际利用 AI 或为 AI 构建的应用程序并不多,AI 基础设施的同质化问题逐渐显现。近期我们参与的 RedPill 的第一轮融资,引发了一些更深入的理解。
构建 AI Dapp 的主要工具包括去中心化 OpenAI 访问、GPU 网络、推理网络和代理网络。
之所以说 GPU 网络比「比特币挖矿时期」还要热门,是因为:AI 市场更大,并且增长快速且稳定;AI 每天支持数以百万计的应用程序;AI 需要多样化的 GPU 型号和服务器位置;技术比过往更成熟;面向的客户群也更广。
推理网络和代理网络有相似的基础设施,但关注点不同。推理网络主要供有经验的开发者部署自己的模型,而运行非 LLM 模型并不一定需要 GPU。代理网络则更专注于 LLM,开发者无需自带模型,而是更注重提示工程和如何将不同的代理联结起来。代理网络总是需要高性能的 GPU。
AI 基础设施项目承诺巨大,仍在不断推出新功能。
多数原生加密项目仍处于测试网阶段,稳定性差,配置复杂,功能受限,还需要时间来证明其安全性和隐私性。
假设 AI Dapp 成为大趋势,还有许多未开发的领域,如监控、与 RAG 相关的基础设施、Web3 原生模型、内置加密原生 API 和数据的去中心化代理、评估网络等。
垂直整合是一个显著趋势。基础设施项目试图提供一站式服务,简化 AI Dapp 开发者的工作。
未来将是混合型的。部分推理在前端进行,而部分在链上计算,这样做可以考虑到成本和可验证性因素。
Source: IOSG
引言
Web3 与 AI 的结合是当前加密领域中最受瞩目的话题之一。才华横溢的开发者正在为加密世界构建 AI 基础设施,致力于将智能带入智能合约。构建 AI dApp 是极其复杂的任务,开发者需要处理的范围包括数据、模型、计算力、操作、部署和与区块链的整合。针对这些需求,Web3 创始人已经开发出许多初步的解决方案,如 GPU 网络、社区数据标注、社区训练的模型、可验证的 AI 推理与训练以及代理商店。
而在这兴旺的基础设施背景下,实际利用 AI 或为 AI 构建的应用程序并不多。开发者在查找 AI dApp 开发教程时,发现这些与原生加密 AI 基础设施相关的教程并不多,大多数教程仅涉及在前端调用 OpenAI API。
Source: IOSG Ventures
当前的应用未能充分发挥区块链的去中心化和可验证功能,但这种状况很快将会改变。现在,大多数专注于加密领域的人工智能基础设施已经启动了测试网络,并计划在未来 6 个月内正式运行。
本研究将详细介绍加密领域人工智能基础设施中可用的主要工具。让我们准备迎接加密世界的 GPT-3.5 时刻吧!
1. RedPill:为 OpenAI 提供去中心化授权
前文所提到的我们参投的 RedPill 是一个很好的引入点。
OpenAI 拥有几种世界级强大的模型,如 GPT-4-vision、GPT-4-turbo 和 GPT-4 o,是构建先进人工智能 Dapp 的优选。
开发者可以通过预言机或前端接口调用 OpenAI API 以将其集成到 dApp 中。
RedPill 将不同开发者的 OpenAI API 整合在一个接口下,为全球用户提供快速、经济且可验证的人工智能服务,从而实现了对顶尖人工智能模型资源的民主化。RedPill 的路由算法会将开发者的请求定向到单一贡献者处。API 请求将通过其分发网络执行,从而绕过任何来自 OpenAI 的可能限制,解决了加密开发者面临的一些常见问题,如:
限制 TPM(每分钟代币):新账户对代币的使用有限,无法满足热门且依赖 AI 的 dApp 的需求。
访问限制:一些模型对新账户或某些国家的访问设置了限制。
通过使用相同的请求代码但更换主机名,开发者能以低廉的成本、高扩展性和无限制的方式访问 OpenAI 模型。
2. GPU 网络
除了使用 OpenAI 的 API,许多开发人员还会选择自行在家中托管模型。他们可以依托去中心化 GPU 网络,如 io.net、Aethir、Akash 等流行的网络,自行建立 GPU 集群并部署及运行各种强大的内部或开源模型。
这样的去中心化 GPU 网络,能够借助个人或小型数据中心的计算力,提供灵活的配置、更多的服务器位置选择以及更低的成本,让开发人员可以在有限的预算内轻松进行 AI 相关的试验。然而,由于去中心化的性质,此类 GPU 网络在功能性、可用性和数据隐私方面还存在一定的局限。
过去几个月,GPU 的需求火爆,超过了之前的比特币挖矿热潮。此现象的原因包括:
目标客户增多,GPU 网络现在服务于 AI 开发者,他们的数量不仅庞大而且更为忠实,不会受到加密货币价格波动的影响。
相比挖矿专用设备,去中心化 GPU 提供了更多的型号和规格,更能满趡 iez 要求。尤其是大型模型处理需要更高的 VRAM,而小型任务则有更适合的 GPU 可选。同时,去中心化 GPU 能够近距离服务终端用户,降低延迟。
技术日趋成熟,GPU 网络依赖高速区块链如 Solana 结算、Docker 虚拟化技术和 Ray 计算集群等。
在投资回报方面,AI 市场正在扩张,新应用和模型的开发机会多,H 100 模型的预期回报率为 60-70% ,而比特币挖矿则更为复杂,赢家通吃,产量有限。
比特币挖矿企业如 Iris Energy、Core Scientific 和 Bitdeer 也开始支持 GPU 网络,提供 AI 服务,并积极购买专为 AI 设计的 GPU,如 H 100 。
推荐:对于不太重视 SLA 的 Web2 开发者,io.net 提供了简洁易用的体验,是个性价比很高的选择。
3. 推理网络
这是加密原生 AI 基础设施的核心。它将在未来支持数十亿次 AI 推理操作。许多 AI layer 1 或 layer 2 为开发者提供了在链上原生调用 AI 推理的能力。市场领导者包括 Ritual、Valence 和 Fetch.ai。
这些网络在以下方面存在差异:
性能(延迟、计算时间)
支持的模型
可验证性
价格(链上消耗成本、推理成本)
开发体验
3.1 目标
理想的情况是,开发者可以在任何地方,通过任何形式的证明,轻松地访问自定义的 AI 推理服务,整合过程中几乎没有任何阻碍。
推理网络提供了开发者所需的全部基础支持,包括按需生成和验证证明、进行推理计算、推理数据的中继和验证、提供 Web2 和 Web3 的接口、一键式模型部署、系统监测、跨链操作、同步集成及定时执行等功能。
Source: IOSG Ventures
借助这些功能,开发者可以将推理服务无缝集成到他们现有的智能合约中。例如,在构建 DeFi 交易机器人时,这些机器人会利用机器学习模型寻找特定交易对的买卖时机,并在基础交易平台上执行相应的交易策略。
在完全理想的状态下,所有的基础结构都是云托管的。开发者只需将他们的交易策略模型以通用格式如 torch 上传,推理网络就会存储并为 Web2 和 Web3 查询提供模型。
所有模型部署步骤完成后,开发者可以直接通过 Web3 API 或智能合约调用模型推理。推理网络将持续执行这些交易策略,并将结果反馈给基础智能合约。如果开发者管理的社区资金量很大,还需要提供推理结果的验证。一旦收到推理结果,智能合约就会根据这些结果进行交易。
Source: IOSG Ventures
3.1.1 异步与同步
从理论上讲,异步执行的推理操作可以带来更好的性能表现;然而,这种方式在开发体验上可能让人感到不便。
在采用异步方式时,开发者需要先将任务提交到推理网络的智在合约中。当推理任务完成后,推理网络的智能合约会将结果返回。在这种编程模式下,逻辑被分为推理调用和推理结果处理两个部分。
Source: IOSG Ventures
如果开发者有嵌套的推理调用和大量的控制逻辑,情况会变得更糟。
Source: IOSG Ventures
异步编程模式使得它难以与现有的智能合约集成。这需要开发者编写大量额外的代码,并进行错误处理和管理依赖关系。
相对地,同步编程对于开发者来说更加直观,但它在响应时间和区块链设计上引入了问题。例如,如果输入数据是区块时间或者价格这种快速变动的数据,那么在推理完成后数据已不再新鲜,这可能会导致在特定情况下智能合约的执行需要回滚。想象一下,你用一个过时的价格来做交易。
Source: IOSG Ventures
大部分 AI 基础架构采用异步处理,但 Valence 正在尝试解决这些问题。
3.2 现实情况
实际上,许多新的推理网络还在测试阶段,如 Ritual 网络。根据他们的公开文件,这些网络目前的功能较为有限(诸如验证、证明等功能还未上线)。他们目前没有提供一个云基础设施以支持链上 AI 计算,而是提供了一个框架,用于自我托管 AI 计算并将结果传递至链上。
这是一个运行 AIGC NFT 的体系结构。扩散模型生成 NFT 并上传至 Arweave。推理网络会用这个 Arweave 地址在链上铸造该 NFT。
Source: IOSG Ventures
这个过程非常复杂,开发者需要自己部署和维护大多数基础设施,如配有定制服务逻辑的 Ritual 节点、Stable Diffusion 节点及 NFT 智能合约。
推荐:目前的推理网络在整合和部署自定义模型方面相当复杂,且在这一阶段大多数网络还不支持验证功能。将 AI 技术应用到前端会为开发者提供一个相对简单的选择。如果你非常需要验证功能,ZKML 提供商 Giza 是个不错的选择。
4. 代理网络
代理网络让用户能轻松自定义代理。这样的网络由能自主执行任务、相互交云以及与区块链网络交互的实体或智能合约组成,这一切无需人工直接干预。它主要针对 LLM 技术。例如,它可以提供一个深入了解以太坊的 GPT 聊天机器人。这种聊天机器人目前的工具较为有限,开发者还不能在此基础上开发复杂的应用。
Source: IOSG Ventures
但是将来,代理网络将提供更多的工具给代理使用,不仅仅是知识,还包括调用外部 API、执行特定任务的能力等。开发者将能够将多个代理连接起来构建工作流。例如,编写 Solidity 智能合约会涉及多个专门的代理,包括协议设计代理、Solidity 开发代理、代码安全审查代理以及 Solidity 部署代理。
Source: IOSG Ventures
我们通过使用提示和场景来协调这些代理的合作。
一些代理网络的例子包括 Flock.ai、Myshell、Theoriq。
推荐:当今大部分代理的功能都相对有限。对于特定用例,Web2 代理能够更好的服务,并且拥有成熟的编排工具,例如 Langchain、Llamaindex。
5. 代理网络与推理网络的差异
代理网络更侧重于 LLM,提供了如 Langchain 这样的工具来整合多个代理。通常情况下,开发者无需亲自开发机器学习模型,代理网络已经将模型开发和部署的过程简化。他们只需要链接必要的代理和工具即可。大多数情况下,最终用户将直接使用这些代理。
推理网络则是代理网络的基础设施支撑。它提供给开发者较低层次的接入权限。正常情况下,终端用户不直接使用推理网络。开发者需要部署自己的模型,这不仅限于 LLM,并且他们可以通过链下或链上接入点使用它们。
代理网络和推理网络并非完全独立的产品。我们已经开始看到一些竖向整合的产品。他们因为这两种功能依赖相似的基础设施,所以同时提供代理和推理能力。
6. 新的机会之地
除了模型推理、训练和代理网络外,web3 领域还有很多值得探索的新领域:
数据集:如何将区块链数据转变为机器学习可用的数据集?机器学习开发者需要的是更为具体和专题化的数据。例如,Giza 提供了一些高品质的、关于 DeFi 的数据集,专门用于机器学习训练。理想的数据应不仅仅是简单的表格数据,还应该包括能够描述区块链世界交互的图形数据。目前,我们在这方面还有不足。目前有些项目正通过奖励个人创建新数据集来解决这一问题,比如 Bagel 和 Sahara,它们承诺保护个人数据的隐私。
模型存储:一些模型体积庞大,如何存储、分发及版本控制这些模型是关键,这关系到链上机器学习的性能和成本。在这一领域,Filecoin, AR 和 0 g 等先锋性项目已经取得了进展。
模型训练:分布式且可验的模型训练是个难题。Gensyn, Bittensor, Flock 和 Allora 等已有显著进展。
监控:由于模型推理在链上与链下都有发生,我们需要新的基础设施来帮助 web3 开发者追踪模型的使用状况,及时发现可能存在的问题和偏差。有了合适的监控工具,web3 的机器学习开发者可以及时调整,不断优化模型精确度。
RAG 基础设施:分布式 RAG 需要全新的基础设施环境,对存储、嵌入计算和向量数据库有较高的需求,同时要确保数据的隐私安全。这与目前的 Web3 AI 基础设施大不相同,后者大多依赖第三方来完成 RAG,例如 Firstbatch 和 Bagel。
专为 Web3 定制的模型:并不是所有模型都适合 Web3 情景。大多数情况下,需要对模型进行重新训练,以适应价格预测、推荐等具体应用。随着 AI 基础设施的繁荣发展,未来我们期望有更多 web3 本地模型来服务于 AI 应用。比如 Pond 正在开发区块链 GNN,用于价格预测、推荐、欺诈侦测和反洗钱等多种场景。
评估网络:在缺乏人类反馈的情况下评估代理是不容易的。随着代理创建工具的普及,市场上将会出现无数的代理。这就需要有一个系统来展示这些代理的能力,并帮助用户判断在特定情况下哪个代理的表现最佳。例如,Neuronets 是这个领域的一个参与者。
共识机制:对于 AI 任务,PoS 不一定是最佳选择。计算复杂性、验证的困难和确定性的缺失是 PoS 面临的主要挑战。Bittensor 创造了一种新的智慧型共识机制,奖励网络中为机器学习模型和输出做出贡献的节点。
7. 未来展望
我们目前观察到了垂直整合的发展趋势。通过构建一个基础的计算层,网络能够为多种机器学习任务提供支持,包括训练、推理及代理网络服务。这种模式意在为 Web3 的机器学习开发者们提供全方位的一站式解决方案。
目前,链上推理尽管成本高昂且速度较慢,但它提供了出色的可验证性及与后端系统(例如智能合约)的无缝集成。我认为未来将走向混合应用的道路。一部分推理处理将在前端或链下进行,而那些关键的、决策性的推理则会在链上完成。这种模式已经在移动设备上得到了应用。通过利用移动设备的本质特点,它能够在本地快速运行小型模型,并将更复杂的任务迁移到云端,利用较大的 LLM 处理。
免责声明:文章中的所有内容仅代表作者的观点,与本平台无关。用户不应以本文作为投资决策的参考。
你也可能喜欢
Polymarket或将推出代币,交易量飙升激起空投预期
Polymarket可能在明年推出代币,奖励日益增长的用户群。一些用户已开始通过增加交易量来获得更大的空投奖励。该平台建立在以太坊扩展网络上,今年已成为最成功的加密产品之一。官方尚未确认代币推出时间,但可能在美国大选后作为吸引新用户的方式。Polymarket的成功得益于2024年美国总统大选,交易量和新账户数量大幅增加。一些交易者通过人为增加交易量来获得更多空投奖励,令人恼火。巨鲸表示,这种行为应受到惩罚。
![](https://img.bitgetimg.com/multiLang/image/social/39c8b7394c842f1971b36654e69e8d561725815520723.jpg)
小A晚间分析:ORDI、dogs、ETH行情分析来袭
![](https://img.bitgetimg.com/multiLang/image/social/d30c0c955e64aae8cb73b660a3f97e141725754929496.png)
从陪玩到Web3游戏革命:Balance融资3000万美元,如何参与获得白名单?
这个团队的根扎在美国洛杉矶,前身是北美最大陪玩平台 Epal,受到 a16z、Galaxy 等顶级风投的支持。
![](https://img.bitgetimg.com/multiLang/image/social/73050ea764e13708b6a3c4c2d73ae1bb1725797401875.jpeg)
4Alpha Research:深入解读Polymarket预测市场未来发展如何?
![](https://img.bitgetimg.com/multiLang/image/social/82241a3c0775aff3fcc38fcb9b8c5ac81725779501743.jpeg)