专题研究N：2024年融资区块链项目研究Hyperbolic

按：融资的项目作一个专题研究：1、融资了，说明得到资本界看好，可能是一个好的方向和项目；2、通过研究它们，可以了解外界或圈内人对这个行业的判断，是一种研究区块链发展趋势的捷径和正确的路；3、之前的区块链人物、项目系列研究也基本是追一些热点或按版块研究，已有1000期；基本也将常见的项目和区块链人物研究的差不多；正好可以告一段落（前期落下的一些已计划的还要继续，在1000期以内）；4、基于推特是目前区块链信息最集中和更新快的平台，还依托于此来研究相应的融资项目。5、2024年2月份，硬盘损坏；前期约有3600期（已发布约2000期）资料丢失；现未再续编号。

PANews 12月10日消息，
开放式AI云服务提供商Hyperbolic
宣布完成1200万美元A轮融资，本轮由Polychain Capital和Variant领投，IOSG Ventures、Wintermute、GSR、Chapter One、Bankless Ventures和Faction等参投。Hyperbolic Labs是一家开放式AI云平台，专注于提供GPU资源和AI服务。

PANews 7月30日消息，据官方公告，Hyperbolic完成700万美元种子轮融资，旨在成为领先的开放式AI云服务提供商。此轮融资由Polychain Capital和Lightspeed Faction领投，Chapter One、LongHash、Bankless Ventures、Republic Digital、Nomad Capital、CoinSummer Labs和Third Earth Capital等参与。资金将用于推进Hyperbolic的开放式AI云平台的发展，包括招聘关键工程师和为开发者创建支持生态系统。
Hyperbolic计划通过整合全球GPU计算资源，并利用区块链技术，提供可验证且安全的AI服务，以解决计算资源成本和分配的行业瓶颈问题。Hyperbolic的首款产品是一种AI推理服务，承诺以更低的成本提供高性能。其创新方法使用“异构计算”技术，优化跨各种硬件的张量运算器，允许开发者通过简单的API调用访问强大的开源AI模型。此外，Hyperbolic正在建立一个GPU市场，提供直观且自动化的界面供用户租用和供应GPU，并通过其去中心化编排层Hyper-dOS（Hyperbolic分布式操作系统）支持。

Hyperbolic
，
@hyperbolic_labs，
The Open-Access AI Cloud. Access inference and compute at a fraction of the cost. Build with us: http://discord.gg/hyperbolic 🤘🏼🌪️
hyperbolic.xyz，2023年4月加入，
136 正在关注，
2.2万关注者，

已置顶：我们很高兴地宣布融资 700 万美元，成为领先的开放式 AI 云🤘🏼🌪️
在 Hyperbolic，我们正在构建一个开放的 AI 生态系统和经济，让每个做出贡献的人都能得到回报。我们的目标不仅仅是优化 AI 性能以与传统的 Web2 服务竞争，而是创造一个所有人都能享受的包容性 AI 经济。
人工智能的未来是协作的。加入我们。
我们的总体规划✍️
我们渴望成为企业开发开放、安全、可验证的超级智能的基础，减轻对单一实体垄断的担忧。实时服务：推理🧠
准备好构建了吗？免费访问开源推理模型。
Hyperbolic 的 AI 推理服务使用“异构计算”方法优化跨各种 GPU（如
@nvidia
和
@AMD
的张量操作。
即将推出的产品：GPU 市场🌐
几秒钟内即可租赁和供应 GPU。我们的可扩展系统可最大程度地提高任何 GPU 的性能，并由我们的分散式编排层 Hyper-dOS（双曲线分布式操作系统）提供支持。
加入我们的等候名单来尝试 alpha 产品并获得高达 50 美元的积分：
下午8:58 · 2024年7月30日
·

1/ Masa #KBW & #Token2049 - 总结🎁
梅森对亚洲的接管已完成。
@BrendanPlayford
和
@Calanthiaaa
在韩国区块链周和 Token 2049 期间的🤯 24+ AI 活动上发表演讲🌟
从举办 Hackathons 到我们首届 Fair AI 聚会——我们无处不在！
这是一个 MEGA 🧵
2/为什么去中心化在人工智能时代如此重要，由
@storyprotocol

@getmasafi
主持，并由#AI与去中心化人工智能创新者组成小组讨
@ritualnet
、
@withvana
和
@SaharaLabsAI
。
构建#DEAI 🦾的未来
3/ 由
@dsrvlabs

@getmasafi
主办的 Builders House 在热闹的#AI开发商之家⚡发表了主题演讲
包括对#Bittensor生态系统🌊的深入研究
Masa 很荣幸成为韩国最成熟的验证
@dsrvlabs
🇰🇷支持的首个 AI 项目
4/ Web3 AI 首尔，由
@ainetwork_ai
和
@with_blockmedia
主办

我们在
@getmasafi
、
@getgrass
、Rena Labs 和
@Qubic
🌱的座谈会上讨论了#AI的最新趋势和去中心化#data的未来5/ 韩国区块链周福布斯舞台：完整的 DeAI 堆栈如何共同打造用户拥有的 AI 世界，由
@kbwofficial
主办

我们在#KBW座谈会上隆重登场，出席嘉宾包括
@getmasafi
、
@RingfenceAI
、
@hyperbolic_labs
、
@exa_bits
和 TICLE6/
@071_labs
山顶

@getmasafi
发表了关于“如何在去中心化人工智能中创造真正价值”的主题演讲。 💎

我们还关注了最新的#AI趋势，并将#alpha放在了
@withvana
和
@myshell_ai
的面板上7/
@NearProtocol
HZN AI Alpha 黑客马拉松：使用 Masa Data 构建 AI 代理
@getmasafi
非常荣幸能与
@NEARProtocol
合作在首尔举办我们的首届 IRL 黑客马拉松。

开发人员使用 Masa 数据构建#AI代理并赢得赏金💰
我们在这场为期两天的互动黑客马拉松中获得了非常棒的体验💎
8/ Masa 接管 Token2049！ ✨🇸🇬

接下来，Masa 团队前往新加坡进行收购的第二部分🔥

Masa 联合创始人
@calanthiaaa
和
@BrendanPlayford
在 17 #token2049 #AI场活动上发表了演讲，并主办了我们自己的首届 Fair AI Meetup！ https://x.com/getmasafi/status/1839394535601799200，上午4:00 · 2024年9月27日

我们很荣幸与韩国大学和
@flock_io
合作，为 AI 训练和推理提供计算学分。
如果您是大学生或研究人员，请与我们联系。我们致力于让每个人都能使用人工智能，而不仅仅是少数人。

令人兴奋的消息！LLaMA 3.2 现已在 Hyperbolic 上线！
几个小时前，
@Meta
刚刚发布了最新的 Llama 模型。现在您可以访问 Llama-3.2-90B (VLM) 和 Llama-3.2-3B (LLM) 的 API。
🌪️立即开始构建！

我们
@hyperbolic_labs
现提供
@AIatMeta
今天在 BF16 中发布的 Llama-3.2-90B-Vision-Instruct 和 Llama-3.2-3B-Instruct！ 🚤🦙

Llama 3.2 90B 视觉模型声称其性能可与领先的封闭模型相媲美。
Llama 3.2 3B 是其大小的 SoTA 指令跟踪器，其基准与 3.1 8B 相似。
永远不要与开源和马克·扎克伯格对赌。

@JeremyHazan1
来自
@hyperbolic_labs
在 AI Radioroom：EP14 上分享了他对开放访问 AI 云的激动人心的愿景！
了解 Hyperbolic 如何通过去中心化 GPU、强验证和数据隐私让每个人都能使用 AI！ 👀

ICYMI：我们添加了一个很酷的新功能，允许您在我们的 GPU 市场上传自定义 Docker 镜像。
🟣注册以获取访问权限：

Hyperbolic 最先进的托管 AI 模型 Llama 3.1 和 Flux.1 已正式与
@myshell_ai
集成。
Web3 开发人员现在可以使用由 Hyperbolic 先进基础设施提供支持的高性能模型在分散平台上构建 AI 应用程序 - 从而让每个人都能使用 AI，而不仅仅是少数人。MyShell 是一个去中心化的 AI 消费者层，连接消费者、创作者和开源研究人员。它最初是一个平等的平台，任何人都可以创建、共享和货币化他们的 AI 原生应用程序。当使用 Hyperbolic 托管的模型时，您可以相信它已经过优化并在最新的硬件上运行，这要归功于我们先进的基础设施。

新的 VLM！更多开源视觉语言模型正在涌现。
一定要让他们烤一张你的照片😏
@MistralAI
和
@hyperbolic_labs
上的 Pixtral 12B（包括 BF16）：（ https://openrouter.ai/models/mistralai/pixtral-12b
Qwen2 VL 7B 指令（BF16）于
@hyperbolic_labs
：（ https://openrouter.ai/models/qwen/qwen-2-vl-7b-instruct
Qwen2 VL 72B 指令 (BF16) 于
@hyperbolic_labs
:

GPU 权衡系列： 𝘁𝗶𝗻𝘆𝗯𝗼𝘅迷你系列（第 5 集）
🔥在 Llama 3.1 70B FP8 推理上，4x 4090 比 1x H100（PCIe）快 1.6 倍！
设置：
- 来自
@tinygrad
tinybox (绿色) 中的 4x 4090，使用张量并行；
- 使用 vLLM 进行推理，在 10 个并发提示下进行基准测试
结果：
（1）输入代币吞吐量：
- H100：68.94 个代币/秒
- 4x4090: 109.09 个代币/秒
（2）输出代币吞吐量：
- H100：65.86 个代币/秒
- 4x4090: 104.34 个代币/秒
4x4090 可使两者的吞吐量提高 1.6 倍！
对于那些对它们作为本地托管聊天机器人的性能感兴趣的人，我录制了一段 LLaMA 3.1 70B 朗诵十四行诗 18 的视频来比较这些 GPU。虽然两者的输出相同，但 4x 4090 的速度明显更快！

在 Hyperbolic，我们正在构建一个开放的人工智能生态系统和经济体——民有、民治、民享——其中人工智能基础设施、服务和模型可供所有人访问、贡献、管理并受益。

在结束
@token2049
新加坡之行之际，我们想反思一下为什么这样的活动对我们和我们的社区如此重要。会议为我们的团队提供了一个独特的机会，让我们能够亲自与社区联系，了解他们的需求，并提高他们对我们使命的认识。

在新加坡的一周时间里，我们参加了超过 14 场演讲，并举办了 AI After Hours。现在，真正的工作开始了 — 与社区重新建立联系，重新回顾对话，并帮助 AI 和 Web3 领域的建设者开始使用市场上最先进的开源模型和计算。

有一点是明确的：人工智能是人类已知的最强大的工具之一。未来，人工智能将与金融、交通、机器人、社交媒体甚至人类认知等关键系统相结合。在中心化的环境中，个人失去了拥有和受益于这种先进技术的机会。

在 Hyperbolic，我们将权力交还给个人，使他们能够参与并塑造人类历史上最重要的经济体之一。

🤘🏼🌪️与我们一起建设，让我们走向双曲线。

GPU 权衡系列： 𝘁𝗶𝗻𝘆𝗯𝗼𝘅迷你系列（ep. 1） �
tinybox（绿色）是一款配备 6x4090 的设备，总共提供 144GB GPU 内存——足以训练最大的 GPT-2（1.5B）。
我关注 2 个基准：# GPU 的可扩展性，以及与 H100 相比的性能，两者的成本均为约 25,000 美元。
- 设置
对于这些基准测试，我使用 llm.c 来训练 GPT-2 (1.5B)。我使用了每个 GPU (4090 和 H100) 可以容纳的最大批处理大小。
- 可扩展性
tinybox 的可扩展性几乎是线性的，如图所示。

1x4090: 11,888 个代币/秒
5x4090: 56,654 个 token/s (4. 8x加速
我无法测量 3 或 6 个 GPU 的性能，因为 llm.c 中的 ZeRO 分片（第 1 阶段）实现要求张量在多个进程（GPU）之间均匀分布。我可能可以通过破解来实现这一点，但跨 3 或 6 个 GPU 进行分片具有挑战性。
我很好奇想听听
@realGeorgeHotz
对为什么 tinybox 设计为 6x4090 而不是 8x4090 (I的看法，就像 2 的幂一样。
- 与 H100 比较
在 tinybox 上使用 4x4090 进行训练时，训练速度超过单个 H100。tinybox 受益于额外的两个 4090 和额外的 64GB GPU 内存（H100 有 80GB 内存）。
感谢
@realGeorgeHotz
在我提出要求后迅速给予我 tinybox 的访问权限，更多有趣的基准测试即将推出！