专题研究N:2026年融资区块链项目研目Inference

337 字

专题研究N:2026年融资区块链项目研目Inference

ChainCatcher 消息,AI 量化交易公司 Inference Research 宣布完成 2000 万美元种子轮融资,Avenir Group 领投,这笔资金将用于扩展该公司自主研发基础设施以融合传统金融和数字资产,同时加速招募人才,据悉该公司正在组建一支由量化分析师、工程师和研究人员组

Inference

@inference_net,
Inference Research & Development,
San Francisco, CAinference.net,
2024年3月 加入,
7 正在关注,
2.9万 关注者

@inference_net
·
2025年10月15日
继续前进。
引用
山姆·霍根🇺🇸
@samhogan
·
2025年10月15日
我很兴奋地宣布@inference_net1180万美元系列种子融资轮,由@multicoin & @a16zcryptoCSX参与@topology_vc,@fdotinc,以及一群了不起的天使。
下一波AI采用将由原生构建AI的公司推动

@samhogan
·
2月18日
目前最常见的Clawdbot/代理任务是在线调研。闭源模型既昂贵又慢。
因此,我们对长上下文HTML转JSON提取的前12款开源LLM进行了基准测试。
毫不意外,Kimi K2.5和GLM 4.7夺冠👑关于这方面的内容稍后会有更多。
引用
阿玛尔·辛格
@AmarSVS
·
2月18日
介绍我们的全新Schematron基准测试。我们花时间比较了所有最新的开源模型,看看哪一个能夺冠。
基准测试本质上衡量大型语言模型(LLM)能否将原始HTML和JSON模式一起填充,然后填充该模式。我们

我们打造了网页提取的Kimi K2:认识一下Schematron。
我们合作的团队对它非常支持。
这是我们本周再次听到的内容:
“我们在较小模型上测试了Schematron,用于大规模HTML模式提取——它更准确,速度也显著更快。对于我们并行拉取数千个网页的发现终端来说,这是首个真正能在我们所需质量和延迟下运行的模型。”
简而言之,Schematron是:
→ GPT-4.1 质量的 98%
→ 100% JSON schema 合规 — 零幻觉字段
→ 128K 上下文 — 处理完整的原始 HTML,无需 markdown 转换
→ 比Frontier车型便宜40–80倍
→ 快10倍——每页0.54秒,而GPT-5是6秒
→ HuggingFace 上的开源,运行于 Ollama,兼容 OpenAI 的 API
我们正在制作它的下一个版本——敬请期待👀

《LLM工程路线图》。

如果你想从今天开始,这里有路线图👇

1️!LLM 基础
首先要了解Python和LLM的API及其工作原理。
学习提示工程、结构化输出和工具使用。

↳ Python/Typescript基础
↳ 大型语言模型API
↳ 提示工程
↳ 结构化输出
↳ 函数调用2️!向量存储器
在构建任何东西之前,你需要先了解文本如何变成向量。
学习嵌入模型、分块策略和相似性搜索。

↳ 嵌入模型(OpenAI Ada、Cohere、BGE)
↳ 向量数据库(Pinecone、Qdrant、ChromaDB、FAISS)
↳ 分块策略
↳ 相似性搜索3️!检索增强生成(RAG)
这就是大型语言模型用你的数据回答问题的方式。
你学会如何获取上下文并正确地传递信息。

↳ 编排框架(LangChain,LlamaIndex)
↳ 获取文档
↳ 检索方法(Dense、BM25、混合型)
↳ 排名重组
↳ 提示模板4️!高级RAG
这些步骤可以帮助你了解如何让RAGs可靠且准确。

↳ 查询变换
↳ 水电
↳ 纠正性RAG
↳ 自拍
↳ 图 RAG5️!微调
有时,针对特定用例,仅仅提示词是不够的。
微调将帮助你理解模型如何学习领域特定的行为。

↳ 数据准备
↳ 洛拉,QLoRA,多拉
↳ SFT、DPO、RLHF
↳ 训练工具(懒惰、钝口螈、HF TRL)6️!推理优化
一旦系统运行良好,就必须快速且价格合理。
这一步侧重于学习绩效和成本效益。

↳ 量子化(GGUF、GPTQ、AWQ)
↳ 服务机车(vLLM、TGI、llama.cpp)
↳ KV缓存
↳ 闪电 注意
↳ 推测解码7️!部署
模型如果一直存在笔记本里就没用。
在这里,你会学习如何向用户发布LLM系统。

↳ GPU 调度
↳ 云平台(AWS Bedrock,GCP Vertex AI)
↳ Docker, Kubernetes
↳ FastAPI,流式传输(SSE)8️!可观测性
这一步有助于你跟踪质量、延迟和成本。

↳ 追踪(LangSmith,Langfuse,Arize Phoenix)
↳ 延迟(TTFT)
↳ 令牌使用
↳ 成本追踪9️!代理人
代理允许大型语言模型规划和使用工具。
学习它们以理解大型语言模型如何解决多步骤和复杂任务。

↳ 框架(LangGraph、CrewAI、Autogen)
↳ 函数调用
↳ 记忆系统
↳ 模式(反应、计划执行、多智能体)🔟生产与安全
生产型LLM系统可能会以微妙的方式出现故障。
这一步有助于防止滥用、停电和成本飙升。

↳ 即时注射防御
↳ 护栏(NeMo,护栏AI)
↳ 语义缓存
↳ 备份与速率限制♻️如果你觉得这很有见地,可以重新发帖 关注我们,获取更多AI工程内容!

我们很欢迎
@mikepollard_dev

@inference_net
作为我们的创始开发者工程师!
差不多七年前,Mike和我赢得了我第一家公司的推介比赛
人生很长。当你找到喜欢的合作伙伴时,要让他们保持亲近。你永远不知道你们的道路何时会交汇

你每月多花了3万美元,批量运行AI模型。

原因如下(以及如何解决)

OpenAI 与 Anthropic 的工作原理

按代币定价:
→ OpenAI(GPT-4o):每百万代币2.50美元 / 10美元
→ 拟人化(十四行诗4.5):每百万代币3美元 / 15美元

每月100万查询量:3万美元 - 每月38万美元

问题:1️!你为自己没用到的功能付费
Frontier模型对所有情况都有训练。你的任务可能需要这些能力的1%。
剩下的99%你要付。2️!没有规模经济
代币#1:0.003美元
代币 #1,000,000:$0.003
你的成本永远不会减少。3️!较小的前沿模型和现成的开源模型质量较差
你被迫选择支付更多费用或获得更差的结果。

解决方案:

专用GPU + 专用型号

与其按代币定价,不如按月租用专用GPU。

然后专门训练针对你具体任务的定制模型:
→ 从前沿模型和大型开源模型(GPT-5、Claude、Gemini、Kimi、GLM)提炼而成
→ 根据你的使用场景,匹配甚至超越前沿的品质
→ 推理速度快2-3倍

每月100万查询:每月8600美元

这价格便宜了71-77%,而且没有牺牲质量。

最大的误解是“定制模型无法匹敌Frontier的质量”。

现实情况:

当他们专门化完成任务时,可以超越边疆情报。

大多数团队不需要“世界上最聪明的模型”。

他们需要最聪明的模型来完成一项任务。

运行在他们控制的基础设施上。

而且成本是会随之而来的。

今天我非常激动地宣布这一点
@AmarSVS
加入了我,并且
@atbeme
作为
@inference_net
任何和阿玛合作过的人都知道,他是个N=1类型的人。
他的精力、纯粹的动力和奉献精神让我们开启了激动人心的新机遇,并激励了整个团队。
我期待未来多年合作、乒乓球和深夜工作。

Claude 3.5 俳句虽然能用,但现在却被弃用了。
幕后,很多团队也做了同样的事情:
- 测试过的新型车型
- 做了评估
- 悄悄地回归俳句

因为没有什么能与真实的生产行为相匹配。

现在他们被困住了。

错误在于认为解决办法是“找到下一个型号”。

其实不是。

其中http://Inference.net,<一周内你可以:
- 为你的使用场景打造一个自定义的AI模型
- 输出相同(甚至更精确)
- 保留提示、工作流程、集成;没有重写

具体变化:
- 成本变得可预测
- 延迟不再是彩票
- 弃用风险消失(你拥有该模型)

这不是开放式与闭式的区别。

关键是冻结已经有效的行为;然后继续前进。

俳句的贬低让依赖变得显而易见。

DevOps 的 AI 代理🤖我们让Claude为我们构建了一个Slack机器人,允许(只读)访问我们所有生产基础设施。
它可以访问:
- 所有舱体的K8s日志
- Otel 痕迹与测井
- 格拉法纳
- Postgres / ClickHouse
- 松弛
- GitHub
建造需要2小时。效果非常好。