三年前,Luminal联合创始人乔·菲奥蒂在英特尔从事芯片设计工作时意识到一个问题。虽然他致力于制造最好的芯片,但更重要的瓶颈其实在软件层面。
"你可以制造出世界上最好的硬件,但如果开发者难以使用,他们就不会去用它,"他说道。
如今,他创办了一家专门解决这一问题的公司。周一,Luminal宣布完成530万美元种子轮融资,由Felicis Ventures领投,天使投资人包括Paul Graham、Guillermo Rauch和Ben Porterfield。
菲奥蒂的联合创始人Jake Stevens和Matthew Gunton分别来自苹果和亚马逊,该公司隶属于Y Combinator 2025年夏季项目。
Luminal的核心业务很简单:公司销售算力,就像CoreWeave或Lambda Labs等新兴云公司一样。但与这些专注于GPU的公司不同,Luminal专注于优化技术,让公司能够从现有基础设施中挤出更多算力。特别是,该公司专注于优化位于编写代码和GPU硬件之间的编译器——这正是菲奥蒂在前一份工作中遇到诸多问题的开发者系统。
目前,行业领先的编译器是英伟达的CUDA系统——这是该公司取得巨大成功的一个被低估的要素。但CUDA的许多组件都是开源的,Luminal认为,在行业内许多人仍在抢夺GPU的情况下,构建技术栈的其余部分将带来巨大价值。
这是推理优化初创公司日益壮大群体的一部分,随着公司寻求更快、更便宜的模型运行方式,这类公司变得更有价值。像Baseten和Together AI这样的推理提供商长期专注于优化,而Tensormesh和Clarifai等较小公司现在开始专注于更具体的技术诀窍。
Luminal和其他同类公司将面临主要实验室优化团队的激烈竞争,后者拥有针对单一模型系列进行优化的优势。作为客户服务商,Luminal必须适应客户提出的任何模型。但即使面临被超大规模云服务商超越的风险,菲奥蒂表示市场增长足够快,他并不担心。
"花六个月时间在特定硬件上手动调优模型架构总是可能的,你可能会击败任何编译器性能,"菲奥蒂说。"但我们的大胆押注是,除此之外,通用用例仍然具有很大的经济价值。"
Q&A
Q1:Luminal是什么公司?主要做什么业务?
A:Luminal是一家专注于GPU代码优化的初创公司,主要业务是销售算力服务。与其他云计算公司不同,Luminal专注于优化技术,特别是优化编译器系统,让公司能够从现有基础设施中获得更多算力。
Q2:Luminal的优化技术有什么特点?
A:Luminal专注于优化位于编写代码和GPU硬件之间的编译器,这是连接软件和硬件的关键环节。公司利用英伟达CUDA系统的开源组件,构建技术栈的其余部分,为客户提供更高效的GPU使用方案。
Q3:Luminal面临哪些竞争挑战?
A:Luminal面临来自主要实验室优化团队的激烈竞争,这些团队拥有针对单一模型系列优化的优势。同时还有其他推理优化公司如Baseten、Together AI等的竞争,以及被超大规模云服务商超越的风险。
好文章,需要你的鼓励
两家公司在OverdriveAI峰会上分享了AI应用经验。Verizon拥有超过1000个AI模型,用于预测客户呼叫原因和提供个性化服务,将AI推向边缘计算。Collectors则利用AI识别收藏品真伪,将每张卡片的鉴定时间从7分钟缩短至7秒,估值从8.5亿美元增长至43亿美元。
阿布扎比科技创新研究院团队首次发现大语言模型生成的JavaScript代码具有独特"指纹"特征,开发出能够准确识别代码AI来源的系统。研究创建了包含25万代码样本的大规模数据集,涵盖20个不同AI模型,识别准确率在5类任务中达到95.8%,即使代码经过混淆处理仍保持85%以上准确率,为网络安全、教育评估和软件取证提供重要技术支持。
Hammerspace发布v5.2数据平台软件,通过更快的元数据读取、更好的数据放置和扩展性优化提升AI数据访问性能。新版本IO500总分提升33.7%,总带宽翻倍,IOR-Hard-Read测试提升超800%。增加了Tier 0亲和性功能,支持GPU服务器本地存储访问,减少集群内网络流量。新增Oracle云支持、Kerberos认证和标签化NFS,提供更细粒度的访问控制。该软件将于12月正式发布。
斯坦福大学研究团队首次系统比较了人类与AI在文本理解任务中的表现。通过HUME评估框架测试16个任务发现:人类平均77.6%,最佳AI为80.1%,排名第4。人类在非英语文化理解任务中显著优于AI,而AI在信息处理任务中更出色。研究揭示了当前AI评估体系的缺陷,指出AI的高分往往出现在任务标准模糊的情况下。