← 所有公司
nCompass Technologies
运营中在 GPU 上优化性能 - 速度快 10 倍
W24·Winter 2024·B2B 企业服务·New York, NY, USA; Remote·3 人团队·2024 年成立
公司简介
识别性能瓶颈并制定解决方案所需的时间是实际编写修复代码的 4-8 倍。我们正在构建一个专家级 Agent，能够全面分析 GPU 系统（如推理引擎）的性能，覆盖从 CPU-GPU 交互到 GPU 内核的所有层级。 将该 Agent 与 Cursor / Claude Code 结合使用，可自动化性能优化的推理和代码实现步骤。原本需要数周的工作现在只需几天即可完成。 除了 AI Agent，我们还提供系统追踪差异对比、共享与协作等功能，使我们的 VSCode 扩展成为进行性能优化最强大的工具。
创始团队
Aditya Rajagopal· Co-Founder我是伦敦帝国理工学院最新的博士毕业生，拥有机器学习算法、编译器和硬件架构方面的经验。我曾在高通和华为的编译器团队工作，并担任过 ICML 的审稿人。 我和联合创始人正在构建 nCompass，这是一个用于加速和托管开源及定制大型 AI 模型的平台。我们的目标是通过一行代码提供无速率限制且低延迟的大型 AI 推理服务。
Diederik Vink· Founder我是伦敦帝国理工学院刚毕业的博士，专注于可重构硬件架构以加速机器学习以及降低精度的训练算法。我曾担任AI可行性顾问，负责原型开发和评估AI衍生项目。我们正在构建nCompass，一个用于加速和托管开源及自定义大型AI模型的平台。我们的目标是通过一行代码实现无速率限制和低延迟的大型AI推理。
产品发布 · 4 次发布
自动化优化AI基础设施栈各层的性能
以最具成本效益的方式搭建并扩展您的AI基础设施。
nCompass的最新模型是一款实时音频降噪器，能够从音频流的背景中去除人声。
nCompass 是一个只需一行代码即可将低延迟的开源/自定义模型集成到 AI 管道中的 API。