FeatherlessAI开发工具其他工具翻译站点

AI模型提供商,提供丰富的Hugging Face模型库。

标签:

Featherless是一个AI模型提供商,专注于为订阅者提供持续扩展的Hugging Face模型库。它支持LLaMA-3等模型架构,提供个性化和隐私保护的服务,不记录用户聊天或提示。Featherless提供了两种定价计划,基础版每月10美元,高级版每月25美元,分别提供最大15B和72B模型的访问权限。

使用场景

  • 研究人员使用Featherless提供的模型进行自然语言处理任务的研究。
  • AI开发者利用Featherless平台快速部署聊天机器人。
  • 企业通过Featherless订阅服务,集成AI模型到他们的产品中。

产品特色

  • 提供超过450+的AI模型,每周更新新模型。
  • 支持LLaMA-3和QWEN-2模型架构,未来计划支持更多架构。
  • 提供基础版和高级版两种订阅服务,满足不同用户需求。
  • 强调隐私保护,不记录用户使用日志。
  • 使用FP8量化技术,提高推理速度同时保持输出质量。
  • 自定义推理堆栈,能够快速切换模型,实现基础设施的快速重配置和自动扩展。

用户群体

Featherless的目标受众是AI开发者和研究人员,他们需要访问和使用大量的预训练模型进行研究和开发。该产品通过提供丰富的模型库和灵活的订阅选项,满足了这些用户对模型多样性和成本效益的需求。

使用教程

  1. 访问Featherless官网并注册账户。
  2. 选择适合您需求的订阅计划并完成支付。
  3. 通过Featherless提供的API接口访问和使用AI模型。
  4. 根据项目需求选择合适的模型并进行测试。
  5. 将选定的模型集成到您的应用程序中。
  6. 利用Featherless的技术支持和社区资源解决使用过程中的问题。

产品价格

  • 基础会员:10美元/月
    无限制的个人使用*
    不断增长的社区模型列表,每周更新
    完全兼容OpenAI的API访问
    最多可访问15B模型
    私人、安全和匿名使用-无日志
    *个人使用是最多两个并发请求。
  • 高级会员:25美元/月
    所有基础会员功能
    最多可访问72B模型
    *70B和72B被限制为最多一个并发请求。如果您需要更多信息,请与我们联系。

常见问题

什么是Featureless?
Featureless是一家人工智能模型提供商,为我们的用户提供不断扩展的Hugging Face模型库。
更少的麻烦,更少的努力。就从现在开始。
价格是多少?
我们提供两种定价方案,每月10美元和25美元
如果并发限制对真正的个人使用过于严格,请通过我们的不和联系我们
我的日志存储了吗?
不。作为一项注重隐私的服务。我们不会记录您的任何聊天、提示或完成情况。
支持哪种模型体系结构?
目前,我们支持基于LLaMA-3-的模型,包括LLaMA-3和QWEN-2。
请注意,QWEN-2型号最多只支持16000个上下文长度。
我们计划很快将更多架构添加到我们的支持列表中。
如何添加新型号?
随着新款车型在Hugging Face上上市,我们不断推出。
随着我们的发展,我们的目标是将这一过程自动化,以涵盖所有具有兼容架构的公开Hugging Face模型。
无限有多大?
只要您仍然订阅,就没有模型使用的时间限制。
为了确保个人帐户的公平使用,并发请求会根据您选择的计划进行限制。
输出以每秒10-40个代币的速度传递,具体取决于型号和提示大小。
你们在运行量化模型吗?
是的,我们使用FP8量化。
在与社区协商后,我们发现这种方法在显著提高推理速度的同时保持了输出质量。
你们怎么能运行这么多模型?
平台的核心是我们的自定义推理堆栈,在该堆栈中,我们可以在<1秒的时间内动态交换10B模型的模型。
这使我们能够根据用户的工作负载快速重新配置我们的基础设施。并根据用户工作负载作为一个统一的单元进行相应的自动缩放。
为什么我不直接使用HuggingFace或者etc directly等?
成本、速度、定制
虽然Hugging Face和RunPod可以让你运行任何型号的GPU,但它们每小时收费1美元或更高。如果您计划持续使用模型超过五个小时,使用我们的平台可能是更实惠的选择。
另一方面,其他提供商可以提供有限的模型列表,以优化成本和速度。但他们可能没有你想要的型号。
你们有推荐计划吗?
有的,推荐一个朋友,当他们订阅并添加你的电子邮件时,你们两个都可以从下一个月的账单中扣除10美元!
推荐你的12个朋友,你就可以享受我们一整年的基本计划了!(折扣堆积如山!)
支持开源AI!
递归人工智能团队的主要目标是让每个人都能访问开源人工智能,无论其语言或经济状况如何。
这就是为什么我们积极与RWKV社区合作构建开源人工智能模型的原因,该模型是多语言的,具有高度可扩展性和可负担性。
我们从Featureless.ai获得的收入有助于支持我们训练和扩展此类模型的工作。你可以在这里看到我们最新的开源人工智能模型
此外,我们鼓励您联系您最喜欢的模型创建者,并直接支持他们。

相关导航

暂无评论

暂无评论...