热门话题
#
Bonk 生态迷因币展现强韧势头
#
有消息称 Pump.fun 计划 40 亿估值发币,引发市场猜测
#
Solana 新代币发射平台 Boop.Fun 风头正劲
Tether正在构建一个运行在您自己硬件上的AI平台。
QVAC提供了一个模块化SDK,让开发者可以为几乎任何设备构建AI微模块。这些模块通过点对点加密网络连接和协作,无需集中服务器、API密钥或守门人。
QVAC Fabric刚刚添加了对微软BitNet架构的支持,以便在消费设备上直接进行LoRA微调和1位大型语言模型的推理。以前需要专用的NVIDIA GPU和昂贵的服务器基础设施的任务,现在可以在日常设备上运行。
Tether的基准测试显示,使用BitNet模型的VRAM消耗比可比的16位模型少高达77.8%,在移动设备上,GPU推理速度比CPU快2到11倍。Fabric已作为开源发布。
如今的AI开发依赖于与加密货币设计要摆脱的相同类型的集中基础设施。训练和微调模型仍然依赖于NVIDIA硬件和云服务提供商,这使得控制集中在少数几家公司手中。
Fabric旨在通过使消费硬件成为真实模型开发的可行平台来改变这一现状。
Tether正在QVAC上构建多个应用程序。Translate处理文本、音频和图像的离线转录和翻译。Health使用设备上的AI代理本地跟踪健康数据。Keet正在集成QVAC AI,以启用设备上的对话功能。
Tether对QVAC的开发表明,去中心化的AI正成为他们的一个重要优先事项。

热门
排行
收藏
