去中心化 AI 协议 Hyperspace 节点教程

当前关于Hyperspace的公开信息还比较少,公开的投资机构只有Blue7,不过Hyperspace属于AI热门赛道,所做的业务类似Web3版本的OpenAI。对于有GPU机器的同学,可以跑一跑节点,这个有一定的门槛,可以期待一下空投。

项目介绍

Hyperspace 是一个专为分布式模型推理而设计的开放标准协议,旨在将大型语言模型 (LLM) 的功能与最新的用户数据相融合,以创建一种新颖的情报服务,这种服务是即时的、具有社会意识的、可大规模免费访问的。

安装教程

https://hyper.space/downloads

图像

Hyper提供了非常多的安装选项,浏览器轻量版本(Browser Node)、客户端版本(Desktop Node)和命令行版本(CLI)

Browser Node

图像

导出私钥

图像

查看积分

图像

此处可以看到你积累的积分和在线时长,Tier 从5到1,越低越好

Desktop Node

图像

桌面客户端提供了各种不同的版本,根据你自己的电脑的操作系统选择,安装比较简单。

下载后直接安装,可以看到下面的界面

图像

图像

备份密钥

macOS: /Users/<username>/Library/Application\\ Support/hyperspace/key.pem

windows: C:\\Users\\<username>\\AppData\\Roaming\\hyperspace\\key.pem

CLI版本

第一步、根据你的电脑的系统进行选择,下载后解压得到 aios-cli 命令行工具

Mac(M芯片)

https://github.com/hyperspaceai/aios-cli/releases/latest/download/aios-cli-aarch64-apple-darwin.tar.gz

Mac(Intel)

https://github.com/hyperspaceai/aios-cli/releases/latest/download/aios-cli-x86_64-apple-darwin.tar.gz

Linux(有cuda)

https://github.com/hyperspaceai/aios-cli/releases/latest/download/aios-cli-x86_64-unknown-linux-gnu-cuda.tar.gz

Linux

https://github.com/hyperspaceai/aios-cli/releases/latest/download/aios-cli-x86_64-unknown-linux-gnu.tar.gz

Windows(有cuda)

https://github.com/hyperspaceai/aios-cli/releases/latest/download/aios-cli-x86_64-pc-windows-msvc-cuda.zip

Windows

https://github.com/hyperspaceai/aios-cli/releases/latest/download/aios-cli-x86_64-pc-windows-msvc.zip

第二步、准备密钥

打开浏览器版本,生成私钥和公钥

图像

第三步、保存密钥

写入到文件(替换成自己的私钥,注意输出的文件编码必须是utf-8):

echo "9DV7DLAu3HAFdZ8MC679rxxxxxxxx" > ./my-aios-key.base58

私钥文件和aios-cli 命令行工具在同一个目录

第四步、终端启动aios-cli

./aios-cli start 

看到下面,表示正在运行

图像

第五步、导入密钥

./aios-cli hive import-keys ./my-aios-key.base58 --verbose

看到 “Successfully imported your keys”。

第六步、添加模型

在屏幕中间输入框上面,点击”MODEL”,弹出的面板可以看到所有支持的模型以及有多少人在挂。先选好一个,要复制gguf的模型全称。

图像

也可以选择其他的模型

从huggingface拉取模型,需要完整的模型名称

./aios-cli models add hf:afrideva/Tiny-Vicuna-1B-GGUF:tiny-vicuna-1b.q4_k_m.gguf

可以选择其他的模型

第七步、设置Tier

显存要求(1-5,1最好,5最差):

(Mac 使用的统一内存,内存大小即是显存)

tier1:30GB

tier2:20GB

tier3:8GB

tier4:4GB

tier5:2GB

打开终端,执行命令:

./aios-cli hive login

输入显存自动选择,单位是GB:

./aios-cli hive allocate 8 --verbose

8 是显存大小,根据你的机器显存大小设置

第八步、正式运行

打开终端,执行命令:

./aios-cli start --connect

图像

⚠️ 命令行软件还不太稳定,有些机器无法正常运行,建议非技术的用户不要使用CLI版本,直接使用客户端运行节点。至此教程结束。

最后如果对本教程感兴趣的朋友,可以帮忙点赞、转发给需要的朋友,如果有问题,欢迎在评论区交流。大家可以多关注我的推特@MetaHunter168,开启小铃铛,可以第一时间收到最新的教程信息。

最后附上项目相关信息 官网:

https://www.hyperspace.computer

推特:

(作者:小人物)

分享给他人

你也许会喜欢

+ There are no comments

Add yours