AI 跑通

新闻

作者：微信文章
大多数人都只是手机上安装一个 App 体验一下所谓的人工智能。然后说得又板又眼。
大年初一就回到上海到今天初五，使用了某云厂商的 cloud studio，刚才 PC 上忘记关机了，手机上搜索 cloud Studio 才进去关机，节省机时。仿佛回到了就学时代使用 vax-ii 的时代。
ollama 是非常关键的一个理解 LLM 的工具，比较轻巧，缺点是没有认证。cherryStudio 的所谓智能体，对于了解大模型，又更上一层。核心的还是某云提供的，一个月免费10000分钟的 GPU 服务器， Tesla T4的卡，容器配置，直接就只有一个 root 账号， Ollama 的端口不能透传到外部，因为 Ollama 没有任何的认证机制，不安全。所以先把22端口透传到另外一台公网能 ssh 的机器，然后在本地 起 ssh 隧道到公网，相当于 ssh 到容器，把 ollama 端口直接开通到本地。 用 systemd 机制，用户登录时，自动启动隧道。
B站发了很多视频了。新的一年就是 AI 年。
发财就靠 AI 了。