新闻 发表于 2025-2-2 19:46

AI 跑通

作者:微信文章
大多数人都只是手机上安装一个 App 体验一下所谓的人工智能。然后说得又板又眼。
大年初一就回到上海到今天初五,使用了某云厂商的 cloud studio,刚才 PC 上忘记关机了,手机上搜索 cloud Studio 才进去关机,节省机时。仿佛回到了就学时代使用 vax-ii 的时代。
ollama 是非常关键的一个理解 LLM 的工具,比较轻巧,缺点是没有认证。cherryStudio 的所谓智能体,对于了解大模型,又更上一层。核心的还是某云提供的,一个月免费10000分钟的 GPU 服务器, Tesla T4的卡,容器配置,直接就只有一个 root 账号, Ollama 的端口不能透传到外部,因为 Ollama 没有任何的认证机制,不安全。所以先把22端口透传到另外一台公网能 ssh 的机器,然后在本地 起 ssh 隧道到公网,相当于 ssh 到容器,把 ollama 端口直接开通到本地。 用 systemd 机制,用户登录时,自动启动隧道。
B站发了很多视频了。新的一年就是 AI 年。
发财就靠 AI 了。

页: [1]
查看完整版本: AI 跑通