[开源项目] 基于WebGPU的免安装本地AI聊天机器人 (开发中) – 蓝点网
早前谷歌在 Google Chrome Canary 版里发布了 WebGPU 项目,开源该项目可以让开发者基于浏览器调用本机显卡算力。项目
所以在 GitHub 上有开源团队构建了 Web-LLM 项目,基于机器即基于 Web 的安装丹麦ws群发器大型语言模型,一切都在浏览器内运行,本地不需要服务器支持、聊天蓝点南奥塞梯ws群发协议不需要安装、人开直接利用 WebGPU 特性运行。发中
这个项目可以大幅度简化搭建 AI 聊天机器人的开源步骤,而且可以保护隐私,项目因为这个 AI 模型是基于机器 “你” 控制的,你提交的安装数据不会被共享给开发者进行模型训练。
这个项目还在开发中,本地南奥塞梯ws群发不死号有兴趣的聊天蓝点开发者可以参与该项目。
当然由于是相当于在本地运行的,所以显卡性能至关重要,南奥塞梯ws蓝标号根据开源团队说明, 显存至少需要 6.4GB,所以如果你的南奥塞梯ws绿标号显卡显存比较小的话可能无法运行。
必要条件:Google Chrome 113.0+、显存至少为 6.4GB,使用不同的模型显存要求可能还会增加。
项目地址:https://github.com/mlc-ai/web-llm
演示地址:https://mlc.ai/web-llm/#chat-demo
注:演示聊天使用的模型是 vicuna-7b-v0。
相关文章:
- 海底火山玻璃使地质学家能够估计地球内部的温度
- 好国游戏战电竞市场2022年总值为541亿好圆
- 《星露谷物语》1.5版本更新:齐新地区“姜岛”、房屋拆建服从上线
- 《赛专朋克2077》1.05补丁正在主机仄台上线 建改大年夜量任务BUG战部分绘里题目
- 减肥对外貌的改变有多大?运动减肥的相关问题
- 《赤痕:夜之典礼》联动《王国:两位君主》 主题舆图14日上线
- 《水影忍者:忍者新世代》构造通灵兽弄法来临 GVG战役兴趣再次改革
- 研究发现格陵兰岛和南极洲等地冰河和陆地冰层融化导致地壳轻微变形
- 智能影音双十一预售排行榜:坚果激光电视稳居榜首
- 《Nature Geoscience》:南极洲阿德利兰的古代海洋冰核揭示现代气候变化