OllmOne现已支持Llama 3
Llama 3已经发布了,现在想要快速尝试Llama 3,只需要从Mac App Store下载OllmOne。
OllmOne是一款离线大语言模型工具,我刚刚为OllmOne支持了Llama 3,欢迎各位小伙伴提出宝贵的建议!
OllmOne有一些好用的功能,我简单介绍一下。
支持流行的开源大模型
大模型支持:Llama3, Llama2, Gemma, Yi, Qwen, Mistral, CodeLlama, CodeGemma.
大模型完全本地运行,模型下载好后断网也可以使用,不需要担心数据安全问题,不需要为API调用长期付费。
Markdown渲染以及会话历史记录
界面非常美观,历史记录也是完全本地存储的。
支持数学公式友好展示
支持Katex格式的数学公式渲染。
支持流程图展友好展示
支持mermaid格式的图表展示。
支持URL网页内容浏览
这个功能就是当你输入的问题中包含有网页URL时,应用会自动去抓取这个网页的内容然后发给大模型,毕竟直接发给大模型URL是没有意义的。当然了,这个功能需要联网才能使用。
支持将当前的对话记录导出
如果想要给别人分享你的对话内容,可以将当前对话导出为HTML和Markdown两种格式。
导出的HTML长这样,还是挺好看的。
模型自动下载
模型第一次使用需要进行下载,这个下载是自动的,目前国内的下载速度可能比较慢,后续会优化。
本地模型管理
模型下载后可以在模型管理页查看已下载的模型信息,可以将不需要的模型删除,释放硬盘空间,因为模型都比较大,这个功能还是很有必要的。
应用设置
提供了对应用的一些基本设置,支持多种界面语言,支持明亮模式和暗黑模式。
主要的功能就这么多,后续还会增加更多的功能。
对于Windows系统的支持,我也在尝试做,遇到了一些困难,正在慢慢解决。