春节前在跟同事的交流中,我再次认识了一下AI人工智能,然后就找到了ollama,也安装了模型qwen2、deepseek、llama2-chinese等。这两天公司也在说使用AI一事,我就觉得可以分享一下我本地化部署的过程吧。
我感觉个人内网使用还是可以的,几个人的小团队同时使用也可以。如果不想使用别的平台,而自己的电脑配置也刚好还可以,就可以试试吧。
四、安装过程
1、ollama下载及安装
https://ollama.com/download
2、安装docker
https://www.docker.com/
3、安装open-webui
https://www.openwebui.com/