本地java项目+本地部署deepseekR1问答简单例子

        今年deepseek非常火,自己也尝试了一下在自己的电脑上部署deepseekR1的版本,安装allama,结合Cherry Studio工具,离线也可以使用AI大模型了!!!

        今天尝试一下,用本地的java项目调deepseek接口,实现一个简单的提问,后续开发也有可能会用到。

        deepseek本地部署,就不多写了,网上的教程很多。我自己使用ollama安装。而且ollama提供了11434的端口可以直接调。

        image.png


        1.启动ollama,命令行尝试运行deepseek。

        image.png


        2.写个deepseek服务类,指定模型名称、其他参数,接口调用11434端口的/api/generate

        image.png


        3.调用方法 

        image.png


        4.启动nacos,startup.cmd -m standalone。(因为我是在微服务上写的,用到nacos、gateway,其他单体项目可以忽略)

        image.png


        5.启动网关服务,端口8888。

        image.png


        6.浏览器直接调服务接口,测试问答。

        image.png

        

        测试成功!!! 简单的提问例子,后续继续改进。

    


白俊遥博客
请先登录后发表评论
  • 最新评论
  • 总共0条评论