AI大模型:开源大模型运行推理工具和框架

本来到了躺平的年龄,谁知道火了个大模型,只好又开始各种倒腾研究了
本地测试过很多的大模型,当然也使用过很多的大模型框架以及工具,总体用下来,每个工具都有他的特点,根据不同的特点就会有不同的使用人群,我就简单根据自己的使用情况做一下总结

发表回复