AI大模型发展到现在，国内外都有在线和离线版本，那如何在自己本地部署大模型呢？本文分享了一种简单的办法，一起来看看吧。

我们经常能看到某某公司开源了一款AI大模型的新闻。这些模型都有着超强的能力，从生成大段的文字、逼真的图像，到理解和翻译不同语言，再到创造出令人叹为观止的音乐和艺术作品。

对于我们普通人来说，这些高科技听起来不仅遥不可及，而且似乎与我们的日常生活无关，他们像是只有那些天才和大神们才能操作和使用的。

但是这些强大的AI模型，并不止是大神们才能接触和使用，实际上，这些模型的使用门槛其实不高。任何对AI感兴趣的人都可以轻松获取和使用这些模型，就像搭乐高积木一样，将它们组合起来，创造出你心目中的应用。

这一切既不需要深厚的技术背景，也不需要复杂的编程技能。只要你有想法和一丢丢的学习，这些强大的模型就能成为你随意操作的「乐高」，搭建出你设想的样子。

下面我们一起来看下，如何把模型跑起来～

第一步：找到一个模型

首先，第一步我们得知道去哪里找到这些模型，很简单，有一个神奇的网站叫：Hugging Face（https://huggingface.co/），这个网站本质就是一个大模型的托管网站，目前这个网站托管的AI模型超过57万。一些热门的模型，比如meta的Llama系列模型，google的Gemini等都托管在这个网站上，任何人都可以访问并使用它们。

假设，我们现在要找一个模型，可以实现读图的功能，就是给它一张图片，它可以告诉我这个图片里的主要内容是什么。这个模型的逻辑如下图，非常简单，输入一张图片，输出一段图片的文本描述。

这个模型本质上就是一个图片到文本的模型，我们在Hugging Face里选择Image-to-Text的分类，然后从得到的结果里看排名第一个的模型，就是下图红框圈选的：Salesforce/blip-image-captioning-large，这个就是模型的名字。

点击模型进行模型的详情页，这里有模型的详细原理介绍，以及在线试用的功能，可以在这里直接体验模型的效果。

找到了模型之后，我们接下来第二步，如何部署和使用模型。

第二步：模型的部署和使用

模型的使用涉及到模型的加载、预处理、模型推理和后处理步骤等，听起来似乎很复杂，但是不用担心，Hugging Face还给我们提供了一套使用的工具，那就是Transformers库中的pipeline方法，pipeline 将前面提到的模型使用所有步骤封装成一个简单的函数调用。我们只需要使用这个函数方法，指定需要完成的任务类型，当然我们也可以指定特定的模型和配置来定制使用。Transformers库是由Hugging Face公司开发的一个开源Python库，里面除了pipeline外，还有很多其它的方法和工具，这里就不细说了。

具体的使用其实就是几行Python代码就可以搞定，非常简单。这里额外说下，我们经常在使用写python的时候，需要安装编译器和配置环境，往往这些环境配置就已经消耗了我们的所有激情了。这里，感谢google大大提供的一个在线编程工具colab，直接解决所有安装和环境问题。

Colaboratory界面如下，就是一个可以在线写python代码的「笔记本」。

我们新建一个文件，然后输入第一行代码：

pip install transformers

就这样一行代码，Transformers库就安装好了。后面具体的操作，点击上传图片。

随后编写的代码和解释如下，懂一点点python和编程的人，应该就能写出来。写完后点击代码侧边的运行按钮即可。

输出的文案是：arafed woman sitting on the ground with a camera and a tripod. （一位戴着头巾的女性坐在地上，旁边放着相机和三脚架。）基本识别出来图片中的主要内容。

到此，我们的第一个模型的选择和使用的demo就完成了。

这段代码的地址如下：

https://colab.research.google.com/drive/1NWTircHzljiU2MNCKjA9PpyGJCMcpqmc?usp=sharing

三、最后

如果我们有更复杂的想法，比如我们可以用得到的图片描述，再用LLM模型，帮助编写一个故事脚本，再通过一个文生视频模型，变成图片或者视频，具体的流程如下图所示。

这些都是可以用一个一个模型拼接出来的。至于如何拼接，后续的文章中会继续介绍。

因此，在AI时代来临之际，如果你是一个有想法的产品，那么可以自己通过这些多种多样的模型实现自己的想法。分享一个我看到的有意思的模型实践，利用codeformer模型，去除图片的马赛克，大家可以去huggingface上体验下，https://huggingface.co/spaces/sczhou/CodeFormer

突然感觉这个应用可能蛮有前景！你觉得呢？哈哈哈。我也是AI入门学习者，对于模型的使用还有很多其它的平台和方法，我也在摸索中，欢迎大家交流讨论～