使用Python和OpenPlayground轻松探索大语言模型

大语言模型或LLM是一种深度学习语言模型，旨在理解、解释和生成人类语言；它通常由数百万到数十亿的神经网络参数组成，并使用自我监督进行训练。著名的LLM的例子包括GPT-4、BERT和LLAMA。

获取LLM有时很棘手，因为必须遵守环境要求和规范，这成为学习LLM的把关人。幸运的是可以使用一个名为OpenPlayground的Python软件包在笔记本电脑上有效地试验各种LLM。

逐步探索OpenPlayground

Python软件包OpenPlayground是一个可以在笔记本电脑上运行的LLM游乐场，可以在这里试验模型、调整参数、进行模型比较，并通过友好的UI追踪日志历史记录。他们还使用了几个实体的著名LLM，如OpenAI、HuggingFace等等。

怎么才能开始使用OpenPlayground呢？首先，安装该软件包。

pip install openplayground

然后在终端上运行以下命令。

openplayground run

在终端上，将获得以下信息。

OpenPlayground正在运行，必须访问本地主机才能使用playground UI。

在UI中会看到三个部分：Playground，Compare和Settings。先去看看“Settings”选项卡，因为不提供必要的信息就无法工作。

当打开“Settings”时，会有一个需要选择的“Providers”部分。对于本文的例子，将使用来自OpenAI的那个。点击OpenAI，并提供API密钥，使openplayground可以访问所有模型，类似于下面的图片。

启用想要的模型，然后回到“Playground”选项卡。当已经选择了一个模型，可以在右侧使用其他参数。

该参数的存在是为了让用户轻松地探索和试验LLM模型的结果。尝试一个简单的提示：“给我创作一个关于公主和魔法王国的小故事”。

生成的文本将以绿色显示。如果启用“Show Probabilities”，如果模型允许可以得到标记生成概率。例如，“text-DaVinci-03”模型可以显示概率。再提交一次提示，并查看结果。

悬停在该标记上会显示该标记出现的概率有多高。此外，还有关于前5个标记的信息，这些信息可以成为可能生成的文本。

进入“Compare”选项卡，可以比较具有相同参数的各种LLM模型生成的文本。用之前例子的相同提示进行尝试。

“Compare”选项卡提供了同时生成文本的两个或多个不同LLM模型的信息。这些信息包括标记、模型生成文本的速度、所花的时间以及多少个字符。

尝试使用来自多个提供商的各种模型进行试验，以从使用OpenPlayground中获得更多价值。

总结

大语言模型或LLM是一个能够理解、解释和生成人类文本的模型。通过使用OpenPlayground，可以有一个简单的UI来探索和实验多个LLM。

当前题目：使用Python和OpenPlayground轻松探索大语言模型
URL分享：http://www.csdahua.cn/qtweb/news3/477203.html

网站建设、网络推广公司-快上网，是专注品牌与效果的网站制作，网络营销seo公司；服务项目有等

广告

声明：本网站发布的内容（图片、视频和文字）以用户投稿、用户转载内容为主，如果涉及侵权请尽快告知，我们将会在第一时间删除。文章观点不代表本网站立场，如需处理请联系客服。电话：028-86922220；邮箱：631063699@qq.com。内容未经允许不得转载，或转载时需注明来源： 快上网