EN

使用OpenAI和Hugging Face的动手课程

使用OpenAI模型和Hugging Face库的动手课程,分为三个主要部分。

核验日期

核心信息

以下信息由程序从官方接口读取，不经模型改写。

许可证
MIT
语言
Jupyter Notebook
维护方
peremartra
核验日期

它是什么

本仓库是图书《Large Language Models: Apply and Implement Strategies for Large Language Models》（Apress 出版）的非官方仓库。该书以本仓库的内容为基础,但笔记本正在更新,并且新的示例和章节正在加入。该课程提供使用OpenAI模型和Hugging Face库的动手体验。课程分为三个主要部分。

主要能力

  1. 课程会做一个检索增强生成的示例,使用存储在ChromaDB中的多个新闻数据集的信息。

  2. LangChain允许链式调用模型和其他系统,从而构建基于大语言模型的应用。

  3. Giskard是一个可以评估完整RAG方案的解决方案。

  4. 知识蒸馏是训练一个较小的“学生”模型去模仿一个较大且训练良好的“教师”模型。

怎么上手

  1. 每节课由笔记本和文章组成。

  2. 笔记本包含足以理解其中代码的信息,文章则对代码和所涉主题提供更详细的解释。

  3. 大多数笔记本托管在Colab上,少数在Kaggle上。

  4. Kaggle在免费版中提供比Colab更多的内存,但作者认为在Colab中复制和分享笔记本更简单,而且不是每个人都有Kaggle账号。

  5. 可以在自己的环境中运行笔记本,或选择Colab的Pro版本。

适合谁

GitHub上的课程并不包含书中的全部信息。每个项目可能有不止一种可行的实现,因为往往不存在唯一完美的解决方案。项目部分也会深入LLMOps相关主题,但这不是课程的主要重点。

部分笔记本所需的内存超过Colab免费版所提供的内存。提示调优是一种附加式技术,预训练模型的权重不会被修改。大语言模型不是一个独立的解决方案。

RAG系统通过引入语义缓存层得到增强,该层能够判断此前是否问过类似的问题。课程会使用LangChain构建的双模型流水线来创建评论回复系统。课程会探讨使用ROUGE指标来衡量语言模型生成摘要的质量。

在第一个剪枝笔记本中,剪枝过程应用于distilGPT2模型的前馈层。

来源

本页内容整理自以下官方来源，点击可核对原文。

核验日期 ·

本页由 AI 依据上述官方来源整理，并经自动核对，未经本站实测。 发现错误？告诉我们。