AI大模型应用开发（技术）-8

《AI大模型应用开发》
【课程背景】
2021年ChatGPT横空出世，打开了人工智能发展大门，AGI（通用人工智能）时代来临。经过3年的发展，国内外互联网类企业和传统企业大厂都已经进入了AI大模型的应用探索。目前AI大模型百花齐放，各家公司纷纷发布了自己的大模型产品。基础模型的发展已经成熟，应用开始发力，AI大模型的实际应用路径逐渐清晰，最佳实践公司已经开始了将AI大模型融入到业务中。头部IT软件，已经将AI大模型能力集成到自己的软件中，如微软将大模型集成到Windows中，金山公司将AI大模型能力融入到了WPS中，一些实用性的探索，也在很多企业开始。
基本的模型平台可以满足基础的应用需求，但更强大、更复杂的应用就需要编程来解决，本课程详细讲述了如何调用大模型接口来是业务具备智能，如何通过代码开发，来实现RAG、Agent功能，实现将大模型能力与企业业务进行结合，实现智能化的业务辅助系统，实现流程自动化、业务智能化。
【课程收益】
培训完结后，学员能够：
了解AI大模型和人工智能的发展情况
了解AI大模型的能力和适用场景
了解AI大模型常用平台和工具
了解人工智能、深度学习、大模型的技术
掌握使用程序调用AI大模型接口的能力
掌握提示词的编写技巧和使用技巧
掌握llamaindex等RAG平台的使用
了解RAG相关的知识处理技术
掌握langchain等开源平台的使用
掌握业务系统与AI大模型的接口对接技术
了解AI大模型微调技术
掌握AI大模型本地化部署相关技术
了解AI大模型运行环境相关内容
【课程对象】企业技术人员、业务人员
【课程时长】6天 (6小时/天）
【课程特点】密切结合案例，贴近实际应用，培训完即可应用与工作；工具可用，使用平台工具皆国内可用。
【课程大纲】
人工智能和大模型技术基础和开发准备
人工智能和大模型的技术发展
AI大模型的智能应用案例展示和介绍
AI大模型的革命性能力介绍
AI大模型的应用情况和前景介绍
人工智能的发展历史
机器学习、深度学习的技术理论
AI大模型的技术发展介绍
主流大模型的发展情况和应用
RAG、Agents、FunctionCalling、微调等概念简介
大模型应用的前景和挑战
AI实操入门
主流平台接口接入方式介绍（阿里、百度为主实操，OpenAI介绍）
阿里灵积平台介绍和申请
百度千帆平台介绍和申请
国内大模型API聚合平台介绍和申请（可使用OpenAI）
编写第一个接口调用程序
零码等编程助手介绍与安装
编程助手代码编写介绍与演示
实践：完成接口申请，并完成第一个大模型访问程序
大模型调用开发
AI大模型接口调用基础
各平台Playground使用介绍和体验
模型和token等基本概念介绍
env配置文件使用介绍与实操
URL调用方式介绍和演练
大模型API参数详细介绍
API函数调用方式介绍和演练
大模型调用高级应用
API调用Json格式返回输出
流式调用和批量调用使用演练
多模态大模型音频功能调用
多模态大模型翻译功能调用
多模态大模型图像功能调用
通过大模型实现Function Calling
实践：完成大模型各类调用功能
提示词工程和编程应用
Prompt提示词工程
使用大模型的最基础能力培养
经典提示词体验
如何写出好的提示词（调优）--开发流程
提示工程简介
什么是提示工程
为什么需要提示工程
提示工程的作用和效果
提示工程的语言
结构化提示词主要构成部分
角色定义及使用价值
指示：任务的详细描述
上下文：更准确的回复
例子：更好的避免歧义
输入：清晰的输入可以让AI更好理解
输出：定义自己想要的输出格式
提示词高级开发应用
在提示词中使用流程，指明大模型思考模式
记录提示词，支持多轮对话
加入专业知识和具体约束，使答案更准确
使用思维链，使大模型能力更强
使用自洽性，对抗幻觉
基于AI大模型的智能业务应用开发
考虑安全，防止Prompt攻击
实践：完成一个基于提示词的助手
基于 Langchain 的应用开发（一）
Langchain 框架简介
Langchain 框架架构
Langchain 基本模块
Langchain 基本应用场景
Langchain 框架的输入输出(I/O)
Langchain进行模型封装
Langchain实现多轮对话
Langchain进行Prompts封装
输出解析器 Output Parser 进行结构化输出
通过Langchain实现Function Calling
实操：Lnagchain 框架（I/O）案例
Langchain 框架中的检索增强生成(RAG)
检索增强生成(RAG)介绍
索引、检索和生成
文档和文档加载器
TextLoader、WebBaseLoader 和 pypdfLoader
分割器和 RecursiveCharacterTextSplitter
嵌入模型
向量存储库
检索器
基于 Langchain 的应用开发（二）
Langchain 框架中的记忆(Memory)
记忆（Memory）的概念
BaseChatMessageHistory 接口及其子类
RunnableWithMessageHistory
基于 Langchain 的聊天机器人
实操：通过Memory实现多轮交互
LangChain 框架的链和表达式语言 LCEL
Langchain 框架中的链（Chain）
Langchain 表达式语言 LCEL
LCEL 中的 RunnableLambda
LCEL 中的 RunnableSequence
LCEL 中的 RunnableParallel
LCEL 中的 RunnablePassthrough
LCEL 中的 RunnableBranch
实操：通过LCEL实现简单流程
Langchain 框架中的智能体(Agent)
AI Agent 介绍
Langchain 中的 AI Agent 实现方式
LangGraph 库介绍
LangGraph 中的图
LangGraph 中的状态
LangGraph 中的节点
LangGraph 中的边
Langchain 中的工具
ReAct 方法
实操：Langchain 框架 AI 智能体案例
大模型私有化部署
使用 Ollama 本地部署大模型
Ollma 简介
Ollma 安装
Ollma 部署案例
量化技术
量化技术基本原理
常见的量化技术
模型量化的影响和选择
模型微调
模型微调原理
模型微调技术
Adapter Tuning
Prefix Tuning
Prompt tuning
P-Tuning
LoRA
QLoRA
使用 LlamaFactory 微调模型
Dify本地部署实现智能体

郭振杰老师的其它课程