AI-Agent
工作流
1、开发平台dify、cozen
分类 分享 下的文章
HTTPS
TLS/SSL证书
1、SSL，主要使用MD5加密算法，迭代版本有1.0、2.0、3.0
2、TLS，主要使用AES加密算法，迭代版本有1.0、1.1、1.2
Public/Private key
1、公钥常用于加密，明文记录在CA机构颁发的证书里
2、私钥除了用于服务端解密，还对证书的明文信息哈希后加签，客户端得到<证书明文信息>和<证书数字签名>，查找本地证书根目录并用公钥解签
通信过程
1、客户端对服务端发起请求，服务端向客户端发送证书，与本地的根证书路径对比是否一致
2、客户端<数据和密钥K>经过<公钥A>加密发送给服务端，用<私钥A>解密获得用户请求与对称加密密钥K
3、服务端发送经过<密钥K>加密的响应数据，并由客户端使用<密钥K>进行解密
系统调用API
不同层面的编程
1、裸机编程，如51、STM32单片机
2、驱动程序开发，基于内核驱动框架针对底层硬件操作逻辑的驱动程序，如嵌入式开发
3、应用编程，使用编程语言的标准函数库调用用户态的函数库间接调用内核态代码
GNU/Linux
1、用户态，glibc、Shell、gcc、gnome、核心工具
2、内核态，进程管理、内存管理、文件系统、驱动、网络栈
系统调用API：glibc库函数
1、调用过程：编程语言接口➡库函数➡软中断内核程序
如：创建进程fork()➡sys_fork()；打开文件fopen➡open()，读文件fread()➡read()；输出printf()➡write()
2、也存在不参与系统调用的库函数，如strlen()、memset()
3、编程语言接口功能上可以看成封装程度更高的系统调用API，它们之间不存在一一映射关系
大模型
基本工作
1、Transformer架构，分为bert(embedding)、gpt(LLM)两种核心
2、LLM，开发平台有Huggingface、魔搭社区
3、私有化部署，开发平台有Ollama
4、预训练(pre-training)与指令微调<SFT(Surpervised Fine-Tuning)、Prompt Tuning、Lora>
5、量化、蒸馏、剪枝
开源框架
1、代码开发，Llamaindex、LangChain
2、图形工具，AnythingLLM、MaxKB.
备注
1、对话/指令微调又叫post-training，Prompt Tuning本质其实是对话微调
2、开源框架是从宏观层面对向量数据库构建和索引、大模型API接口、指令微调（prompt-enginerring、temperature、top_k等超参数）进行整合，用于对垂类大模型快速部署
3、幻觉解决方式，自我对话（推理）、上下文对话窗口、网络搜索