• 自动部署开源AI模型到生产环境：Scikit-learn、XGBoost、LightGBM、和PySpark

• 阿里云测试模型

• huggingface模型下载

• Ollama

• Llama2

• ChatGML

• pro-chat

• Scaling Laws

• 如何解决llm的并发问题?

• 如何理解llm的并发?

• 流式输出

• OpenAI api使用介绍

• 使用ollama快速部署开源大模型

• jupyter中使用Ollama+langchain构建RAG

• GraphRAG实战(openai+langchain+neo4j)

• 从零搭建大模型(一): 架构(architecture)

• 从零搭建大模型(二): 预训练(pretraining)

• 基因组大模型概述

• 使用 🤗 Transformers 加载支持流式输出的模型（如 ChatGLM、LLaMA、Mistral 等），并用 FastAPI + SSE (Server-Sent Events) 实现简化并行的流式推理系统

• 参考 OpenAI 官方的 GPT-2 GitHub 仓库，训练一个最小可运行、资源占用低的 demo 模型

• 完整的中文语言模型从头预训练（最小结构） + FastAPI SSE 多线程流式输出服务

• elasticsearch、opensearch、solr安装

• 关于 llm 工具调用原理的学习

• 循证医学大模型，实现文献来源引用

• 多用户 batch 推理

• 文本大模型的输出格式

• 工具调用llm输出格式

• llm的实际输出是什么样子的，api产商如何知道这个文本流是tool call的结果

• 模型 decoder 的 mode signal 或 structured decoding 支持 如何实现

• llama.cpp grammar

• tts模型最终输出的是pcm吗

• 支持 Tool Call 回环 🔥 支持 LLM 决策 🔥 支持 Memory 节点 🔥 支持 多轮对话 🔥 支持 任务状态可视化

• context_merge 能否进一步优化 使用策略是否可行

• 代码生成API

• 开源 AI Agent 项目

• Hugging Face 的 hf download

• C/C++ 系 + Rust 系 + Go GGUF / LLM 推理引擎

• 图像生成模型（Diffusion）是什么结构

• AI写作

• 用Python 实现 transformer attention