JACIN Blog

深度的 AI 应用开发者

专注 AI 应用开发、Python 后端与工程实践,持续记录大模型落地、工具构建与真实项目经验。

183篇已发布
主题索引
查看全部分类
全部文章
183
AI 大模型开发
6 分钟

openai流式解析

这篇笔记聚焦 Python 中 OpenAI Chat Completions 的异步流式调用,适用于希望把模型响应按片段实时输出到终端或业务层的开发场景。内容先从环境变量读取入手,强调用 os.getenv 获取 OPENAI_API_KEY、OPENAI_BASE_URL 和 OPENAI_MODEL,并说明 python-dotenv 的安装包名与导入模块名不同:通过 pip install python-dotenv 安装,但代码中从 dotenv 导入 load_dotenv。核心示例封装了一个 AsyncOpenAIOut 类,在初始化阶段创建 AsyncOpenAI 客户端,在 gpt_stream 方法中组合 history、system_prompt 和用户消息,并以 stream=True 发起请求。代码通过 async for 遍历 OpenAI 返回的流式 response,检查 chunk.choices[0].delta.content 后用 yield 逐块产出内容,因此调用方也需要用 async for 消费这个异步生成器。文章还补充了 print(chunk) 在事件循环中的行为:它是同步执行,但在简单逐步输出场景通常可接受;若希望更严格地避免占用事件循环,可以用 asyncio.to_thread(print, chunk) 放到后台线程执行。整体价值在于把 .env 配置、AsyncOpenAI 初始化、消息组装、流式响应解析和 async for/yield 的语义串成一个可运行样例,适合正在接入 OpenAI 兼容接口或学习 Python 异步流处理的开发者。

openai流式
AI 大模型开发
1 分钟

关于“AI 大模型开发”类别

“AI 大模型开发”类别用于为与大模型应用、工程实现和开发实践相关的内容建立清晰归档入口,重点服务于需要快速判断文章是否属于该主题的分类选择场景。该类别说明强调先给出简短定位,再通过更完整的准则解释设立理由、使用目的、与既有类别的边界以及可收录的话题范围。它关注的不只是命名本身,还包括分类是否会与其他类别重叠、是否应作为独立类别保留,以及在维护成本和检索便利之间如何取舍。适合纳入的内容应围绕 AI 大模型开发这一主题展开,而不应仅因泛泛提到 AI 或工具名称就归入其中。对站点维护者来说,这类说明的价值在于统一收录标准,减少后续文章分类时的随意性和重复归档。对于读者而言,清晰的类别定位也有助于在浏览知识库时判断这里是否集中呈现大模型开发相关的实践、规则和经验。

常规
1 分钟

关于“常规”类别

“常规”类别用于收纳暂时无法归入站点其他既有分类的内容,承担的是通用入口和兜底归档的作用。它适合放置主题边界尚不清晰、跨越多个方向,或当前分类体系尚未覆盖的话题,避免这些内容因为缺少精确归属而难以发布或检索。使用这一类别时,应优先判断是否已有更具体的分类可用;只有在确实不适合放入其他栏目时,才将其归入这里。对读者而言,这一分类提示内容可能具有较宽泛的主题范围,需要结合标题和正文进一步判断阅读价值。对维护者而言,它有助于在分类体系尚未完善时保持内容组织的连续性,同时也提醒后续可根据积累情况拆分或迁移到更精确的专题。

文章归档
183