登录社区云，与社区用户共同成长
邀请您加入社区
随着Qwen等大模型的开源，基于通用大模型进行场景化领域微调的门槛显著降低。这一趋势使得大模型在传统开发项目中的落地应用变得更加便捷，同时能大幅提升项目能力、简化开发流程，并使原本难以实现的业务逻辑成为可能。本文将以"根据精简地址补齐完整五级行政区"这一具体场景为例，详细介绍如何使用LoRA微调QWen2.5-0.5B，使其在地址补齐任务上达到15B甚至32B大模型的水平。
当一些权重被中间更新推到网格之外时，这种效果可能会恶化。一个简单的启发式应用来防止这种情况：异常值一出现就被量化。这个过程可能需要大量的计算，特别是对于LLMs。为了解决这个问题，OBQ方法使用了一种技巧，避免在每次简化权重时重新进行整个计算。量化权重后，它通过删除与该权重相关的行和列(使用高斯消去)来调整计算中使用的矩阵(Hessian矩阵)。该方法还采用向量化的方法，一次处理多行权矩阵。尽管O
使用eino 采用一套框架实现 本地大模型 qwen3 和deepseek api 访问
• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。处理完上述问题之后，ChatGLM-6B\cli_demo.py该脚本可以正常运行，控制台会输出脚本内置问题的答案，由于电脑配置的问题，结果输出非常缓慢，且我的CPU使用率一直是100%
本文提出了IRFT，一种利用Transformer直接从高频交易数据挖掘公式型风险因子的端到端方法。该方法通过将风险因子挖掘转化为符号序列生成任务，成功生成包含运算符、特征与常数在内的闭合式数学表达式，并利用BFGS对常数进行精修，提升了对短期市场波动的拟合精度。实证结果显示，该方法不仅在预测性能上显著领先多种基线方法，而且在推断时间和稳定性方面有明显优势。同时，在多市场、多维特征与大规模数据情境
硬件条件：256G 固态硬盘数据线目的：在云端微调模型，在jetson上进行合并和量化，每次更新模型只需要同步微调权重，减少网络压力（12G ->200M）。
开源代码：https://fireredteam.github.io/demos/firered_asr/ 比较接近seed-asr了。
智谱清言Realtime API的开放，为开发者提供了强大的实时交互能力，但是目前真正的尝试和代码实现我们还没见到多少，所以欢迎大家在评论区分享你的实现过程！（不想再看哪个文档第二眼hh）
使用aiohttp库生成异步HTTP请求，适用于更简单、轻量级的抓取。：使用Playwright启动Chromium实例，该实例可以处理JavaScript渲染和更复杂的web交互。Chromium是Playwright支持的浏览器之一，Playwright是一个用于控制浏览器自动化的库。HTML2Text：将HTML内容直接转换为纯文本，而无需任何特定的标记操作。它最适合于目标是提取人类可读文本
在人工智能领域，大模型的发展可谓日新月异。然而，随着模型参数规模的不断扩大，如80亿参数的Qwen3-8B模型，其对硬件资源的需求也水涨船高。直接加载FP16版本的Qwen3-8B模型需要约16GB显存，这使得许多拥有消费级GPU（如RTX 3060/4090）的用户望而却步。不过，比特量化技术的出现，为这一问题提供了有效的解决方案。今天，我们就来聊聊大模型的"比特量化"，看看它是如何让AI在消费
RAG是连接大语言模型与外部知识世界的桥梁，通过“检索 + 生成”的协同，解决了LLM的知识局限性和幻觉问题。通过这种架构，不仅可以提供更加准确的回答，还能显著提高系统的灵活性和可维护性。RAG已成为企业级AI应用的核心技术（如AWS Bedrock、Azure Databricks的RAG解决方案），并在医疗、金融、教育等领域发挥重要作用。随着多模态处理和智能体架构的发展，RAG将进一步推动AI
什么是量化量化是大模型领域中的一项关键技术，它通过降低模型参数的精度，将浮点数转换为整数或定点数，从而实现模型的压缩和优化。这样做的主要目的是减少模型的存储需求、加快推理速度，并降低模型的计算复杂度，使得大模型能够更高效地在资源受限的设备上运行，例如移动设备、嵌入式系统等场景。精度先来看下数据存储的基本概念bit 位是计算机中最小的数据单位，只能存储 0 或 1 两种状态。一个 bit 可以表示两
本文详细介绍了RAG系统中向量化技术的核心作用，解释了如何将文本转换为高维向量实现语义检索，解决了传统关键词检索无法理解语义的局限。通过智能分块、批量向量化与Elasticsearch原生向量检索的结合，构建了从文档上传到可检索知识的完整流程。向量化技术使AI能够真正理解文本含义，实现精准的文档问答与知识检索，是构建高质量RAG系统的关键环节。
Attention机制如果浅层地理解，跟它的名字非常匹配。它的核心逻辑就是“从关注全部到关注重点”。Attention机制很像人类看图片的逻辑，当我们在看一张图片时，我们并没有看清图片的全部内容，而是将注意力集中在了图片的焦点上：比如上面的图片，我们一眼望去，最先接收到的是“锦江饭店”的信息，所以，我们的视觉系统就是一种 Attention 机制，将有限的注意力集中在重点信息上，从而节省资源，快速
1983年，期货大佬理查德·丹尼斯做了一场实验：他招募了23名新手（昵称“海龟”），传授一套趋势跟踪策略，并每人给予100万美元资金。5年后，这群“海龟”中最高盈利达1.72亿美元。Anderson（2000）：在国债期货和小麦市场中应用海龟交易法则，取得了超额收益，并验证了最优资产配置方法的适用性。John et al.（2004）：在美国国债期货、标准普尔500指数期货和黄金期货中进行了大量市
FinRL（Financial Reinforcement Learning）是一个开源深度强化学习库，专门用于自动化股票交易。该框架帮助投资者和量化交易员设计、训练和优化基于深度强化学习的交易策略。FinRL的目标是简化交易环境的搭建，并提供高效的算法和工具，使得从事金融分析和量化交易的人员能够更容易地接触到强化学习技术，开发出高效的自动化交易系统。通过FinRL，用户可以构建并训练自己的股票交
