YOHO AI

标签： Markdown

  • 【开源推荐】crawl4ai：68.3K+ Stars！专为LLM设计的网页爬虫，让AI直接读懂网页内容

    【开源推荐】crawl4ai：68.3K+ Stars！专为LLM设计的网页爬虫，让AI直接读懂网页内容

    crawl4ai - LLM友好网页爬虫工具

    crawl4ai – 专为LLM和AI Agent设计的网页爬虫工具 @reference_1@

    📌 项目简介

    crawl4ai 是一款专为LLM和AI Agent设计的开源网页爬虫工具，能将任意网页内容转换为干净的Markdown格式，可直接用于RAG、AI Agent、数据管道等场景，无需依赖任何付费API。

    68.3K+
    GitHub Stars

    Python
    开发语言

    v0.6+
    最新版本

    ⚙️
    安装要求和过程

    环境要求

    • Python ≥ 3.10
    • Playwright（用于异步浏览器控制）
    • 支持 Windows / macOS / Linux

    快速安装（4步搞定）

    # 第1步：安装 crawl4ai
    pip install -U crawl4ai
    # 第2步：配置浏览器依赖
    crawl4ai-setup
    # 第3步：验证安装
    crawl4ai-doctor
    # （可选）如 Playwright 报错，手动安装浏览器
    python -m playwright install chromium

    Docker 部署（生产推荐）

    # 拉取官方镜像
    docker pull unclecode/crawl4ai:latest
    # 启动容器
    docker run -d -p 11235:11235 –name crawl4ai –shm-size=1g unclecode/crawl4ai:latest
    # 访问监控面板
    http://localhost:11235/dashboard

    ⚡
    核心功能

    ① 智能 Markdown 生成

    生成结构清晰、格式准确的干净 Markdown，支持 Fit Markdown 启发式过滤，自动剔除无关噪音内容。支持 BM25 算法过滤，可提取核心信息，更适合 AI 处理。

    ② LLM 驱动的结构化数据提取

    支持所有 LLM（开源/闭源）驱动的结构化数据提取。内置多种分块策略，支持基于用户查询的语义内容匹配，可通过自定义 Schema 从重复页面模式中批量提取结构化 JSON。

    ③ 浏览器深度集成

    支持托管用户自有浏览器，通过 Chrome DevTools 协议实现远程浏览器控制。支持浏览器配置文件持久化（保存认证状态、Cookie），完美支持需要登录的网站爬取。

    ④ 动态页面与反爬对抗

    支持执行 JavaScript、等待异步动态内容加载、处理无限滚动页面。提供隐身模式模拟真实用户行为，支持自定义请求头、Cookie、User-Agent 和代理认证，有效绕过常见反爬限制。

    ⑤ Docker 一键部署 + API 服务

    提供优化后的 Docker 镜像，内置 FastAPI 服务，开箱即用。内置 JWT 令牌认证保障 API 安全，支持大规模生产环境部署，是构建数据采集基础设施的最佳选择。

    💡
    典型使用场景

    场景1：RAG 知识库数据准备

    将网页内容转换为干净 Markdown，作为 RAG 系统的知识库来源。crawl4ai 的 Fit Markdown 功能可自动过滤导航栏、广告、页脚等噪音，只保留核心正文，避免无关内容干扰大模型输出。配合深度爬取（BFS/DFS策略）可批量采集整个网站。

    场景2：AI Agent 实时信息获取工具

    将 crawl4ai 封装为 AI Agent 的工具函数，让 Agent 能够自主爬取所需网页内容。比如用户问”今天有哪些 AI 新闻？”，Agent 可自动爬取新闻网站并提取结构化信息，真正实现 AI 联网能力。

    场景3：大规模数据采集管道

    结合 Docker 部署、浏览器池、缓存机制，搭建大规模高并发网页数据采集系统。内置的浏览器配置文件持久化能力，可保存登录状态实现需要认证的网站批量采集，适合构建企业级数据采集基础设施。

    🚀 30秒快速开始

    Python 代码方式：
    import asyncio
    from crawl4ai import *

    async def main():
    async with AsyncWebCrawler() as crawler:
    result = await crawler.arun(url=”https://example.com”)
    print(result.markdown) # 获取干净 Markdown

    if __name__ == “__main__”:
    asyncio.run(main())

    CLI 命令行方式：
    crwl https://example.com -o markdown
    # 深度爬取，最多10个页面
    crwl https://docs.crawl4ai.com –deep-crawl bfs –max-pages 10

    💝
    推荐理由

    如果你正在构建 RAG 系统或 AI Agent，crawl4ai 是目前开源界最值得关注的网页数据采集工具。它解决了传统爬虫的两个核心痛点：

    第一，真正为 LLM 优化。 传统爬虫输出的是原始 HTML 或杂乱文本，需要大量后处理才能喂给大模型。crawl4ai 直接输出干净、结构化的 Markdown，内置的 Fit Markdown 功能可以智能过滤导航、广告等噪音，让 RAG 召回质量大幅提升。

    第二，对动态页面和反爬场景的支持非常完善。 基于 Playwright 的浏览器控制，可以处理 React/Vue 等前端框架渲染的页面，支持等待异步内容加载、处理无限滚动。隐身模式和浏览器指纹自定义功能，让我在采集一些有反爬机制的网站时也能稳定获取数据。

    最让我惊喜的是它的 Docker 部署方案。 几分钟就能搭建一个带 API 服务的爬取引擎，内置 JWT 认证，可以直接集成到现有数据管道中。对于需要大规模采集的场景，这比手写 Scrapy 爬虫效率高太多了。

    ⭐ 总之，如果你需要为 AI 应用添加网页数据获取能力，crawl4ai 是目前最成熟的开源选择，没有之一。

    📥 下载地址

    License: Apache 2.0 | 作者: UncleCode | 最近更新: 2026年6月

    💡 关注【开源推荐】系列，每周带你发现最值得关注的 AI 开源项目
    ⭐ 如果这篇文章对你有帮助，欢迎在 WordPress 点赞留言！

  • 【开源推荐】markitdown：150K+ Stars！微软开源文档转Markdown神器，LLM管道必备

    【开源推荐】markitdown：150K+ Stars！微软开源文档转Markdown神器，LLM管道必备

    MICROSOFT 开源

    markitdown

    150K+ Stars · 将任意文档一键转换为 Markdown

    Python 3.10+
    MIT 开源
    LLM 友好
    📌 项目简介

    markitdown 是微软出品的一款轻量级 Python 工具，支持将 PDF、PowerPoint、Word、Excel、HTML、CSV、JSON、音频、视频等 数十种文件格式 统一转换为 Markdown 格式，是大模型文档处理管道中的核心基础设施。

    ⚙ 安装要求与过程

    环境要求
    • Python 3.10 及以上版本
    • 推荐使用虚拟环境（venv / uv / conda）
    • pip 21.0+（用于安装可选依赖组）
    快速安装（全格式支持）
    # 全量安装（推荐）
pip install 'markitdown[all]'

# 命令行直接使用
markitdown document.pdf > output.md

# Python API 使用
from markitdown import MarkItDown
md = MarkItDown()
result = md.convert("document.pdf")
print(result.text_content)

    按需安装（减少依赖体积）
    pip install 'markitdown[pdf, docx, pptx]'   # 仅 PDF/Word/PPT
pip install 'markitdown[youtube-transcription]'  # 仅 YouTube 字幕

    ★ 核心功能

    📄 多格式支持
    PDF、Word、PPT、Excel、HTML、CSV、JSON、XML、EPUB、ZIP，覆盖办公全场景

    🖼️ 图片 & 音频
    图片 EXIF 元数据提取 + OCR，音频语音转写，视频字幕自动获取

    🤖 LLM 集成
    可调用 GPT-4V 等大模型为图片/幻灯片生成描述，增强多模态理解

    🔌 插件扩展
    支持第三方插件（如 markitdown-ocr），社区插件标签 #markitdown-plugin

    ☁️ Azure 集成
    支持 Azure Document Intelligence 和 Azure Content Understanding，企业级文档解析能力

    ▶ 典型使用场景

    场景一：RAG 知识库文档预处理

    在构建 RAG（检索增强生成）应用时，需要将企业内部的 PDF 手册、Word 文档、PowerPoint 课件统一转换为 Markdown，再切片嵌入向量数据库。markitdown 一条命令批量处理，保留标题层级和表格结构，大幅提升检索精度。

    for f in docs/*.pdf; do
  markitdown "$f" -o "md/${f%.pdf}.md"
done

    场景二：LLM 文档理解管道

    将用户上传的任意格式文档（简历、合同、报告）转换为 Markdown 后传给 LLM 进行分析、摘要或信息提取。markitdown 的 Markdown 输出对 Token 消耗远低于原始二进制格式，降低成本。

    from markitdown import MarkItDown
md = MarkItDown()
result = md.convert("contract.docx")
response = client.chat.completions.create(
    model="gpt-4o",
    messages=[{"role":"user","content":f"摘要：{result.text_content}"}]
)

    💡 推荐理由

    作为一名经常和 LLM 打交道的开发者，markitdown 已经成为我工具箱里的常驻成员。它的价值在于把”任意文档”变成”LLM 能理解的文本”，这在大模型应用开发中是一个高频且痛点的需求。

    最让我惊喜的是它的格式保留能力——转换后的 Markdown 仍然保留表格结构、标题层级和链接，这直接决定了 RAG 检索的质量。相比之下，很多同类工具转换后就只剩纯文本了。

    来自微软 AutoGen 团队的维护保证，加上 150K+ Stars 的社区验证，这款工具的可靠性和迭代速度都非常值得信赖。如果你正在做任何涉及文档处理的大模型应用，markitdown 绝对是不二之选。

    由 AI 自动整理，更多开源项目介绍持续更新中 🚀