您现在的位置是：首页 > 文章详情

随时随地与 LLMs 聊天的开源项目「GitHub 热点速览」

日期：2024-08-06点击：190收藏

众所周知，本地运行 LLMs 需要下载模型（体积大），并且还比较吃硬件配置。近日 GitHub 推出了 GitHub Models 服务，让开发者可以在 GitHub 上免费测试 Llama、Phi 3、Mistral 和 GPT-4o 等大模型。但是，目前该服务仍处于公测阶段，类似早期的 Copilot，并未完全开放。需要先提交申请（waitlist）等待审核通过后才可以使用。

虽然我还没有获得公测资格，但目测该服务应该是每天提供一定量的免费在线体验 LLMs 的次数（Playground），然后再加上云开发 Codespaces 和 Azure 服务收费。我和大家都一样，最关心的还是免费的用起来爽不爽！

回到本周的开源热搜项目，既然不能完全免费使用，不妨试试用 torchchat 在手机上运行 LLMs 聊天应用，实现随时随地、不限量地与 LLMs 聊天。还有类似 Shazam 的歌曲识别服务 seek-tune，轻松发现和下载熟悉旋律的歌曲。基于语音识别技术破解 reCAPTCHA 验证码的浏览器插件 buster，用技术打败技术。

最后，用 Rust 实现的轻量级的 LDAP 服务和直观比较两个 PDF 文件的工具，体验极简应用带来的高效与便捷。

本文目录
- 1. 开源新闻
  - 1.1 GitHub Models 在线免费测试 LLMs
- 1. 开源热搜项目
  - 2.1 随时随地与 LLMs 聊天的 Python 库：torchchat
  - 2.2 开源的恶意流量检测平台：Maltrail
  - 2.3 破解 reCAPTCHA 验证码的浏览器插件：buster
  - 2.4 轻量级的 LDAP 实现：lldap
  - 2.5 类似 Shazam 的歌曲识别算法：seek-tune
- 1. HelloGitHub 热评
  - 3.1 直观比较两个 PDF 文件的工具：diff-pdf
  - 3.2 在 Mac 上运行 iOS 游戏和应用的工具：PlayCover
- 1. 结尾

1. 开源新闻

1.1 GitHub Models 在线免费测试 LLMs

GitHub Models 提供了一个在线体验大型语言模型（LLMs）的聊天应用服务（Playground），用户可以在这里在线体验、测试和运行 LLMs。此外，它还打通了 Codespaces，集成了云运行和开发 LLMs 的功能，降低了大模型开发的门槛，目前仅支持 Llama、Phi 3、Mistral 和 GPT-4o 等大模型，暂不支持上传自定义模型。

2. 开源热搜项目

2.1 随时随地与 LLMs 聊天的 Python 库：torchchat

主语言：Python ，Star：2.4k ，周增长：2k

该项目是由 PyTorch 团队开源的 Python 库，旨在简化大型语言模型 (LLMs) 的运行，轻松在桌面、服务器、iOS 和 Android 等平台上运行 LLMs 聊天应用。用户可以直接通过命令行与大模型交互，或启动 WebUI 在浏览器中使用。此外，基于 ExecuTorch 生成的 PTE 文件，它还能生成适用于移动设备的 LLMs 聊天应用，支持 Llama 3.1、Llama 3 和 Mistral 等大模型。

GitHub 地址→github.com/pytorch/torchchat

2.2 开源的恶意流量检测平台：Maltrail

主语言：Python ，Star：6.1k ，周增长：100

这是一个用 Python 开发的恶意流量检测系统，主要用于识别和追踪可疑的网络请求。它利用公开的黑名单和自定义的列表进行实时流量监控，并提供了一个简单的 Web 界面，用于展示报告和分析结果，支持检测域名、URL、IP 或 HTTP User-Agent 等可疑信息，以及启发式分析功能可发现新型或未知的威胁。