IT资源栈互联网海量AI资源栈
  • 首页
  • AI
  • 前沿
  • 专题
  • 碎片
  • 架构
  • 实战
  • 安全
  • 生活
  • 工具
  • 管理
  • 标签云
  • 文章存档
Hi, 请登录     我要注册     找回密码

在 8 美元的 ESP32-S3 微控制器上运行 28.9M 参数大语言模型

分类:AI新闻资讯 阅读() 评论(0)

开发者成功在售价约 8 美元的 ESP32-S3 微控制器上运行了一个 28.9M 参数的大语言模型,完全在芯片本地运行,无需连接服务器,生成速度约 9.5 tok/s。

🔗 阅读原文

相关 AI 工程落地时,可用 code80.ai 统一对接多家模型 API,减少重复配置。

C code80.ai · AI 编码 API 聚合 Claude / GPT 多模型统一接入,稳定不限速,按量计费,几行配置接入 Claude Code。 了解一下 ›
AIAI HOTAI编程AI资讯Code80技巧观点
上一篇
开发者实践:破解AI Agent长代码生成的“堆粪”困境
下一篇
误判率居高不下,耶鲁等欧美多所高校相继停用AI检测工具

相关推荐

  • AI 让代码评审从看实现转向审结果-IT资源栈AI 让代码评审从看实现转向审结果
  • 我用 AI 做完一个产品后,留下了这套交付闭环-IT资源栈我用 AI 做完一个产品后,留下了这套交付闭环
  • DeepSeek Harness vs LangGraph: 数字分身 Runtime 怎么选-IT资源栈DeepSeek Harness vs LangGraph: 数字分身 Runtime 怎么选
  • Cursor 的第一处改动:从规则到验证-IT资源栈Cursor 的第一处改动:从规则到验证
  • Karpathy 讲透 Software 3.0:当英文成为编程语言,AI 工程师真正该设计什么-IT资源栈Karpathy 讲透 Software 3.0:当英文成为编程语言,AI 工程师真正该设计什么
  • 杀死代码评审:AI 写代码、AI 审代码之后,人剩下的是对齐-IT资源栈杀死代码评审:AI 写代码、AI 审代码之后,人剩下的是对齐
  • AI Agent 做 TDD 有没有用: 实测排名与 3 倍 token 成本-IT资源栈AI Agent 做 TDD 有没有用: 实测排名与 3 倍 token 成本
  • Codex 背后的 Harness:OpenAI 把 Coding Agent 的控制层讲透了-IT资源栈Codex 背后的 Harness:OpenAI 把 Coding Agent 的控制层讲透了

抢沙发

评论前必须登录!

立即登录   注册

易安
易安作者
长期关注 AI Agent、软件工程、自动化工作流与个人生产力系统。喜欢把复杂技术拆成普通人也能上手的实践教程,也记录自己在工具链、编程、内容创作和知识管理上的真实折腾。
  • 分享 AI 工具、Agent 工作流与提示词工程的实战经验
  • 记录从想法到产品、从代码到上线的完整实践过程
  • 关注普通人如何用 AI 放大能力,而不是被工具牵着走
阅读作者的全部文章 ›
文章目录

    置顶推荐

    • 2026最新Claude Code国内上手教程 从安装到第一次跑通完整流程一次讲清2026-05-31
    • OpenAI Codex CLI 新手指南:安装、审批模式和项目规则2026-05-25
    • Claude Code 国内使用完整教程 从 API Key 到三端安装这次一次配明白2026-05-14
    • codex国内编码远超claudecode,2026最新Codex国内保姆级入门教程2026-05-05
    • 2026最新Claude Code新手避坑指南 第一次使用最容易卡住的10个问题2026-04-17
    • 2026最新Claude Code订阅怎么选 免费版ProMaxTeamAPI一篇讲清2026-04-17
    • Codex 国内怎么用才省事:从官方账号到 Code80 CLI,一篇讲清楚稳定玩法2026-04-02
    • Claude 国内怎么用最省事:官网订阅、直连平台和第三方入口2026-04-02
    Code80 · AI 编程巴士

    前沿哨所

    • 开源 Go Runtime 版 Python Agent SDK,实测内存占用比 Claude Agent SDK 低六成

      开发者在 V2EX 开源了 nexus-agent-sdk-python,这是为 Nexus Agent Runtime 打造的 Python 封装 SDK。系统采用分层架构:Python 层负责接入,实际的模型调用、工具执行和上下文管理由 Go 语言编写的 nxs 运行时完成。开发者可用它为程序接入能读文件、改代码、执行命令的 Agent,也支持自定义工具。SDK 支持单次任务和多轮会话,提供 MCP、Hooks 和工具权限配置;模型可通过 Anthropic 兼容接口接入,同时兼容 OpenAI Chat Completions/Responses 协议。安装包内置 nxs 和 rg,覆盖 macOS、Linux、Windows 的 x86_64 与 ARM64 平台,要求 Python 3.11 以上。项目附带与 Claude Agent SDK 的本地对照测试:设备为 M1 Pro(16GB 内存),双方均通过智谱 Coding Plan 的 GLM 模型和 Anthropic 兼容接口运行,参数设置一致。测试包含六道 Python 标准库工程题,每题每侧运行三次,共 36 次。结果显示:代码通过检查双方均为 18/18,但代码通过且会话正常结束一项,Nexus 为 17/18,Claude 为 11/18;峰值内存中位数 Nexus 为 125.9 MiB,Claude 为 315.2 MiB,低约 60.1%;模型请求总数为 249 对 301。按 API 单价折算,11 组完整用量成本 Nexus 为 0.9224 元,Claude 为 1.1075 元,低约 16.7%。项目已在 GitHub 开源,接受 issue 反馈。

      事件分析

      技术看点在于架构设计:用 Go 运行时承担性能敏感的 Agent 核心工作(模型调用、工具执行、上下文管理),Python 仅作接入层,这与 Claude Agent SDK 内置 Node.js 子进程的思路类似,但凭借 Go 的静态编译特性取得了可观的资源开销优势。测试方法相对规范,同模型、同提示词、同工具集、交替执行顺序、每组三次,样本量虽小但具备参考价值。产业层面,该测试侧面暴露了 Claude Agent SDK 在会话终止控制上的短板(6 次耗尽轮次、1 次超时),也验证了国内模型通过兼容接口驱动主流 Agent 框架的可行性。后续走向上,多运行时 Agent SDK 的竞争将聚焦资源效率与会话稳定性,MCP 协议的普及降低了迁移门槛,运行时层与模型层的解耦或成趋势。

      核心观点:Agent SDK 竞争正从模型能力转向运行时效率,Go 重写核心层以内存与成本优势切入,工具链垂直分化时代已至。

      原文链接:V2EX 分享发现

      2小时前
    • 开源AI Agent桌面端PI-Desktop一周揽3.7k Star,单会话可指挥多会话协作

      开源项目PI-Desktop发布一周内在GitHub获得3700颗Star,上线24小时即突破1000 Star,登上GitHub日趋势榜第五名及TypeScript日趋势榜第三名。该产品定位为本地优先的AI编程智能体桌面端,采用Electron与Rust构建宿主核心,集成pi Agent Harness,支持用户自行安装插件。开发者Lan曾开发文件分享工具FileCodeBox(8500 Star),目前PI-Desktop已聚集近30位协作者,累计处理193个Issue、合并126个PR。本次更新的核心功能为对话编排插件:一个会话可创建并调度多个真实独立的Session,各会话拥有独立上下文与历史记录,且能互相通信,适用于组织AI辩论赛、主会话监督多个会话同时修复不同PR和Issue等场景。此外,项目同步上线了支持LinuxDo账号登录的插件平台、可在线下载并区分全局与项目级的MCP与Skill市场,Files插件侧边栏支持全屏;社区开发者还通过插件能力实现了内存与CPU占用监控主题。开发者同时开多个会话时资源占用表现较低。后续规划包括远程内核、WSL支持与流畅度优化,全自动开发插件skill也即将推出。

      事件分析

      多会话编排是本次更新的最大技术看点:被调度的每个会话均为具备独立上下文和历史记录的真实进程,可互相通信,这与业界从单Agent向多智能体协作演进的方向一致。Electron与Rust混合架构兼顾跨平台UI效率与本地性能,低资源占用若经大规模用户验证,将构成差异化优势。插件平台与MCP、Skill市场的上线表明项目正从单一工具向生态平台演进,社区开发者已能基于插件能力自行扩展功能,初步验证了架构的可扩展性。当前AI编程赛道中,桌面端产品、CLI工具与IDE插件形成三线竞争,PI-Desktop以插件生态为核心策略,对标Claude Code、Cursor等成熟产品,后续远程内核与WSL支持将是其扩大Windows开发者覆盖、构建竞争壁垒的关键变量。

      核心观点:AI编程工具的竞争正从模型调用能力转向多智能体编排与插件生态,谁先建立可扩展的桌面端平台,谁就掌握开发者入口。

      原文链接:Linux.do

      2小时前
    • 开源工具 ProxyLane:拖拽即透明代理,进程级分流不碰全局设置

      开发者在 V2EX 分享了一款名为 ProxyLane 的开源代理工具,其核心玩法是拖拽启动:将需要走代理的应用(如 chatgpt.exe、cmd.exe)拖入工具界面启动后,该应用及其派生的全部子进程会自动经过用户预设的代理通道,而系统中其他进程的网络流量完全不受影响。使用时,用户只需在 ProxyLane 中配置一个 Profile,即常见的 HTTP 或 Socks5 协议代理地址与端口,再把目标程序拖入界面即可。例如拖入 cmd 启动命令行窗口后,窗口内执行的 codex、git、curl、npm、pip 乃至浏览器等程序都会被透明代理。与传统的全局 TUN 模式和系统代理方案不同,该工具不接管全局网络、不修改系统代理配置,实现了进程级别的精准分流。项目代码已在 GitHub 开源,其中九成以上的 C++ 代码是作者多年前手工编写并长期自用的积累,近期借助 AI 优化了易用性后决定公开分享。对于需要访问海外 AI 服务、又不想让全部流量走代理的开发者而言,这款工具提供了一种轻量、可控、可随时切换的本地化方案。

      事件分析

      该工具的技术看点在于进程级代理的实现路径:相比 TUN 全局接管或修改系统代理,按进程注入代理配置侵入性更低、颗粒度更细,特别适合内外网流量并存的开发场景。它的走红时机颇具代表性——codex、Claude Code 等 AI 编程命令行工具大量涌现,这类工具默认直连海外 API,对开发者的网络环境提出新要求,精细化代理由此从可选变为刚需。此外,作者“存量老代码加 AI 优化后开源”的模式也值得留意:AI 辅助开发正在降低个人项目的工程化门槛,预计会有更多沉睡多年的私仓项目以类似方式进入公共视野。后续若补齐跨平台支持与命令行、配置文件等可编程接口,其应用边界有望进一步扩展。

      核心观点:AI 编程工具直连海外 API 的刚需,正把进程级代理从极客小众技巧变成开发者工作流的基础设施。

      原文链接:V2EX 分享发现

      2小时前
    • iPhone 过地铁闸机同时扣了交通卡和银行卡:Apple Pay 小额免密暗藏误扣风险

      V2EX 有用户发帖称,早上通过地铁闸机时,iPhone 钱包内的交通卡和银行卡被同时扣款。该用户提醒,如果钱包中添加的银行卡开启了 Apple Pay 小额免密支付功能,过闸机时可能被闸机 POS 机意外触发扣费,且遇到此类误扣情况,前往地铁服务窗口也无法办理退款。帖子引发社区讨论,不少用户表示需要检查 Apple Wallet 中银行卡的免密支付设置。从技术层面看,iPhone 的快捷交通卡模式本应在过闸时仅激活交通卡,但当闸机 NFC 感应设备与银行卡的闪付功能(如银联 QuickPass 小额免密)兼容时,可能出现双卡同时响应的情况。由于小额免密支付无需任何验证即可扣款,误扣往往难以被用户第一时间察觉,只有查看账单时才会发现问题。类似情况此前在国内多个城市的地铁闸机上也有零星报告,核心涉及 NFC 支付设备与卡片响应优先级的兼容问题。普通用户可通过关闭银行卡小额免密功能、在 Apple Wallet 中移除不常用银行卡、或核对交通卡快捷模式设置等方式规避风险。该事件也为手机钱包多卡片管理敲响了警钟。

      事件分析

      该事件暴露了 NFC 近场支付在多卡共存场景下的响应优先级设计缺陷。快捷交通卡与银联闪付小额免密同属’免验证’扣费机制,前者为通行效率而生,后者为支付便利而生,但两套机制在闸机感应区间重叠时缺乏有效隔离,导致双扣。随着手机 NFC 模拟卡片数量增多,交通、金融等不同行业的感应协议如何做互斥处理,成为终端厂商与闸机厂商需要协同解决的工程问题。后续走向可能包括:地铁闸机固件升级收紧感应逻辑、Apple Pay 优化卡片选择优先级,以及银联重新评估免密支付的触发条件与退款通道。在官方修复落地前,关闭银行卡免密功能是最直接的止损方式。

      核心观点:两套免验证支付机制在闸机感应区重叠即引发双扣,暴露了 NFC 多卡时代免密便利与扣费精准之间的工程矛盾。

      原文链接:V2EX 分享发现

      4小时前
    • AI Agent 多到记不住?开发者求解多智能体统一管理看板

      Linux.do 论坛一位开发者发帖求助,称手头的 AI Agent 数量已多到难以管理,希望社区推荐合适的 Agent 管理软件。据其描述,日常工作涉及多台 SSH 服务器、多个项目,且笔记本电脑经常断网后带走使用,因此需要工具能够自动重连并恢复多个服务器上的多个 tmux 工作区。同时,他还在运行多种 Agent CLI 命令行工具,本地也使用 Cursor、ZCode 等图形界面编程工具,并提出一个设想:这些 GUI 工具的运行状态理论上可以通过本地文件读取获取,无需进行编辑操作。发帖人指出的核心矛盾在于:Agent 实例多到记不清各自在哪里运行,逐一轮询状态也极为繁琐。他目前考虑的备选方案是搭建一个 Gateway 看板,让各个 Agent 会话主动上报自身位置与运行状态,从而实现集中监控与调度。该话题目前处于讨论初期,但已触及开发者社区一个普遍痛点:当多 Agent 并行工作流成为常态,传统 tmux、SSH 等终端工具已难以覆盖会话可观测性与生命周期管理的需求,专门的 Agent 编排与监控工具正在成为真实刚需。

      事件分析

      该帖折射出 AI 编程工作流进入新阶段:开发者从单个 Agent 辅助编码,转向多 Agent、多设备、多服务器并行作业,传统终端复用工具已无法满足 Agent 会话的可观测性需求。技术看点在于『状态自汇报 + Gateway 看板』的架构思路,与业界兴起的 Agent 编排和可观测性方向一致,部分开源项目已开始探索类似模式。产业层面,Agent 管理层有望成为继代码生成之后的下一个工具赛道,MCP 协议生态可能向状态上报、任务协同方向延伸。后续走向或包括:IDE 厂商内置多 Agent 管理面板、云端 Agent 沙箱服务兴起,以及标准化的会话状态上报协议出现。

      核心观点:当 Agent 多到需要专职『管家』,管理与编排层正取代单点编码能力,成为 AI 编程工具链的下一个竞争高地。

      原文链接:Linux.do

      4小时前
    • Anthropic GTG 案例怎么查?我把 44 个案例按场景排好了

      Anthropic GTG 案例怎么查?我把 44 个案例按场景排好了 日报图文

      研究 AI 的真实使用边界时,单看“能做什么”不够。更有用的问题是:案例发生在什么场景,使用了哪些步骤,报告对归因和置信度写到了什么程度。

      我把 Anthropic《Detecting and Countering Misuse of AI》中的 GTG 案例整理成了中文单页 Wiki: Anthropic GTG 案例中文全览。页面收录 44 个案例,按危害领域分组,适合查资料、准备分享或设计内部 Agent 流程时使用。

      先按领域找入口

      Wiki 的目录按网络行动、影响力行动、监视、常规武器研发、生物滥用、诈骗与欺诈、非法蒸馏等领域展开。每个领域下面列出案例编号、地点或组织线索,以及报告中的行为描述。

      这样的排法适合做横向比较。你可以先看同一领域里的多个案例,再观察 AI 在信息收集、内容生成、自动化执行和规模化运营中的不同作用,不必在长篇报告里凭关键词反复搜索。

      页面保留了什么边界

      中文整理没有把案例改成“AI 万能模板”。原文中的低置信或中置信归因仍按原有表述保留,案例也没有被改写成产品宣传。读者可以区分报告直接描述的事实、报告给出的归因判断,以及自己对案例的进一步推断。

      页面最后还保留报告的两条主线结论,方便读完案例后回看整体判断。准备内部材料时,可以先引用具体案例,再说明证据范围,不要只引用一句抽象结论。

      谁会用到这张 Wiki

      做 AI 安全研究的人,可以把它当作案例目录;做产品或工程方案的人,可以用它检查一个 Agent 流程可能触及的风险边界;准备分享的人,则可以从一个领域挑案例,再回到原始报告核对上下文。

      查看案例: 打开 Anthropic GTG 中文 Wiki

      9小时前

    最新文章

    • 开源 Go Runtime 版 Python Agent SDK,实测内存占用比 Claude Agent SDK 低六成2026-09-15
    • 开源AI Agent桌面端PI-Desktop一周揽3.7k Star,单会话可指挥多会话协作2026-09-15
    • 开源工具 ProxyLane:拖拽即透明代理,进程级分流不碰全局设置2026-09-15
    • iPhone 过地铁闸机同时扣了交通卡和银行卡:Apple Pay 小额免密暗藏误扣风险2026-09-15
    • AI Agent 多到记不住?开发者求解多智能体统一管理看板2026-09-15
    • Anthropic GTG 案例怎么查?我把 44 个案例按场景排好了2026-09-15

    热门专题

    • AI 大模型
    • Claude 实战
    • 前沿观察
    • 安全攻防

    热门标签

    AI编程claude大模型AIAI Agent人工智能开源项目Gemini开发者工具开源GitHubClaude Code开源工具AI工具开发工具谷歌openaideepseek提示词工程cursoranthropic网络安全AI应用ChatgptAI开发agentAI安全自动化智能体AI智能体

    网站统计

    • 日志总数:28478
    • 评论总数:7
    • 标签总数:17880
    • 用户总数:3675
    • 最后更新:2026-09-15

    © 2023-2026   IT资源栈   粤ICP备2021152721号-5