模型太大跑不动?聊聊大模型量化的门道模型太大跑不动?聊聊大模型量化的门道 说实话,这几年大模型发展太快了,快到普通开发者都有点跟不上的感觉。我记得两年前GPT-3的1750亿参数还让人觉得遥不可及,现在国内很多团队都在训千亿级别的模型...软件科技# 显存优化# 权重矩阵# 模型压缩3个月前1K
被反爬虫拦截到怀疑人生?我用 CloakBrowser 把所有检测全部穿透被反爬虫拦截到怀疑人生?我用 CloakBrowser 把所有检测全部穿透 做爬虫或者自动化测试的开发者,大概都有过这种经历:代码写好了,请求也发了,结果页面直接弹出一个"验证异常,请稍后再试"。你以...软件科技# Canvas指纹# CloakBrowser# Cloudflare3个月前1K
VoxCPM:一个让中文大模型训练「降本增效」的开源利器VoxCPM是清华大学NLP团队(OpenBMB)开源的中文大模型训练框架,专为解决百亿参数模型训练中的显存不足、训练缓慢和成本失控三大痛点而设计。通过PyTorch FSDP参数分片技术,VoxCP...软件科技# Flash Attention优化# FlashAttention2# FSDP分布式训练3个月前1K
微软的AI困局:是时候重新审视这个科技巨头了吗?微软的AI困局:是时候重新审视这个科技巨头了吗? 最近一篇Wired的报道让我看了很久,标题很直接——《Has Microsoft Lost Its Mojo (Again?)》。说实话,这个"aga...软件科技# AI产品变现# AI困局# AI战略3个月前1K
当”无限滚动”的发明者开始反思:我们正在用错误的方式制造AI当"无限滚动"的发明者开始反思:我们正在用错误的方式制造AI 2019年,数十亿人已经习惯了在社交媒体上无休止地向下滑动手指,却不知道这个让他们难以自拔的产品设计,最初出自一位名叫Aza Raskin...软件科技# AI Agent# AI伦理# AI风险3个月前1K
当AI客服成为黑客的帮凶:Meta账户被盗事件撕开了怎样的安全伤疤当AI客服成为黑客的帮凶:Meta账户被盗事件撕开了怎样的安全伤疤 一个休眠了四年的白宫官方Instagram账号,一夜之间被改头换面。头像换成了巴勒斯坦国旗,配文充满亲伊朗内容。这不是某个国家级黑客...软件科技# AI客服安全# AI系统安全# Instagram安全3个月前1K
当807GB的可能性摆在你面前:Qwen 3.5与开源大模型的临界点当807GB的可能性摆在你面前:Qwen 3.5与开源大模型的临界点 凌晨三点,你在调试一个客户定制的智能客服系统。服务器上跑的是某个闭源API,响应延迟280毫秒,每月账单已经飙过两万。你的团队在等...软件科技# 807GB# API成本# GPU部署3个月前1K
Claude Code 深度解析:Anthropic 如何重新定义「AI 写代码」这件事Claude Code 深度解析:Anthropic 如何重新定义「AI 写代码」这件事 说实话,当 Anthropic 在 2025 年初低调推出 Claude Code 时,我并没有太过在意。毕竟...软件科技# AI写代码# AI编程助手# Anthropic3个月前1K
当AI狂飙突进:科技巨头终于想起给地球“补水”当AI狂飙突进:科技巨头终于想起给地球“补水” 炎炎夏日,你可能想不到每一次与AI助手的对话,都在悄悄抽走某个城市的供水配额。 这个听起来有些荒诞的场景,正在真实发生。2026年,AI产业迎来了史上最...软件科技3个月前1K
商汤的差异化战法:当中国AI开始讲“业务成果”这门语言商汤的差异化战法:当中国AI开始讲“业务成果”这门语言 老实说,在AI这个圈子里泡久了,我见过太多“PPT融资”和“Demo惊艳、落地拉胯”的故事。但最近商汤资本市场主管Phil Wong在汇丰私人银...软件科技# AI战略# AI落地# Office Raccoon3个月前1K
英伟达的护城河有多深?英伟达的护城河有多深? 2026年,当英伟达交出季度销售额816亿美元、同比增长85%的成绩单时,整个科技圈再次确认了一个事实:这家公司早已不只是卖显卡那么简单。从游戏玩家的信仰到AI时代的“军火商...软件科技# AI芯片# amd# CUDA生态3个月前1K
Altman口中的”主动AI”:AI的下一步,不是等你开口Altman口中的"主动AI":AI的下一步,不是等你开口 你有没有过这种感觉——AI明明很强大,但你就是不知道该问它什么?我采访过几十家企业,这个问题出现的频率高得惊人。员工们面对一个空白的输入框...软件科技# AI Agent# AI交互模式# AI代理3个月前1K