
没猜度咸宁隔热条PA66生产设备厂家,东说念主类当年靠微缩印作念小抄的土办法,在大模子身上也照样管用。
这两天,有位机智的老哥发现,只须把 Fable 5 的高下文调整成张张密密匝匝写满翰墨的图片,再让模子通过 OCR 读转头,token 输入资本多能省下 70。
离谱的是,不仅仅平素对话,系统请示、器具文档、历史纪录,透彻能股脑塞进图里。
空说凭,老哥还真给了个例子:
约莫 4.8 万字符的系统请示词和器具文档,要是凯旋按文本输入,约莫需要 2.5 万 token;
但把它们渲染成张上头 1573 × 1248 的图片后,只需要约 2700 个 image token。
按 Fable 5 当今的价钱操办,实测端到端账单下落了 59 到 70。
这图胜过滔滔持续,还真有以前测验微缩、写小字的味儿了。
真 · 压缩即智能。
网友看完凯旋示意:这招可千万别让 Dario 知说念了。
(你也不想你的 Fable 5 截至上传图片吧)
把高下文作念成小抄,账单凯旋七成
来源提到的这个邪修 Fable 5 的法,名叫pxpipe,面前在 GitHub 也曾成绩 3000+ STAR。
在证据里,作家亦然直吐襟怀的示意:
这玩意即是把 Fable 5 的文本高下文,渲染成图片,以裁减的 token 用量。
之是以能这样"邪修",要道在于个计价各异:
图片的 token 资本,主要由像素尺寸决定,而不是由图片里塞了些许翰墨决定。
也即是说,只须模子还能读清图片里的字,那么相同段内容,压成张密密匝匝的 PNG,可能就比凯旋手脚文本输入低廉。
尤其是代码、JSON、器具输出、系统请示词、器具文档这类内容,自身就相称 token 密集。
按照 pxpipe 作家的测算,在真实 Claude Code 流量中,这类内容要是手脚图片输入,约莫不错作念到每个 image token 容纳 3.1 个字符;
但要是手脚文本输入,约等于每个 text token 只可容纳 1 个字符。
而这,就给了 pxpipe 操作空间。
pxpipe 实质上是个土产货代理:收敛 Claude Code 发出的苦求,在苦求离开本机之前,先把其中比拟肥美、适压缩的高下文,再行排版成张张紧凑的 PNG 图片,再塞回苦求里发给模子。
模子读这些图片,走的则是同个视觉通说念——也即是 Anthropic 的 computer use 读取屏幕截图时依赖的那条通说念。
换句话说,pxpipe 并不是让模子"简直 OCR "文本,而是期骗模子蓝本就具备的看图能力,把大段高下文伪装成截图喂进去。
说白了,即是个自动的微缩"印机"。
后头,为了阐扬这招不是纯脑洞,作家也放了个对比 demo。
相同组任务,原始文本版块跑到后,账单是42.21 好意思元,高下文窗口也曾占满 96;而 pxpipe 版块只花了6.06 好意思元,高下文还只用了73.5k/1M。
也就在省钱的同期,任务也照样完成了,Fable 5 依然能从图片化高下文中读出要道信息,完成计数和多步账本运算。
不外,这也不是招鲜吃遍天。作家用 Opus 4.8 跑了相同的践诺,隔热条设备平素文本 needle 没问题,但到图片化内容里的词频统计,Opus 就读不出来了。
与此同期,这也意味着,这是种有损压缩,相称吃模子的视觉读取能力。
密集图片里的精准字符串,Fable 5 还能拼集读,Opus 就很容易翻车;危急的是,错了也未报错,而是自信编出个看似理的效劳。
(注:这组 benchmark 阐扬:在 Fable 5 上,把密度高下文渲染成图片,基本不影响语义意会和现象跟踪,还能权贵省 token;但旦触及逐字读取精准字符串,就会涌现有损压缩的风险)
是以 pxpipe 也莫得把整个内容王人图片化,而是保留 ID、哈希、密钥、精准数字和近几轮对话,只压缩系统请示词、器具文档、较早历史纪录、大型器具输出这些"又长又密"的内容。
后,要是想我方试下也很通俗,作家给的运转式只好两行:
npx pxpipe-proxy # proxy on 127.0.0.1:47821ANTHROPIC_BASE_URL=http://127.0.0.1:47821 claude # point Claude Code at it
运转后,土产货还有个 dashboard:
http://127.0.0.1:47821/
内部不错看到检朴了些许 token、每次文本转图片的前后对比、kill switch,以及现时启用的模子标签。
需要真贵的是,pxpipe 只压缩苦求,不压缩模子输出。也即是说,反映如故正常流式复返;它动的仅仅输入侧那些大块高下文。
谷歌 2022 大哥论文早已阐扬
这面目经发出后,亦然石激起千层浪,谁叫 fable 5 这样贵。
有网友示意,这招我早就在用了。
还有学者翻出了谷歌 2022 年的老论文,CLIPPO。
通俗来说,跟 pxpipe 的作念的差未几,CLIPPO 的中枢想想即是把翰墨也当成图片解决。
传统 CLIP 通常是两套编码器:套看图,套读文本。
CLIPPO 则凯旋把文本渲染成 RGB 图片,让同个 Vision Transformer 同期解决真实图片和翰墨图片,连图片 + 问题也不错拼成张图起喂进去。
这样来,模子不再需要 tokenizer、文本 tower 和 word embedding,但在图像分类、图文检索上依然接近 CLIP 格调模子,只差 1-2 个点。
也即是说,翰墨不定非得以 token 的面目插足模子,也不错先酿成像素。
此外,褒贬区里,还有不少网友提到了 DeepSeek-OCR。
在 DeepSeek OCR 中,主的即是把长高下文作念成视觉压缩。pxpipe 文档里也门拿它解释这条道路,低于 10x 压缩时能有约 97 解码精度,接近 20x 时降到约 60。
是以,此次 pxpipe 的吵杂可能不仅仅个"省钱吝惜具"激励的。
它像是把当年几年几条线一会儿接上了:CLIPPO 阐扬,翰墨不错当图看;DeepSeek-OCR 阐扬,高下文不错作念光学压缩;
而 Fable 5 这代模子,则让平素用户次在真实坐褥器具里,摸到了这个套利空间。
话说,用图像作文本输入,有莫得搞头?
参考荟萃
[ 1 ] https://github.com/teamchong/pxpipe
[ 2 ] https://arxiv.org/pdf/2212.08045
键三连「点赞」「转发」「防止心」
接待在褒贬区留住你的想法!
— 完 —
� � 点亮星标 � �
科技前沿发扬逐日见Q Q:183445502相关词条:铁皮保温 塑料挤出机 钢绞线 玻璃卷毡厂家 保温护角专用胶
1.本网站以及本平台支持关于《新广告法》实施的“极限词“用语属“违词”的规定,并在网站的各个栏目、产品主图、详情页等描述中规避“违禁词”。
2.本店欢迎所有用户指出有“违禁词”“广告法”出现的地方,并积极配合修改。
3.凡用户访问本网页,均表示默认详情页的描述,不支持任何以极限化“违禁词”“广告法”为借口理由投诉违反《新广告法》咸宁隔热条PA66生产设备厂家,以此来变相勒索商家索要赔偿的违法恶意行为。
