大模型流式输出渲染导致的性能问题
在一年多以前,笔者也曾尝试过诸多网页端大模型,当时最印象深刻的,不是模型的能力有多强,而是在使用网页端时,我那台19年的老笔电,总是会不堪重负,风扇起飞,那噪声让人心烦意乱,不禁怀疑各大厂商是否在后台偷偷跑一些程序,因而索性自己手搓了个调用
5小时前00
在一年多以前,笔者也曾尝试过诸多网页端大模型,当时最印象深刻的,不是模型的能力有多强,而是在使用网页端时,我那台19年的老笔电,总是会不堪重负,风扇起飞,那噪声让人心烦意乱,不禁怀疑各大厂商是否在后台偷偷跑一些程序,因而索性自己手搓了个调用