8分钟前
根据现在的数据分析，越来越多的大模型在干长任务，调用大量工具（tools），这部分是愿意买单的客户的需求。如果在线用，对时延就要求非常高，没法长时间等待。且这种上下文滚动越滚越大，消耗太大了。就必须有更多更快的内存和更多的算力。我有点预感，赛博员工的成本可能很快就会超过碳基员工。最后内存税，算力税还是要找公司厂长来买单的。


https://postimg.cc/Mc7BL6fz