惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

V
Visual Studio Blog
Recent Announcements
Recent Announcements
雷峰网
雷峰网
The GitHub Blog
The GitHub Blog
罗磊的独立博客
月光博客
月光博客
J
Java Code Geeks
A
About on SuperTechFans
Microsoft Security Blog
Microsoft Security Blog
D
Docker
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
F
Fortinet All Blogs
U
Unit 42
C
Check Point Blog
Martin Fowler
Martin Fowler
有赞技术团队
有赞技术团队
博客园 - 叶小钗
Cyber Security Advisories - MS-ISAC
Cyber Security Advisories - MS-ISAC
酷 壳 – CoolShell
酷 壳 – CoolShell
Blog — PlanetScale
Blog — PlanetScale
大猫的无限游戏
大猫的无限游戏
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
阮一峰的网络日志
阮一峰的网络日志
MyScale Blog
MyScale Blog

科技

🐹仓鼠党软件爱好者平常都有哪些的好玩又稳定的软件啊 - V2EX Meshtastic/MeshCore/LoRa 在淘宝被禁 - V2EX 做了一个火山方舟联网搜索 skill,零依赖, pip install 都不用装 - V2EX gpt plus 五小时? - V2EX 感觉 AI 大模型最终归宿不是软件开发而是机器人 - V2EX 关于我在 GiffGaff 被封后光速下单并激活 CTExcel UK 这件事 - V2EX 我的电脑一到单位,就卡的要死! 两天开发了一个网站专门收录各领域的最佳实践,方便学习(抄袭🐶) 值得入手 glm max 吗 GPT 取消二验了 0 封号风险 —— Mp2RSS 把公众号和 X 装进你的阅读器 - V2EX [提问] claude 现在怎么注册验证呀 deepseek 网页和 app 输入<think>能看到别的用户的历史对话 大家对于 Anthropic 估值的看法 美伊还不如继续打呢,一停战 AI 科技股又支棱起来了,美光、闪迪又要涨价了,普通人啥好处也没捞到除了失业 号池(CC Max) 铺天盖地的 OpenClaw,到底能做什么?(不吹不黑) 区块链/LLM 这些技术随着科技发展总会到来 京东都是用啥脚本抢的呀 除了 Vibe Coding,各位所在的行业有因为 AI 应用带来革命性进展,或者底层变革的吗? 要迎来固态电池的时代了吗? 老罗今晚的分享大会,有你感兴趣的产品吗? 🖖Manus 被 Meta 数十亿美元收购❗❗❗ Excelize 开源社区荣获 2025 红山开源明星项目三等奖 Gemini 的新功能,搞笑狮子漂移(动态视图) Google Antigravity 出来啦 一觉醒来, G 老师 3 Pro 已经可以用了,起飞 AI 时代,每个月会在 AI 产品上花多少钱? 大伙们,请教一下智能手表的问题,打算买 现在机器之心需要订阅才能看历史文章,有没有替代平台啊
关于“长时间计算”的请求方式的解决方案。
t298 · 2025-05-12 · via 科技

我用词可能不太准确,具体情况就是,我们业务会设计到调用某些模型计算,这些模型有的是 java ,或者 python 源码的,有的是 exe ,甚至是 linux 下的可执行程序,总值千奇百怪的。我们只要是组装参数丢给模型,然后模型会经过一段时间返回一些结果,有可能是文件,有可能就是一个数组,问题就出现在这个时间上。

刚开始涉及到的模型是 java 的,计算时间也短,十来秒就结束了,我们采用的方案就是直接接口调用,等待响应就好了。

过了一段时间,涉及到的模型计算时间在半个小时晚上,就涉及到了数据的返回,已经这次计算的时候还要判断上次计算是否结束。(因为模型都是只能一次跑一个,没办法多线程运行。)计算时间长了过后,等待响应肯定是不行了,我们又采用了 grpc 的连接。又因为这个的参数组装加实际使用肯不方便,用着用着又搁置了。

现在我们采用的方案就是:设置全局变量,标志模型是否运行状态,还是调用 http 接口,本次计算后,不会等待响应,模型那边封装个通知接口,模型计算完成之后调用业务的通知接口返回参数或者文件,完成一次计算。

各位经验丰富的彦祖有什么更好,更合适一些的建议吗?感激不尽。