工作层面上,全是我一个人干。
1,有几个项目是直接用 rust 实现的ai推理服务:有用li***orch,也有用onnx,还有用candle的。
2,某个 aigc 项目,不过是多语言多架构,rust 只是提供 web 服务层的功能,ai部分还是python,不用 rust 实现的原因是,虽然rust 也能推理,但是我发现生成的图片效果不如python 版本,哪怕所有参数一致,说明底层的推理框架有一些差异。
还有一个是aigc 都有大量的插件配套,这个如果全rust化,我估计…。
对GPU进行性能优化时,cudagraph是绕不开的话题。 ...
实事求是的说,其实鱼,根本就不喜欢吃玉米。 但是玉米的结构...
不是,朋友们,光收藏不点赞会ed啊!!!! 行了我知道你们想...
我是跑58km/h,被误拍成72km/h 证据①我的行车...
漏洞简介 CVE-2024-53900 Mongoose 8...
24年末,我花了几千配了一台台式电脑主机,因为原来的那台已经...