Ray

大模型本地部署测试

最近打算升级我的5080, 看5090很香。 但是不知道实际效果如何。于是突发奇想使用大模型测试一番看看效果 要看5090能干嘛,当然不能直接买,于是在AUTODL上面充值了100,试试水。 这里都是些主观性的测试,大家看看就好。主要测试的是酒馆的角色卡。 这里直接贴数据: 模型 qwen2.5:32b 首先是5090, 32gb的显存,虽然能用,但是上下文号称是32k, 但是实际拉...

https免费证书获取方式

一般来说,小项目确实没有https证书需求的。 但是,在某些场景中(比如docker registry使用),就需要默认使用http证书,不然就需要增加安全信任配置, 一个两个还好,多了就麻烦了。 所以这里记录两个很简单的https证书获取方式(两种证书都是从Let’s Encrypt中签发,支持泛域名,默认有效期3个月,会自动续期): 1. 使用acme.sh脚本获取证书 acme...