杂记
Llama 3.1
Meet的Llama3.1发布了,Llama 3.1 405B在基于15万亿个Tokens、超16000个H100 GPU上进行训练,用网友的话”1.6万个GPU,这训练规模简直就是在给地球做大脑升级!”。


各项指标能对比其他竞品,这个1W6千块的H100 GPU就吓人。在公司看到2018还是2019年公司跑AI时候用的1080TI,卡的细节做工丝毫不逊色于现在的4060甜品卡(我个人在用的技嘉的魔鹰4060),性能方面也不遑多让,毕竟是五六年前的卡了。


用ollma尝鲜跑一下,这个405b的231G,OMG,要不起,运行一个8b的吧


listbucket
本周遇到一个小问题,打算把CDN源站存储迁移到自建的s3上,发现用Nginx代理s3目录的话会有listbucket问题,就是你打开文件目录可以把目录下的文件展示出来,有点像Nginx的auto index,

使用这些大模型去问这个问题,一个能解决的都没有,是Google搜索,有用户提出解决方案,
location ^~ /o****123 {
rewrite ^/o***123/(.+)$ /o**123/$1 break;
proxy_set_header Host "***************";
proxy_pass http://******:****/;
}
效果如下:

listbucket安全漏洞就被暂时修复了。
写在最后
2024年7月马上就过去了,天气很热,特别热。拔掉了坏掉的牙和智齿,不舒服了两天,现在感觉真好,再也不需要担心吃饭的时候智齿摩擦到肉了。人啊有时候不能将就,需要把坏的东西立即清除掉!