SSE_Market闲置交流分区VUE前端GIN后端项目
软工集市，软工人定义的世界项目介绍SSE_MARKET是一个跨校区的学院内部交流平台，主要以论坛的形式为软工师生提供自由交流和信息汇集的半匿名空间，可在上面看帖、搜索、发帖、评论、回复、点赞等，提供宽松、平等的交流氛围，致力于消除学院内部的信息差以及促进数字文化传承。 SSE_MARKET又称软工集市，主要由21级本科生组成的 SSE_MARKET小组负责设计、开发、部署和维护，它脱胎于软件中级实训课，并在学院的支持下逐步发展，现注册加入师生约 800人，学生包括大一到大四本科生以及各级研究生，教师包括行政老师、技术老师到专业老师等。 软工集市成功交接，欢迎新任成员 – SSE_MARKET博客 (ssemarket.cn) 在2024.3.6，软工集市正式完成交接。现在的软工集市由22级和23级本科生组成的新小组负责开发、部署、优化、维护。 官方博客 商城分区项目介绍在软工集市的不断迭代与扩展中，商城分区作为其核心组件之一，承载着学院内部师生间二手物品交易、闲置资源流转的重任。商城项目采用 Vue.js 构建前端，以 Gin...
SSE_Market运维工作记录（一）
换证书的方法首先是让服务器的管理员把自己的账号添加为服务器的协作者，然后重新登录，选择协作者登录。 进入控制台，选择ssl证书后申请免费证书（免费证书时间为90天） 输入域名后，选择dns自动认证后提交申请。 审核通过后就可以下载证书了，sse_market现在使用的是nginx，下载时选择对应的证书。 之后把下载好的几个文件上传到服务器的/SSE_Market/Nginx目录下（原证书可以直接删掉），重新启动Nginx容器就可以了 docker启动后反复挂掉一般这种情况下就是硬盘爆了（缓存了太多的垃圾）使用一下命令来查看使用情况 1df -h 确定是硬盘满了的情况我们可以使用以下命令来清理缓存 1./clean.sh 清理之后直接重启docker即可 目前硬盘爆了的成因不太清楚，但是已知反复启动docker会导致这种情况 镜像报错目前看来这个报错并不是镜像真的爆了，倒像是反复启动docker导致镜像源那边误判了，一般过段时间就好了，期间如果反复启动镜像可能会加剧这种报错
面向端侧场景的低时延大模型推理优化技术-大创日记（2）
2025/5/24两种量化方法：一、SmoothQuant（平滑量化）：为激活值设计的前处理方法 背景问题：激活值分布不均导致量化误差大在标准量化中，模型中某些 激活值分布跨度特别大，而量化操作必须把整个分布压缩进一个有限的离散数值空间（如 int8 的 [-128, 127]），这会导致信息丢失严重，精度下降。 核心思想：激活-权重平衡（Activation-Weight Balancing）SmoothQuant 的目标是：将激活值的跨度压缩，使其更适合 int8 量化，同时通过权重的反向调整保持输出不变。 原始矩阵乘法：Y = X * W^T SmoothQuant重写：Y = (X / s) * (W * s)^T 二、GPTQ 背景问题：大模型无法微调怎么办？对于 GPT-3、LLaMA 之类的千亿参数级别模型，我们很难用传统方法进行量化微调（QAT），这就需要一种不依赖训练的量化方法（Post-Training Quantization, PTQ）。 核心思想：最小化量化误差（Error-aware...
面向端侧场景的低时延大模型推理优化技术--大创日记（1）
2025/4/3在跑readme里的实例代码时出现了第一个环境问题 cannot import name ‘oneshot’ from ‘llmcompressor’ 我们可以用下面的代码检查库里的函数12import llmcompressorprint(dir(llmcompressor)) 发现确实是没有对应的函数我们可以查阅这段评论里尝试找到解决方法 https://github.com/vllm-project/llm-compressor/issues/1257 2025/4/12解决师兄指定模型跑时的环境问题123import llmcompressor==0.4.1# 将原示例代码from llmcompressor import oneshot 替换为# from llmcompressor.transformers.finetune import oneshot 2025/4/20文件传输经验 本机Windows，从本地传输大量文件到云服务器的经验 打开PowerShell，输入scp...
入门级HEXO+BUTTERFLY+GITHUB PAGE一键部署个人博客经验
一、Hexo简介Hexo是一个开源的静态博客框架，它能够将Markdown或HTML文件渲染成静态网页。它具有以下特点： 速度快：生成静态文件，加载迅速。 易扩展：支持丰富的插件和主题。 部署方便：可以轻松部署到GitHub Pages、Vercel等平台。 二、搭建前的准备工作在开始搭建之前，需要确保你的电脑上已经安装了以下工具： Node.js：Hexo基于Node.js运行，因此需要先安装Node.js。 Git：用于版本控制和部署博客。 如果没有安装的话可以查看hexo的官方文档按照步骤安装。 我这里安装Node.js时是通过了nvs来安装，如果通过nvs来安装，需要手动添加一下环境变量。 安装完成后，可以通过以下命令检查是否安装成功： 123node -vnpm -vgit --version 三、安装HEXO在准备好一切后我们开始开始hexo的安装了 1npm install -g...
Hello World
Welcome to Hexo! This is your very first post. Check documentation for more info. If you get any problems when using Hexo, you can find the answer in troubleshooting or you can ask me on GitHub. Quick StartCreate a new post1$ hexo new "My New Post" More info: Writing Run server1$ hexo server More info: Server Generate static files1$ hexo generate More info: Generating Deploy to remote sites1$ hexo deploy More info: Deployment