新电脑要来了！我们来看看 Windows 下有什么好用的工具吧！

效率工具

1、剪切板神器—Ditto

主要用途：记录剪切板历史，可以找到之前复制的内容，这样，有的东西就不需要反复复制啦

优点：

• Ditto使用默认快捷键（Ctrl + `）调出主页面后，可以看到Ditto按照剪切顺序倒叙保存所有剪贴项，还支持为剪贴项分组，方便管理。
• 此外Ditto支持多种格式的数据，包括富文本、图片和文件路径，可以自定义添加或删除。

2、截屏工具—Snipaste

主要用途：系统截屏，截图简单快捷、也可以将截图的结果固定在桌面上，用完销毁即可

3、预览工具—Quicklook

主要用途：空格可以预览文件内容、文件夹大小等信息，比如 word、 txt、markdown 文件，无需打开，按一下空格即可预览文件内容

优点：

• 支持的格式有
  • 图片：.png, .jpg, .bmp, .gif, .psd, .apng 压缩包：.zip, .rar, .tar.gz, .7z
  • 文档：.pdf, .txt, .html, .htm, .md, .markdown, .csv, .eml Office
  • 全家桶：Word (.doc, .docx), Excel (.xls, .xlsx), PowerPoint (.ppt, .pptx)
  • 视频文件：.mp4, .mkv, .m2ts
  • 音频文件：.mp3, .ogg, .m4a

4、压缩软件—7zip

主要用途：可用于解压、压缩文件，轻便快捷

优点：

• 小巧、免费、干净无广告、开源；
• 功能强大，所有压缩软件有的功能，都有；
• 压缩比高、占用资源少；
• 典型的用完即走模式

5、本地查找神器—Everything

主要用途：基于名称快速定位文件和文件夹；可以光速找到你想在电脑中想找的文件；速度比 Windows 自带的文件搜索快无数倍

优点：

• 轻量安装文件、干净简洁的用户界面、快速文件索引、快速搜索、快速启动、最小资源使用、轻量数据库、实时更新
• 速度非常快
• 支持正则表达式

视频工具

1、本地播放器—Potplayer

主要用途：本地播放视频，倍速调节、字幕查找等功能很实用

优点:

• 拥有强大的解码库，各种格式的视频都能够播放，而且对电脑的要求也比较低，播放起来十分流畅！

系统相关

1、火绒

• 不解释，无广告，最舒心的杀毒软件

2、CCleaner

• 可以大量释放磁盘空间

后续再更新推荐的 Chrome 插件

虽然被安利了Pycharm中的集成化Git，但很多时候命令行更加直接。
在命令行中我们提交git commit时采用的命令为

1

git commit -m "commit message"

但是这样只能写一行说明语句，若想写多行说明语句，则可以多次使用-m选项
如

1

git commit -m "commit title" -m "commit description"

则会导致如下结果

1
2
3
4
5
6
7
8
9

Author: Maydaytyh
Date:   Sun June  17:46:21 2022

    commit title

    commit description

 test.txt | 0
 1 file changed, 0 insertions(+), 0 deletions(-)

此外，可以通过不封闭引号来达到相同的提交结构，也可以达到相同的目的，如下所示。

1
2
3

git commit -m "commit title
>
> commit description"

记录一些好的文档书写习惯。

语言风格

• 技术文档中不推荐使用只有特定人群才了解的语词，如行业黑话或网络流行语
• 正确使用的、地、得
• 不使用该、其等指代词，要说清楚
• 不使用较好、很好等修饰词，要详细说明衡量指标

  文档结构样式

  标题

• 一级扣一级，不跳用标题样式
• 若非必要，不使用四级及以上标题，可采用list代替
• 标题包括不限于
  • 名词词组 “…概述”
  • 主题词+动词
  • 动词+主题词
  • 定语+主题词
  • 介词+定语+主题词
• 标题中不以标点符号结尾
• 标题与标题之间应有引导性语言

段落

• 一个段落长度在 50-200 字之间，尽量不超过 250 字
• 避免只有一个句子，合理断句，避免一逗到底
• 开头不缩进，顶格开始即可
• 技术描述类主题，考虑先图表后句子

文档内容描述

空白符号

• 禁止出现全角空格
• 中文字符之间禁止出现半角空格
• 英文字符和阿拉伯数字应背半角空格包围，但在句首或右侧为半角空格时，则省略
• 不同段落、不同排版格式之间建议使用一个空行分开

  Tab 和空格的使用

• 禁止混用 Tab 和空格进行缩进

  列表

• 当元素间顺序不重要时，使用无序列表；当元素间顺序重要时，使用有序列表
• 使用有序列表的几个场景
  • 必须按照顺序操作的步骤
  • 排名分先后
  • 需要在下文明确引用的规则或其他信息
• 并列列表项中采用相似的句子结构
• 每一项长度尽量接近
• 不在每一项开头采用相同的词语
• 并列列表要保持标点一致
  • 若为句子，则以句号结尾
  • 若为词组，则结尾不加标点
  • 若既有句子也有词组，则统一采用句号结尾

    代码块

• 前后需要加空行
• 若在列表缩进中，则在原先缩进基础上再缩进四格
• 尽量提供复制按钮，提高可用性
• 注释不应太长，一般以句号结尾

  链接

• 链接格式
  • 若链接到同一文档其他标题，则应为[文档标题](#具体标题)
  • 若链接到相邻文档，则应为[文档标题](../文档路径)
  • 若链接到外部站点，则应为[文档标题](文档链接)
• 若链接到相邻文档，且链接的文档篇幅很长，则应定位到具体引用的部分

  缩略语

  汉语缩略语

• 在第一次使用时说明情况

  英语缩略语

• 首次使用解释完整含义
• 禁止使用无规则、不规范的缩略语

  单位符号

• 为避免指代不明，建议用汉字名称代替单位符号
• 除了摄氏度、度、百分号、英尺英寸等符号外，其他情况下，数值与单位符号之间需要空一个半角空格

  标点符号

• 方括号表示窗口名、菜单名，如“弹出[新建任务]窗口”
• 带尖括号表示按钮名、键名等
• 英文手册名称用中文双引号或斜体表示，不使用书名号
• 连接号
  • 一字线——表示起止
  • 浪纹线~表示范围
  • 复合名词用短横线-
• 破折号————表示解释
• 中文语境下的标点符号必须使用全角形式
• 中英文括号的使用
  • 括号里全为英文时，使用半角括号，并在括号前后各空一个半角空格
  • 括号里既有中文又有英文时，使用全角括号，括号前后不空格

名称与命名

文件命名

• 文件名由多个英文单词组成时，使用-隔开
• 不建议在文件名中使用下划线
• 禁止大小写混用

用于记录The Missing Semester of Your CS Education

Lecture1–The Shell

ls

-l indicates use a long listing format

1
2

missing:~$ ls -l /home
drwxr-xr-x 1 missing  users  4096 Jun 15  2019 missing

第一个参数表示文件类型

后面三组共9个参数用来表示不同用户对该文件的操作权限

| 属主权限 | 属组权限 | 其他人权限 | 属主 | 属组

find

Shebang

在计算领域中，Shebang（也称为Hashbang）是一个由井号和叹号构成的字符序列#!，其出现在文本文件的第一行的前两个字符。 在文件中存在Shebang的情况下，类Unix操作系统的程序加载器会分析Shebang后的内容，将这些内容作为解释器指令，并调用该指令，并将载有Shebang的文件路径作为该解释器的参数

例如，以指令#!/bin/sh开头的文件在执行时会实际调用/bin/sh程序（通常是Bourne shell或兼容的shell，例如bash、dash等）来执行。这行内容也是shell脚本的标准起始行

这也是为什么bash文件前面会添加一个#!/bin/sh

基本用法

前缀键

Tmux 窗口有大量的快捷键。所有快捷键都要通过前缀键唤起。默认的前缀键是Ctrl+b，即先按下Ctrl+b，快捷键才会生效。

启动会话

1

$ tmux

上面指令直接创建会话，会以0、1、2等来对会话进行编号，不太容易区分，若想对会话起名，可采用如下指令

1

$ tmux new -s <session-name>

分离会话

可使用Ctrl+b d或者输入tmux detach指令来分离当前会话，并不关闭

接入会话

tmux attach指令用于重新接入某个已存在的会话

1
2
3
4

# 使用编号
$ tmux attach -t 0
# 使用名称
$ tmux attach -t <session-name>

杀死会话

tmux kill-session命令用于杀死某个会话

1

$ tmux kill-session -t 0/<session-name>

切换会话

tmux switch命令用于切换会话

1

$ tmux switch -t 0/<session-name>

重命名会话

tmux rename-session命令用于重命名会话

1

$ tmux rename-session -t 0 <new-name>

这条指令会将0号会话重命名为new-name

快捷键

Ctrl+b d用于分离当前会话

Ctrl+b s：列出所有会话

Ctrl+b $：重命名当前会话

窗格操作

划分窗格

tmux split-window命令用于划分窗格

1
2
3
4

# 划分为上下两个窗格
$ tmux split-window
# 划分为左右两个窗格
$ tmux split-window -h

移动光标

tmux select-pane命令用来移动光标的位置

1
2
3
4
5
6
7
8

# 光标切换到上方窗格
$ tmux select-pane -U
# 光标切换到下方窗格
$ tmux select-pane -D
# 光标切换到左边窗格
$ tmux select-pane -L
# 光标切换到右边窗格
$ tmux select-pane -R

切换窗口

tmux select-window命令用来切换窗口

1
2
3
4

# 切换到指定编号的窗口
$ tmux select-window -t <window-number>
# 切换到指定名称的窗口
$ tmux select-window -t <window-name>

重命名窗格

tmux rename-window命令用于为当前窗口起名

1

$ tmux rename-window <new-name>

窗口快捷键

1
2
3
4
5
6

Ctrl+b c：创建一个新窗口，状态栏会显示多个窗口的信息
Ctrl+b p：切换到上一个窗口（按照状态栏上的顺序）
Ctrl+b n：切换到下一个窗口
Ctrl+b <number>：切换到指定编号的窗口，其中的<number>是状态栏上的窗口编号
Ctrl+b w：从列表中选择窗口
Ctrl+b ,：窗口重命名

快捷键

系统指令

窗口指令

面板指令

参考文献

1、Tmux使用手册

2、Tmux 使用教程- 阮一峰的网络日志

LHY_ML_HW1_Regression

重新熟悉了一下Colab的使用方式，还是挺好用的。

Baseline

直接运行给出的Sample Code即可通过Baseline，不得不说这倒是给了同学们选择，想躺平的起码能学会最基本的操作，也能获得一些分数，但是如果想获得更多的分数，就得自己进行进一步优化咯。

Medium

Sample Code中也给出了提示，可以通过减少特征数目来增强模型的学习能力，这里选择前40列，第57列以及第75列，作为训练数据，这样便能获取更好的效果

Strong

上一步中我们特征削减这件事情做的有些过分，因此可以从增加特征数目入手，参考别人的做法，进行以下几个方面的改进：

特征选取

使用sklearn的f_regression方法来获取影响最大的特征，示例代码如下

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21

import pandas as pd
import numpy as np

data = pd.read_csv('/kaggle/input/ml2021spring-hw1/covid.train.csv')
x = data[data.columns[1:94]] #这里是利用columns函数获取1:94列或94列的索引
y = data[data.columns[94]]

from sklearn.feature_selection import SelectKBest
from sklearn.feature_selection import f_regression

from sklearn import preprocessing
x = (x - x.min()) / (x.max() - x.min())

bestfeatures = SelectKBest(score_func=f_regression, k=5)
fit = bestfeatures.fit(x,y)
dfscores = pd.DataFrame(fit.scores_)
dfcolumns = pd.DataFrame(x.columns)
#concat two dataframes for better visualization 
featureScores = pd.concat([dfcolumns,dfscores],axis=1)
featureScores.columns = ['Specs','Score']  #naming the dataframe columns
print(featureScores.nlargest(15,'Score'))  #print 15 best features

下面附上这个类的官方文档。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35

class SelectKBest(_BaseFilter):
    """Select features according to the k highest scores.
    Read more in the :ref:`User Guide <univariate_feature_selection>`.
    Parameters
    ----------
    score_func : callable
        Function taking two arrays X and y, and returning a pair of arrays
        (scores, pvalues) or a single array with scores.
        Default is f_classif (see below "See also"). The default function only works with classification tasks.
    k : int or "all", optional, default=10
        Number of top features to select.
        The "all" option bypasses selection, for use in a parameter search.
    Attributes
    ----------
    scores_ : array-like, shape=(n_features,)
        Scores of features.
    pvalues_ : array-like, shape=(n_features,)
        p-values of feature scores, None if `score_func` returned only scores.
    Notes
    -----
    Ties between features with equal scores will be broken in an unspecified
    way.
    See also
    --------
    f_classif: ANOVA F-value between label/feature for classification tasks.
    mutual_info_classif: Mutual information for a discrete target.
    chi2: Chi-squared stats of non-negative features for classification tasks.
    f_regression: F-value between label/feature for regression tasks.
    mutual_info_regression: Mutual information for a continuous target.
    SelectPercentile: Select features based on percentile of the highest scores.
    SelectFpr: Select features based on a false positive rate test.
    SelectFdr: Select features based on an estimated false discovery rate.
    SelectFwe: Select features based on family-wise error rate.
    GenericUnivariateSelect: Univariate feature selector with configurable mode.
    """

网络结构改进

• 使用BN，在防止过拟合的同时，加速模型训练
• 使用Dropout，减小过拟合
• 更换激活函数为LeakyReLU
• 损失函数添加L2正则
• 更换优化器

  防止过拟合的几种办法总结

• L1正则
  • 增加了参数矩阵的稀疏表达(参数矩阵中一部分参数为0),可以进行特征选择,通过保留重要的特征,舍弃不重要特征,达到防止过拟合效果
• L2正则
  • 衰减了参数的值，从而有效地完成过拟合
• Batch Normalization
  • 在训练中，BN的使用使得一个mini-batch中的所有样本都被关联在了一起，因此网络不会从某一个训练样本中生成确定的结果。就是一个batch数据中每张图片对应的输出都受到一个batch所有数据影响,这样相当于一个间接的数据增强,达到防止过拟合作用.
  • 此外，BN还具有加速模型训练的速度，BN在训练时候,会把每一层的Feature值约束到均值为0,方差为1,这样每一层的数据分布都会一样,在二维等值线上的表现就是圆形,能加快梯度下降法的收敛速度,而且,数据被约束到均值为0 ,方差为1,相当于把数据从饱和区约束到了非饱和区,这样求得的梯度值会更大,加速收敛,也避免了梯度消失和梯度爆炸问题
• Dropout
  • 随机丢掉网络的一部分,相当于每次都有一个新的残缺网络,每个残缺网络都学到不同的局部特征,多个残缺网络就能充分学到数据的局部特征,这样,测试数据不论怎么变,只要有局部特征,网络就能起作用(我都认识你),这样比总要比仅在单个健全网络上进行特征学习，其泛化能力来得更加健壮

    激活函数总结

TODO

Sigmoid函数

tanh函数

ReLU函数

Leaky ReLU函数

ELU (Exponential Linear Units) 函数

MaxOut函数

如何选用

L1、L2详解

常见的最优化问题只是考虑了对于数据的拟合，却忽略了模型本身的复杂度，因此我们引入了正则项，用于描述模型本身的复杂度，最优化目标便成为损失与正则项的加和。

上图为西瓜书中的插图，用于解释$L1$、$L2$正则化各自的特点。

首先说明，$L1$正则化适用于使得参数稀疏化，而$L2$正则化适用于使得参数稠密的接近于0️⃣。

从公式角度分析的已经太多，这里从等值线角度进行分析。

上图中$w_1$以及$w_2$为模型的两个参数。图中存在三组等值线，位于同一条等值线的参数，具有同样的误差、$L2$、$L1$范数。而我们优化的目标在于找到范数与误差的加和最小的参数。

对于$L1$范数，其等值线为菱形，因此与误差等值线的交点更容易出现在坐标轴上，此时有参数的值为0，从而实现了参数的稀疏化。

对于$L2$范数，其等值线为圆形，与误差等值线的交点的位置无规律性，无法实现稀疏性；但由于交点在圆上，根据圆的优良性质，参数的值会比较接近，也就实现了参数在0️⃣附近稠密且平滑。

下面为Pytorch的实现。

1
2
3

for param in model.parameters():
            # regularization_loss += torch.sum(abs(param))
        regularization_loss += torch.sum(param ** 2)

优化器总结

https://zhuanlan.zhihu.com/p/58236906

反向传播算法

todo

在运行一个数据预处理的代码时，估算了一下时间，发现没10个小时跑不完，而我又不可能一直开着电脑（走动+晚上断电)，于是想起之前看到的后台运行程序，运行开始后，不用担心本地机关机或断网，可以说很舒服了。

screen指令

一开始看到的是screen指令，但是服务器的机子并没有安装……但还是记录一下用法吧

1
2
3
4
5
6
7
8
9
10
11

screen -S name 创建一个新的screen

输入你想要的运行的内容

ctrl-a d 先按ctrl+a，再按d，dettach，此时你可以关闭连接了

screen -ls 查看当前有哪些会话，并显示id

screen -r id 恢复会话

screen -S id -X quit 删除会话

nohup指令

1
2
3

nohup ./start-dishi.sh >output 2>&1 &

jobs 查看后台运行的任务

操作系统中有三个常用的流：
　　0：标准输入流 stdin
　　1：标准输出流 stdout
　　2：标准错误流 stderr
一般当我们用 > console.txt，实际是 1>console.txt的省略用法；< console.txt ，实际是 0 < console.txt的省略用法。

2>&1意思是把标准错误（2）重定向到标准输出中（1），而标准输出又导入文件output里面，所以结果是标准错误和标准输出都导入文件output里面了。

一、所调用的库

argparse库

argparse 是 Python 内置的一个用于命令项选项与参数解析的模块，通过在程序中定义好我们需要的参数，argparse 将会从 sys.argv 中解析出这些参数，并自动生成帮助和使用信息。当然，Python 也有第三方的库可用于命令行解析，而且功能也更加强大，比如 docopt，Click。

logging库

这个模块为应用与库实现了灵活的事件日志系统的函数与类。

使用标准库提提供的 logging API 最主要的好处是，所有的 Python 模块都可能参与日志输出，包括你自己的日志消息和第三方模块的日志消息。

time和datetime库

在python文档中，time是归类在常规操作系统服务中，它提供的功能更加接近于操作系统层面。其所能表述的日期范围被限定在1970-2038之间，如果需要表述范围之外的日期，可能需要考虑使用datetime模块更好。

datetime比time高级了不少，可以理解为datetime基于time进行了封装，提供了更多实用的函数

pickle库

pickle模块实现了基本的数据序列化和反序列化。通过pickle模块的序列化操作我们能够将程序中运行的对象信息保存到文件中去，永久存储；通过pickle模块的反序列化操作，我们能够从文件中创建上一次程序保存的对象

pickle模块是以二进制的形式序列化后保存到文件中（保存文件的后缀为”.pkl”），不能直接打开进行预览。而python的另一个序列化标准模块json，则是human-readable的，可以直接打开查看（例如在notepad++中查看）。

pickle模块有两类主要的接口，即序列化和反序列化。

numpy库

机器学习算法中大部分都是调用Numpy库来完成基础数值计算的。

数组的创建与使用

数组的创建

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16

>>> x=np.array([[1.0,0.0,0.0],[0.,1.,2.]]) #定义了一个二维数组，大小为（2，3）
>>> x
array([[1., 0., 0.],
       [0., 1., 2.]])
>>> x.ndim   #数组维度数
2
>>> x.shape    #数组的维数，返回的格式(n,m),其中n为行数，m为列数
(2, 3)
>>> x.size    #数组元素的总数
6
>>> x.dtype   #数组元素类型
dtype('float64')  #64位浮点型
>>> x.itemsize  #每个元素占有的字节大小
8
>>> x.data    #数组元素的缓冲区
<memory at 0x00000205227DAC18>

还有两种创建序列数组的函数arrange和linspace，和range函数类似，但它们都属于Numpy里面。
arange(a,b,c) 参数分别表示开始值，结束值，步长
linspace(a,b,c) 参数分别表示开始值，结束值，元素数量
还可以调用它们自身的方法reshape()指定形状

1
2
3
4
5
6
7
8
9
10

>>> arange(15).reshape(3,5)
array([[ 0,  1,  2,  3,  4],
       [ 5,  6,  7,  8,  9],
       [10, 11, 12, 13, 14]])
>>> arange(10,30,5)
array([10, 15, 20, 25])
>>> arange(0,2,0.3)
array([0. , 0.3, 0.6, 0.9, 1.2, 1.5, 1.8])
>>> linspace(0,2,9) # 0~2之间生成9个数字
array([0.  , 0.25, 0.5 , 0.75, 1.  , 1.25, 1.5 , 1.75, 2.  ])

还有创建概率分布的形式创建ndarray数组

1
2
3
4
5
6
7

#高斯分布
np.random.randn(shape)#生成对应形状（shape）的高斯分布
np.random.normal(loc, scale, size)#生成均值为loc，标准差为scale，形状（shape）为size的高斯分布

#均匀分布
np.random.rand(shape)#生成对应形状（shape）的均匀分布
np.random.uniform(low, high, size)#生成一个从[low, high)中随即采样的，样本数量为size的均匀分布

还有特殊数组

• zeros数组：全零数组，元素全为零。
• ones数组：全1数组，元素全为1。
• empty数组：空数组，元素全近似为0。

数组的使用

数组的拷贝

数组拷贝分为浅拷贝和深拷贝，浅拷贝是复制数组的地址，如果对拷贝进行修改，则源数组也会被修改；而深拷贝是使用copy()函数，相当于重建了一个数组，修改不会对源数组产生影响

数组的合并与分割

1
2
3
4
5
6
7
8
9
10

np.hstack((a,b))#按行合并，要求a和b的行数相同
np.vstack((a,b))#按列合并，要求a和b的列数相同
np.c_[a,b]#用法如同np.hstack((a,b))
np.r_[a,b]#用法如同np.vstack((a,b))
np.concatenate((a,b), axis = 1)#按行合并，要求a和b的行数相同
np.concatenate((a,b), axis = 0)#按列合并，要求a和b的列数相同
#若concatenate函数不指定axis，则默认为0，默认按列合并；而一维数组只能按行合并

np.split(arr, n)#n要么是整数，要么是列表，用来进行划分，n为整数时必须是能均匀划分
np.array_split(arr, n)#类似上面的用法，但是可以不均等划分

数组降维

1
2

ravel()#返回一维数组，但是改变返回的一维数组内容后，原数组的值也会相应改变
flatten()#返回一维数组，改变返回的数组不影响原数组

矩阵相关

创建矩阵

1
2
3
4
5
6
7
8
9
10

>>> A=matrix('1.0 2.0;3.0 4.0')
>>> A
matrix([[1., 2.],
        [3., 4.]])
>>> b=matrix([[1.0,2.0],[3.0,4.0]])
>>> b
matrix([[1., 2.],
        [3., 4.]])
>>> type(A)
<class 'numpy.matrixlib.defmatrix.matrix'>

矩阵运算

1
2
3
4
5
6
7
8
9
10
11
12
13
14

>>> A.T      #转置
matrix([[1., 3.],
        [2., 4.]])
>>> x=matrix('5.0 7.0')
>>> y=x.T
>>> y
matrix([[5.],
            [7.]])
>>> print(A*y)   #矩阵乘法
[[19.]
 [43.]]
>>> print(A.I)   #逆矩阵
[[-2.   1. ]
 [ 1.5 -0.5]]

LA相关函数

• numpy.dot()
  此函数返回两个数组的点积。 对于二维向量，其等效于矩阵乘法。 对于一维数组，它是向量的内积。 对于 N 维数组，它是a的最后一个轴上的和与b的倒数第二个轴的乘积。
• numpy.vdot()
  此函数返回两个向量的点积。 如果第一个参数是复数，那么它的共轭复数会用于计算。 如果参数id是多维数组，它会被展开。
• numpy.inner()
  此函数返回一维数组的向量内积。 对于更高的维度，它返回最后一个轴上的和的乘积。
• numpy.linalg.det()
  计算输入矩阵的行列式
• numpy.linalg.solve()
  该函数给出了矩阵形式的线性方程的解
• numpy.matmul()
  函数返回两个数组的矩阵乘积。当两个数组都是二维数组的时候，就是数学上的两个矩阵的乘积。

pytorch学习

clamp()和clamp_()的区别

clamp()函数的作用是将a数组的每个元素的值压缩到[min,max]之间，并返回一个新的张量
而clamp_()函数是直接在原张量上进行操作，而不是返回一个新的张量

二、机器学习常用函数

train_test_split()

train_test_split()函数是用来随机划分样本数据为训练集和测试集的，当然也可以人为的切片划分。

1
2
3
4
5
6
7
8
9
10
11
12

train_X,test_X,train_y,test_y = train_test_split(train_data,train_target,test_size=0.3,random_state=5)

参数解释：

train_data：待划分样本数据

train_target：待划分样本数据的结果（标签）

test_size：测试数据占样本数据的比例，若整数则样本数量

random_state：设置随机数种子，保证每次都是同一个随机数。若为0或不填，则每次得到数据都不一样

一、引言

我们常用的算法是逻辑回归，判别模型，即找到0和1之间的界限，找到一个决策边界，来区分0和1，而生成学习算法是通过0的特征学习出一个0的模型，根据1的特征学习出一个1的模型，对于一个新的样本，分别放入0 1的模型中，先求得是0的概率，再求是1的概率，进行比较，即可确定类型。这里计算概率使用的是贝叶斯公式。主要完成对$p(x|y)$和$p(y)$的建模

二、高斯判别分析（Gaussian Discriminant Analysis）

假设$p(x|y)$满足多维正态分布

概率分布为

极大似然估计求得所有的参数

其中，$ϕ$ 是训练样本中结果y=1占有的比例，$μ_0$是y=0的样本中特征均值，$μ_1$ 是y=1的样本中特征均值，$Σ$ 是样本特征方差均值。

注意这里的参数有$μ_0$和$μ_1$，表示在不同的结果模型下，特征均值不同，但我们假设协方差相同。反映在图上就是不同模型中心位置不同，但形状相同。这样就可以用直线来进行分隔判别。

所以我们得到这样的图像

三、朴素贝叶斯（Naive Bayes）

当$x$是离散值时，我们假设垃圾邮件分类的情况。将一封邮件作为输入向量，如果字典中第$i$个词在字典中出现，则$x_i$=1，反之$x_i$=0，这样我们得到所需的特征向量。

现在对$p(x|y)$建模，假设字典中有50000个词，$x \in{0,1}^{50000}$，如果采用多项式建模， 将会有$2^{50000}$种结果，$2^{50000}$−1维的参数向量，这样明显参数过多，很难进行计算。所以为了对$p(x|y)$建模，需要做一个强假设，假设x的特征是条件独立的，这个假设称为朴素贝叶斯假设(Naive Bayes (NB) assumption),这个算法就称为朴素贝叶斯分类(Naive Bayes classifier).

根据概率论的链式法则性质和朴素贝叶斯假设，我们可以得到如下等式

根据联合似然函数，再依次得到参数的最大似然估计值，我们对一个全新的样本进行预测，特征为$x$，则有

因为分母对于y取0或1是一样的，所以只需要计算比较分子即可确定分类。

四、拉普拉斯平滑（Laplace smoothing）

朴素贝叶斯模型已经能不错的解决离散值的问题，可是对于数据稀疏问题，朴素贝叶斯模型并不能很好的解决，还是针对邮件分类问题，假设收到了一封含有NIPS的邮件，但是NIPS从未在垃圾邮件或者正常邮件中出现过，假设NIPS在字典中位子伟35000，则计算概率时，
而后验概率计算得到的为$\frac{0}0$，也就不知道该如何预测了。

这里我们引入拉普拉斯平滑，将估计替换为

这里首先是对分子加1，然后对分母加k，要注意$\sum^k_{j=1} \phi_j = 1$依然成立（自己检验一下），这是一个必须有的性质，因为$\phi_j$
是对概率的估计，然后所有的概率加到一起必然等于1。另外对于所有的$j$值，都有$\phi_j \neq 0$，这就解决了刚刚的概率估计为零的问题了。在某些特定的条件下（相当强的假设条件下，arguably quite strong），可以发现拉普拉斯平滑还真能给出对参数$\phi_j$ 的最佳估计（optimal estimator）

在朴素贝叶斯问题上，使用拉普拉斯平滑后得到的公式则为

注：在实际应用中，是否对$\phi_y$使用拉普拉斯平滑影响不大，因为$\phi_y$是对$p(y=1)$的一个合理估计，而垃圾邮件与正常邮件是成一定比例的，所以$\phi_y$与零点存在一定的距离。

在~/.zshrc 中添加如下内容（如果是是bash用户那么配置文件为~/.bash_profile）

1
2
3

# 为终端设置代理
alias proxy='export all_proxy=socks5://127.0.0.1:1080'
alias unproxy='unset all_proxy'

修改完成后source对应的文件即可

其中，1080为端口号，需要和自己的代理软件的设置保持一致。

这样在终端中使用proxy命令就可以打开代理，使用unproxy就可以关闭代理。

效果如图

于是开始检查网页的代码有什么猫腻

一开始看到注释中写着Flash添加处，还以为是flash播放器，便去寻找flash倍速的方法，感觉还是很麻烦

接着看代码，发现了好几个video标签，便猜测是不能准确捕获video标签的原因，找到视频对应的真实标签，然后通过ID获取此标签，再调整倍速即可

如上图，发现所有的视频都是存在ID为”Video2_html5_api”的Video中，使用如下代码即可

1
2

var video= document.getElementById('Video2_html5_api');
video.playbackRate=16

注：播放速率可为0.025～16

第一次更新BigSur，在命令行运行gcc出现了xcrun: error: invalid active developer path, missing xcrun的报错。

经搜索，需要重新安装命令行工具Command Line Tools，是因为更新系统时原来的 Command Line Tools 被自动卸载了，所以重新安装即可。

在终端中执行如下指令即可

1

xcode-select --install

Command Line Tools包含的工具很多，如下所示

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90

ar
as
asa
bison
BuildStrings
c++
c89
c99
cc
clang
clang++
cmpdylib
codesign_allocate
CpMac
cpp
ctags
ctf_insert
DeRez
dsymutil
dwarfdump
dyldinfo
flex
flex++
g++
gatherheaderdoc
gcc
gcov
GetFileInfo
git
git-cvsserver
git-receive-pack
git-shell
git-upload-archive
git-upload-pack
gm4
gnumake
gperf
hdxml2manxml
headerdoc2html
indent
install_name_tool
ld
lex
libtool
lipo
lldb
lorder
m4
make
MergePef
mig
mkdep
MvMac
nasm
ndisasm
nm
nmedit
otool
pagestuff
projectInfo
ranlib
rebase
redo_prebinding
ResMerger
resolveLinks
Rez
RezDet
RezWack
rpcgen
segedit
SetFile
size
SplitForks
strings
strip
svn
svnadmin
svndumpfilter
svnlook
svnrdump
svnserve
svnsync
svnversion
unifdef
unifdefall
UnRezWack
unwinddump
what
xml2man
yacc

均值不等式

均值不等式证明

整数拆分问题

即将一个数$ $拆分为$k$个数，使得$k$个数乘积最大。

由均值不等式易得$k$个数相等时 乘积是最大的，那么这$k$个数应该等于多少呢？

即求$f(x)=x^{\left(\frac{n}{x}\right)}$的最大值

$f(x)=x^{\left(\frac{n}{x}\right)}=e^{\frac{n}{x} \ln x}$

易得$h(x)=\frac{1}{x} \ln x$ 与$f(x)$有相同的单调性

$h^{\prime}(x)=\frac{1-\ln x}{x^{2}}$

可知，x=e时，$f(x)$取得最大值，由于2不是整数，所以可以是2或3.

则将$n$拆分为尽量多的3以及少量2即可。

总结可得

线性代数性质

$$
\operatorname{tr}(A B)=\operatorname{tr}(B A)
$$

证明：
$$
\operatorname{tr}(A B)=\sum_{i=1}^{m}(A B){i i}=\sum{i=1}^{m} \sum_{j=1}^{n} a_{i j} b_{j i}=\sum_{i=1}^{m} \sum_{j=1}^{n} b_{j i} a_{i j}=\sum_{i=1}^{n}(B A)_{i i}=\operatorname{tr}(B A)
$$

在函数进行参数传递时，如果采用形式参数传递，则需要进行拷贝，将会有额外的时间和空间的开销，而使用引用类型传递，因为自始自终使用的都是一个东西，只是起了几个名字而已，所以就没有额外的开销，时间和空间上都有不小的提升。

引用传递本质是指针，对于基本数据类型 ，引用传递和非引用基本没有区别（基本类型复制较快）， 而对于容器或者自定义类型 复制成本非常高（因为这里会调用 拷贝构造函数，具体是深拷贝还是浅拷贝，需要取决于你是否重写拷贝构造函数）

迁移hexo博客相关

要做的事情无非就是下面几步

• 在新环境中安装git
• 在新环境中安装node
• 在新环境中安装hexo
• 复制Blog文件夹的全部内容到新环境
• 配置ssh，添加密钥到github
• 测试即可完成

hexo博客如何给一篇文章设立多个分类

从前以为下面的方式就是给一篇文章设置多个分类，最近才发现这样设置的是多级目录

1
2
3

categories: 
            - 技术
            - Blog

要想设置多个目录，只需要给分类加上[]即可，如下所示

1
2
3

categories: 
            - [技术]
            - [Blog]

• 不要花时间折腾一些对于使用没什么大影响的东西，要看重内容

• 不影响使用的bug，如今天遇到的“体系结构 arm64 不受支持”这一C/C++扩展的bug，而且网上也找不到解决方案，不必折腾，让子弹飞一会儿

• 面对问题，要克制自己的冲动，选择bug最少的解决方案

使用Pyquery爬虫时，在自己的Windwos下运行没有问题，但是别人那里爬不到任何信息，而且爬两次就会报错403 Forbidden。

我很是迷惑，因为报错信息是urllib库的内容，而我没有使用urllib库，检查发现，Pyquery库在解析网页时会调用Requests库

这时，学长让我加个Header，感觉是被反爬虫机制干了，我提议先装一个Reuqests库试试，果然，是换了个编译器忘了装Requests库了，而我也加上了Header，问题得到了解决。

附：Agent代码

1
2
3
4
5

headers = {
    'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/60.0.3112.113 Safari/537.36'
}
webBase += str(year) + "-" + str(month) + "-" + str(day) + "/"
doc=pq(webBase, encoding="utf-8", headers=headers)

2020年初，我还在欢乐地带着玉米接待sjy和wsy，那几天真的好快乐喔，尽管sjy这个闷骚的家伙在玉米在的时候就能憋着不说话，晚上回去又属他话多，但还是真的好快乐，记得和他们在大学城北站告别的时候，我在回学校的路上一直在想，为什么无比欢乐的时光总是这么短暂呢？不由想起来，两年前清明节他们俩来找我，结果wsy因为要上军理先溜了，sjy因为要回去数学建模培训也先溜了，那个时候就在想，无忧无虑的时光早已一去不复返了，我们身上都已经背上了一份份责任，对自己，对别人。

快乐有在变少吗？其实也未必，只是我们获得快乐越来越难了。生活中也许还有百般简单的快乐，但是真正的大快乐在于我们一直担心的事情有了好结果那一瞬间，那一个如释重负的瞬间，或许是在阳光微醺的午后，或许是在星空寂语的深夜，一天中的时时刻刻，都可能会带给我们惊喜。每个接到惊喜的人，怎么能抑制住心中的兴奋呢？所以，其实我们快乐的能力并没有丧失，只是我们获得快乐越来越难了。

这怎么就扯远了呢。

软测考试是元旦之前还是之后我都记不清了，只是依稀记得有一个1.4的考试，那应该就是了吧。那这里不得不提前说一下之后的软测大作业，真的离谱，让我们自己爬代码，写自动化测试程序，测试java7和java8的输入、形式都相同，但是结果不同的API。。虽然这门课最后得分还挺好的，但是写大作业的那几天想做点东西却不知道做什么的无力感是真的难受。

时间来到了每年年前期末的生病阶段，肠胃型感冒，一晚上起来七八次，校医院医生只是直说赶紧转诊急救去，别来找我。生病并不可怕，可怕的是几天之后考试。那几天也几乎没怎么复习，在床上躺尸。不过那几天每天喝粥，吃自己和玉米整的一大堆药，还是挺印象深刻的。考完试搞了几天软测的大作业就回家了，回家当天是生日，回家前一天和玉米在图书馆提前过了一个生日，吃了一个可可爱爱的小蛋糕，火车上了度过了一天，晚上回去又吃了一个大大的大蛋糕，吃了两个蛋糕还是蛮开心的。

生活总是这么有趣。

而之后的日子却一天天灰暗了起来。

某天清晨惊醒看到的科比去世的消息消息，一天天增长的疫情人数，惶惶终日。其实也猜到了开不了学，但是没想到这开不了学的日子一直持续到了9月。在家的日子谈不上索然无味，就是总少了点东西，这里折腾两天，那里折腾两天，不是很如意。而生活也好像喜欢和我开玩笑，上半年光快递就丢了4次，买本旧书还折腾了好多天，电脑还三天两头出问题，课程的作业一天天的堆积着，本来说着复习考研，可是在家的低效率，计网的一堆堆作业，编译原理每周让我焦头烂额的实验，以及家里的一些事情，生活突然就变得不那么有期待了……不过也好在我还是熬过来了，并且完成的还不错。整个暑假其实还是比较扯的，虽然还是完成了些东西，但现在看来我对这个暑假是极其不满意的，但是已经过去了，大概是7月还处于焦虑不安的时期，进了8月就开始每天想着开学了吧，安不下心来。

8.29抵达北京，阔别良久的良乡，却要在31号就搬离，玉米30号到，晚上见了从1.15以来的第一面，真是难忘的一年啊，这么难都熬过来了，还有什么害怕的呢？未来可期～收拾宿舍发现自己真是一个怀旧的人啊，太多太多的东西都舍不得扔，导致最后我的行李是比别人多一些。当断则断，还是扔了不少东西的，以及好像不小心把自己的录取通知书等等资料给弄丢了……记得当时告诉自己，这是要给你发一个新的录取通知书呢，好兆头。可能确实人在最无助的时候就会turn to 老天爷吧，总把一些东西当成老天爷的馈赠。搬到村里后，地方是真的小啊，慢慢倒是也习惯了，刚开学那会儿每天就想着往良乡跑，确实学不进去，就这我还以为来了学校生活的旋律就慢慢到学习上来了。小学期开始后，生活确实转移到学习上来了，但是我却发现自己没有时间学习考研的东西……每天忙于造CPU，大家都说大四了水一水水一水，可是一个个的还是牟足了劲的做，可能是习惯了把作业完成的很好吧，虽然确实划水了，但是还是用了很大的力气去完成这个作业，以为大四的小学期不用熬夜了，可是还是每天熬夜到一两点；顺便顺便，以为小学期结束就不用熬夜了，可是考研期间其实也是一两点才睡，小学期终于结束了，也就10月了，以为生活的重心终于要转移到考研上来了，不过也确实，中间因为入党材料的事情耽搁了加起来几天的时间吧，不过这件事情好在最后有了好结果。

十一期间也没怎么学习，十一之后好像才慢慢有了学习的状态吧，那个时候学习还不是很苦，每天7点多点起来，吃个饭就去图书馆学习，晚上学到10.30回来，每天看上去游刃有余，其实看到别人的进度，自己心里还是很慌的，自己确实进度慢慢，也不知道怎么就进入了资料收集的大误区，每天沉迷于收集资料，把自己的百度网盘塞的满满的，各种pdf层出不穷，却没有细看其中哪怕就一份。

10.31玉米21岁生日生日，本来想着去故宫，吃海底捞完美规划，谁知道地铁上手机被狗东西给偷了，于是去派出所做了一上午笔录笔录，虽然也根本找不回来，可是对于丢手机这个流程，是很熟悉了，该冻结什么，改什么密码，也进一步提醒了自己备份的重要性，还好之前大部分照片都备份了，就是损失了手机，用了两年1个月，结果换了个新手机，是该高兴高兴，还是该哭泣呢？不知道……:( 反正，我自己的资金–了

11月就这样悄无声息的来临了，还是按部就班的学习，每天给自己打打气，到了到了11月中旬吧，发现大家都开始找导师找毕设了，惊觉与导师的重要性，我觉得找个好导师比较重要，四处打听，其实也没打听到什么，大家好像都不怎么了解，想着要不找那个很push的老师算了，想起来pyq还有一个老师，但是感觉这个老师好厉害，估计保研的都招满了吧，不管了，先试一下，抱着试一试的态度我问了老师招不招考研的学生，没想到老师回复了我招。然后在玉米的教导下，我给老师发了我的基本信息，并表明了我想跟着老师做毕设，以后也想读老师的研究生，老师秒回，欢迎欢迎。然后老师让我去找她聊聊，这一聊，就从不到一点聊到了两点，虽然外卖凉了，但是心里好踏实，我告诉自己我告诉自己，又多了一条上岸的理由。之后老师的种种言行举止都让我觉得自己好幸运，当然我要是考上的话，那我真的好幸运。

进入进入12月后，开始变得焦虑起来，时间越来越短，而感觉自己的复习毫无进展，简单来说，就是感觉自己啥都不会，唉，现在我还是忘不了那二十多天的煎熬，疲惫的身体已经不支持7点多起来了，而身体问题频出，晚上焦虑的睡不着觉，头疼，不过我还是坚持了下来，坚持学习。12月初其实还好，每天都在做数学卷子赶进度，大概是六级之后，十五天左右，我的眼睛开始废了，每天眼睛肿胀睁不开，而压力也真的好大，自己一个人坐在一楼的沙发那里，看着书，看着看着头就炸掉了，眼泪止不住的往下流，但是我告诉自己千万不能放弃，都坚持到这里了，走下去，一定要走下去，现在想起来，我都忘不了那最后15天昏暗的日子。理了个发，去了趟校医院，医生很温柔，让我注意用眼，坚持下去，眼睛满满的好了，后脑勺又出了一个大疙瘩，根本不能抬头，觉得自己真是倒霉啊那会儿，不过现在都过去了就看起来觉得没什么了。

最后一周，王晗喊我调整作息，于是每天中午回去午睡，结果没有一天是考试时间起来的。。。不过也保证了身体不会再出现什么问题了，休息好比什么都强强。

考试前，心情却异常的平静，也不是有多平静，就是这两天一直在积极调整自己的心态，所以从发挥上来看，是没有太大的问题的，数学也算是尽力了吧，粗心的分数不会太多，能拿多少分全看老师大题怎么给分，好了好了，不说这些，总之这一年就这样以考试结束了，果然，结束的时候并不会有什么仪式感，平淡的像什么都没发生什么都没发生。一切都挺好都挺好。

感谢一直陪伴着我的人儿，自己一个人真的顶不住的，有一群和你每天哈哈哈哈的人不容易，有一个永远陪着你听你诉说的人不容易，这样看来，我还真是幸运的！

大学三年的时光一眨眼就过去了，要说遗憾，感觉还是有的……但是毕竟都过去了，嘛，所以就总结一下，继续向前吧。

关于学习

过去的这么多年，似乎学习一直是为了考试，大学以前不必说，小城市没有太多的娱乐活动，也没有老师会教你某一门课背后蕴含的无穷奥妙，有的只是小考、中考、高考。喜欢某一门课？不排除有的朋友真的是从枯燥的应试教育背后发现某门学科的真正含义，比如有些同学对于英语、语文的热爱是真的可以上升到语言、文学层次的，这样的热爱足以支撑枯燥的应试时光。那么其他科目呢，其实刷题把这门课刷高是没有灵魂的，比如我现在慢慢意识到自己对于历史、地理都是很喜欢的，也就对政治一门不是太感兴趣，因为感觉要背的东西太多了，但是就本人而言，还是对政治方面的东西很感兴趣的（确信！）。那为什么当初不选择文科冲一冲某校呢，可能一方面是自己内心不太愿意去做这个决定，另一方面是自己当时对计算机比较感兴趣吧。好吧，上面有些扯远了，我想说的其实就是应试教育似乎也吞噬了我的大学三年，这真的是一件很可怕的事情啊。似乎对很多课失去了兴趣，而是单纯的等考试前看一看，这也造成了一次滑铁卢啊。但是也正是从那时候开始，似乎对学习更加上心了，虽然不如大佬们对待学习的热情，但是在作业层次还是尽心尽力的。但是啊，还是以分数为导向，我觉得不算好好学习。

这几天看dl的博客，发现了一句个人认为很有价值的话。

大学课程同之前的课程一样，具备课程的基本属性：给你继续自由探索的勇气和能力。也就是说，课程的结束只是起点而已。

所以，大学的课程，并不是这学期学完就结束了，并不是老师教你的东西就是全部，更广阔的世界是需要自己去探索的，这一个过程会耗费大量的时间，会让你娱乐的时间变少，但是确实是值得的啊。可惜我明白的太迟了。浪费了大量的时间。

所以，从现在开始，学习对我来说意义发生了变化，学习不是你获取高分的工具，学习是自己不断探索的过程，不断成长，学习不能停啊！！

关于知识管理

还是学习方面，自己从前的学习其实是没有层次的，学了就忘，mark的东西都是积灰，小孩子这样子可以，但是一个成年人是不是需要拥有一个属于自己的知识体系呢？其实也可以说是自己的生活轨迹。

斟酌再三，我选用了notion这款软件，page可以任意嵌套，block可以任意排列，这确实是一个理想的人生轨迹软件。

不出意外的话，日后的学习记录，精彩mark我会保存在notion中。

一些基本的东西

C语言获取系统时间的函数

1
2
3
4
5
6
7
8
9
10
11
12

#include<sys/time.h>
int gettimeofday(struct  timeval*tv,struct  timezone *tz )
//其中，时间会返回到结构体tv中，tv的结构如下
    struct  timeval{
       long  tv_sec;/*秒*/
       long  tv_usec;/*微妙*/
}；
//同时，timezone为当前时区的信息，一般第二个参数置为NULL，结构体如下。
    struct timezone{
        int tz_minuteswest;//和greenwich时间差的分钟数
        int tz_dsttime;//夏令时校正
    }

Linux系统编程wait()函数

wait()函数用于使父进程（也就是调用wait()的进程）阻塞，直到一个子进程结束或者该进程接收到了一个指定的信号为止。如果该父进程没有子进程或者它的子进程已经结束，则wait()函数就会立即返回。

Windows进程相关结构体 STARTUPINFO

用于指定新进程的主窗口特性的一个结构。