0%

回退版本

1
git reset --hard HEAD^

HEAD^ 上一个版本。

HAED^^ 上两个版本

HEAD~100 上100个版本

查看历史命令

1
git reflog

Workflow

git-repo

撤销还未添加到stage(git add)的修改

1
git checkout -- file

该命令实际上是 用版本库里的版本替换工作区的版本(比如工作区误删,同样可以git checkout)

撤销已经添加到stage(git add)的修改

1
git reset HEAD file

查看远程库的信息

1
git remote -v

Git pull issues

  • This is no tracking information for the current branch

    1
    git branch --set-upstream-to=origin/dev dev
  • conflicts

GNN

$$
H^{(k+1)} = activation(D^{-1/2}(A+I)D^{1/2}H^kW) \
A = adjacent \ matrix \
D = degree \ matrix \
H^0 = features \ of \ graph \ nodes \
W = trainable \ variables
$$

Reason:

$(A+I)H$ represents that the feature of one node is the sum of features of node itself (plus $I$) and its adjacent nodes( $A$)

$D^{-1/2}(A+I)D^{1/2}$ = normalized ($D^-1$)

GIN

This is one of my favourite papers.

ref: How powerful are graph neural networks (ICLR2019)

Lemma 2. Let G1 and G2 be any two non-isomorphic graphs. If a graph neural network A : G → $R^d$ maps G1 and G2 to different embeddings, the Weisfeiler-Lehman graph isomorphism test also decides
G1 and G2 are not isomorphic.

lemma 2 means that upper bound of GNN equals to 1-dim WL test

Theorem 3. Let A : G → $R^d$ be a GNN. With a sufficient number of GNN layers, A maps any
graphs G1 and G2 that the Weisfeiler-Lehman test of isomorphism decides as non-isomorphic, to
different embeddings if the following conditions hold: all of operations in GNN (aggregate, combine and readout are injective(单射))

based on theorem 3, we can propose a simplest GNN model : GIN, where aggeregate = sum, combine = (1+ $\alpha$) h + aggeragate , ($alpha$ is simply a pre-defined scalar)

GMN

Graph match

(input G1 G2, output similarity score)

Only difference with GNN: when we combine information, we will consider one more term:

$\mu_{j\rightarrow i} = a_{j\rightarrow i}(h_{i}^{(t)}- h_{j}^{(t)})$

i,j different graph, $a_{j\rightarrow i}$ is the softmax value of vector difference between hi and hj.

Reviews on deep learning w. discrete features

ref:

https://mp.weixin.qq.com/s/HhrnCKUvNHnZDgoGF52Vuw

Properties of Deep learning

  • Super memorizer: easily fit a random labeling
  • super energy sucker
  • overly parameterized ( compression while maintaining similar accuracy is easy )
  • 先略后详(learning process)
    • from easy to difficult
    • from smooth to noisy
  • Robust to massive label noise (compared with MLP, Perceptron)

Learning with more knowledge(which can be discrete features)

Input

  • Multi-modal inputs
  • synthesized inputs
  • others

Output

  • Multi-task learning(more outputs?)
  • more representations
  • more priors

虽然不看cba 虽然一直都是跟着老詹粉球队 虽然这次看比赛真的看的气

但是以后玩2k 还是会把阿联周琦搞到自己球队里 选秀的时候还会刻意选个中国的小伙子

然后谢谢你啊 阿联

这篇文章写在单曲循环Hey Kong时的2019年九月(严格意义上来说算是八九之交的时候)。

Hey Kong的歌词是十年前的自己写给现在自己的一封信。虽然和从小梦想做一个rapper的“打架王”不太一样,但是歌词还是引起了很多的共鸣,有对未来的小心翼翼的希望,虽然很想知道未来是怎样,但又很害怕自己的未来是灰暗,也有青春时期对于好感的懵懂情怀,以及各种烦人的事儿。

已经基本忘记了十年前的自己每天的生活会怎样,但是能猜到如果真要照着歌词写一封十年前的信的话,里面肯定会想问我去了哪个大学,大学是不是自由了,能够每天打游戏了吗,还需要背英语单词嘛。。。

Anyway, 很遗憾那时候没有写封给现在我的信。所以今天想花点时间,写点给未来自己的一封信。

Hey Neway,我不知道你是不是还叫做neway:至少现在的我还蛮喜欢这个local室友给我起的英文名的,所以姑且我称你neway。我现在正打着赤膊在给你写信,香港的九月比较热,不过十平米豪宅的空调还是很给劲的。

昨天刚刚把缠了我几个月很dirty work的OpenMPL搞定了,今天小小奖励了下自己看了rng的总决赛和中国男篮打韩国的世界杯,不知道那时候RNG夺冠了没哈哈哈,不过那时候LOL是不是dead game都不一定了呢。

真正做research也有一年多了,虽然蹭了二作的best paper,老师也说我可以申四大,但是我真的很担心,这么久了拿得出手的一作都还没有,DAC的ddl只有三个月了,要投DAC的work现在还是一点进度都没有,虽然老板偶尔会夸我有灵气,但是这种灵气离paper差的也太多了。talk is cheap。

Neway,我现在感觉每天都要做各种事,但又有好多东西还要学,我要重新看一遍linear algebra,想再看一遍computer principle,现在是我入学mphil的第一学期,所以只选了一门课,希望自己有时间去把基础再打牢点,对了,唯一的那门课是optimization,特别有趣,可能是因为这一年多的research接触到了很多optimization的东西,那时候书到用时方恨少,所以上课的时候恨不得不要下课.

这一两年明显感觉自己身体差了很多,一到下午太阳穴那就特别疼,医生说是神经性头痛,让我多休息,不要低头,不要给自己太大压力. 我觉得我还是得重新打打球:等OpenMPL彻底交完之后吧? 说起打球,我感觉我的时间已经支撑不起自己其他的兴趣了:什么吉他啊 看书啊 都荒废好久了. 其实一直都想练下hey kong这首歌来着.

Neway,不知道你现在过的怎么样了.是不是真的做教授了,如果是的话,一定不要为名望,为职称,为金钱变成一个自己讨厌的人. 不过没能做成教授也没关系啦,我相信你的选择肯定是努力后的,人生路途这么长,哪有人能称心如意,不要活在别人的看法里,或者和别人的比较里就很好了啦.

另外不知道未来你的cs知识是不是足够能让自己”自信”,就像我高中对数学的自信那样,也不知道你身体怎么样了,希望能好好的。另外如果当教授了,有时间了,把自己的爱好都捡起来,可以和家人一起鸭~可能你还有崽崽了哈哈,和ta打篮球教ta弹吉他一起看书什么的多好鸭.

好了就写到这吧~,明天还要组会. 我得睡了,希望明天的下午不要再头疼欲裂了. 周一预约了深圳的神经内科医生,希望这次能不用排队做个脑部检查了.

希望一切顺利,一起加油~

这篇文章写在单曲循环Hey Kong时的2019年九月(严格意义上来说算是八九之交的时候)。

Hey Kong的歌词是十年前的自己写给现在自己的一封信。虽然和从小梦想做一个rapper的“打架王”不太一样,但是歌词还是引起了很多的共鸣,有对未来的小心翼翼的希望,虽然很想知道未来是怎样,但又很害怕自己的未来是灰暗,也有青春时期对于好感的懵懂情怀,以及各种烦人的事儿。

已经基本忘记了十年前的自己每天的生活会怎样,但是能猜到如果真要照着歌词写一封十年前的信的话,里面肯定会想问我去了哪个大学,大学是不是自由了,能够每天打游戏了吗,还需要背英语单词嘛。。。

Anyway, 很遗憾那时候没有写封给现在我的信。所以今天想花点时间,写点给未来自己的一封信。

Hey Neway,我不知道你是不是还叫做neway:至少现在的我还蛮喜欢这个local室友给我起的英文名的,所以姑且我称你neway。我现在正打着赤膊在给你写信,香港的九月比较热,不过十平米豪宅的空调还是很给劲的。

昨天刚刚把缠了我几个月很dirty work的OpenMPL搞定了,今天小小奖励了下自己看了rng的总决赛和中国男篮打韩国的世界杯,不知道那时候RNG夺冠了没哈哈哈,不过那时候LOL是不是dead game都不一定了呢。

真正做research也有一年多了,虽然蹭了二作的best paper,老师也说我可以申四大,但是我真的很担心,这么久了拿得出手的一作都还没有,DAC的ddl只有三个月了,要投DAC的work现在还是一点进度都没有,虽然老板偶尔会夸我有灵气,但是这种灵气离paper差的也太多了。talk is cheap。

Neway,我现在感觉每天都要做各种事,但又有好多东西还要学,我要重新看一遍linear algebra,想再看一遍computer principle,现在是我入学mphi的第一学期,所以只选了一门课,希望自己有时间去把基础再打牢点,对了,唯一的那门课是optimization,特别有趣,可能是因为这一年多的research接触到了很多optimization的东西,那时候书到用时方恨少,所以上课的时候恨不得不要下课.

这一两年明显感觉自己身体差了很多,一到下午太阳穴那就特别疼,医生说是神经性头痛,让我多休息,不要低头,不要给自己太大压力. 我觉得我还是得重新打打球:等OpenMPL彻底交完之后吧? 说起打球,我感觉我的时间已经支撑不起自己其他的兴趣了:什么吉他啊 看书啊 都荒废好久了. 其实一直都想练下hey kong这首歌来着.

Neway,不知道你现在过的怎么样了.是不是真的做教授了,如果是的话,一定不要为名望,为职称,为金钱变成一个自己讨厌的人. 不过没能做成教授也没关系啦,我相信你的选择肯定是努力后的,人生路途这么长,哪有人能称心如意,不要活在别人的看法里,或者和别人的比较里就很好了啦.

另外不知道未来你的cs知识是不是足够能让自己”自信”,就像我高中那样,也不知道你身体怎么样了,希望能好好的. 另外如果当教授了,有时间了,把自己的爱好都捡起来,可以和家人一起鸭~可能你还有崽崽了哈哈,和ta打篮球教ta弹吉他一起看书什么的多好鸭.

好了就写到这吧~,明天还要组会. 我得睡了,希望明天的下午不要再头疼欲裂了. 周一预约了深圳的神经内科医生,希望这次能不用排队做个脑部检查了.

希望一切顺利,一起加油~

Project Lists

简介 brief introduction 编程语言 所用框架programming language/framework 目标会议 及 DDL(顶会标粗) target conference and ddl 备注(remark) student 负责学长(学姐)
MPL(可以理解为图论中的非着色问题)之前的work提出的算法存在漏洞,提出updated algorithm C++ SPIE. 29.01.2020 x先交abstract,十月份出结果,中了后才正式开始work(只要work肯定能中) https://wadmes.github.io/cv/
用深度学习构建一个MPL solver的选择器 C++ and python DAC 03.12.2019 https://wadmes.github.io/cv/
用调度算法去加速优化 深度学习任务 CUDA/python RTSS 2020 Expected,取决于进度 https://wadmes.github.io/cv/
Parallel matrix cover problem and a case study for layout decomposition. C++/CUDA DAC 03.12.2019 https://phdyang007.github.io/

来自学长的一些吐槽/建议

  • 中大CS和内地高校不同(更糟糕的点)是本科的时候很难有途径接触到真正 paper-oriented 的research(不是课上的proj),所以申请的时候确实很吃亏,因为简历上真正拿得出手的也就一个GPA了,所以我那届(18) major GPA 4.0的学神都只申请到了加拿大的master。。因此在我看来本科接触一些科研实在是很有必要的,

    • 一来可以体验下了解自己是不是真的喜欢科研,以及是不是有具体的喜欢/讨厌什么方向,要不要申请PHD,
    • 二来如果有了成果,以后申请深造优势也大太多了,
    • 三来这个方式拿到的推荐信比起上了xx教授的课拿了a给的推荐信分量也重很多,
    • 四来(不好意思一下说了这么多优势,但都是自己的血泪经验)research时候被push着学到的很多东西哪怕不做research也是很有帮助的,比如tensorflow?pytorch?c++从入门到xx?

    因此哪怕对这些proj都不感兴趣,还是建议各位能主动去联系找一个research做来看看,等到大四或者之后自己就有能力直接lead一个research,这样简历也会厚实很多。

  • research 和课上的proj不一样的是重要的是self-motivation,如果你不想干装死了也没人可以扣你GPA,我也不可能把刀架在你脖子上哈哈哈,但是要自己想清楚退出的benefit和drawback,在我看来research肯定有很多要新学不太知道的,别因为这个就放弃,太可惜了,因为其实不是能力问题,只是接触的太少,多google多问(多google优先,学长是暂时的,google是能陪你一辈子的)就好。

表格链接

(还有什么关于深造、科研、就业等问题都可以问我啦~毕竟我也是过来人哈哈哈)

https://docs.google.com/forms/d/e/1FAIpQLSfl21puGxoPEQF-tzvG9sD6PJfzOf4Ffdgm2w4hL9zJgVTYJw/viewform?usp=sf_link

Another perspective of matrix multiplication (row-based/column based)

  • Q: How to represent “substract 3$\times$ row 1 from row 2” in matrix form?

  • A:

    [1,0,0] -> the first row of the output is a row combination of 1 first row, 0 second row and 0 third row

    [-3,1,0] $\times$M ->-> the second row of the output is a row combination of -3 first row, 1 second row and 0 third row

    [0,0,1]

实在是太美了。为什么之前没好好听课 就抱着高中奥赛的东西乐享其成呢。

大学四年一直心心念念想去重庆/成都玩玩,现在趁着难得的假期一个人(本应是两个人)出去玩了玩,权当散心。

  • 重庆话/成都话真好听好可爱,吹爆!
  • 川渝小姐姐都好可爱,吹爆!
  • 第一天的时候一个人吃了顿火锅,以后再也不可能做这种事了。
  • 第二天的时候去了武隆徒步,风景是秀丽,景色是动人,但这种自然景观未免也太累了,如果没有一个聊天的伴实在是太难顶了。中间疯狂思索旅行的意义。
  • 旅行的意义:
    • 自然景观似乎也就这样,如果是放松心情投奔大自然去周边郊区也可,真像老板说的,旅游就是从一个地方去另一个地方的折腾。
    • 人文景观得是自己了解过的,这样才能感同身受,譬如这次去武侯祠想到孔明、姜维当年往事,真的还是很心情澎湃激动万分的,但是在杜甫草庐。。自己的诗词都背不了几首了。。
    • 所以对我而言,旅行最有价值的地方似乎就是认识当地的/旅行的朋友,感受当地的风俗以及了。。。可能是香港呆久了吧,我真的觉得重庆成都吃的都巨赞,尤其是最后一晚和四川本地大哥一起吃的一顿川菜简直了。。我饿了。
  • 在杜甫草庐逛的时候碰到一位八十多的志愿者老奶奶,给我拍照教我一些他们认为潇洒的姿势哈哈哈,然后还鼓励我像竹子一样结节向上,虚心。真是太可爱了。时光恍惚终会过去,年龄不应成为限制一个人心态的标签。
  • 狼人杀还是蛮好玩的。。好久没和小朋友们玩这些游戏了,上次这样的集体互动似乎是大二?毕竟现在科研都是一个人,难得的休闲时间也是自己一个人消化了。不过狼人杀还是蛮有意思的,最重要的就是当狼人的话也把自己假定成自己的目标角色(村民/女巫/猎人。。。)
  • 在成都的时候和一个台湾的同龄人玩的,虽然他是台湾极少数浸染在大陆文化圈内的(b站),但还是能感受到台湾普遍青年的反华情绪。
  • teamviewer再也不可能用了

生活的意义

  • 孩子
  • 上帝
  • 来生
  • 没有任何意义(荒诞不代表不值得过,而是要克服生活中的不公让生活值得过)

生活是什么

  • 游戏
  • 故事 (好的故事是怎样的?艺术性怎么体现的)
  • 悲剧(每个人都有悲剧要素,活得好意味着怎么英雄式的承受这种悲剧)
  • 喜剧
  • 使命
  • 艺术品
  • 冒险
  • 疾病
  • 欲望(没有欲望便等于没有了生活)
  • 涅槃(梵语:处于平和状态)
  • 利他主义
  • 荣誉
  • 学习
  • 受苦
  • 投资
  • 各种关系