Home
Projects
About
CLOUD TAGS
Programming
4
Life
2
Work
29
Notes
4
Design-pattern
4
Tutorials
7
机器学习
7
Notes
1
Language
14
Lankar
2
Tools
8
Linux
9
Research
4
Tips
19
Algorithm
1
Interview
7
Headfirst
4
Jekyll
3
Payments
2
Web-service
1
Deep-learning
5
SO LONG, AND THANKS FOR ALL THE FISH.
Transformer Learning Notes
Transform的架构基本已经占据了NLP的大部分SOTA models,尤其是一些大模型,比如BERT,GPT。在CV领域也有了Vision Transformer的应用。在multi-modality的应用还是比较广泛的。最近team里面做了一个Transform based架构的knowledge share,再结合李宏毅老师的一些slides,记录一下有些对于自己来说比较cores的知识点。
Swift Lang Guidance Learning Notes
最近在学习edge ML。试着把Craft + OCR Reader model从云端移植到iOS上,结果发现很多现代model基本要不是object c要不是swift。而之前一直是在用Java。就不得不在此从语言开始学习swift。遂有了如下的swift笔记。
Install Jekyll On Mac M1 Chip
最近刚整了个MacBook Air M1,想用来安安静静继续之前的jekyll的blog。但是发现jekyll装了总是出错。错误基本上有三种: 1. 启动jekyll server的时候,抱怨ruby环境出错: You may have encountered a bug in the Ruby interpreter or extension libraries. Bug reports are welcome. For details: https://www.ruby-lang.org/bugreport.html Root Cause ruby的版本有问题。可以通过 ruby -v 来查看版本。我看我当前的是3.0,还有个system defualt的2.6,这两个都不行。 M1上的jekyll目前需要的是2.7.2,所以可以通过先uninstall,然后再推荐用rbenv来装。
Spring Microservices 随想
其实追根溯源,微服务应该是来源于亚麻的SOA(Service Oriented Architecture),而从business的角度,应该是来源于Jeff的two pizza team的论断。如今microservice已经遍地开花,似乎一个公司没有microservice,就不能称之为现代互联网公司。但很多事情就是这样,越是所有人都熟知的概念,越容易搞不清楚。还清晰的记得去面试一个公司时被问到你们亚麻的服务发现是怎么实现的时候,竟然回答不上来。于是借着《Spring Microservices in Action》的笔记来归纳整理下。
Isso Commenting System Setup Guide
基于Markdown的blog系统如今依旧盛行不止,但国内用户一直苦于没有一个比较完善的评论系统,Disqus就经常性加载不出来(背墙),多说之类的已经面临倒闭。对于只想安静的写写东西的轻博客er,wordpress之类的基于mysql的又比较重。之前也介绍过利用反向代理翻墙Disqus的实例,但是其不稳定,且配置复杂不支持跨域https之类的。本文引入的Isso评论系统,基于轻量级文件DB的本地评论系统恰恰满足了我的基本要求。
Migrate Oracle to Postgres via AWS DMS Best Practises
记得前段时间还有个CNBC的报道说是我司准备2020年之前在整个公司范围内去Oralce化,然后Oracle的Larry Ellison在一个电话会议上说Oracle顶呱呱,Amazon离不开它,这个季度还给我们交了五千万刀的保护费呢,想去Oracle,他们没这个能力,blabla。。 但确实很有幸,从头到尾完成了一个Oracle DB的迁移,从Oracle迁移到AWS的RDS(PostgreSQL),目前来看,一切运行良好,但迁移过程着实不太顺利,遂把一些tips记录下来,希望对刚入坑的同行有用。
Shell常用tips汇总
近期的migration项目接近尾声,再一次深刻的验证了Pareto's Principal,基本前面的80%的工作用20%的efforts就搞定了,而剩下的20%的事则花费80%的时间,而且往往吃力不讨好。才发现功能的migration往往还算比较容易的,而真正的难点在于on-flying case的数据迁移。闲话扯太多,其实是想记录下近期用到的非常有用的shell命令。
Softmax Regression with TensorFlow
Linear Regression聊完了,自然就来到了Logistics Regression了。前者是预测一个连续的值,而后者是预测离散的值。前者的model是简单的线性特征组合,后者是在前者基础上加了一层sigmoid(通常二分类)或者softmax(多分类)的激活函数。因而对于模型loss的评估,连续值使用的如MSE(Mean Square Error),Huber;而后者则是离散的0-1之间的概率值,通常的损失函数为Cross Entropy和Hinge。因此Logistic Regression更general的来讲,其应该是Softmax Regression.
Linear Regression with TensorFlow
TensorFlow除了可以用于一些基本的深度学习算法(*NN)之类,当然也可以用于最简单的线性回归。毕竟以后我们所有接触到的如Logistics Regression, Neural Network 等都是以最基本的线性回归(Linear Regression)为基础的。本篇主要从简单的线性回归来展示运用TensorFlow工具做模型的一般过程。
TensorFlow基本操作(二)
前一篇主要对TensorFlow的常量,如简单的scalar, vector, matrix等Tensor,以及线性序列(Sequence),基本的抽样函数做了介绍,本篇主要介绍TensorFlow中的变量,数据类型,基本的数学操作,并结合TensorBoard,来介绍一些变量依赖的组织。 搞机器学习或是数值计算程序的人估计都了解NumPy,或者整个python-based的数理科学计算的生态系统,SciPy。
« Prev
Page: 1 of 6
Next »