kivantium活動日記

プログラムを使っていろいろやります

2017年10月 第2週

今週知ったこ

tarコマンドのオプション


curlでダウンロードするコマンドを発行するChromeの機能

オンライン予測

オンライン予測 (機械学習プロフェッショナルシリーズ)

オンライン予測 (機械学習プロフェッショナルシリーズ)

機械学習プロフェッショナルシリーズには「オンライン学習」と「オンライン予測」がある。
前者はデータが順番に与えられる状況下でそこまでのデータを使って分類する方法の話題を扱っている。
後者はデータが順番に与えられる状況下で最善の行動を取る方法に関する話題を扱っている。下のPDFは主要なテーマの一つであるエキスパート統合問題について書いてある。クイズ大会で他の人の動きを見て正解を当てるにはそこまでの問題で全問正解している人の多数決に従うといいみたいな話題。

telescoping sum

(a_1-a_2)+(a_2-a_3)+\dots+(a_{n-1}+a_n)みたいな和にはtelescoping sumという名前がついているそう。

OpenCVでYOLO


2017年10月 第1週

今週知ったこ

WaveNetの高速化

詳細は書いてありませんが、遅いことで有名だったWaveNetが1000倍速くなってプロダクトに投入されたとのこと。
WaveNetの高速化に取り組んでいた人が知り合いにいたので、Googleと張り合うのはつらいなぁと思いました。

imbalanced-learn

GitHub - scikit-learn-contrib/imbalanced-learn: Python module to perform under sampling and over sampling with various techniques.

imbalanced-learn is a python package offering a number of re-sampling techniques commonly used in datasets showing strong between-class imbalance. It is compatible with scikit-learn and is part of scikit-learn-contrib projects.

pixivのイラスト講座

www.pixiv.net

今週読んだ本

Amazonがprime readingというサービスを始めたので無料で読める本を適当に読んでいました

政宗くんのリベンジ: 1 (REXコミックス)

政宗くんのリベンジ: 1 (REXコミックス)

2017年9月第5週

今週知ったこ

ANiUTa

月額600円のアニソン聴き放題サービス。プリンセス・プリンシパルのサウンドトラックや天使の3P!のアルバムなどが発売日に全部聴けるようになるなど、かなり頑張っていてすごい。

Nested Cross Validation

ハイパーパラメータのチューニングに使うテストデータとチューニングしたモデルの評価に使うモデルを分けることに、Nested Cross Validationという名前がついているそうだ。

参照画像を元に線画を自動着色する研究



アメリカのエクサスケールスパコン計画

www.hpcwire.com

その他

itpro.nikkeibp.co.jp


今週読んだ本

菊と刀―日本文化の型 (現代教養文庫 A 501)

菊と刀―日本文化の型 (現代教養文庫 A 501)

太平洋戦争中にアメリカで日本人の行動パターンについて調査していた文化人類学者による本。
戦後処理を担当したアメリカ人が戦前の日本人をどのように見ていたのかが分かって面白い。
日本人が階層制度の中に生きていること、日本人の恩への態度がアメリカ人の借金への態度に似ていること、名声を非常に重視すること、などの指摘は現代にも通じているように思った。

まちカドまぞく 3巻 (まんがタイムKRコミックス)

まちカドまぞく 3巻 (まんがタイムKRコミックス)

ラストピア (2) (まんがタイムKRコミックス)

ラストピア (2) (まんがタイムKRコミックス)

2017年9月 第4週

新しく知ったこと

スコヴィル値

(唐辛子の)辛さの単位。辛みを感じなくなるまで砂糖水で薄めた時の希釈倍率が定義。「同じ辛さでもカプサイシン以外の物質によるもの(ワサビなど)の辛さは感じる機序が異なるため、スコヴィル値では表せない。」とのこと。

役に立ちそうなGitHubレポジトリ

octotree

GitHubをブラウザで見るときにサイドバーにコードツリーを表示してくれるExtension。コードリーディングが捗る。
そのうちGitHub本体の機能になってほしい。

minos

tmuxやffmpegなどをroot権限がないシステムでもインストールできるようにするポータブルなパッケージ管理システムみたいなもの。

そのうち読みたい本・Webサイト

四次元が見えるようになる本

四次元が見えるようになる本



面白かった論説


今週読んだ本

kivantiumは退職活動最前線!を応援しています。

2017年9月 第3週

onnx

Pytorchを開発しているFacebookとCNTKを開発しているMicrosoftニューラルネットワークを共通フォーマットで表す仕組みを導入したとのこと。先週の話題ですが書き忘れていました。




stat.ink

Splatoonのデータを集めているサイト

SGDの収束証明

適当な仮定のもとで、SGDがglobal minimumに収束することを証明したようです。

P≠NP論文の結末

コンピュータサイエンスのまともな研究者がP≠NPを示したということで話題になりましたが、取り下げられました。コメント欄に

The proof is wrong. I shall elaborate precisely what the mistake is. For doing this, I need some time.

とあります。

PowerPointチューリング完全

youtu.be

学会発表の動画っぽいですがとても面白かったです。

2017年9月 第2週

今週知ったもの

Gumbel-max trick

ソフトマックス関数に入れて確率分布にする前の値からサンプリングするテクニック。計算量が減るわけではないが事前に計算できるから若干嬉しいらしい。また、Reparameterizationで使えるテクニックらしく頭の片隅に入れておくといいかもしれない。

Sparse Gaussian Process

ガウス過程の計算量を減らすテクニック。NIPS 2005の論文だがICML 2017の論文でも使われていたのでまだ使いやすいのかもしれない。

Z3

Microsoftが開発しているTheorem Prover。いろいろな機能があり最適化問題なども解ける。
z3 - Python -- Optimize system of inequalities - Stack Overflow

関連するものとして線形計画問題でANDやORの制約を与えるテクニックについて。
Express boolean logic operations in zero-one integer linear programming (ILP) - Computer Science Stack Exchange

Selenium

ブラウザの操作を自動化してくれるツール。PhantomJSと組み合わせると良いらしいという噂を聞いたがまだ試せていない。
Headless Chromeというのが出てきてPhantomJSの開発は終了したらしい。

ニセ金貨問題を情報量を使って解く

The Twelve-Coins Puzzle

天秤をなるべく少ない回数だけ使って重さが違うニセ金貨を見つける問題の情報理論的分析。

2017年8月 第3&4週, 9月 第1週

富士山に登るなどして忙しかったので3週間分です。

Webサイト

explain xkcd

explain xkcd

xkcdは棒人間のマンガで有名なサイトだが、そのネタを解説するためのwikiがあった。

Backprop is not just the chain rule

Backprop is not just the chain rule — Graduate Descent

backpropagationをラグランジュ未定乗数法の観点から解説しているらしい。まだ読めていない。

CMA-ES

CMA-ES - Wikipedia

ブラックボックス最適化の解法で割と強いらしい。https://www.lri.fr/~hansen/cmaes_inmatlab.htmlに各言語での実装がある。

[1604.07269] CMA-ES for Hyperparameter Optimization of Deep Neural Networks
ハイパーパラメータチューニングに使っている論文

GitHub - DEAP/deap: Distributed Evolutionary Algorithms in Python
DEAPという進化計算の手法を集めたフレームワークが使いやすいと聞いた。

読んだ本

起業のファイナンス ベンチャーにとって一番大切なこと

起業のファイナンス ベンチャーにとって一番大切なこと

確率論と私

確率論と私

「大日本帝国」崩壊―東アジアの1945年 (中公新書)

「大日本帝国」崩壊―東アジアの1945年 (中公新書)

「甘え」の構造 [増補普及版]

「甘え」の構造 [増補普及版]

洪秀全と太平天国 (岩波現代文庫)

洪秀全と太平天国 (岩波現代文庫)

サクランボッチ (2) (まんがタイムKRコミックス)

サクランボッチ (2) (まんがタイムKRコミックス)


労働は悪い文明。