自然言語処理と機械学習こそが最強の学問

CSの大学院生が真の最強学問である自然言語処理と機械学習の内容を書いていく予定。時々全然違う分野の記事も書くかもしれない。

2013-01-01から1年間の記事一覧

自然言語処理と機械学習で消える仕事

機械化やITによって生み出される仕事よりも、それによって奪われる仕事の数が多いということを主張している記事をよく見かけます。現状では、間違いなくブルーカラーの仕事が奪われていて、そしてこれからますますこの傾向が進んでいくと思います。その上、…

統計力学と機械学習の似ているアプローチ

最近統計力学の本を眺めていたら、統計力学と機械学習のアプローチのいくつかが結構似ていることに気がつきました。機械学習ももともと統計力学からヒントを得ている面があるから、あたりまえかもしれませんが、やはり似た数式が出てくると興味深い気がしま…

Kaggleに参加してみた

Kaggleはデータ分析のコンペを実施しているサイトで、企業の実際のデータを分析したり、機械学習系の学会のデータを解析したりするなどさまざまなタイプのコンペがあって、なかなか面白いです。TopCoder SRMとかのアルゴリズム系のコンテストは数時間で終わ…

ニューラルネットワークの入力正規化について

ニューラルネットワークのすばらしさをさらに体感すべく、有名な手書き文字認識のデータセットMNISTを入手して、実験をしてみました。このデータセットには28*28ピクセルの入力データとそれが指し示す0〜9のターゲット数字が入っていて、ニューラルネット…

ニューラルネットワークの2変数関数近似能力

PRMLによると、ニューラルネットワークは万能近似器で、コンパクトな定義域を持つ任意の連続関数を近似できるらしい。ちょっと信じられないが、実際に調べてみると、英語WikipediaにUniversal Approximation Theoremという記事があって、シグモイド関数を使…