今年の主なイベント 会社退職 サラリーマン辞めた 会社設立(自身の個人事業主的な会社) BizteXにJoin(Co-founder & CTOになる) プロダクトのゼロからの開発 チームビルディング プロダクトリリース（ベータ＆正式） 40歳になった プロダクトの初受注 今年は…

stanford machine learning 7週目です SVM (Support Vector Machine)というニューラルネットワークではない学習モデルの一つ。 ロジスティック回帰でやるかSVMでやるかは以下のような基準で切り分ける 学習に利用する特徴点（家の価格を予想する場合は広さ、…

stanfordのmachine learning講習も6週目です すごく重要な回だったので少しまとめ アルゴリズムのデバッグ手法 cross validationのチェック 学習の正当性を確認するのにデータを training set cross validation set test set に分けます。 トレーニングセッ…

ゼロから作るDeep Learningの本を読み終えた後にtensor flowのチュートリアルやkerasのチュートリアルをいくつかやっていたのですが、もう少し体系的に勉強したいなと思いwww.coursera.orgこのStanford Universityが実施しているオンラインの機械学習コース…

Kerasを使ってみる tensorflowの高機能ライブラリであるcontrib.learnを使ってみたんですが 今一わかりづらかったのでもう一つの高機能ライブラリであるKerasをさわってみますとりあえず１層でOptimizerは最降下勾配方で最も単純なネットワークを組んでみま…

畳み込みニューラルネットワークのチュートリアルをやってみる Deep MNIST for Experts | TensorFlowこのページの「Build a Multilayer Convolutional Network」以下をやってみました※mnistは「ゼロから作るDeepLearning本」の方で取得したデータを利用する…

実際自分で書いた数字で試してみる 前回書いたサンプルコードを使い、実際にmacのお絵描きソフトで書いた以下の数字を認識するかやってみました。 mnistで試してるだけだとなんだか本当に合ってんだかよくわからないですからね。 gist.github.com結果は 0.97…

TensorFlowのOptimizerを使ってみる MNIST For ML Beginners | TensorFlowTensorFlowのチュートリアルで機械学習初学者向けのドキュメントを読んで、サンプルのコードtensorflow/mnist_softmax.py at master · tensorflow/tensorflow · GitHubをゼロから作る…

ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装この本を読み終わったので機械学習を実験してみようと思います。ライブラリはGoogleが公開しているTensorFlowを使いますwww.tensorflow.org日本のPFI社が開発したChanierあたりも気に…

puma railsのAPサーバとWebサーバですが、昨今ではrails5にpumaが標準になったり、herokuがpumaを推奨したりとpumaがおすすめらしいので私のサービスのテスト環境もpumaで構築することとしました。github.com ざっくりとした手順は以下のような感じです rail…

# Deep Learning 5逆誤差伝搬法の数学的お勉強高卒でもわかる機械学習 (5) 誤差逆伝播法 その1 | 頭の中に思い浮かべた時には前回見たスライドはスライド48のあたりがイマイチ分からなかったので上記で読み直し さらに分かりやすいです逆誤差伝搬法は計算量…

個人で作っているWebサービスのサービス名（ロゴではなく文字のみ）の商標登録出願をやってみた結論から言うと出願自体はすごく簡単。やりかたをざっくり書くと 1. 特許庁の商標登録出願のpdfを熟読 http://www.jpo.go.jp/shiryou/kijun/kijun2/pdf/syutugan…

# Deep Learning 4誤差逆伝搬法の勉強前の章で実装した損失関数の勾配の微分計算はとてつもない時間が掛かるのでそれを早くしましょうっていう話。計算グラフで説明するとの事だったので概要を理解したく以下のスライドを読んでみた 脳裏に焼き付けて二度と…

Deep Learning 勉強 3 勾配法 前回勉強した損失関数は訓練データが如何にテストデータ（正解）に近づいたかを示す関数で、2乗和誤差や交差エントロピー誤差などは0に近いほどテストデータに近いと定義されている。最終的な目標は認識精度を上げる事なので、3…

Deep Learning 勉強 2 損失関数 訓練データがテストデータのに如何に近づいたかを図るための関数 損失関数の結果が0に近いほど正解に近い。 損失関数には以下の二つがあるらしい 2乗和誤差： 交差エントロピー誤差： 4.2 損失関数の交差エントロピー誤差 cro…

Deep Learningの勉強 今日からO'REILLYの「ゼロから作る Deep Learning」を読み始めます。ブラックボックスは極力使わずにゼロから積み上げるコンセプトが気に入りました。 python 3系のインストール 本で使用しているpythonのversionは3系で、手持ちのmacbo…

ここ最近暇つぶしで、嫁のやってる事を楽にするための超嫁得Webサービスをrailsで立ち上げて遊んでました。yahooが提供しているヤフオクのapiをごにょごにょしていい感じに表示させるWebサービス(ユーザーは嫁のみ)なんですがhttp://developer.yahoo.co.jp/y…

https://gist.github.com/4243787最近、プログラマの採用面接で解かす問題集みたいな本が出て その中に「ある配列がユニークであるかどうかを示すコードを書け」という問いがあり、Coqで書いてみました。 下記のようなコードになるんだけどついでに配列を逆…

Coqをインストールしたので http://d.hatena.ne.jp/qnighy/20101220/1292829222 この辺を参考に勉強中です。 ついでに自分で命題を考えて証明してみた。 命題は forall (x : nat), x > 1 -> x こんなもの直感的だろ！ といいたい所ですが、論理学の世界では…

http://stkr.dip.jp/maps 先週の3連休、私は家にひきこもって酒を飲みながらemacsの誰得的な記事を書きつつVPSで遊んでいました。 そこで作ったtwitterを利用したサービスが出来るまでの流れをざっくり公開しようかと思います。 作ったサービスは http://stk…

昨日の続きでバッククォートでネストされているマクロを追ってみる。 macroexpand-1がマクロを1回分だけ展開する関数なのでこれを使ってみてみよう。 (macroexpand-1 '(defmacro! square (o!x) `(* ,g!x ,g!x))) このようにmacroexpand-1に展開させたいマク…

マクロを定義するマクロを定義するには，しばしば入れ子になった逆クォートが必要になる．逆クォートの入れ子は理解し辛いことで悪評が高い．よく使われる形にはいつか慣れるだろうが，逆クォートの付いた任意の式を見て，どのように展開されるかを言えるよ…

Paul GrahamのOn Lispの訳ってネットで公開されてたんだね。 知らなかったよ。http://www.komaba.utmc.or.jp/~flatline/onlispjhtml/ 最近買ったDoug HoyteのLET OVER LAMBDAによく引用が出てきていたから、ちょっと読んでみようかな。

GitHub - sodeyama/slisp: lisp interpreter sLispの以下の点を改善しました。 コメントを可能にしました call/ccで生成するラムダ式で使う変数名をgensymで作るようにしました（変数名の衝突を防ぐ目的) call/ccを複数書けるようにしました。(ただし、トッ…

そういえば、Software Design 2010年5月号で記事書きました。 Software Design 2010年5月号｜技術評論社 * Emacsのトラノマキ 【13】俺流Lispインタプリタ……アリエルです。どこがemacsの記事なんだ、という突っ込みがあるかもしれませんが emacsって結局elis…

slisp/slisp-ycc.el at master · sodeyama/slisp · GitHubsLispのベータ変換にバグがあり (defun Y (f) ((lambda (x) (f (x x))) (lambda (x) (f (x x))))) (print ((Y (lambda (f) (lambda (n) (if (= n 0) 1 (* n (f (- n 1))))))) 8)) みたいなコードをsL…

Lisp処理系で継続も(ry ってことでsLispで継続を実装しました。 S式パースするのとcatch throw使う方法で書いたらなんかあっさり書けた。ま、厳密に仕様みながら実装したわけではないので色々動作はおかしいと思う あとcall/ccは1個しか書けません call/cc使…

「Yコンビネータも出来ないLisp処理系って処理系として終わってるよね。キモッ!」 と女子大生に言われないように、sLispでYコンビネータを出来るようにしました。 前回アップした似非Lisp処理系からかなり書き換えてます。 とりあえずdefunって結局lambdaだ…

今度書く記事のためにelispでLISPインタープリタ「sLisp」を書きました。 http://github.com/sodeyama/slisp/blob/master/slisp.ellisp言語で書いてはいますが、読み込んだ文字列をそのままread関数でS式をパースするような事はせず、 その他の言語で行うの…