昨晩はなんだかんだで結局What's New in Swiftを観てしまったのだけど、なんかgithubの紹介ばかりで肩すかしでした。カタスカシパン。
持病の調子がどうにも思わしくないので仕事の前に病院に行きました。薬が調子悪いときシフトになりました。
仕事はいろいろ考えたり論文読んだり。NNの最適化をLSTMに学習させる論文が出てて、へえと思いました（汎化性能？はまだ不十分だけどいい感じっぽい）。
僕は人を馬鹿にするときはその人より馬鹿なふりをするっぽいことに気づいた。でもこうして書いてみるとそれはわりとありきたりなことのような気もする（明文化しているかはともかく）。
ストカスティック都知事。ランダムな都民が一秒ごとに交代で都知事になる。最初は大きめの権限が与えられているんだけどだんだん小さくなっていって最後は収束する（収束？）。
昨晩はなんだかんだでWWDC Keynoteを観ました。iOSの発表中にDeep Learningって三回くらい言っててなんかおかしかった。AppleもDeep Learningって言うんだ、とちょっと思った。
新機能はもはやそんなに興味ないのだけど、コンテニュイティー！って感じの機能の説明を聴いていると、そっかあMacとiPhoneを持っているなら腕時計も買ったほうがいいんだねえ、という気分になる。そういうのはやっぱりすごいなあと思いました。
「もっと便利になりました」ではだめなのかもしれない。
そういえば、iPadで動くSwift Playgroundはいいなあと思った。僕が十歳だった時にあれがあったらどんなだったろうと思います。（まあ、それだけありきたりのことになってしまったということでもあるのでしょうが）
お昼から仕事。今日は持病の具合もあまりよくないし風邪気味でいまいち集中できず。まあ別にそこまで切羽詰まっている感じではないので論文読んだり教科書読んだりしていました。うーむ。
明日はもうちょっと元気だといい。今夜は本を読みつつWWDCのなんかの動画でも観ようかな。僕最近iOS開発者って感じじゃないし、しばらくそうらしいけど。
愛してくれとは言わないから、せめて一緒に踊ってほしい。
昨晩は本を読みました。やはりちゃんとした教科書は歴史的背景とかが詳しく書いてあるので読み物として一冊くらいは読んでおくと楽しいなあと思いました。
お昼から仕事。雨だったので電車で行ったのだけど、電車で行ったからって濡れなくて済むわけでもないし、乗り継ぎはあまり便利でないし、微妙。雨の中を長時間歩くよりはマシだけれども。あと僕どうも電車とか駅とかいうものがあまり好きではない（人が多いだけだろ）。
帰りは雨が止んでいたので歩いて帰りました。昨日はえらくしんどかったのだけど今日は涼しかったのかそれほどでもありませんでした。ただ行動圏内のコンビニ分布がだいぶ変わるのでちょっと困った。飲食店はいろいろあるから、外食への恐怖心をなんとかすればいろいろ楽しめるような気がするんだけど、そんなことが可能なのかは知らない。今日は不可能だった。
人生がだんだんとうまくゆかないルートへ収束し始めているのを感じる。それはとても恐ろしいことで、だけどもっと恐ろしいのは、それは決してゲームオーヴァなんかではないということなのだ。
昨晩はAAEの発散について調べていました。どうもbatchnormの中でvarianceを計算するときに負の値が出ているようなのだけど、コードを追う限りまちがった計算はしていないのでなんでやねんと思っています。バグにしたってどうしてこのコードでそんなことが。うーむ。
今日は夕方からすこしだけ散歩に行きました。会社が移転したのでそこまで歩いてみたんだけど、今更ながらやっぱり遠い気がする。往復しただけでちょっと疲れた。でも電車もちょっと面倒なのよね。うーむ、やっぱり引っ越しを考えるべきだったか。しかしまあ、運動しなくちゃいけないのだし。
ちょっとだけ具合がよくない。そういえば勉強会の課題まだやってないじゃん、やらなきゃ。
昨晩はAAEを改修しようと試みていたのだけど、よく考えると全部Convolutionalとか無理なので（空間的分布を一度忘却しないとガウシアンと比較できないじゃん）結局前のと大差ない配置で再スタートしました。やっぱりあまりうまく動かなかったのだけど、今日になってbatchnormを入れる場所を変えたりしたらなんかいい感じになってきました。一つ目はencoderの終わりになぜか入れてなかったのを入れたことで、これはencoderの出力分布のモーメントをＺ分布に近づける役目があります。二つ目はDiscriminatorからbnを外したことなのだけど、これはなぜかよくわかりません。というか本当なのか？とにかくさっき始めた計算はいまのところいい感じに見えるので、様子を見ていきたい。
深層学習の教科書は届いたのだけど、表紙がいい感じだったのに反して本文の印刷が薄くて、なんじゃこりゃと思ったんだけどよく調べると入稿したPDFの文字色がなぜか黒っぽいグレーになってたのが原因でした。いつなったのか調べたらAdobe Acrobatでグレースケールに変換したときっぽいので、マジかよと思いながらOSXのQuartzフィルタ？で変換子直しました。ついでに表紙のカーニングも直してもう一度注文。無駄なお金を使ってしまったナァと思うのだけど文字が薄いと本当に読みづらいので仕方が無い。というかべつに急ぎじゃなかったんだから何ページか抜粋してサンプルを作ればよかったんじゃないだろうか。はあ。
今日はちょっとだけ風邪っぽいので散歩には行かず昼寝とかしました。あとは本を読みたいですね。明日はどうだろう、元気ならちょっと歩こうか。
"aae tensorflow"で検索するとこのblogがヒットするそうですが、特にコードとか載せてないのでなんだか申し訳ないですね。まああれをAAEって呼んでるのが僕だけって可能性もありますが（それはない気もする）。
昨晩はだらだら続けていたAAEを止めました。うーん、たぶんDiscriminatorがあんまり働いていないので、そこを見直して再始動かなと思います。具体的にはConvolutionalにしつつ層を増やすとか？まあとにかく試そう。
そういえば製本サービスに送った教科書ですが、でっち上げた表紙をふと見直すとカーニングをミスってることに気づいたのでちょっと凹んでいます。一度気になってしまうともう「あ〜これミスってるな〜」としか思えなくてつらい。うーん、最悪。
ともあれ今日発送されたので土日の間には届くのでしょうか。結局あわせて4000円くらいしたし、これで書籍版がすぐ出たりしたらちょっと悲しい。
どんなに悲しくつらいことや、深い後悔があっても、時間が過ぎればあとに残るのは要約だけで、それはすこし寂しいことのような、でも正しいことのようにも思う。なにしろそれは過去であり、もう存在しないことなのだから。
昨晩は結局あまり眠れませんでした。早く寝たのはいいけどすぐ目が醒めてしばらく寝付けなくてという感じで、まあ単に人間はそんないきなり早寝早起きができるようにはできてないという話なのでしょう。朝は一応起きられた。
仕事はリファクタなど。バラバラに作っていた部分をPythonのモジュールとして扱えるように整形してgit submoduleで取り込むなど。おおむねうまく動いてくれたのでよかったわいと思うのだけど、Pythonのimportはモジュール構造とぴったり張り付いてしまっているせいで単純に親ディレクトリのファイルをimportするとかがうまくできないのですね。つらい。こういう構造にしてしまったこと自体が誤っているのかもしれないけれど。でもtrainは別にモジュールじゃないんですよ、君。
AAEはどうも停滞しつつあります。なにが悪いんだろうな。そしてサンクコスト効果を感じる。一旦止めた方がよくない？
なんのためにこんなにしんどい思いをしながら生きてるんだろう、そう言ったら、みんなそうやってがんばって生きてるんだから、って、だったらやめたらいいじゃんとしか思えなくて、そしたらそんなことできないんだからしょうがないじゃないとちょっと怒って言うんでしょう。そしたら僕はふざけんじゃねえ殺すぞと思うんだけど、もちろん君にそんなことは言えなくて、でもそんなことを思ってしまうことが悲しい。だからもうこんな話はやめよう、どうしたって僕は君を呪わずにはいられない、そんなことに頓着しない君を好きなのに、どうしたって僕は君を呪わずにはいられない、だからもうこんな話はやめよう。そして僕を独りにして、ただ同じ場所で待っていて。
などということは別になかったのですがそんな声がときどきします。こんなことは現在にも過去にも特になかったのですが。
（でも、僕が本当に沈んだときに助けてくれるのはそんなことに頓着しないような人なんじゃないかなという予感めいたものがあります、僕はそういう人たぶん（こういう理由で）苦手なのですが。）
昨晩は深層学習の教科書(HTML)をがんばってPDF化していました。Chromeで印刷するときにPDF化を選べるのでそれを使ったのだけど、数式のレンダリングが完了する前に実行してしまうとPDFから数式が抜け落ちてしまうことにあとから気づいたので、一度全体を見渡して数式が壊れていないか確認してから実行するなどの手順が必要でした。まだ読んでない教科書の数式の妥当性を検討するの、不思議な感じ。
仕事はいろいろデモンストレイションを実装するなど。計算したスコアはなかなか上がらないなーだいじょうぶかなーと思っていたのだけど、実際画像を食わせてみるとまあまあいい感じに動くので、とりあえず一安心かなという感じ。明日は中間報告に行きます。朝が早いし打ち合わせだしもう最悪だ。はー。
やっぱりこういう（相対的に）新しいことやってると他人との関わりが増えるのは避けがたいことっぽいんだけど、そこをなんとかしてほしいという強い願いがある。前線に出すと死ぬタイプの人間なんですよ、僕は。
平均寿命がミリ秒単位の人工元素に国の名前がつけられて、それでどういう気分になればいいのかいまいちピンとこないところがあります。何かの日本代表が優勝したみたいな感じでいればいいんでしょうけど、どうにも国というものがよくわからない。会ったこともない誰かが僕の何かを代表しているということをどうやって信じたらいいんだ（はい「想像の共同体」）。
まあ、余計な怒られが極力発生しない名前なんてこれくらいしかないのかも、とも。
今夜は早く寝ないと本当にまずい、んだけどあんまり早く帰ってこられなかったし期待はできない。うーむ。
風邪気味。風邪気味じゃないと具体的にはどういういいことがあるのかは思い出せないけど。でもおなかとか痛いのは風邪だからだと思う。（風邪じゃないときはあまりおなかが痛くならないことに気づいてきた）
仕事はC++ライブラリのPythonポートなど。一応動くものができたので一旦ここまでとするのだけど、結局ムーヴ・セマンティクスのことがよくわからなかったり、そもそもC++のメモリ管理全般がよくわかってなかったりするので心配。
本丸以外の部分はだんだん形ができてきたのだけど、本丸の精度がなかなか上がらないのでどうしたものか。
AAEはオートエンコーダがじわじわと精度向上しているけれど、ジェネレイタのスコアはゆっくり上がっていて結局あまりちゃんとした画像は出てきていません。これそろそろ一万円超えてると思うんだけど、ゆっくり進んでいるので止めどきが見つからない。困った。まあ、コストパフォーマンスは悪くない、と思う（どうだろう？）
要するに僕はとにかく打ち合わせに行きたくないんだなということがはっきりと理解されてきたんだけど、だからって行かなくて済むというわけでもなく、ただつらい。前はそんなことなかったと思うんだけどな、どうしたんだろう（たぶん、本当は僕が行く必要なんかないと思っているか、ろくに話せる成果がなくて弱気になっているかなんだ）。
人生が勝手にアップデートしたせいでこれまで使っていた精神が対応できない。元に戻してくれ。
通院のあと仕事。人生で避けては通れないC++イベント。やっぱりね、あの言語はエラーメッセージがとげとげしていてよくない。gccが悪いんだろうか。あと個人的にはテンプレートの型パラメータの括弧（<>）が何重にもなっているのをくり返し目にするとつらくなってきた（でもその主張は http://love-motif.com/article/art_13.shtml を彷彿とさせる）。
AAEはゆっくり進んでいます。ゆっくり、ゆっくり。でもちょっとGeneratorさんチームが押され気味。ところで、うまく行くのかわからない計算にこうやってお金をじゃぶじゃぶ注ぎ込むのって本質的にはパチンコなんじゃないだろうか。うーむ。
具合が良くないので早めに寝たい（、と毎日言っている）。