Island Babies

いろんなことを書きます

論文読み Unsupervised Sentence Compression

Bottle sum from MasatoUmakoshi www.slideshare.net 要約をするモデルを学習するには大雑把にいうと Unsupervised と Supervised の手法が考えられるわけですが、この論文ではUnsupervised な手法を提案。 外部変数として次の文を使っているのですが、(実際…

AWSのストレージでちょっとハマった

AWSのストレージ周りでちょっとハマったことがあったのでメモ程度に残しておく。 概要 AWSのインスタンスで、ある程度大きなインスタンスを選ぶとインスタンスにストレージがついてくる。 大きな容量のストレージを使いたくなったので、このストレージを使え…

Rust の プロファイラ

概要 やっぱりpython はどこまでいっても速さを追求できるものではなくて, Cython などいろいろ使ってみても慣れていないとなかなか難しいところがあります. 処理が早い言語を書く必要に迫られたので, Rust を勉強していろいろとプログラムを書いてみていま…

マルチプロセスを走らせる時のプログレスバーを表示する

あらすじ プログレスバー、使ってますか. 僕は最近プログレスバーの素晴らしさに気づきどこでもかしこでもプログレスバーを表示しています. tqdm というライブラリを使っています. おそらく一番有名なのではないかと思います. 今取り組んでいるプログラムの…

EDA Kernel を読んでみる

はじめに Kaggle に少し手をつけてみようと思い EDA kernel (データを並べてみて解析するカーネル?) を眺めてみたのですが何をしているのかよくわからない部分が 多かったので、ブログでまとめてみようと思います。 とはいえそれなりに量が多いので全てのコ…

os.path.exists で存在するはずのパスがFalseを返す

概要 タイトル通りですが、最近画像のデータセットについて、コピーするのではなくてシンボリックリンクを貼れば良いのでは?ということで元のデータセットからいい感じにデータをまとめるスクリプトを書いていたのですが、そこで起きたエラーが少しややこし…

初めまして itertools。

概要 二つのイテレータから全部の組み合わせ方を返してくれるような組み込み関数ってあったりしないのかなーとか調べてみたら itertools.product っていうデカルト積を返してくれる関数を発見しました. それ以外にもイテレータを扱う上で便利そうな関数がい…

jupyterの.ipynbファイルをスクリプトに変換する処理を実装してみた

概要 タイトル通りですが、jupyterの.ipynbファイルをスクリプト(.py)に変換する処理を書いてみました. 色々試行錯誤しながら処理を書いているときには.ipynbは非常に使いやすいのですが、コマンドラインから直で実行できた方が良さそうだなと思って書いてみ…

argparse について

pythonでコマンドラインから何かしらの引数を受け取る時って多くの場合はsys.argv[1]とかやると思うんですが、これをもっとキレイな形で書くためのライブラリが実はpythonには組み込まれています. それがargparseと呼ばれるライブラリで、実に色々な設定を行…

ディープラーニングで映画レビュー分類

導入 買ったまましばらくさわれていなかった、PythonとKerasによるディープラーニング をやっていこうと思っています。 今の所そこそこわかりやすい感じがします。元が英語なのでそういう意味でのわかりづらさは多少ありますし、内容としても0から勉強するに…

関数の部分適用 : functools.partial

functools functools は pythonの組み込みモジュールで、主に高階関数を扱うモジュールです。 functools モジュールは高階関数、つまり関数に影響を及ぼしたり他の関数を返したりする関数のためのものです。一般に、どんな呼び出し可能オブジェクトでもこの…

条件付き確率場

あらまし 卒論でソフトウェアマイニングみたいなことをやるという方針がとりあえず定まって、色々論文読んでみな〜と言われて教えてもらった論文の一つで、 Predicting Program Properties from “Big Code” こういうのがありました。 Javascriptでコードのサ…

関数をキャッシュする : lru_cache

Decoratorについて Decoratorは、大雑把に言ってしまうと高階関数をシンプルに書くための記法です。Pythonでは関数もまた第1級関数であるため、関数を引数にとったり、関数を返値として返すことができます。関数を引数にとるような関数のことを高階関数と呼…