2015年12月12日土曜日

Elasticsearch/KibanaをインストールしたDockerコンテナを作った

OS:Ubuntu 14.04
java8/Elasticsearch2.1.0/Kibana4.3.0で構築。
https://github.com/maar4569/dockerfiles-sample/tree/master/elastic

さらにネットワークまわり(主にIPアドレスだが)を編集するコマンドを追加したのが
これ。
https://github.com/maar4569/dockerfiles-sample/blob/master/elastic_dev/Dockerfile

これは前者のイメージをベースに作成したDockerイメージ。

2015年12月11日金曜日

スペースを含むkey/value形式のデータを抽出する

splunkではkey=val形式のイベントを検出すると自動的に抽出する。
しかしvalの値にスペースを含むと正しく抽出することができない。

例えば、ダブルクォテーションで括られていれば抽出可能だが、
無い場合抽出できない。

msg="hello world" =>hello worldを抽出

msg=hello world   => helloだけ抽出。

正しく抽出するにはtransform.confのREGEXを使用して抽出する。

例えば以下のようなイベントが存在するとする。


この時以下のように設定する。
props.conf

[mysourctype]
REPORT-mykvformat=my_kv

transforms.conf
[my_kv]
REGEX=¥s(?<_KEY_1>¥w+)=(?<_VAL_1>¥w+)¥s¥w+=

splunkを再起動する。

機械学習で使うライブラリ(numpy/scipy/matplotlib)をインストールしたDockerコンテナを作った

OSはCentOS 7ベースで、
numpy、scipy、matplotlibをインストールしたDockerコンテナを作成。

Dockerfileは以下のとおり。
https://github.com/maar4569/dockerfiles-sample/blob/master/machinelearning/Dockerfile

最低限のライブラリをインストールしただけなので、コードを各場合は必要に応じてインストールすること。