機械学習 on matsueushi

MlflowでCatBoostのメトリクスをロギングする

Thu, 02 Feb 2023 22:52:35 +0900

LightGBM, XGBoostであれば、途中の学習メトリクスをMlflowで記録するとき、mlflow.lightgbm.autolog() や mlflow.xgboost.autolog() を呼び出すだけで記録してくれるので非常に楽である。一方、CatBoost にはオートログの機能はない。

Flux.jl v0.10.0でDCGANを動かす(CUDA環境)

Sun, 01 Dec 2019 18:07:13 -0500

2020/3/8 追記: model-zoo(https://github.com/FluxML/model-zoo) にDCGANのモデルが入りました。

2019/11/29にJuliaの機械学習ライブラリFlux.jlのv0.10.0がリリースされた。もともとv0.9.0でDCGANのMNISTデータセットから手書き文字画像生成モデルを作成して、今回の変更に合わせてv0.10.0で動かしたのだが、ここに至るまで色々と苦戦したので、v0.10.0の主な変更点や、自分がつまづいた点を書いておく。

Juliaのガウス過程ライブラリGaussianProcesses.jlを使う(ハイパーパラメーター推定)

Sun, 04 Aug 2019 11:04:13 -0400

前回の続き。GaussianProcesses.jlを使ってガウス過程回帰のハイパーパラメータ推定を行ってみる。「ガウス過程と機械学習」の図3.20(a)を例とする。

xxs = [-0.5, 0.5, 1, 1.4, 3]
yys = [0.7, 1.8, 1.7, 2.3, 1]

scatter(xxs, yys)

平均0のガウスカーネルのガウス過程に(ノイズ項込みで)フィッティングさせるのは非常に簡単で、optimize! を呼べば良いだけ。

Juliaのガウス過程ライブラリGaussianProcesses.jlを使う(基本編)

Wed, 17 Jul 2019 21:22:00 -0400

Juliaのガウス過程ライブラリ GaussianProcesses.jl を触ってみる。チュートリアルはまだ未整備のようなので、サンプルノートブックとガウス過程と機械学習」などを参考にしながらやっていく。 Juliaのはv1.1.0, GaussianProcesses.jlはv0.9.0を使っている。

Juliaでガウス過程を実装&パラメーター推定

Sat, 08 Jun 2019 20:08:12 -0400

「ガウス過程と機械学習」を3章まで読み終えたので、復習を兼ねてJulia(1.1.0)でガウス過程を実装し、カーネルのハイパーパラメーターをOptim.jlで推定するところまでをまとめる。数学的に細かい内容は本を読んで欲しい。図3.23の陸上男子100mの世界記録の回帰モデルを作成することを今回の目標とする。