Tag: deep-unfolding
-
ロジスティック回帰をJuliaで実装してみる
Coursera の Deep Learning Specialization の Logistic Regression with a Neural Network の演習内容（演習はPythonで実装）をJulia で実装してみる． # dataset loading using HDF5 function load_dataset() train_set_x_orig = nothing train_set_y_orig = nothing test_set_x_orig = nothing test_set_y_orig = nothing classes = nothing train_dataset = h5open(“datasets/train_catvnoncat.h5”, “r”) do file train_set_x_orig = read(file[“train_set_x”]) train_set_y_orig = read(file[“train_set_y”]) train_set_y_orig = reshape(train_set_y_orig, :, 1) end test_dataset…
-
Fluxを使用した勾配法のデモ
和田山先生の「モデルベース深層学習と深層展開」 の第2章に記載のあった勾配法のFluxによる実装を試す．実行環境は以下の通り Julia Version 1.11.1 Commit 8f5b7ca12ad (2024-10-16 10:53 UTC) Build Info: Official https://julialang.org/ release Platform Info: OS: macOS (arm64-apple-darwin22.4.0) CPU: 8 × Apple M1 WORD_SIZE: 64 LLVM: libLLVM-16.0.6 (ORCJIT, apple-m1) ここでは２次式の最小化問題 $$ \underset{(x_1, x_2) \in \mathbb{R}^2}{\text{minimize}} \quad 4x_1^2 + x_2^2 $$ を勾配法で解くことを考える．$x_1 = x_2 = 0$ が最小値を与えることは明らかであるが，この関数の勾配は $$ \frac{\partial f}{\partial x_1} = 8x_1, \quad…