Pythonと機械学習

Pythonも機械学習も初心者ですが、頑張ってこのブログで勉強してこうと思います。

2018-01-01から1年間の記事一覧

RNNの実装

目次 目次 はじめに 学習データ kerasによる実装 return_sequences=True return_sequences=False RNNの実装 活性化関数と全結合 活性化関数 全結合 RNNブロック 順伝播の時間ループ 逆伝播の時間ループ Dense中の時間ループ ネットワーク全体作成クラス 実行…

RNN

目次 目次 はじめに RNNブロックの順伝播 RNNブロックの逆伝播 損失関数(2乗誤差) 特徴量データと目標値データの時間の個数が合わない場合 はじめに RNN(Recurrent Neural Network)は、時間に依存したデータのパターンを学習してくれるネットワークです。 今…

多層パーセプトロンの実装

目次 目次 はじめに 活性化関数の実装部 ソフトマックス関数の実装部 全結合の実装部 多層パーセプトロン実装部 学習実施 scikit-learnで実行した結果 Kerasで多層パーセプトロン 学習履歴の比較 はじめに 前回、前々回は多層パーセプトロン理論編でした。今…

行列演算と計算グラフ

目次 目次 はじめに 行列と行列の和 行列とベクトルの和 分岐 行列と行列の積 行列と行列のアダマール積 活性化関数 ソフトマックス関数 交差エントロピー 多層パーセプトロンの計算グラフ はじめに 多層パーセプトロンの実装を考える際に、テンソルの全ての…

多層パーセプトロン

目次 目次 はじめに 3層パーセプトロン 損失関数の重み勾配 バックプロパゲーション 行列表記 多層パーセプトロン 順伝播 全結合 活性化関数 損失関数(交差エントロピー) 逆伝播 誤差計算 バックプロパゲーション 損失関数の重み・閾値勾配 追記 はじめに 前…

多クラス分類ロジスティック回帰の実装

目次 目次 はじめに 活性化関数・損失関数の実装 ソフトマックス関数 交差エントロピー 交差エントロピーの重み勾配 多クラス分類ロジスティック回帰クラス 分類の実施 scikit-learnの多クラス分類結果 はじめに 前回、多クラス分類ロジスティック回帰の記事…

多クラス分類ロジスティック回帰

目次 目次 はじめに モデルの概要 One-hot表現 ソフトマックス関数 ソフトマックス関数の微分 交差エントロピー 交差エントロピーを重みで微分 行列による表記 特徴量行列 特徴量行列×重み行列+閾値 活性化関数(ソフトマックス関数)の出力 損失関数(交差エ…