(表現学習を学ぶ)はじめに
Bengio, Y., Courville, A., & Vincent, P. (2013). Representation learning: A review and new perspectives. IEEE transactions on pattern analysis and machine intelligence, 35(8), 1798-1828.
https://arxiv.org/pdf/1206.5538.pdf
を眺めてみる。
概要
引用(DeepL翻訳)
機械学習アルゴリズムの成功は一般にデータ表現に依存する。これは、異なる表現がデータの背後にある変動の異なる説明要因を絡め取り、多かれ少なかれ隠蔽することができるからだと仮定している。特定のドメイン知識が表現設計に役立つが、一般的な事前分布を用いた学習も可能であり、AIの探求はこのような事前分布を実装したより強力な表現学習アルゴリズムの設計を動機付ける。本稿では、教師なし特徴学習と深層学習の分野における最近の研究をレビューし、確率モデル、オートエンコーダ、多様体学習、深層ネットワークにおける進歩を取り上げる。これは、良い表現を学習するための適切な目的、表現を計算するための目的(すなわち推論)、表現学習、密度推定、多様体学習の間の幾何学的接続に関するより長期的な未解決問題の動機付けとなるものである。
(微妙に対象がわからないので念のため)wikipediaを参照する
https://en.wikipedia.org/wiki/Feature_learning
DeepL訳
機械学習において、特徴学習あるいは表現学習[1]は、システムが生のデータから特徴の検出や分類に必要な表現を自動的に発見することを可能にする一連の技術である。これにより、手作業による特徴抽出が不要となり、機械が特徴を学習し、その特徴を用いて特定のタスクを実行することが可能となる。
特徴学習は、分類などの機械学習タスクが、数学的・計算的に処理しやすい入力を必要とすることが多いという事実に基づいている。しかし、画像や映像、センサーデータなどの実世界のデータは、アルゴリズムによって特定の特徴を定義しようとすると、うまくいかない。そのため、アルゴリズムに頼らず、学習によって特徴や表現を発見することが重要である。
特徴学習には、教師あり、教師なしがある。
教師あり特徴学習では、ラベル付けされた入力データを用いて特徴を学習する。例として、教師付きニューラルネットワーク、多層パーセプトロン、(教師付き)辞書学習などがある。 教師なし特徴学習では、ラベルの付いていない入力データを用いて特徴を学習する。例として、辞書学習、独立成分分析、オートエンコーダ、行列分解[2]、様々な形態のクラスタリングなどがある[3][4][5]。
↑↑(これは、すっきり、頭に入る。)
コメント
↑ ちょっと、Abstractの訳(文章)自体は、よくわからない。
↑↑Wikiを追加しました。