日経Robotics PFN岡野原氏によるAI解説(2021.01~2021.12)、についていけてるかチェック
以下の記事についていけてるかチェックする。
【2021年1月】画像からの3次元シーン理解に向けて、局所特徴量に基づく画像マッチング
https://xtech.nikkei.com/atcl/nxt/mag/rob/18/00007/00033/
知ってるか
20点
内容が理解できるか
引用
計算量や精度の観点から疎な特徴点を抽出し、それらの対応を求めることが一般的である。このようなタスクを局所特徴量に基づく画像マッチング(以降省略して画像マッチング)と呼ぶ。
説明に出てくる基礎用語
局所特徴量に基づく画像マッチング
コメント
無料公開部分が、情報が少ない!!!残念。。。
【2021年2月】人や動物の空間理解の仕組みをAIに活かせるか
https://xtech.nikkei.com/atcl/nxt/mag/rob/18/00007/00034/
知ってるか
10点
内容が理解できるか
引用
ネズミを使った実験では、脳内には特定の位置にいるときだけ反応する場所細胞、特定のグリッド上に存在する時に反応するグリッド細胞が存在し、これらを組み合わせて空間中のどこにいるのかを表現したり、ナビゲーションできることがわかっている。
説明に出てくる基礎用語
自己中心表現(egocentric representation:カメラ座標系といってよい)
コメント
面白そうだが、、、あまり、知識なし。。。
【2021年3月】機械学習の新べき乗則、大きなモデルを使うと汎化しサンプル効率も改善する
https://xtech.nikkei.com/atcl/nxt/mag/rob/18/00007/00035/
知ってるか
20点
内容が理解できるか
引用
投入する計算リソース、データサイズ、モデルサイズと深層学習の達成可能な性能(損失)間でべき乗則が成り立つと報告した。そもそも成り立つ
説明に出てくる基礎用語
汎化性能
参考情報
関連論文
Kaplan, J., McCandlish, S., Henighan, T., Brown, T. B., Chess, B., Child, R., ... & Amodei, D. (2020). Scaling laws for neural language models. arXiv preprint arXiv:2001.08361.
https://arxiv.org/pdf/2001.08361.pdf
Henighan, T., Kaplan, J., Katz, M., Chen, M., Hesse, C., Jackson, J., ... & McCandlish, S. (2020). Scaling laws for autoregressive generative modeling. arXiv preprint arXiv:2010.14701.
https://arxiv.org/pdf/2010.14701.pdf
コメント
面白そうだが、、、あまり、知識なし。。。
【2021年4月】深層学習を使った物理シミュレーションの高速化
https://xtech.nikkei.com/atcl/nxt/mag/rob/18/00007/00035/
知ってるか
50点
内容が理解できるか
引用
計算機上で扱えるのは離散化された情報だけであり微積分もほとんどの場合は解析的に解けないため数値解析で近似的に解く必要があることが挙げられる。
何を語ろうとしているのか、無料公開部分ではわからないが。。。 「深層学習を使った物理シミュレーションの高速化」の動きは、なんとなく知っている。
説明に出てくる基礎用語
物理シミュレーション
コメント
重要かも。。。
【2021年5月】GLOM:パース木による画像認識の実現を目指して
https://xtech.nikkei.com/atcl/nxt/mag/rob/18/00007/00037/
知ってるか
60点。GLOM知ってます!!!
内容が理解できるか
引用
このように認識結果としてパース木を得ることで、人間のように汎化する画像認識システムを作れると考えられてきた。特に深層学習の産みの親の一人であるカナダUniversity of Toronto名誉教授のHinton氏は1980年頃から心理学的な実験結果から人間はこのように認識していると考え、CNNだけではその実現が難しいとして、様々な方法を提案している1)。
GLOM、もしくは、その思想を取り込んだ実装、何か出てくるのかな。。。。期待!
説明に出てくる基礎用語
GLOM
コメント
重要
【2021年6月】Rotation Averaging:高速かつ最適な姿勢推定を実現する
https://xtech.nikkei.com/atcl/nxt/mag/rob/18/00007/00038/
知ってるか
20点。(0点とも言えるが。。。)
内容が理解できるか
引用
2018年にオーストラリアQueensland University of TechnologyのAnders Eriksson氏らはRotation Averagingは相対回転姿勢の推定結果が一定以下のノイズしか含まれない場合は(初期値に依存せず)絶対姿勢の最適解を求めることができ、また最適性保障ができることを示した2-3)。
説明に出てくる基礎用語
Rotation Averaging
コメント
レベル高そう。。。
【2021年7月】離散化生成モデル
https://xtech.nikkei.com/atcl/nxt/mag/rob/18/00007/00039/
知ってるか
0点。
内容が理解できるか
引用
これに対し、情報を連続値で扱わずに離散値で扱う表現が提案されている。例えば画像の潜在表現に離散値を使うVQ-VAE1)がある。
説明に出てくる基礎用語
VQ-VAE
コメント
レベル高そう。。。
【2021年8月】知識蒸留:巨大なモデルの知識を抽出する
https://xtech.nikkei.com/atcl/nxt/mag/rob/18/00007/00040/
知ってるか
30点。
内容が理解できるか
引用
機械学習のべき乗則(本コラム2021年3月号を参照)が示すように、学習データがいくらでも手に入る状況では、モデルが大きいほど汎化性能が高く、学習効率も高いことがわかっている。さらに大きなモデルであるほど少ないデータ数を使った転移学習でも高い性能を達成し、従来の半教師あり学習を大きく凌駕する性能を達成することがわかってきている2)。そのため、巨大なデータセットで巨大なモデルを事前学習しておき、その後に様々なタスク向けに少ないデータ数で学習するという動きが自然言語処理を中心に広がっている。
説明に出てくる基礎用語
知識蒸留
コメント
レベル高そう。。。
【2021年9月】AIを使った汎用原子レベルシミュレーター、Matlantis
https://xtech.nikkei.com/atcl/nxt/mag/rob/18/00007/00041/
知ってるか
0点。
内容が理解できるか
引用
本稿では、現代における材料探索の重要性を説明した後、NNPやMatlantisの技術、現在の課題と将来の展望について解説する。
説明に出てくる基礎用語
NNP(ニューラルネットワークポテンシャル)
コメント
ちょっとこのあたりは、、、いまのところ。。。
【2021年10月】AlphaFold、50年間の生命科学のグランドチャレンジを解く
https://xtech.nikkei.com/atcl/nxt/mag/rob/18/00007/00042/
知ってるか
0点。
内容が理解できるか
引用
遺伝子配列からタンパク質の立体構造を決定する問題、いわゆるProtein Folding問題は生命科学におけるグランドチャレンジとして50年近く、多くの研究者が取り組んできた。
説明に出てくる基礎用語
Protein Folding問題
コメント
このあたりとAIの親和性がどういう話なのかは、理解したい!!!
この分野自体は、ちょっと。。。。
【2021年11月】Perceiver:多様な入出力に対応可能なニューラルネットワーク
https://xtech.nikkei.com/atcl/nxt/mag/rob/18/00007/00043/
知ってるか
70点。
内容が理解できるか
引用
Perceiver1)はあらゆるモダリティのデータを扱えるように設計されたニューラルネットワークである。入力がどのような構造を持つのかは仮定せず、必要な情報が付与されたバイト列として扱う。そして非対称の交差注意機構を利用し、入力全体を固定サイズの潜在変数列に変換して並列に読み込んだ上で、潜在変数列上で自己注意機構を使った変換を繰り返し適用した上で出力結果を求める。
説明に出てくる基礎用語
Perceiver
Perceiver IO
コメント
やっぱ、Perceiver と、Perceiver IOがあるんだ。。。別の論文かな??。。。。
【2021年12月】DROID-SLAM:逐次的な修正で環境に対応する
https://xtech.nikkei.com/atcl/nxt/mag/rob/18/00007/00044/
知ってるか
30点。
内容が理解できるか
引用
このSLAMタスクにおいて2021年8月に発表されたDROID-SLAM1)は従来のVisual SLAMの精度、成功確率(通常のSLAMは自己位置を見失うなど失敗する場合も多い)を大きく改善した
説明に出てくる基礎用語
DROID-SLAM
コメント
面白そう。。。。