Keras

Merge vs. Concatenate

Merge는 두 레이어의 element-wise sum을 한다.

x = Merge()([x1, x2])

Merge는 deprecated 되었다며 merge 사용을 유도한다. 그러나 이 또한 내부적으로 Merge를 호출하여 경고 메시지가 동일하게 출력된다. merge 함수를 사용하면 생성자를 기입하지 않아도 되어 조금 더 직관적이다.

x = merge([x1, x2])

아래와 같은 형태로 multiply 할 수도 있다.

attention_mul = merge([inputs, attention_probs], name='attention_mul', mode='mul')

Concatenate는 레이어를 길게 이어 붙인다.

x = Concatenate()([x1, x2])

마찬가지로 concatenate로 좀 더 직관적으로 사용할 수 있다.

Optimizer

(케라스 창시자에게 배우는 딥러닝, 2017)

Tokenizer

from keras.preprocessing.text import Tokenizer

# corpus = "I like playing football with my friends"
corpus = ["I like playing football with my friends"]

tokenizer = Tokenizer()
tokenizer.fit_on_texts(corpus)
corpus_tokenized = tokenizer.texts_to_sequences(corpus)

# [[1, 2, 3, 4, 5, 6, 7]]

corpus가 string 일때는 char level, array 일때는 띄어쓰기 단위로 tokenize 된다.

keras.backend.ndim

Returns the number of axes in a Tensor, as an Integer.

Last Modified: 2019/04/16


수식  ·  Markov Decision Process  ·  2020 Book Reports  ·  통계학  ·  통계학 책  ·  Front-End  ·  통계학 기술  ·  머신러닝  ·  Activation, Cost Functions  ·  Python  ·  알고리즘  ·  자료구조  ·  비지니스  ·  Docker  ·  AWS  ·  NLP 링크  ·  알고리즘 링크  ·  머신러닝 링크  ·  사회심리학  ·  Information Retrieval  ·  통계학 응용  ·  OOP  ·  2019 Book Reports  ·  Android Development  ·  데이터 사이언스  ·  인공지능  ·  진화생물학  ·  이산수학  ·  수학  ·  미래학  ·  Project Management  ·  LifeHacks  ·  C++  ·  2017 Book Reports  ·  Decision Tree  ·  LeetCode  ·  TensorRT  ·  NLP  ·  Hadoop, Spark  ·  데이터 마이닝  ·  CNN, RNN  ·  2018 Book Reports  ·  운영체제  ·  머신러닝 분류기  ·  거리  ·  Support Vector Machine  ·  OAuth 2.0  ·  Naive Bayes  ·  Jupyter Notebooks  ·  RSA  ·  컴파일러  ·  딥러닝  ·  Word Embedding  ·  컴퓨터시스템구조  ·  영어  ·  Go  ·  Scikit Learn  ·  XGBoost  ·  Software Deployment  ·  NLP 실험  ·  MySQL  ·  Keras  ·  Java
is a collection of Papers I have written.
© 2000 - Sang-Kil Park Except where otherwise noted, content on this site is licensed under a CC BY 4.0.
This site design was brought from Distill.