Keras

• Merge vs. Concatenate
• Optimizer
• Tokenizer
  • keras.backend.ndim
• 속도
• Remove TensorFlow CUDA Message

Merge vs. Concatenate

Merge는 두 레이어의 element-wise sum을 한다.

x = Merge()([x1, x2])

Merge는 deprecated 되었다며 merge 사용을 유도한다. 그러나 이 또한 내부적으로 Merge를 호출하여 경고 메시지가 동일하게 출력된다. merge 함수를 사용하면 생성자를 기입하지 않아도 되어 조금 더 직관적이다.

x = merge([x1, x2])

아래와 같은 형태로 multiply 할 수도 있다.

attention_mul = merge([inputs, attention_probs], name='attention_mul', mode='mul')

Concatenate는 레이어를 길게 이어 붙인다.

x = Concatenate()([x1, x2])

마찬가지로 concatenate로 좀 더 직관적으로 사용할 수 있다.

Optimizer

(케라스 창시자에게 배우는 딥러닝, 2017)

Tokenizer

from keras.preprocessing.text import Tokenizer

# corpus = "I like playing football with my friends"
corpus = ["I like playing football with my friends"]

tokenizer = Tokenizer()
tokenizer.fit_on_texts(corpus)
corpus_tokenized = tokenizer.texts_to_sequences(corpus)

# [[1, 2, 3, 4, 5, 6, 7]]

corpus가 string 일때는 char level, array 일때는 띄어쓰기 단위로 tokenize 된다.

keras.backend.ndim

Returns the number of axes in a Tensor, as an Integer.

속도

Simple MNIST convnet¹

Remove TensorFlow CUDA Message

export TF_CPP_MIN_LOG_LEVEL=3

Last Modified: 2023/11/26 17:49:02