計算社会科学と自然言語処理

イントロダクション

• ガイダンス

基礎知識

• 自然言語処理の基礎
• 機械学習の基本概念

ニューラルネットワーク

• ニューラルネットワーク
• 誤差逆伝播法

PyTorch

• Pytorch

単語分散表現

• 単語分散表現
• word2vec
• GensimによるWord2Vecの学習と使用
• Word2Vecを用いるセンチメント分析
• Word2Vecが人文・社会科学研究における応用

RNN

• RNNの基礎
• LSTM
• LSTMの実装
• LSTMによる文書分類
• Seq2seq

Transformer

• Attention
• Self-Attention
• Transformerアーキテクチャ
• BERT
• BERTによるセンチメント分析
• BERTopic

大規模言語モデル

• GPT
• 大規模言語モデル