最終更新:2023-03-27 (月) 06:32:09 (455d)  

GPT-3
Top / GPT-3

2020年7月にOpenAIが発表した高性能な言語モデル

Generative Pre-trained Transformer 3

パラメータ数

  • 175B

データ

  • Wikipedia
  • Common Crawl
  • 45TBもの膨大なテキストデータに対し、いくつかの前処理を行った570GBのデータセット

メモ

  • 2020年9月にマイクロソフトが独占ライセンスを取得
  • Microsoft Azure上で利用できるAPI(申請制)として公開

参考